Iseseisva uurimise edendamine tehisintellekti ühtlustamise alal

Kuna TI-süsteemid muutuvad võimekamaks ja autonoomsemaks, peavad ühtlustamise uuringud sammu pidama ja mitmekesisust suurendama. OpenAI-s investeerime palju tipptasemel ühtlustamise ja ohutuse teadusuuringutesse, kuna see on meie missiooni jaoks kriitilise tähtsusega. Usume ka, et AGI ohutuse ja kasulikkuse tagamist kõigile ei saa saavutada ükski organisatsioon üksi ning soovime toetada sõltumatuid uuringuid ja kontseptuaalseid lähenemisviise, mida saab arendada väljaspool tipptasemel laboreid. Usume, et tehisintellekti tulevik ei kujune täpselt nii, nagu keegi ennustab, ning et palju rohkematel inimestel peaks olema osa tulemuse kujundamises.

Täna kuulutame välja 7,5 miljoni USD suuruse grandi The Alignment Project⁠(avaneb uues aknas)i jaoks, mis on Ühendkuningriigi AI Security Institute’i (UK AISI) loodud sõltumatu ühtlustamise uurimise ülemaailmne fond. Renaissance Philanthropy toetab toetuse administreerimist. See panus aitab muuta The Alignment Projecti üheks suurimaks sihtotstarbeliseks rahastamispingutuseks sõltumatute kooskõlastamise uuringute jaoks ning tugevdab laiemat sõltumatut ökosüsteemi.

Tipptaseme laborid, nagu OpenAI, on ainulaadses positsioonis, et tegeleda kooskõlastamise uuringutega, mis sõltuvad juurdepääsust tipptasemel mudelitele ja märkimisväärsest arvutusvõimsusest—töö, mida sõltumatutel teadlastel on sageli keeruline uurida. Pühendame suure osa oma sisemisest joondamispingutusest skaleeritavate meetodite väljatöötamisele, et joondamise edenemine käiks käsikäes võimekuse edenemisega. Usume iteratiivsesse juurutamisse—võimekuste järkjärguline suurendamine, tugevdades samal ajal kaitsemeetmeid—aitab probleeme varakult esile tuua ja annab meile konkreetseid tõendeid selle kohta, mis praktikas toimib. Vastutustundlik arendamine nõuab märkimisväärset kooskõlastus- ja ohutustööd, mis on tihedalt integreeritud mudeli loomise ja juurutamisega.

Paralleelselt saab valdkond kasu püsivast investeeringust iseseisvasse, uurimuslikku teadustöösse—mis võib laiendada ideede ruumi ja avastada uusi suundi. Sõltumatu uurimistöö on endiselt oluline; paljudes kasulikes uurimistes ei ole laboritel võrdlevat eelist. Tervislik kooskõlastamise ökosüsteem sõltub sõltumatutest meeskondadest, kes testivad mitmekesiseid eeldusi, arendavad alternatiivseid raamistikke ning uurivad kontseptuaalseid, teoreetilisi ja innovaatilisi ideid, mis ei pruugi sobituda kenasti ühegi organisatsiooni tegevuskavaga.

Ja kuna edasiminek AGI suunas võib lõppkokkuvõttes sõltuda fundamentaalsetest läbimurretest, mis muudavad joondusprobleemi olemust ja seda, millised lähenemisviisid on kõige kasulikumad, on oluline toetada uurimistööd, mis oleks tähtis isegi siis, kui tänased domineerivad meetodid ei skaleeru viisil, mida me ootame. Nendes maailmades muutub eriti oluliseks tugev väline ökosüsteem, mis teeb fundamentaalset, kontseptuaalset ja mitte omavahel seotud tööd. Tehisintellekti vastavuse ja ohutuse probleem on enneolematu tähtsusega ning vajame kõigi panust, sest me ei tea veel, millised lähenemisviisid osutuvad kõige vastupidavamaks, kui võimekused jätkavad arenemist.

Meie toetus—praeguste vahetuskursside järgi ligikaudu 5,6 miljonit naela—kaasrahastab The Alignment Projecti⁠(avaneb uues aknas)i koos teiste avalike, filantroopiliste ja tööstuslike toetajatega. Kogufond ületab 27 miljonit naela ja on loodud toetama laia portfelli joondusuuringute projekte üle maailma, hõlmates teemasid, mis on sama mitmekesised nagu arvutusliku keerukuse teooria, majandusteooria ja mänguteooria, kognitiivteadus ning infoteooria ja krüptograafia. Üksikprojekte rahastatakse tavaliselt vahemikus 50 000 kuni 1 miljon naela ning neil võib olla ka võimalus saada juurdepääs arvutusressurssidele ja eksperttoele.

Meie rahastus ei loo uut programmi ega valikuprotsessi ega mõjuta olemasolevat protsessi; see suurendab juba eelnevalt kontrollitud, kvaliteetsete projektide⁠(avaneb uues aknas) arvu, mida saab praeguses rahastamisvoorus rahastada.

UK AISI on hästi positsioneeritud suunama kooskõlastamise rahastust sellises mahus ja ulatuses. See toob kokku väljakujunenud sektorite ülese koalitsiooni, mis hõlmab valitsust, akadeemiat, filantroopiat ja tööstust, koos juba käimasoleva toetuste andmise protsessi ja suure hulga ettepanekutega, mis on läbinud ekspertide ülevaatuse. Ühendkuningriigi valitsuse teadusasutusena, mis kuulub teaduse, innovatsiooni ja tehnoloogia ministeeriumi (DSIT) alla, on sellel ka mandaat, mis keskendub tõsistele tehisintellekti riskidele, ning kogemus teadusuuringute rahastusprogrammide juhtimisel.

Kuna tehisintellekti tulevik ei kujune täpselt nii, nagu keegi ennustab – ja võib areneda väga kiiresti –, usume, et demokratiseerimine, „tehisintellekti vastupanuvõime” ja iteratiivne juurutamine on hädavajalikud. Samal ajal kui jätkame OpenAI-s oma tipptasemel ühtlustamise ja ohutuse uuringute edendamist, saab edasiminek kasu tugevast, mitmekesisest ja sõltumatust ökosüsteemist, mis võimete arenedes rakendab täiendavaid lähenemisviise. See toetus on üks samm selle eesmärgi suunas. Ootame põnevusega koostöö jätkamist laiema teadusringkonnaga, kui valdkond areneb.