Unapređenje neovisnog istraživanja o usklađivanju umjetne inteligencije

Kako AI sustavi postaju sposobniji i autonomniji, istraživanja usklađenosti moraju pratiti tempo i povećati raznolikost. U OpenAI-ju značajno ulažemo u istraživanja graničnih usklađenosti i sigurnosti jer su ključna za našu misiju. Također vjerujemo da osiguranje sigurnosti i koristi AGI-ja za sve ne može postići nijedna pojedinačna organizacija te želimo podržati neovisna istraživanja i konceptualne pristupe koji se mogu provoditi izvan laboratorija na prvim crtama razvoja. Vjerujemo da se budućnost umjetne inteligencije neće odvijati točno onako kako itko predviđa i da bi mnogo više ljudi trebalo sudjelovati u oblikovanju ishoda.

Danas najavljujemo potporu u iznosu od 7,5 milijuna USD za The Alignment Project⁠(otvara se u novom prozoru), globalni fond za neovisna istraživanja usklađenosti koji je osnovao Institut za sigurnost umjetne inteligencije Ujedinjenog Kraljevstva (UK AISI). Renaissance Philanthropy podržava upravljanje potporom. Ovaj doprinos pomaže da The Alignment Project postane jedan od najvećih namjenskih napora financiranja neovisnih istraživanja usklađenosti do danas te jača širi, neovisni ekosustav.

Laboratoriji na prvim crtama poput OpenAI-ja nalaze se u jedinstvenom položaju za provođenje istraživanja usklađenosti koje ovisi o pristupu graničnim modelima i značajnim računalnim resursima — posao koji je neovisnim istraživačima često teško istražiti. Velik dio naših internih napora usklađivanja posvećujemo razvoju skalabilnih metoda kako bi napredak u usklađivanju išao u korak s napretkom sposobnosti. Vjerujemo u iterativno uvođenje — postupno povećavanje mogućnosti uz istodobno jačanje zaštitnih mjera — čime se pomaže rano otkriti probleme i daje nam konkretne dokaze o tome što u praksi funkcionira, a odgovoran razvoj zahtijeva značajan rad na usklađivanju i sigurnosti koji je usko integriran s izgradnjom i uvođenjem modela.

Istovremeno, područje ima koristi od stalnih ulaganja u neovisna, istraživačka istraživanja — koja mogu proširiti prostor ideja i otkriti nove smjerove. Neovisno istraživanje ostaje ključno; u mnogim vrstama korisnih istraživanja laboratoriji ne zadržavaju komparativnu prednost. Zdrav ekosustav usklađivanja ovisi o neovisnim timovima koji testiraju raznolike pretpostavke, razvijaju alternativne okvire i istražuju konceptualne, teorijske i inovativne ideje koje se možda uredno ne uklapaju ni u jedan plan razvoja bilo koje organizacije.

Također, budući da napredak prema općoj umjetnoj inteligenciji (AGI) u konačnici može ovisiti o temeljnim probojima/saznanjima koji mijenjaju oblik problema usklađivanja i o tome koji su pristupi najkorisniji, važno je podržati istraživanja koja bi bila značajna čak i ako se pokaže da se današnje dominantne metode ne mogu skalirati na način koji očekujemo. U tim svjetovima postaje posebno važno imati snažan vanjski ekosustav koji provodi temeljni, konceptualni i nekorelirani rad. Problem usklađenosti i sigurnosti AI-ja je od neviđene važnosti, i u toj borbi trebamo sve raspoložive snage, jer još ne znamo koji će se pristupi pokazati najtrajnijima dok sposobnosti nastavljaju napredovati.

Naša potpora — otprilike 5,6 milijuna GBP prema trenutačnim tečajevima — sufinancirat će The Alignment Project⁠(otvara se u novom prozoru) zajedno s drugim javnim, filantropskim i industrijskim podupirateljima. Ukupni fond premašuje 27 milijuna GBP i osmišljen je za potporu širokom portfelju istraživačkih projekata usklađivanja diljem svijeta, obuhvaćajući raznolike teme, poput teorije računalne složenosti, ekonomske teorije i teorije igara, kognitivne znanosti te teorije informacija i kriptografije. Pojedinačni projekti obično se financiraju s iznosima od 50000 £ do 1000000 £, a mogu dobiti i izborni pristup računalnim resursima i stručnu podršku.

Naše financiranje ne stvara novi program ili postupak odabira, niti utječe na postojeći postupak; ono povećava broj već provjerenih, visokokvalitetnih projekata⁠(otvara se u novom prozoru) koji se mogu financirati u trenutačnoj rundi financiranja.

UK AISI je dobro pozicioniran za usmjeravanje financiranja usklađivanja u ovom opsegu i rasponu. Donosi uspostavljenu međusektorsku koaliciju koja obuhvaća vladu, akademsku zajednicu, filantropiju i industriju, uz već pokrenut proces dodjele bespovratnih sredstava i velik broj prijedloga koji su prošli stručnu recenziju. Kao istraživačka organizacija britanske vlade unutar Ministarstva za znanost, inovacije i tehnologiju (DSIT), također ima mandat usmjeren na ozbiljne rizike povezane s umjetnom inteligencijom i iskustvo u vođenju programa financiranja istraživanja.

S obzirom da se budućnost umjetne inteligencije neće odvijati točno onako kako itko predviđa — i može napredovati vrlo brzo — vjerujemo da su demokratizacija, „otpornost AI-ja” i iterativna primjena ključni. Dok nastavljamo unapređivati naša istraživanja usklađenosti i sigurnosti na prvim linijama u OpenAI-ju, napredak će imati koristi od snažnog, raznolikog, neovisnog ekosustava koji slijedi komplementarne pristupe kako se sposobnosti razvijaju. Ova je potpora jedan korak prema tom cilju. Radujemo se nastavku suradnje sa širom istraživačkom zajednicom dok se ovo područje razvija.