Støtter uavhengig KI-forskning

Etter hvert som KI-systemer blir mer avanserte og mer autonome, må forskningen på samsvar både holde tritt og øke mangfoldet. Hos OpenAI investerer vi tungt i forskning på banebrytende tilpasning og sikkerhet, da dette er avgjørende for oppdraget vårt. Vi mener også at det å sikre at AGI er trygg og til nytte for alle, ikke kan oppnås av én enkelt organisasjon. Vi ønsker å støtte uavhengig forskning og konseptuelle tilnærminger som kan utvikles utenfor banebrytende laboratorier. Vi mener at fremtiden for KI ikke vil utfolde seg nøyaktig slik noen forutsier, og at flere mennesker bør få en rolle i å forme utfallet.

I dag kunngjør vi et tilskudd på 7,5 millioner dollar til The Alignment Project⁠(åpnes i et nytt vindu), et globalt fond for uavhengig forskning på KI-innretting, opprettet av UK AI Security Institute (UK AISI). Renaissance Philanthropy støtter administrasjonen av tilskuddet. Dette bidraget gjør The Alignment Project til en av de største dedikerte finansieringsinnsatsene for uavhengig forskning på KI-innretting hittil, og styrker det bredere, uavhengige forskningsøkosystemet.

Banebrytende laboratorier som OpenAI er i en unik posisjon til å drive med forskningsarbeid på samsvar som avhenger av tilgang til banebrytende modeller og betydelig datakraft—arbeid som ofte er vanskelig for uavhengige forskere å utforske. Vi bruker mye av vår interne tilpasningsinnsats på å utvikle skalerbare metoder slik at fremgangen i tilpasningen holder tritt med fremgangen i evner. Vi mener at iterativ utrulling—det vil si gradvis økning av kapasiteter samtidig som vi styrker sikkerhetstiltak—hjelper oss å avdekke problemer tidlig og gir konkrete bevis på hva som fungerer i praksis. Ansvarlig utvikling krever betydelig tilpasnings- og sikkerhetsarbeid, tett integrert med modellbygging og utrulling.

Parallelt drar feltet nytte av vedvarende investeringer i uavhengig, utforskende forskning—som kan utvide ideenes rom og avdekke nye retninger. Uavhengig forskning er fortsatt essensielt; i mange typer nyttige undersøkelser har laboratorier ikke en komparativ fordel. Et sunt økosystem for tilpasning er avhengig av uavhengige team som tester ulike antakelser, utvikler alternative rammeverk og utforsker konseptuelle, teoretiske og innovative ideer som kanskje ikke passer pent inn i veikartet til en enkelt organisasjon.

Og fordi fremdriften mot AGI til syvende og sist kan avhenge av grunnleggende gjennombrudd som endrer formen på tilpasningsproblemet og hvilke tilnærminger som er mest nyttige, er det viktig å støtte forskning som vil ha betydning selv om dagens dominerende metoder viser seg ikke å skalere på den måten vi forventer. I disse verdene blir det spesielt viktig å ha et sterkt eksternt økosystem som utfører grunnleggende, konseptuelt og ukorrelert arbeid. Problemet med justering og sikkerhet for kunstig intelligens er av enestående betydning, og vi trenger alle mann på dekk ettersom vi ennå ikke vet hvilke tilnærminger som vil vise seg å være mest holdbare etter hvert som evnene fortsetter å utvikle seg.

Vårt tilskudd – omtrent £5,6 millioner til dagens valutakurser – vil medfinansiere The Alignment Project⁠(åpnes i et nytt vindu) sammen med andre offentlige, filantropiske og industrielle støttespillere. Det totale fondet overstiger 27 millioner pund og er utformet for å støtte en bred portefølje av forskningsprosjekter innen justering over hele verden, som spenner over temaer så ulike som beregningskompleksitetsteori, økonomisk teori og spillteori, kognitiv vitenskap samt informasjonsteori og kryptografi. Individuelle prosjekter finansieres vanligvis med £50 000 til £1 million, og kan også få valgfri tilgang til databehandlingsressurser og ekspertstøtte.

Vår finansiering oppretter ikke et nytt program eller en ny utvelgelsesprosess, og påvirker heller ikke den eksisterende prosessen; den øker antallet allerede kvalitetssikrede prosjekter⁠(åpnes i et nytt vindu) som kan finansieres i den nåværende runden.

UK AISI er godt posisjonert til å lede tilpasningsfinansiering i denne skalaen og dette omfanget. Det samler en etablert tverrsektoriell koalisjon som omfatter regjering, akademia, filantropi og industri, sammen med en pågående tilskuddsutdelingsprosess og et stort antall forslag som allerede har vært gjennom ekspertvurdering. Som britisk statlig forskningsorganisasjon under Department for Science, Innovation and Technology (DSIT), har den et mandat med fokus på alvorlige KI-risikoer og erfaring med å administrere forskningsfinansieringsprogrammer.

Siden fremtiden for KI ikke vil utfolde seg nøyaktig slik noen forutsier—og kan utvikle seg svært raskt—mener vi at demokratisering, «KI-motstandskraft» og iterativ utrulling er avgjørende. Mens vi fortsetter å fremme vår banebrytende tilpasnings- og sikkerhetsforskning hos OpenAI, vil fremgangen dra nytte av et robust, mangfoldig og uavhengig økosystem som utvikler komplementære tilnærminger i takt med at KI-evnene vokser. Dette tilskuddet er et skritt mot det målet. Vi ser frem til å fortsette samarbeidet med det bredere forskningsmiljøet i takt med at feltet utvikler seg.