Fremme af uafhængig forskning i AI-tilpasning

Efterhånden som AI-systemer bliver mere kompetente og autonome, skal forskning i tilpasning både holde trit med og skalere diversiteten. Hos OpenAI investerer vi massivt i forskning inden for banebrydende tilpasning og sikkerhed, da det er afgørende for vores mission. Vi mener også, at én enkelt organisation kan gøre AGI sikker og gavnlig for alle. Derfor vil vi støtte uafhængig forskning og konceptuelle tilgange, der kan forskes uden for banebrydende laboratorier. Vi tror ikke, at fremtiden for AI vil udvikle sig præcis, som nogen forudsiger det, og at mange flere mennesker bør have en interesse i at forme resultatet.

I dag annoncerer vi en bevilling på 7,5 millioner dollars til The Alignment Project⁠(åbner i et nyt vindue), som er en global fond for uafhængig forskning i tilpasning . Projektet er oprettet af UK AI Security Institute (UK AISI). Renaissance Philanthropy støtter administrationen af bevillingen. Dette bidrag er med til at gøre The Alignment Project til en af de største dedikerede finansieringsindsatser for uafhængig forskning i tilpasning til dato og styrker det bredere, uafhængige økosystem.

Banebrydende laboratorier såsom OpenAI er i en unik position til at forfølge forskningsarbejde i tilpasning, der afhænger af adgang til banebrydende modeller og betydelig regnekraft. Det er arbejde, som ofte er vanskeligt for uafhængige forskere at udforske. Vi dedikerer en stor del af vores interne tilpasningsindsats til at udvikle skalerbare metoder, så fremskridtene inden for tilpasning holder trit med fremskridtene inden for kapabilitet. Vi mener, at iterativ implementering, hvor kapaciteterne gradvist øges, mens sikkerhedsforanstaltningerne styrkes, hjælper med at identificere problemer tidligt og giver os konkrete beviser for, hvad der fungerer i praksis. Ansvarlig udvikling kræver betydeligt arbejde med tilpasning og sikkerhed, som er tæt integreret med modeludvikling og implementering.

Samtidig drager udviklingen fordel af vedvarende investering i uafhængig, udforskende forskning, hvilket kan afprøve flere idéer og afdække nye retninger. Uafhængig forskning er fortsat afgørende. I mange former for nyttig undersøgelse bevarer laboratorier ikke en komparativ fordel. Et sundt økosystem for tilpasning afhænger af, at uafhængige teams tester forskellige antagelser, udvikler alternative rammeværk samt udforsker konceptuelle, teoretiske og visionære ideer, der måske ikke passer perfekt ind i en enkelt organisations struktur.

Eftersom fremskridt mod AGI i sidste ende kan afhænge af fundamentale gennembrud, der ændrer formen af tilpasningsproblemet og hvilke tilgange der er mest nyttige, er det vigtigt at støtte forskning, der ville være betydningsfuld, selv hvis nutidens dominerende metoder viser sig ikke at kunne skaleres som forventet. På disse områder er det særligt vigtigt at have et stærkt eksternt økosystem, der udfører grundlæggende, konceptuelt og ukorreleret arbejde. Problemet med AI-tilpasning og sikkerhed er af hidtil uset betydning. Derfor er det vigtigt, at alle hjælper til, da vi endnu ikke ved, hvilke tilgange der vil vise sig at være mest holdbare, efterhånden som kapabiliteterne fortsætter med at udvikle sig.

Vores bevilling (på cirka 5,6 millioner pund til de nuværende valutakurser) vil medfinansiere The Alignment Project⁠(åbner i et nyt vindue) sammen med andre støtte fra andre offentlige, filantropiske og industrielle parter. Den samlede fond overstiger £27 millioner og er designet til at støtte en bred portefølje af forskningsprojekter inden for tilpasning på verdensplan. De spænder over emner så forskellige som beregningsmæssig kompleksitetsteori, økonomisk teori og spilteori, kognitionsvidenskab samt informationsteori og kryptografi. Individuelle projekter finansieres typisk med £50.000 til £1 million og kan også få valgfri adgang til computerressourcer og ekspertsupport.

Vores finansiering skaber ikke et nyt program eller en ny udvælgelsesproces, og den påvirker heller ikke den eksisterende proces. Den øger antallet af allerede godkendte projekter⁠(åbner i et nyt vindue) af høj kvalitet, der kan finansieres i den nuværende runde.

UK AISI er i en god position til at målrette tilpasningsfinansiering i denne skala og rækkevidde. Det skaber en etableret tværsektoriel koalition, der spænder lige fra regeringen, den akademiske verden, filantropi og den industrielle sektor, sammen med en allerede etableret proces til bevillinger samt en stor pulje af forslag, der har gennemgået ekspertvurdering. Som en britisk statslig forskningsorganisation under Department for Science, Innovation and Technology (DSIT) er den også fokuseret på alvorlige AI-risici og har erfaring med at køre finansieringsprogrammer indenfor forskning.

Eftersom fremtiden for AI endnu er uvis – og kan udvikle sig meget hurtigt – mener vi, at demokratisering, "AI-robusthed" og iterativ implementering er afgørende. Mens OpenAI fortsætter med at fremme vores banebrydende forskning indenfor tilpasning og sikkerhed, vil fremskridt drage fordel af et robust, alsidigt og uafhængigt økosystem, der udvikler komplementære tilgange, efterhånden som kapaciteterne udvikler sig. Denne bevilling er et skridt i retningen mod dette mål. Vi ser frem til at fortsætte samarbejdet med den bredere forskningssektor, efterhånden som området udvikler sig.