Promovarea cercetării independente privind alinierea inteligenței artificiale

Pe măsură ce sistemele de inteligență artificială devin mai capabile și mai autonome, cercetarea privind alinierea trebuie atât să țină pasul, cât și să extindă diversitatea. La OpenAI, investim masiv în cercetarea în domeniul siguranței și al alinierii de vârf, deoarece este esențială pentru misiunea noastră. De asemenea, considerăm că asigurarea siguranței și beneficiilor AGI pentru toată lumea nu poate fi realizată de o singură organizație și dorim să sprijinim cercetarea independentă și abordările conceptuale care pot fi urmărite în afara laboratoarelor de vârf. Credem că viitorul inteligenței artificiale nu se va desfășura exact așa cum prevăd unii, și că mult mai multe persoane ar trebui să aibă un cuvânt de spus în determinarea rezultatului final.

Astăzi, anunțăm un grant de 7,5 milioane USD către The Alignment Project⁠(se deschide într-o fereastră nouă), un fond global pentru cercetarea independentă a alinierii, creat de Institutul de Securitate a Inteligenței Artificiale din Regatul Unit (UK AISI). Renaissance Philanthropy sprijină administrarea grantului. Această contribuție face din The Alignment Project una dintre cele mai mari inițiative de finanțare dedicate cercetării independente în domeniul alinierii și consolidează ecosistemul independent în sens larg.

Laboratoarele de vârf precum OpenAI se află într-o poziție unică în care pot desfășura cercetări de aliniere care depind de accesul la modele de vârf și de o putere de calcul semnificativă — o sarcină care este adesea dificil de explorat de cercetătorii independenți. Dedicăm o mare parte din efortul nostru intern de aliniere dezvoltării unor metode scalabile, astfel încât progresul alinierii să țină pasul cu progresul capacităților. Considerăm că implementarea iterativă — creșterea treptată a capacităților în paralel cu consolidarea măsurilor de protecție — ajută la identificarea promptă a problemelor și ne oferă dovezi concrete despre ceea ce funcționează în practică, iar dezvoltarea responsabilă necesită o aliniere semnificativă și o activitate de siguranță strâns integrată cu construirea și implementarea modelelor.

În paralel, domeniul beneficiază de investiții susținute în cercetare independentă și exploratorie, care poate extinde spațiul ideilor și descoperi noi direcții. Cercetarea independentă rămâne esențială; în multe tipuri de investigații utile, laboratoarele nu au un avantaj comparativ. Un ecosistem de aliniere sănătos necesită echipe independente care să testeze diverse ipoteze, să dezvolte cadre alternative și să exploreze idei conceptuale, teoretice și inovatoare care s-ar putea să nu fie în concordanță deplină cu strategia unei organizații.

Și deoarece progresul către AGI poate depinde în ultimă instanță de descoperiri fundamentale care schimbă forma problemei de aliniere și de abordările cele mai utile, este important să sprijinim cercetarea care va conta chiar dacă metodele dominante de astăzi nu se vor dovedi a fi scalabile în modul în care ne așteptăm. În acele lumi, devine deosebit de important să existe un ecosistem extern puternic care să realizeze o activitate fundamentală, conceptuală și necorelată. Problema alinierii și siguranței inteligenței artificiale are o importanță fără precedent și avem nevoie de ajutorul tuturor, deoarece încă nu știm care abordări se vor dovedi mai durabile pe măsură ce capacitățile continuă să avanseze.

Grantul nostru, în valoare de aproximativ 5,6 milioane GBP la cursul de schimb actual, va cofinanța The Alignment Project⁠(se deschide într-o fereastră nouă) alături de alți susținători publici, filantropici și din domeniu. Fondul total depășește 27 de milioane GBP și are ca scop sprijinirea unui portofoliu larg de proiecte de cercetare în domeniul alinierii la nivel mondial, cuprinzând teme diverse, precum teoria complexității computaționale, teoria economică și teoria jocurilor, științele cognitive, teoria informației și criptografia. Proiectele individuale sunt finanțate, de obicei, cu sume cuprinse între 50.000 și 1 milion GBP și pot beneficia și de acces opțional la resurse de calcul și sprijin din partea experților.

Finanțarea noastră nu creează un program sau proces de selecție nou și nici nu influențează procesul existent, ci crește numărul de proiecte⁠(se deschide într-o fereastră nouă) deja verificate, de înaltă calitate, care pot fi finanțate în runda actuală.

UK AISI este bine poziționată pentru a direcționa finanțarea aliniată la această scară și gamă. Aceasta reunește o coaliție intersectorială consolidată, care cuprinde reprezentanți ai guvernului, mediului universitar, filantropiei și domeniului tehnologic, alături de un program de finanțare deja în derulare și un număr mare de propuneri care au fost evaluate de experți. În calitate de organizație de cercetare a guvernului britanic din cadrul Departamentului pentru Știință, Inovare și Tehnologie (DSIT), aceasta are și un mandat axat pe riscurile grave ale inteligenței artificiale și experiență în gestionarea programelor de finanțare a cercetării.

Deoarece viitorul inteligenței artificiale nu se va desfășura exact așa cum se prevede și poate avansa foarte rapid, considerăm că democratizarea, „reziliența inteligenței artificiale” și implementarea iterativă sunt esențiale. Pe măsură ce continuăm să avansăm în cercetarea noastră privind alinierea și siguranța tehnologiei de vârf la OpenAI, progresul va beneficia de un ecosistem robust, divers și independent, care adoptă abordări complementare pe măsură ce capacitățile avansează. Acest grant este un pas către acel obiectiv. Așteptăm cu nerăbdare să continuăm colaborarea cu comunitatea științifică, pe măsură ce acest domeniu avansează.