Progressi nella ricerca indipendente sull'allineamento dell'IA

Con l'aumentare delle capacità e dell'autonomia dei sistemi di IA, la ricerca sull'allineamento non deve tenere solo il passo, ma anche ampliare la diversità. Noi di OpenAI investiamo molto nella ricerca di frontiera sull'allineamento e la sicurezza, perché è fondamentale per la nostra missione. Riteniamo inoltre che garantire che l'AGI sia sicura e vantaggiosa per tutti non possa essere realizzato da una singola organizzazione e desideriamo sostenere la ricerca indipendente e gli approcci concettuali che possono essere perseguiti al di fuori dei laboratori all'avanguardia. Crediamo che il futuro dell'IA non si svilupperà esattamente come qualcuno prevede e che molte più persone dovrebbero avere un interesse nel plasmare il risultato.

Oggi annunciamo una sovvenzione di 7,5 milioni di dollari a favore di The Alignment Project⁠(si apre in una nuova finestra), un fondo globale per la ricerca indipendente sull'allineamento creato dall'Istituto per la sicurezza dell'IA del Regno Unito (UK AISI). Renaissance Philanthropy sta sostenendo l'amministrazione della sovvenzione. Questo contributo contribuisce a rendere The Alignment Project uno dei più grandi sforzi di finanziamento dedicati alla ricerca indipendente sull'allineamento fino ad oggi e rafforza l'ecosistema indipendente più ampio.

I laboratori all'avanguardia come OpenAI si trovano in una posizione privilegiata per svolgere ricerche sull'allineamento che dipendono dall'accesso a modelli all'avanguardia e a una potenza di calcolo significativa, un lavoro che spesso è difficile da esplorare per i ricercatori indipendenti. Dedichiamo gran parte del nostro impegno interno all'allineamento allo sviluppo di metodi scalabili, in modo che i progressi in questo campo procedano di pari passo con quelli delle capacità. Riteniamo che l'implementazione iterativa, che consiste nell'aumentare gradualmente le capacità rafforzando al contempo le misure di sicurezza, aiuti a individuare tempestivamente i problemi e fornisca prove concrete di ciò che funziona nella pratica, e che uno sviluppo responsabile richieda un lavoro significativo di allineamento e sicurezza strettamente integrato con la creazione e l'implementazione dei modelli.

Parallelamente, il settore beneficia di investimenti sostenuti nella ricerca indipendente ed esplorativa, che possono ampliare lo spazio delle idee e scoprire nuove direzioni. La ricerca indipendente rimane essenziale; in molti tipi di indagini utili, i laboratori non mantengono un vantaggio comparativo. Un ecosistema di allineamento efficace dipende da team indipendenti che testano ipotesi diverse, sviluppano strutture alternative ed esplorano idee concettuali, teoriche e innovative che potrebbero non allinearsi perfettamente con la roadmap di una singola organizzazione.

E poiché i progressi verso l'AGI potrebbero dipendere in ultima analisi da scoperte fondamentali che cambiano la natura del problema dell'allineamento e quali approcci siano più utili, è importante sostenere la ricerca che sarebbe rilevante anche se i metodi dominanti di oggi non dovessero scalare nel modo che ci aspettiamo. In questi contesti, diventa particolarmente importante disporre di un forte ecosistema esterno che svolga un lavoro fondamentale, concettuale e non correlato. Il problema dell'allineamento e della sicurezza dell'IA è di importanza senza precedenti e abbiamo bisogno dell'aiuto di tutti, poiché non sappiamo ancora quali approcci si riveleranno più duraturi man mano che le capacità continuano a progredire.

La nostra sovvenzione, pari a circa 5,6 milioni di sterline ai tassi di cambio attuali, cofinanzierà The Alignment Project⁠(si apre in una nuova finestra) insieme ad altri sostenitori pubblici, filantropici e del settore. Il fondo totale supera i 27 milioni di sterline ed è destinato a sostenere un ampio portafoglio di progetti di ricerca sull'allineamento in tutto il mondo, che abbracciano argomenti diversi come la teoria della complessità computazionale, la teoria economica e la teoria dei giochi, le scienze cognitive, la teoria dell'informazione e la crittografia. I singoli progetti sono generalmente finanziati con importi compresi tra 50.000 e 1 milione di sterline e possono anche beneficiare dell'accesso opzionale a risorse di calcolo e al supporto di esperti.

Il nostro finanziamento non crea un nuovo programma o processo di selezione, né influenza il processo esistente; aumenta il numero di progetti⁠(si apre in una nuova finestra) di alta qualità già vagliati che possono essere finanziati nell'attuale ciclo.

UK AISI è ben posizionata per gestire finanziamenti di questo livello e portata. Vanta una consolidata coalizione intersettoriale che coinvolge governo, mondo accademico, filantropia e industria, oltre a un programma di sovvenzioni già avviato e un ampio bacino di proposte che sono state sottoposte alla valutazione di esperti. In qualità di organizzazione di ricerca del governo britannico facente parte del Dipartimento per la Scienza, l'Innovazione e la Tecnologia (DSIT), ha anche un mandato incentrato sui rischi gravi legati all'IA e ha esperienza nella gestione di programmi di finanziamento della ricerca.

Poiché il futuro dell'IA non si svilupperà secondo le previsioni e potrebbe evolversi molto rapidamente, riteniamo che la democratizzazione, la "resilienza dell'IA" e l'implementazione iterativa siano essenziali. Mentre continuiamo a portare avanti la nostra ricerca sull'allineamento e la sicurezza presso OpenAI, i progressi trarranno vantaggio da un ecosistema solido, diversificato e indipendente che persegue approcci complementari man mano che le capacità avanzano. Questa sovvenzione è un passo avanti verso questo obiettivo. Non vediamo l'ora di continuare a collaborare con la più ampia comunità di ricerca man mano che il settore progredisce.