Intervento di Sam Altman al Consiglio di sicurezza delle Nazioni Unite

Oggi Sam Altman, CEO di OpenAI, è intervenuto davanti al Consiglio di sicurezza delle Nazioni Unite sul tema dell’intelligenza artificiale. Ha parlato del potenziale dell’IA di ampliare le opportunità, dell’importanza di mantenere i sistemi più potenti sotto il controllo umano e della necessità di una cooperazione internazionale sulla sicurezza dell’IA.

Grazie, Signor Presidente, Eccellenze. È un onore essere qui e potermi rivolgere a tutti voi in questo momento così importante.

Parliamo di intelligenza artificiale da anni, ma nelle ultime settimane e negli ultimi mesi la situazione sembra diversa. I rapidi progressi dei modelli hanno accorciato i tempi, reso più tangibili i vantaggi, ma anche più immediate la posta in gioco e i rischi.

Abbiamo una scelta davanti a noi. L’IA può assomigliare a un nuovo Rinascimento di creatività e scoperte oppure a una nuova Rivoluzione industriale segnata da sconvolgimenti e disordine.

Il Rinascimento fu un’epoca in cui nuovi strumenti, nuove idee e nuove istituzioni ampliarono la percezione di ciò che le persone potevano realizzare. L’IA può svolgere questo ruolo nella nostra epoca. Credo che le persone siano molto più capaci di quanto immaginino, ma siano state frenate da tecnologie limitate che avrebbero dovuto dar loro più potere e che invece le distraggono e spesso sottraggono la loro attenzione.

La versione migliore dell’IA non consiste nel trasformare le persone in ingranaggi di un’enorme macchina, né nell’ottimizzare ogni aspetto della vita fino a farne scomparire la dimensione umana. Consiste nel dare alle persone maggiore capacità d’azione in un mondo sempre più complesso: più possibilità di imparare, creare, scoprire, costruire e partecipare. Ci sono molte cose che l’IA non può, e non dovrebbe, automatizzare.

L’IA dovrebbe essere costruita per le persone, non semplicemente per far girare più velocemente gli ingranaggi delle macchine come fine a sé stesso. Alcune dichiarazioni di chi lavora alla creazione dell’IA sono così distopiche da sembrare la trama di brutti film di fantascienza.

Qualunque cosa sia così potente suscita anche timore. È un momento complesso, perché avvertiamo contemporaneamente un potenziale enorme e un’ansia del tutto comprensibile.

Questi modelli possono aiutare le persone a scoprire nuove conoscenze, sviluppare nuovi farmaci, migliorare l’assistenza sanitaria e l’istruzione e costruire economie più produttive. Possono essere nuovi strumenti con cui le persone perseguono sogni e ambizioni che oggi sembrano irraggiungibili. Per le persone comuni, la complessità della vita è aumentata enormemente. L’IA può essere sia uno strumento di difesa da questa complessità, sia uno strumento di scoperta e innovazione senza precedenti.

D’altro canto, man mano che i sistemi di IA diventano più capaci e autonomi, potrebbero muoversi più velocemente delle nostre istituzioni, concentrare il potere in troppo poche mani o prendere decisioni che le persone non comprendono o controllano più.

Questa preoccupazione diventa particolarmente importante mentre ci avviciniamo a sistemi capaci di migliorare sé stessi e le proprie versioni future, un processo spesso definito auto-miglioramento ricorsivo. Con l’aumento dell’automazione nel processo di creazione dell’IA, il ritmo dei progressi potrebbe accelerare rapidamente. Questo momento richiede la massima cautela.

Sono in gran parte d’accordo con il professor Bengio. Anche se ne indicherò due anziché tre: credo che vi siano due modi in cui il progresso dell’IA potrebbe prendere una piega disastrosa e che dobbiamo evitare.

Primo: potremmo cedere all’IA il controllo del futuro. Il rischio è che proceda così rapidamente da impedire alle persone di capire cosa stia accadendo o di intervenire quando necessario. Sarebbe ovviamente terribile.

Il settore non deve accettare rischi tecnologici eccessivi solo perché i benefici sono enormi e rallentare sembra troppo rischioso. Battere le altre aziende in una corsa competitiva non è un motivo per prendere decisioni avventate. Né crediamo di essere intrappolati in una corsa che ci impedisca di rallentare. In passato abbiamo rallentato di nostra iniziativa. Lo faremo anche in futuro. Non vogliamo costruire sistemi, e riteniamo importante che nessuno li costruisca, per i quali non possiamo fornire le necessarie garanzie di allineamento, monitorabilità e sicurezza.

Dobbiamo capire cosa fanno questi sistemi e disporre di evidenze solide che agiranno secondo le intenzioni delle persone, anche quando diventeranno estremamente intelligenti. Anzi, soprattutto quando diventeranno estremamente intelligenti. Non importa che si stimi il rischio di catastrofe al 10%, all’1%, al 12% o allo 0,1%. Nessuno di questi livelli è lontanamente accettabile. E non dovremmo addestrare modelli se non possiamo dimostrare in modo estremamente convincente che saremo in grado di mantenerli sotto il controllo umano.

Questo è dunque uno dei modi in cui le cose possono andare storte. All’estremo opposto, questi sistemi potrebbero concentrare troppo potere in troppo poche mani. Nessuna persona, azienda o nazione dovrebbe poter usare i modelli di IA più potenti per imporre a tutti gli altri la propria visione del mondo. Un’azienda o un Paese convinti di essere gli unici soggetti a cui questa tecnologia possa essere affidata possono usare tale convinzione per giustificare quasi qualsiasi altra cosa. Dobbiamo respingere questa logica, anche quando risulta conveniente per un determinato soggetto.

Credo che esista un approccio pragmatico a entrambe le questioni. In OpenAI affrontiamo queste questioni con un obiettivo chiaro: l’IA deve dare alle persone più potere sulla propria vita. Più libertà di vivere come desiderano. Più capacità di risolvere problemi, grandi o piccoli, e di migliorare le proprie comunità. Non vogliamo cadere nella trappola dell’ottimismo cieco. Ma non vogliamo neppure cadere nella trappola del catastrofismo. Lasciarci trascinare verso uno dei due estremi non ci aiuterà ad affrontare con successo le sfide che ci attendono, soprattutto in un momento in cui il mondo e i suoi abitanti si trovano di fronte a problemi enormi che questa tecnologia può contribuire a risolvere. Cerchiamo quindi di seguire una via intermedia tra questi due poli.

Per noi, questo significa seguire tre principi.

Primo: man mano che l’IA diventa più capace, le persone devono rimanere al centro delle decisioni che la riguardano. L’allineamento non è una questione di ricerca astratta. Consiste nel garantire che questi sistemi rimangano stabilmente sotto il controllo umano, rispecchino i valori umani e aiutino le persone a orientare le prossime fasi dello sviluppo. Non stiamo cercando, e non dobbiamo cercare, di automatizzare il giudizio o i valori umani.

Secondo: i benefici del progresso scientifico e della crescita economica devono essere generati dalle persone e destinati alle persone. L’IA dovrebbe aiutare i ricercatori a fare scoperte, i medici a curare i pazienti, gli insegnanti a istruire gli studenti, gli imprenditori ad avviare imprese, le comunità a risolvere problemi che sembravano irraggiungibili, e molto altro. La storia ininterrotta del progresso umano non è una storia in cui gli strumenti sostituiscono la capacità d’azione delle persone. È una storia in cui gli strumenti giusti rendono le persone più capaci, e credo che questo processo andrà molto oltre ciò che riteniamo possibile.

Terzo: questa tecnologia deve dare potere a ogni individuo. Un futuro straordinario nascerà da persone capaci di realizzare il proprio potenziale e creare valore per sé stesse, le proprie comunità, i propri Paesi e il mondo intero. Possiamo essere tra coloro che costruiscono questa tecnologia, ma non siamo gli eroi di questa storia. Il nostro ruolo è mettere le persone di tutto il mondo nelle condizioni di agire e confidare nella magia delle capacità e delle facoltà umane.

Oggi disponiamo di modelli capaci di scoprire conoscenze che prima non avevamo. Pensiamo ai progressi compiuti in matematica. Tre estati fa, i nostri modelli se la cavavano con la matematica delle scuole elementari. Due estati fa, erano piuttosto bravi nelle competizioni matematiche delle scuole superiori. L’estate scorsa abbiamo raggiunto un livello da medaglia d’oro nella più prestigiosa competizione matematica internazionale. E solo poche settimane fa, quest’estate, uno dei nostri modelli ha risolto uno dei Problemi del millennio: le equazioni di Navier-Stokes.

Queste equazioni vengono utilizzate nella progettazione aeronautica, nelle previsioni meteorologiche e nello studio del flusso sanguigno. Non risolviamo problemi matematici fini a sé stessi, ma per permettere alle persone di scoprire nuove conoscenze e usarle per migliorare l’assistenza sanitaria, innalzare il tenore di vita e ampliare il potenziale di tutti nel mondo. C’è ancora moltissimo da scoprire.

Ma è fondamentale che le aziende non si sostituiscano al processo democratico.

Se l’IA deve essere democratica, le decisioni più importanti non possono essere prese soltanto dai laboratori di San Francisco. Devono essere definite attraverso processi democratici e da governi che rispondono ai cittadini che servono.

A livello internazionale, ciò richiederà cooperazione. Nel corso della storia, è accaduto che Paesi in competizione e non sempre in buoni rapporti si siano comunque uniti, di fronte a una nuova e potente tecnologia, per tutelare interessi comuni e il bene collettivo. Crediamo che questo debba essere uno di quei momenti.

Serve un meccanismo che renda complementari gli standard nazionali e internazionali per l’IA di frontiera: standard per misurare le capacità, valutare i rischi, stabilire se le misure di salvaguardia siano sufficienti e preservare un’effettiva supervisione umana man mano che i sistemi diventano più autonomi.

Servono standard comuni affinché i Paesi possano confrontare le evidenze, verificare la conformità e condividere un linguaggio e una comprensione di quanto sta accadendo.

Servono segnalazioni degli incidenti accurate e tempestive, nonché protocolli di classificazione e segnalazione, affinché il mondo possa imparare dai fallimenti prima che diventino catastrofi.

E servono canali sicuri tra governi, gestori di infrastrutture critiche ed esperti tecnici per condividere informazioni sulle vulnerabilità emergenti e sulle nuove minacce.

Naturalmente, questi standard non dovrebbero consolidare la posizione degli operatori dominanti né favorire un modello di business rispetto a un altro. Devono sostenere gli sviluppatori di modelli aperti e chiusi, i nuovi operatori e i laboratori affermati, l’autorità nazionale e la cooperazione internazionale. Ogni governo dovrebbe decidere come integrare gli standard nel proprio ordinamento giuridico. Ma staremo tutti meglio se riusciremo a concordare, a livello globale, quali siano le caratteristiche di evidenze solide, misure di salvaguardia efficaci e una buona supervisione.

Non abbiamo tutte le risposte e siamo apertissimi a qualsiasi idea migliore. Siamo pronti a collaborare con tutti voi e a impegnarci al massimo per individuare la strada da seguire.

Siamo a un bivio. Una strada conduce a un mondo in cui il potere è concentrato, le decisioni sono opache e le persone sentono che la tecnologia più importante della loro vita è qualcosa che viene loro imposto. L’altra strada conduce a un mondo in cui l’IA opera a beneficio delle persone perché sono le persone, attraverso le istituzioni democratiche, a contribuire a decidere come debba svilupparsi e a orientarla; in cui il progresso scientifico migliora concretamente la vita; in cui più persone possono partecipare al futuro; e in cui questa tecnologia continua a offrire agli individui e alle comunità più potere per vivere come desiderano. È un futuro di potenzialità realizzate, entusiasmo e meraviglia.

Ed è il futuro che, a nostro avviso, vale la pena costruire. Grazie di cuore.