L’IA ha il potenziale di migliorare significativamente molti aspetti della società.
Questa tecnologia, come altre prima di essa, darà alle persone maggiori capacità e autonomia; ciò che le persone potranno fare con l’IA supererà di gran lunga ciò che si poteva fare con i motori a vapore o l’elettricità.
Immaginiamo un mondo di prosperità diffusa a un livello che oggi è difficile persino immaginare, e un mondo in cui il potenziale individuale, l’autonomia e la realizzazione personale aumentino in modo significativo. Molte delle cose che ci siamo concessi di sognare solo nella fantascienza potrebbero diventare realtà, e la maggior parte delle persone potrebbe vivere vite più appaganti rispetto a oggi.
Tuttavia, questo scenario non deve essere dato per scontato. In futuro, il potere potrà essere detenuto o da un piccolo gruppo di aziende che usano e controllano la superintelligenza, oppure in modo decentralizzato dalle persone. Crediamo che la seconda opzione sia molto migliore e il nostro obiettivo è mettere un’IA davvero generale nelle mani del maggior numero possibile di persone. Come il presente, il futuro non sarà né del tutto negativo né del tutto positivo, ma le decisioni che prendiamo ora possono aiutare a massimizzare gli aspetti positivi.
La nostra missione è garantire che l’AGI vada a beneficio di tutta l’umanità. Ecco i principi che guidano il nostro lavoro.
1. Democratizzazione. Ci impegniamo a evitare che questa tecnologia concentri il potere nelle mani di pochi.
Questo significa che, oltre a dare a tutti accesso all’IA, dobbiamo assicurarci che le decisioni chiave sull’IA vengano prese tramite processi democratici e secondo principi egualitari, e non soltanto dai laboratori di IA.
2. Responsabilizzazione. Crediamo che l’IA possa mettere tutti nelle condizioni di raggiungere i propri obiettivi, imparare di più, essere più felici e realizzati e inseguire i propri sogni, e che la società nel suo complesso ne trarrà beneficio.
Per riuscirci, bisogna permettere alle persone di esplorare l’enorme potenziale che abbiamo davanti, e dobbiamo costruire prodotti che lo rendano possibile. Gli utenti dovrebbero poter portare a termine in modo affidabile compiti sempre più preziosi con i nostri servizi.
Il mondo è vario e le persone hanno esigenze diverse. Vogliamo dare ai nostri utenti l’autonomia di cui hanno bisogno e consentire quanto più possibile entro limiti ragionevoli.
Anche se vogliamo offrire ai nostri utenti un margine molto ampio su come usare i nostri servizi e crediamo fermamente che nel complesso l’IA sarà enormemente benefica, abbiamo la responsabilità di svilupparla e distribuirla in modo da ridurre al minimo i danni. Questo include naturalmente prevenire danni catastrofici, ma anche ridurre i danni locali ed evitare potenziali effetti corrosivi sulla società. Ciò significherà propendere per la cautela di fronte all’incertezza e allentare i vincoli man mano che avremo più prove.
3. Prosperità universale. Vogliamo un futuro in cui tutti possano vivere una vita piena.
Mettendo nelle mani di tutti sistemi di IA facili da usare e con grande potenza di calcolo, crediamo che le persone troveranno nuovi modi per generare valore e migliorare enormemente la qualità della vita di tutti, soprattutto grazie a nuove scoperte scientifiche.
Affinché la prosperità si realizzi pienamente e sia ampiamente condivisa, riteniamo che 1) i nostri governi potrebbero dover considerare nuovi modelli economici per garantire che tutti possano partecipare alla creazione di valore che ci attende e 2) dobbiamo costruire enormi quantità di infrastrutture per l’IA e sviluppare nuove tecnologie per ridurre drasticamente i costi di tali infrastrutture.
Molte delle cose che facciamo e che possono sembrare strane — acquistare enormi quantità di capacità di calcolo mentre i nostri ricavi sono relativamente modesti, integrarci verticalmente per ridurre i costi e rendere la nostra tecnologia più facile da usare, spingere per costruire datacenter in tutto il mondo e molto altro — sono guidate dalla nostra convinzione fondamentale in un futuro di prosperità universale.
4. Resilienza. L’IA introdurrà nuovi rischi, e lavoreremo con altre aziende, ecosistemi, governi e con la società per risolverli. Useremo in modo significativo le risorse della nostra Fondazione per sostenere questo lavoro.
Nessun laboratorio di IA può garantire da solo un buon futuro. Per fare un esempio evidente, potrebbero esserci modelli estremamente capaci che rendono più facile creare un nuovo patogeno, e abbiamo bisogno di un approccio che coinvolga l’intera società per difenderci da ciò con contromisure indipendenti dal patogeno. Per fare un altro esempio, con l’aumento delle capacità dei modelli in materia di cybersicurezza, dobbiamo usare rapidamente questi modelli per contribuire alla sicurezza del software open-source e delle infrastrutture critiche, addestrando al contempo i modelli ad aiutare tutti a creare software più sicuro.
Questa è un’estensione della nostra consolidata strategia di distribuzione iterativa; crediamo che la società debba confrontarsi con ogni successivo livello di capacità dell’IA, comprenderlo, integrarlo e individuare insieme il percorso migliore da seguire. Questo non può essere fatto nel vuoto; società e tecnologia coevolvono, e ciò richiede tempo.
Non intendiamo questo come la nostra unica strategia di sicurezza; dobbiamo anche realizzare sistemi sicuri e continuare a fare un ottimo lavoro sull’allineamento tecnico.
Ci aspettiamo che ci saranno periodi in cui dovremo collaborare con governi, agenzie internazionali e altri soggetti impegnati sull’AGI per assicurarci di aver risolto in misura sufficiente gravi problemi di allineamento, sicurezza o impatto sociale prima di proseguire ulteriormente con il nostro lavoro.
5. Adattabilità. Continuiamo a credere che l’unico modo per affrontare le sfide di un futuro molto imprevedibile sia essere pronti ad aggiornare le nostre posizioni man mano che impariamo di più. Riconosciamo anche che OpenAI è una forza nel mondo molto più grande di quanto fosse qualche anno fa, e saremo trasparenti su quando, come e perché i nostri principi operativi cambiano. Come esempio concreto, pur essendo piuttosto certi che la prosperità universale resterà davvero importante, possiamo immaginare periodi futuri in cui dovremo sacrificare parte della responsabilizzazione a favore di una maggiore resilienza.
Lo sviluppo dell’IA ha portato molte sorprese, e molte altre devono ancora arrivare. Con l’avanzare della tecnologia, i suoi comportamenti emergenti diventeranno sempre più difficili da prevedere. Abbracciamo questa incertezza facendo avanzare le capacità con attenzione, distribuendo i sistemi in modo iterativo e imparando dalle loro interazioni con il mondo.
Non è passato molto tempo da quando avevamo dubbi sull’opportunità di rilasciare i pesi di GPT‑2 perché non eravamo sicuri di quali sarebbero stati gli impatti sulla società. Ovviamente, col senno di poi, quella si è rivelata una preoccupazione fuori luogo, ma ci ha portati a scoprire la strategia della distribuzione iterativa, che è stata una delle cose più importanti che abbiamo capito.
__
Stiamo entrando in una fase di grande impatto mentre la tecnologia continua a migliorare. È del tutto legittimo criticarci per ogni decisione; meritiamo un enorme livello di scrutinio, dato il peso di ciò che stiamo facendo. Non faremo tutto nel modo giusto, ma impareremo rapidamente e correggeremo la rotta.
Ci impegniamo a fare la nostra parte per rendere il futuro migliore del passato; ci sentiamo fortunati a poter affrontare un lavoro così importante.
