API OpenAI

Stiamo rilasciando un’API per l’accesso ai nuovi modelli di intelligenza artificiale sviluppati da OpenAI. A differenza della maggior parte dei sistemi di IA, progettati per un unico caso d’uso, l’API fornisce oggi un’interfaccia “testo in entrata, testo in uscita” di uso generale, che consente agli utenti di applicarla praticamente a qualsiasi attività in lingua inglese. Ora puoi richiedere l’accesso per integrare l’API nel tuo prodotto, sviluppare un’applicazione completamente nuova o aiutarci a esplorare i punti di forza e i limiti di questa tecnologia.

Dato un qualsiasi prompt testuale, l’API restituirà un completamento del testo, tentando di replicare il modello fornito. Puoi “programmarla” mostrandole solo alcuni esempi di ciò che desideri che faccia; il suo successo varia generalmente a seconda della complessità dell’attività. L’API consente inoltre di perfezionare le prestazioni su attività specifiche tramite l’addestramento su un set di dati (piccolo o grande) di esempi forniti da te, oppure imparando dal feedback umano fornito da utenti o valutatori.

Abbiamo progettato l’API in modo che sia semplice da usare per chiunque, ma anche sufficientemente flessibile da rendere più produttivi i team di machine learning. In effetti, molti dei nostri team ora utilizzano l’API per concentrarsi sulla ricerca nel machine learning anziché sui problemi legati ai sistemi distribuiti. Oggi l’API esegue modelli con pesi della famiglia GPT‑3⁠(si apre in una nuova finestra), con numerosi miglioramenti in termini di velocità e produttività. Il machine learning si sta evolvendo molto rapidamente e aggiorniamo costantemente la nostra tecnologia in modo che gli utenti rimangano aggiornati.

Il ritmo dei progressi in questo campo implica che spesso emergano nuove e sorprendenti applicazioni dell’IA, sia positive che negative. Interromperemo l’accesso all’API per casi d’uso palesemente dannosi, come molestie, spam, radicalizzazione o astroturfing. Sappiamo però di non poter prevedere tutte le possibili conseguenze di questa tecnologia, perciò oggi la lanciamo in beta privata anziché in disponibilità generale, sviluppando strumenti per aiutare gli utenti a controllare meglio i contenuti restituiti dalla nostra API e studiando gli aspetti di sicurezza della tecnologia linguistica (come l’analisi, la mitigazione e l’intervento sui pregiudizi dannosi). Condivideremo i risultati ottenuti in modo che i nostri utenti e l’intera comunità possano creare sistemi di IA più a misura d’uomo.

Oltre a rappresentare una fonte di ricavi che ci aiuta a coprire i costi⁠ nel perseguire la nostra missione, l’API ci ha spinto a focalizzare la nostra attenzione sulla tecnologia IA a uso generale, facendola progredire, rendendola utilizzabile e considerando il suo impatto nel mondo reale. Ci auguriamo che l’API riduca notevolmente la barriera⁠(si apre in una nuova finestra) alla produzione di prodotti utili basati sull’IA, dando vita a strumenti e servizi oggi difficili da immaginare.

Ti interessa esplorare l’API? Unisciti ad aziende come Algolia⁠(si apre in una nuova finestra), Quizlet⁠(si apre in una nuova finestra) e Reddit⁠(si apre in una nuova finestra) e a ricercatori di istituti come il Middlebury Institute⁠(si apre in una nuova finestra) partecipando alla nostra beta privata⁠(si apre in una nuova finestra).

In definitiva, ciò che più ci sta a cuore⁠ è garantire che l’intelligenza artificiale generale porti benefici a tutti. Riteniamo che lo sviluppo di prodotti commerciali sia un modo per assicurarci i fondi necessari a raggiungere questo obiettivo.

Crediamo inoltre che distribuire sistemi di IA potenti in modo sicuro e corretto sarà una sfida complessa. Nel rilasciare l’API, lavoriamo a stretto contatto con i nostri partner per individuare le sfide che emergono quando i sistemi di IA vengono utilizzati nel mondo reale. Questo ci aiuterà a orientare i nostri sforzi per capire come andrà l’implementazione dei futuri sistemi di IA e cosa dobbiamo fare per garantire che siano sicuri e utili per tutti.

Lo abbiamo fatto per tre motivi principali. In primo luogo, commercializzare la tecnologia ci aiuta a finanziare la nostra continua attività di ricerca sull’IA, nonché gli sforzi in ambito di sicurezza e policy.

In secondo luogo, molti dei modelli alla base dell’API sono molto complessi, richiedono competenze avanzate per essere sviluppati e implementati e comportano costi operativi elevati. Questo rende difficile per chiunque, tranne che per le grandi aziende, accedere ai benefici offerti dalla tecnologia di base. Ci auguriamo che l’API possa rendere i sistemi di IA avanzata più accessibili alle piccole imprese e organizzazioni.

In terzo luogo, il modello API ci consente di intervenire più facilmente in caso di uso improprio della tecnologia. Poiché è difficile prevedere i casi d’uso a valle dei nostri modelli, riteniamo sia intrinsecamente più sicuro rilasciarli tramite un’API e ampliare l’accesso nel tempo, piuttosto che rilasciare un modello open source per il quale non sarebbe possibile regolare l’accesso qualora si rivelasse avere applicazioni dannose.

Con GPT‑2, una delle nostre principali preoccupazioni era l’uso malevolo del modello (ad esempio, per la disinformazione), che risulta difficile da prevenire una volta che un modello viene rilasciato come open source. Con l’API, siamo invece in grado di prevenire meglio l’uso improprio, limitando l’accesso ai clienti e ai casi d’uso approvati. Seguiamo un processo obbligatorio di revisione della produzione prima che le applicazioni proposte possano essere rese operative. Durante questo processo, valutiamo le applicazioni su diversi fronti, ponendo domande come: Il caso d’uso è attualmente supportato?, Quanto è aperta l’applicazione?, Quanto è rischiosa l’applicazione?, Come si prevede di gestire eventuali usi impropri? e Chi sono gli utenti finali dell’applicazione?.

Interrompiamo l’accesso all’API per i casi d’uso che risultano causare (o sono intesi a causare) danni fisici, emotivi o psicologici alle persone, inclusi, a titolo esemplificativo, molestie, inganno intenzionale, radicalizzazione, astroturfing o spam, nonché per applicazioni prive di adeguate misure di sicurezza per limitare l’uso improprio da parte degli utenti finali. Man mano che acquisiamo maggiore esperienza nell’utilizzo pratico dell’API, continueremo a perfezionare le categorie di utilizzo che possiamo supportare, sia per ampliare la gamma di applicazioni possibili, sia per creare categorie più dettagliate per quelle per cui nutriamo preoccupazioni circa un uso improprio.

Un fattore chiave che consideriamo nell’approvare gli utilizzi dell’API è la misura in cui un’applicazione mostra un comportamento aperto rispetto a uno più vincolato, per quanto riguarda le capacità generative sottostanti del sistema. Le applicazioni aperte dell’API (ovvero quelle che consentono la generazione agevole di grandi quantità di testo personalizzabile tramite prompt arbitrari) sono particolarmente suscettibili di uso improprio. I vincoli che possono rendere più sicuri i casi d’uso generativi includono una progettazione di sistema che mantiene un intervento umano nel ciclo, restrizioni di accesso agli utenti finali, post-elaborazione degli output, filtraggio dei contenuti, limitazioni sulla lunghezza di input/output, monitoraggio attivo e limitazioni tematiche.

Stiamo inoltre continuando a condurre ricerche sui potenziali usi impropri dei modelli erogati tramite l’API, anche con ricercatori terzi tramite il nostro programma di accesso accademico⁠(si apre in una nuova finestra). Al momento stiamo iniziando con un numero molto limitato di ricercatori e abbiamo già ottenuto alcuni risultati dai nostri partner accademici presso il Middlebury Institute⁠(si apre in una nuova finestra), l’Università di Washington e l’Allen Institute for AI⁠(si apre in una nuova finestra). Abbiamo già ricevuto decine di migliaia di candidature per questo programma e attualmente stiamo dando priorità alle domande incentrate sulla ricerca in materia di equità e rappresentazione.

Mitigare gli effetti negativi come i pregiudizi dannosi è una sfida complessa ed estremamente importante che riguarda l’intero settore. Come discusso nel paper su GPT‑3⁠(si apre in una nuova finestra) e nella scheda del modello⁠(si apre in una nuova finestra), i nostri modelli API presentano pregiudizi che si riflettono nel testo generato. Ecco le misure che stiamo adottando per affrontare questi problemi:

• Abbiamo sviluppato linee guida per l’utilizzo che aiutano gli sviluppatori a comprendere e affrontare potenziali problemi di sicurezza.
• Lavoriamo a stretto contatto con gli utenti per comprendere i loro casi d’uso e sviluppare strumenti per far emergere e mitigare i pregiudizi dannosi.
• Conduciamo ricerche interne sulle manifestazioni di pregiudizi dannosi e su questioni più ampie di equità e rappresentazione, che supporteranno il nostro lavoro attraverso una migliore documentazione dei modelli esistenti e vari miglioramenti ai modelli futuri.
• Riconosciamo che il pregiudizio è un problema che emerge dall’interazione tra il sistema e il contesto d’uso; le applicazioni create con la nostra tecnologia sono sistemi sociotecnici, quindi collaboriamo con i nostri sviluppatori per garantire che implementino processi appropriati e sistemi con supervisione umana per monitorare i comportamenti problematici.

Il nostro obiettivo è continuare a sviluppare la nostra comprensione dei potenziali danni dell’API in ogni contesto d’uso, migliorando continuamente i nostri strumenti e processi per contribuire a ridurli al minimo.

Aggiornato il 18 settembre 2020