API d’OpenAI

Llançem una API per accedir als nous models d’IA desenvolupats per OpenAI. A diferència de la majoria dels sistemes d’IA, que estan dissenyats per a un únic cas d’ús, avui l’API ofereix una interfície de propòsit general de «text d’entrada, text de sortida», que permet als usuaris provar-la en pràcticament qualsevol tasca en anglès. Ara podeu sol·licitar accés per integrar l’API al vostre producte, desenvolupar una aplicació completament nova o ajudar-nos a explorar els punts forts i els límits d’aquesta tecnologia.

Davant de qualsevol indicació de text, l’API retornarà una compleció de text i intentarà ajustar-se al patró que li hàgiu donat. La podeu «programar» mostrant-li només uns quants exemples del que voldríeu que fes; en general, el seu èxit varia en funció de la complexitat de la tasca. L’API també us permet millorar el rendiment en tasques específiques mitjançant l’entrenament amb un conjunt de dades (petit o gran) d’exemples que proporcioneu, o bé aprenent de la retroalimentació humana facilitada per usuaris o etiquetadors.

Hem dissenyat l’API perquè sigui alhora senzilla d’utilitzar per a tothom i prou flexible per fer més productius els equips d’aprenentatge automàtic. De fet, molts dels nostres equips ara fan servir l’API per poder centrar-se en la recerca en aprenentatge automàtic en lloc dels problemes de sistemes distribuïts. Avui, l’API executa models amb pesos de la família GPT‑3⁠(s'obre en una finestra nova) amb moltes millores de velocitat i rendiment. L’aprenentatge automàtic avança molt ràpidament, i actualitzem constantment la nostra tecnologia perquè els nostres usuaris estiguin sempre al dia.

El ritme de progrés del sector fa que sovint apareguin noves aplicacions sorprenents de la IA, tant positives com negatives. Posarem fi a l’accés a l’API per a casos d’ús clarament perjudicials, com ara l’assetjament, el correu brossa, la radicalització o l’astroturfing. Però també sabem que no podem anticipar totes les conseqüències possibles d’aquesta tecnologia, per això avui la llancem en beta privada en lloc de posar-la a disposició general, desenvolupem eines perquè els usuaris controlin millor el contingut que retorna la nostra API i investiguem aspectes de la tecnologia del llenguatge rellevants per a la seguretat (com ara l’anàlisi, la mitigació i la intervenció sobre els biaixos perjudicials). Compartirem allò que aprenguem perquè els nostres usuaris i la comunitat en general puguin construir sistemes d’IA més positius per a les persones.

A més de ser una font d’ingressos que ens ajuda a cobrir costos⁠ en la persecució de la nostra missió⁠, l’API ens ha empès a afinar el nostre focus en la tecnologia d’IA de propòsit general: avançar la tecnologia, fer-la utilitzable i considerar-ne els impactes en el món real. Esperem que l’API redueixi molt la barrera⁠(s'obre en una finestra nova) per crear productes beneficiosos impulsats per IA, cosa que donarà lloc a eines i serveis que avui són difícils d’imaginar.

Us interessa explorar l’API? Uniu-vos a empreses com Algolia⁠(s'obre en una finestra nova), Quizlet⁠(s'obre en una finestra nova) i Reddit⁠(s'obre en una finestra nova), i a investigadors d’institucions com el Middlebury Institute⁠(s'obre en una finestra nova) a la nostra beta privada⁠(s'obre en una finestra nova).

En darrer terme, allò que més ens importa⁠ és garantir que la intel·ligència artificial general beneficiï tothom. Veiem el desenvolupament de productes comercials com una de les maneres d’assegurar-nos que tenim prou finançament per tenir èxit.

També creiem que desplegar de manera segura sistemes d’IA potents al món serà difícil de fer bé. Amb el llançament de l’API, treballem estretament amb els nostres socis per veure quins reptes sorgeixen quan els sistemes d’IA s’utilitzen al món real. Això ajudarà a orientar els nostres esforços per entendre com anirà el desplegament de futurs sistemes d’IA i què hem de fer per assegurar-nos que siguin segurs i beneficiosos per a tothom.

Hi ha tres motius principals pels quals ho vam fer. En primer lloc, comercialitzar la tecnologia ens ajuda a finançar els nostres esforços continus en recerca d’IA, seguretat i polítiques públiques.

En segon lloc, molts dels models subjacents a l’API són molt grans, i requereixen molta expertesa per desenvolupar-los i desplegar-los, a més de resultar molt cars d’executar. Això fa difícil que ningú excepte les empreses més grans es pugui beneficiar de la tecnologia subjacent. Confiem que l’API farà que els sistemes d’IA potents siguin més accessibles per a empreses i organitzacions més petites.

En tercer lloc, el model d’API ens permet respondre més fàcilment a l’ús indegut de la tecnologia. Com que és difícil predir els casos d’ús finals dels nostres models, ens sembla intrínsecament més segur publicar-los mitjançant una API i ampliar-hi l’accés amb el temps, en lloc de publicar un model de codi obert en què l’accés no es pugui ajustar si resulta que té aplicacions perjudicials.

Amb GPT‑2, una de les nostres preocupacions principals era l’ús maliciós del model (per exemple, per a la desinformació), cosa que és difícil de prevenir un cop el model és de codi obert. Amb l’API, podem prevenir millor els usos indeguts limitant l’accés a clients i casos d’ús aprovats. Tenim un procés obligatori de revisió de producció abans que les aplicacions proposades es puguin posar en marxa. En aquestes revisions, avaluem les aplicacions segons diversos eixos i plantegem preguntes com ara: És aquest un cas d’ús actualment admès?, Fins a quin punt és oberta l’aplicació?, Quin risc presenta l’aplicació?, Com penseu abordar el possible ús indegut? i Qui són els usuaris finals de la vostra aplicació?.

Posem fi a l’accés a l’API per als casos d’ús que es considera que causen (o pretenen causar) dany físic, emocional o psicològic a les persones, incloent-hi, entre d’altres, l’assetjament, l’engany intencionat, la radicalització, l’astroturfing o el correu brossa, així com les aplicacions que no tenen prou mesures de protecció per limitar l’ús indegut per part dels usuaris finals. A mesura que guanyem més experiència operant l’API a la pràctica, anirem refinant contínuament les categories d’ús que podem admetre, tant per ampliar la gamma d’aplicacions que podem donar suport com per crear categories més detallades per a aquelles sobre les quals tenim preocupacions d’ús indegut.

Un factor clau que tenim en compte a l’hora d’aprovar usos de l’API és fins a quin punt una aplicació mostra un comportament obert o restringit pel que fa a les capacitats generatives subjacents del sistema. Les aplicacions obertes de l’API (és a dir, les que permeten generar sense fricció grans quantitats de text personalitzable mitjançant indicacions arbitràries) són especialment susceptibles d’ús indegut. Entre les restriccions que poden fer més segurs els casos d’ús generatius hi ha un disseny del sistema que mantingui una persona dins del procés, restriccions d’accés per a l’usuari final, postprocessament de les sortides, filtratge de contingut, limitacions de longitud d’entrada/sortida, monitoratge actiu i limitacions temàtiques.

També continuem investigant els possibles usos indeguts dels models servits per l’API, inclòs amb investigadors externs a través del nostre programa d’accés acadèmic⁠(s'obre en una finestra nova). En aquest moment comencem amb un nombre molt limitat d’investigadors i ja tenim alguns resultats dels nostres socis acadèmics al Middlebury Institute⁠(s'obre en una finestra nova), la University of Washington i l’Allen Institute for AI⁠(s'obre en una finestra nova). Ja tenim desenes de milers de sol·licitants per a aquest programa i actualment prioritzem les sol·licituds centrades en la recerca sobre equitat i representació.

Mitigar efectes negatius com ara els biaixos perjudicials és un repte difícil, compartit per tot el sector, i extremadament important. Tal com expliquem a l’article sobre GPT‑3⁠(s'obre en una finestra nova) i a la fitxa del model⁠(s'obre en una finestra nova), els nostres models d’API mostren biaixos que es reflectiran en el text generat. Aquests són els passos que estem fent per abordar aquests problemes:

• Hem elaborat directrius d’ús que ajuden els desenvolupadors a entendre i abordar possibles problemes de seguretat.
• Treballem estretament amb els usuaris per entendre els seus casos d’ús i desenvolupar eines per detectar i intervenir per mitigar els biaixos perjudicials.
• Estem duent a terme la nostra pròpia recerca sobre les manifestacions dels biaixos perjudicials i sobre qüestions més àmplies d’equitat i representació, que ajudaran a orientar la nostra feina mitjançant una millor documentació dels models existents, així com diverses millores en els models futurs.
• Reconeixem que el biaix és un problema que es manifesta a la intersecció entre un sistema i un context de desplegament; les aplicacions creades amb la nostra tecnologia són sistemes sociotècnics, i per això treballem amb els nostres desenvolupadors per assegurar-nos que estableixen processos adequats i sistemes amb supervisió humana per monitorar comportaments adversos.

El nostre objectiu és continuar aprofundint en la comprensió dels danys potencials de l’API en cada context d’ús, i millorar contínuament les nostres eines i processos per ajudar a minimitzar-los.

Actualitzat el 18 de setembre de 2020