API-ul OpenAI

Lansăm un API pentru a accesa noile modele AI dezvoltate de OpenAI. Spre deosebire de majoritatea sistemelor AI care sunt concepute pentru un singur caz de utilizare, API-ul oferă astăzi o interfață de uz general „text in, text out”, permițând utilizatorilor să o încerce practic la orice sarcină în limba engleză. Acum poți solicita acces pentru a integra API-ul în produsul tău, pentru a dezvolta o aplicație complet nouă sau pentru a ne ajuta să explorăm punctele forte și limitele acestei tehnologii.

Dată orice solicitare text, API-ul va returna o completare a textului, încercând să se potrivească cu modelul pe care i l-ai dat. Îl poți „programa” arătându-i doar câteva exemple despre ceea ce ai vrea să facă; succesul său variază, în general, în funcție de cât de complexă este sarcina. API-ul îți permite, de asemenea, să îmbunătățești performanța în sarcini specifice prin instruire pe un set de date (mic sau mare) de exemple pe care le furnizezi sau prin învățarea din feedback-ul uman oferit de utilizatori sau etichetatori.

Am conceput API-ul astfel încât să fie ușor de utilizat pentru oricine, dar și suficient de flexibil pentru a spori productivitatea echipelor de învățare automată. De fapt, multe dintre echipele noastre folosesc acum API-ul pentru a se concentra pe cercetarea învățării automate, mai degrabă decât pe problemele sistemelor distribuite. Astăzi, API-ul rulează modele cu ponderi din familia GPT‑3⁠(se deschide într-o fereastră nouă) cu multe îmbunătățiri ale vitezei și capacității. Învățarea automată evoluează foarte rapid, iar noi ne actualizăm constant tehnologia, astfel încât utilizatorii noștri să fie mereu la curent.

Ritmul de progres al domeniului înseamnă că există frecvent aplicații noi și surprinzătoare ale AI, atât pozitive, cât și negative. Vom întrerupe accesul la API pentru cazuri de utilizare evident dăunătoare, cum ar fi hărțuirea, spamul, radicalizarea sau astroturfingul. Dar știm și că nu putem anticipa toate consecințele posibile ale acestei tehnologii, așa că îl lansăm astăzi într-o versiune beta privată, în loc de disponibilitate generală, construind instrumente pentru a ajuta utilizatorii să controleze mai bine conținutul returnat de API-ul nostru și cercetând aspectele relevante pentru siguranță ale tehnologiei lingvistice (cum ar fi analiza, atenuarea și intervenția asupra prejudecăților dăunătoare). Vom împărtăși ceea ce învățăm, astfel încât utilizatorii noștri și comunitatea mai largă să poată construi sisteme AI mai pozitive pentru oameni.

Pe lângă faptul că este o sursă de venit care ne ajută să acoperim costurile⁠ în urmărirea misiunii noastre⁠, API-ul ne-a împins să ne concentrăm mai mult pe tehnologia AI de uz general - avansând tehnologia, făcând-o utilizabilă și luând în considerare impacturile acesteia în lumea reală. Sperăm că API-ul va reduce considerabil bariera⁠(se deschide într-o fereastră nouă) în calea producerii de produse benefice bazate pe AI, rezultând în instrumente și servicii greu de imaginat astăzi.

Interesat să explorezi API-ul? Alătură-te companiilor precum Algolia⁠(se deschide într-o fereastră nouă), Quizlet⁠(se deschide într-o fereastră nouă) și Reddit⁠(se deschide într-o fereastră nouă), precum și cercetătorilor de la instituții precum Institutul Middlebury⁠(se deschide într-o fereastră nouă) în versiunea noastră beta privată⁠(se deschide într-o fereastră nouă).

În cele din urmă, ceea ce ne interesează cel mai mult⁠ este să ne asigurăm că inteligența artificială generală aduce beneficii tuturor. Vedem dezvoltarea de produse comerciale ca pe una dintre modalitățile de a ne asigura că avem suficiente fonduri pentru a reuși.

De asemenea, credem că implementarea în siguranță a unor sisteme AI puternice în lume va fi dificil de realizat corect. Prin lansarea API-ului, colaborăm îndeaproape cu partenerii noștri pentru a observa ce provocări apar atunci când sistemele AI sunt utilizate în lumea reală. Acest lucru ne va ajuta să ne ghidăm eforturile pentru a înțelege cum va decurge implementarea viitoarelor sisteme AI și ce trebuie să facem pentru a ne asigura că acestea sunt sigure și benefice pentru toată lumea.

Există trei motive principale pentru care am făcut acest lucru. În primul rând, comercializarea tehnologiei ne ajută să plătim pentru cercetarea noastră continuă în domeniul AI, precum și pentru eforturile de siguranță și politici.

În al doilea rând, multe dintre modelele care stau la baza API-ului sunt foarte mari, necesitând multă expertiză pentru a fi dezvoltate și implementate, ceea ce le face foarte costisitoare de rulat. Acest lucru face dificil pentru oricine, cu excepția companiilor mari, să beneficieze de tehnologia de bază. Sperăm că API-ul va face sistemele AI puternice mai accesibile pentru afaceri și organizații mai mici.

În al treilea rând, modelul API ne permite să răspundem mai ușor la utilizarea abuzivă a tehnologiei. Deoarece este dificil să prezicem cazurile de utilizare ulterioare ale modelelor noastre, pare mai sigur să le lansăm printr-un API și să extindem accesul treptat, decât să lansăm un model open source unde accesul nu poate fi ajustat dacă se dovedește că are aplicații dăunătoare.

Cu GPT‑2, una dintre preocupările noastre principale a fost utilizarea rău intenționată a modelului (de exemplu, pentru dezinformare), ceea ce este dificil de prevenit odată ce un model este open source. Pentru API, putem preveni mai bine utilizarea abuzivă prin limitarea accesului la clienții și la cazurile de utilizare aprobate. Avem un proces obligatoriu de revizuire a producției înainte ca aplicațiile propuse să poată fi lansate. În cadrul revizuirilor de producție, evaluăm aplicațiile pe câteva axe, punând întrebări precum: Este acesta un caz de utilizare acceptat în prezent?, Cât de deschisă este aplicația?, Cât de riscantă este aplicația?, Cum plănuiești să abordezi potențialele utilizări necorespunzătoare? și Cine sunt utilizatorii finali ai aplicației tale?.

Oprirea accesului la API se face pentru cazurile de utilizare care cauzează (sau sunt destinate să cauzeze) daune fizice, emoționale sau psihologice persoanelor, inclusiv, dar nu limitat la, hărțuire, înșelăciune intenționată, radicalizare, astroturfing sau spam, precum și pentru aplicațiile care nu au măsuri de siguranță suficiente pentru a limita utilizarea abuzivă de către utilizatorii finali. Pe măsură ce câștigăm mai multă experiență în operarea API-ului în practică, vom rafina continuu categoriile de utilizare pe care le putem accepta, atât pentru a lărgi gama de aplicații pe care le putem accepta, cât și pentru a crea categorii mai detaliate pentru cele cu privire la care avem îngrijorări legate de utilizarea abuzivă.

Un factor cheie pe care îl luăm în considerare atunci când aprobăm utilizările API-ului este măsura în care o aplicație prezintă un comportament deschis sau constrâns în raport cu capacitățile generative subiacente ale sistemului. Aplicațiile deschise ale API-ului (adică cele care activează generarea fără efort a unor cantități mari de text personalizabil prin solicitări arbitrare) sunt deosebit de susceptibile la utilizare abuzivă. Constrângerile care pot face cazurile de utilizare generative mai sigure includ proiectarea de sisteme care mențin un om în buclă, restricțiile de acces ale utilizatorului final, post-procesarea rezultatelor, filtrarea conținutului, limitările de lungime a intrărilor/ieșirilor, monitorizarea activă și limitările de actualitate.

De asemenea, continuăm să desfășurăm cercetări asupra potențialelor utilizări abuzive ale modelelor furnizate de API, inclusiv cu cercetători terți prin intermediul programului nostru de acces academic⁠(se deschide într-o fereastră nouă). Începem cu un număr foarte limitat de cercetători în acest moment și avem deja câteva rezultate de la partenerii noștri academici de la Institutul Middlebury⁠(se deschide într-o fereastră nouă), Universitatea din Washington și Institutul Allen pentru AI⁠(se deschide într-o fereastră nouă). Avem deja zeci de mii de aplicanți pentru acest program și în prezent prioritizăm aplicațiile axate pe cercetarea echității și reprezentării.

Atenuarea efectelor negative, cum ar fi prejudecățile dăunătoare, este o problemă dificilă și extrem de importantă la nivelul întregii industrii. Așa cum discutăm în documentul GPT‑3⁠(se deschide într-o fereastră nouă) și fișa modelului⁠(se deschide într-o fereastră nouă), modelele noastre API prezintă prejudecăți care se vor reflecta în textul generat. Iată pașii pe care îi facem pentru a rezolva aceste probleme:

• Am dezvoltat ghiduri de utilizare care îi ajută pe dezvoltatori să înțeleagă și să abordeze potențialele probleme de siguranță.
• Lucrăm îndeaproape cu utilizatorii pentru a le înțelege cazurile de utilizare și pentru a dezvolta instrumente care să identifice și să intervină pentru a reduce prejudecățile dăunătoare.
• Desfășurăm propriile cercetări privind manifestările de prejudecăți dăunătoare și probleme mai ample legate de corectitudine și reprezentare, ceea ce ne va ajuta să ne informăm munca printr-o documentare îmbunătățită a modelelor existente, precum și prin diverse îmbunătățiri ale modelelor viitoare.
• Recunoaștem că prejudecățile sunt o problemă care se manifestă la intersecția dintre un sistem și un context implementat; aplicațiile construite cu tehnologia noastră sunt sisteme socio-tehnice, așa că lucrăm cu dezvoltatorii noștri pentru a ne asigura că implementează procese adecvate și sisteme cu implicare umană pentru a monitoriza comportamentul advers.

Scopul nostru este să continuăm să dezvoltăm înțelegerea noastră asupra potențialelor daune ale API-ului în fiecare context de utilizare și să îmbunătățim continuu instrumentele și procesele noastre pentru a ajuta la minimizarea acestora.

Actualizat în 18 septembrie 2020