OpenAI API

Toome turule API, mis võimaldab juurdepääsu OpenAI poolt välja töötatud uutele tehisintellekti mudelitele. Erinevalt enamikust tehisintellektisüsteemidest, mis on loodud üheks kasutusjuhtumiks, pakub API tänapäeval üldotstarbelist „text in, text out” liidest, võimaldades kasutajatel seda proovida praktiliselt igal ingliskeelsel ülesandel. Nüüd võid taotleda juurdepääsu, et integreerida API oma tootesse, arendada täiesti uus rakendus või aidata meil tutvuda selle tehnoloogia tugevuste ja piiridega.

Kui annad API-le mis tahes viiba, tagastab see tekstilise lõpetuse, püüdes sobitada antud mustrit. Sa võid seda "programmeerida", näidates sellele vaid mõnda näidet sellest, mida sa tahaksid, et see teeks; selle edu varieerub üldiselt sõltuvalt ülesande keerukusest. API võimaldab sul ka konkreetsete ülesannete jõudlust lihvida, koolitades sinu esitatud näidete andmekogumil (väiksel või suurel) või õppides kasutajate või sildistajate antud tagasiside põhjal.

Oleme loonud API, mis on kõigile lihtne kasutada, kuid samas piisavalt paindlik, et suurendada masinõppe meeskondade tootlikkust. Tegelikult kasutavad paljud meie meeskonnad nüüd API-t, et nad saaksid keskenduda masinõppe uuringutele, mitte hajutatud süsteemide probleemidele. Tänapäeval käitab API-mudeleid GPT‑3⁠(avaneb uues aknas) perekonna kaaludega, millel on palju kiiruse ja läbilase parandusi. Masinõpe areneb väga kiiresti ja me uuendame pidevalt oma tehnoloogiat, et meie kasutajad oleksid kursis.

Valdkonna arengutempo tähendab, et sageli ilmnevad tehisintellekti uued üllatavad rakendused, nii positiivsed kui ka negatiivsed. Lõpetame API juurdepääsu ilmselgelt kahjulike kasutusjuhtumite korral, nagu ahistamine, rämpspost, radikaliseerumine või astroturfing. Kuid me teame ka, et me ei saa ette näha kõiki selle tehnoloogia võimalikke tagajärgi, seega käivitame selle täna privaatses beetas, mitte üldiselt kättesaadavaks tehes, luues tööriistu, mis aitavad kasutajatel paremini kontrollida meie API tagastatavat sisu, ning uurime keeletehnoloogia ohutusega seotud aspekte (näiteks kahjuliku eelarvamuse analüüsimine, leevendamine ja sekkumine). Jagame oma teadmisi, et meie kasutajad ja laiem kogukond saaksid luua inimkesksemaid tehisintellektisüsteeme.

Lisaks sellele, et API on tuluallikas, mis aitab meil kulusid katta⁠ meie missiooni⁠ elluviimisel, on see ajendanud meid teravdama keskendumist üldotstarbelisele tehisintellekti tehnoloogiale – tehnoloogia arendamisele, selle kasutatavaks muutmisele ja selle mõju arvestamisele reaalses maailmas. Loodame, et API vähendab oluliselt tehisintellektil põhinevate kasulike toodete loomise barjääri⁠(avaneb uues aknas), mille tulemuseks on tööriistad ja teenused, mida on tänapäeval raske ette kujutada.

Oled huvitatud API-ga tutvumisest? Liitu selliste ettevõtetega nagu Algolia⁠(avaneb uues aknas), Quizlet⁠(avaneb uues aknas) ja Reddit⁠(avaneb uues aknas) ning teadlastega sellistes institutsioonides nagu Middlebury Institute⁠(avaneb uues aknas) meie privaatses beetas⁠(avaneb uues aknas).

Lõppkokkuvõttes on meile kõige olulisem⁠ tagada, et üldine tehisintellekt tooks kasu kõigile. Meie arvates on kommertstoodete arendamine üks viisidest, kuidas tagada piisav rahastus, et õnnestuda.

Usume ka, et võimsate tehisintellekti süsteemide ohutu juurutamine maailmas on keeruline õigesti teha. API avaldamisel teeme tihedat koostööd oma partneritega, et näha, millised väljakutsed tekivad, kui tehisintellekti süsteeme kasutatakse reaalses maailmas. See aitab suunata meie pingutusi mõistmaks, kuidas tulevaste tehisintellekti süsteemide juurutamine kulgeb ja mida peame tegema, et need oleksid kõigile ohutud ja kasulikud.

Sellel on kolm peamist põhjust. Esiteks aitab tehnoloogia turustamine meil rahastada oma käimasolevaid tehisintellekti uuringuid, ohutust ja poliitikaga seotud jõupingutusi.

Teiseks on paljud API aluseks olevad mudelid väga suured, nende arendamine ja juurutamine nõuab palju oskusteavet ning nende käitamine on väga kallis. See raskendab kõigil peale suuremate ettevõtete alustehnoloogiast kasu saamist. Loodame, et API teeb võimsad tehisintellekti süsteemid väiksematele ettevõtetele ja organisatsioonidele kättesaadavamaks.

Kolmandaks võimaldab API-mudel meil tehnoloogia väärkasutamisele hõlpsamini reageerida. Kuna meie mudelite edasisi kasutusjuhtumeid on raske ennustada, tundub loomupäraselt turvalisem need API kaudu välja anda ja aja jooksul juurdepääsu laiendada, selle asemel, et avaldada avatud lähtekoodiga mudel, kus juurdepääsu ei saa kohandada, kui selgub, et sellel on kahjulikke rakendusi.

GPT‑2 puhul oli üks meie peamisi murekohti mudeli pahatahtlik kasutamine (nt desinformatsiooni levitamiseks), mida on avatud lähtekoodiga mudeli puhul raske ära hoida. API puhul suudame väärkasutust paremini ära hoida, piirates juurdepääsu kiidetud heaks klientidele ja kasutusjuhtumitele. Meil on kohustuslik tootmisülevaatuse protsess, enne kui pakutud rakendused saavad avalikuks. Tootmisülevaadete käigus hindame rakendusi mitmel teljel, esitades selliseid küsimusi nagu: Kas see on praegu toetatud kasutusjuhtum?, Kui avatud on rakendus?, Kui riskantne on rakendus?, Kuidas kavatsed võimaliku väärkasutusega toime tulla? ja Kes on sinu rakenduse lõppkasutajad?

Me lõpetame API juurdepääsu kasutusjuhtudel, mis põhjustavad (või on ette nähtud põhjustama) inimestele füüsilist, emotsionaalset või psühholoogilist kahju, sealhulgas, kuid mitte ainult, ahistamist, tahtlikku pettust, radikaliseerimist, astroturfingut või rämpsposti, samuti rakenduste puhul, millel puuduvad piisavad kaitsemeetmed lõppkasutajate väärkasutuse piiramiseks. Kuna saame API praktikas kasutamisel rohkem kogemusi, täiustame pidevalt kasutuskategooriaid, mida suudame tugi pakkuda, et laiendada tugi rakenduste valikut ja loo peeneteralisemaid kategooriaid nende jaoks, kelle puhul on meil väärkasutuse mure.

Üks võtmetegur, mida me API kasutusviiside heakskiitmisel arvestame, on see, mil määral rakendus käitub avatud või piiratud viisil süsteemi aluseks olevate generatiivsete võimete osas. API avatud otstarbega rakendused (st need, mis lubavad suvaliste viipade kaudu hõlpsalt suures koguses kohandatavat teksti genereerida) on eriti vastuvõtlikud väärkasutusele. Piirangud, mis võivad muuta generatiivsed kasutusjuhtumid turvalisemaks, hõlmavad süsteemidisaini, mis hoiab inimese protsessis, kasutaja juurdepääsupiiranguid, väljundite järeltöötlust, sisu filtreerimist, sisendi/väljundi pikkuse piiranguid, aktiivset jälgimist ja aktuaalsuse piiranguid.

Samuti jätkame uurimistööd API kaudu pakutavate mudelite võimaliku väärkasutuse kohta, sealhulgas koostöös kolmandate osapoolte teadlastega meie akadeemilise juurdepääsu programmi⁠(avaneb uues aknas) kaudu. Alustame praegu väga piiratud arvu teadlastega ja meil on juba mõned tulemused meie akadeemilistelt partneritelt Middlebury Institute⁠(avaneb uues aknas), Washingtoni Ülikoolist ja Allen Institute for AI⁠(avaneb uues aknas). Meil on selle programmi jaoks juba kümneid tuhandeid taotlejaid ja praegu eelistame rakendusi, mis keskenduvad õigluse ja esindatuse uurimisele.

Negatiivsete mõjude, nagu kahjuliku eelarvamuse, leevendamine on keeruline ja kogu tööstusharu hõlmav probleem, mis on äärmiselt oluline. Nagu me GPT‑3 artiklis⁠(avaneb uues aknas) ja mudelikaardis⁠(avaneb uues aknas) arutame, on meie API-mudelitel eelarvamusi, mis kajastuvad koostatud tekstis. Siin on sammud, mida me nende probleemide lahendamiseks astume:

• Oleme välja töötanud kasutusjuhised, mis aitavad arendajatel mõista ja lahendada võimalikke ohutusprobleeme.
• Teeme kasutajatega tihedat koostööd, et mõista nende kasutusjuhtumeid ja töötada välja tööriistad, mis aitavad tuvastada ja sekkuda kahjulike eelarvamuste leevendamiseks.
• Viime läbi oma uuringuid kahjuliku kallutatuse ilmingute ning õigluse ja esindatuse laiemate probleemide kohta, mis aitavad meie tööd suunata olemasolevate mudelite parema dokumenteerimise ja tulevaste mudelite mitmesuguste täiustuste kaudu.
• Me mõistame, et eelarvamus on probleem, mis ilmneb süsteemi ja juurutatud konteksti ristumiskohas; meie tehnoloogia abil loodud rakendused on sotsiaaltehnilised süsteemid, seega teeme oma arendajatega koostööd, et tagada sobivate protsesside ja inimkesksete süsteemide rakendamine ebasoodsa käitumise jälgimiseks.

Meie eesmärk on jätka arusaama arendamist API võimalikest kahjudest igas kasutuskontekstis ning pidevalt täiustada oma tööriistu ja protsesse, et neid minimeerida.

Uuendatud 18. septembril 2020