„OpenAI“ API

Išleidžiame API, skirtą naudotis prieiga prie naujų „OpenAI“ sukurtų DI modelių. Skirtingai nei dauguma DI sistemų, sukurtų vienam naudojimo atvejui, šiandien API suteikia bendrosios paskirties sąsają „tekstas įvedamas, tekstas išvedamas“, leidžiančią naudotojams išbandyti ją beveik bet kuriai užduočiai anglų kalba. Dabar galite prašyti prieigos, norėdami integruoti API į savo produktą, sukurti visiškai naują programą arba padėti mums tyrinėti šios technologijos stipriąsias puses ir ribas.

Pateikus bet kokį teksto raginimą, API grąžins teksto tęsinį, bandydama atitikti jūsų pateiktą šabloną. Galite jį „užprogramuoti“, parodydami vos kelis pavyzdžius, ką norėtumėte, kad jis darytų; sėkmė paprastai priklauso nuo užduoties sudėtingumo. API taip pat leidžia tobulinti konkrečių užduočių atlikimą mokant naudojant jūsų pateiktą pavyzdžių duomenų rinkinį (mažą ar didelį) arba mokantis iš naudotojų ar žymėtojų pateiktų atsiliepimų.

API sukūrėme taip, kad ja būtų paprasta naudotis bet kam, bet kartu ji būtų pakankamai lanksti, kad padidintų mašininio mokymo komandų darbo našumą. Tiesą sakant, daugelis mūsų komandų dabar naudoja API, kad galėtų sutelkti dėmesį į mašininio mokymo tyrimus, o ne į paskirstytųjų sistemų problemas. Šiandien API veikia modeliai su svoriais iš GPT‑3⁠(atsidaro naujame lange) grupės, pasižymintys daugeliu greičio ir pralaidumo patobulinimų. Mašininis mokymas vystosi labai sparčiai, todėl nuolat atnaujiname savo technologiją, kad naudotojai gautų naujausią informaciją.

Srities pažangos tempas lemia, kad dažnai atsiranda stebinančių naujų DI programų – tiek teigiamų, tiek neigiamų. Nutrauksime API prieigą akivaizdžiai žalingiems naudojimo atvejams, tokiems kaip priekabiavimas, brukalas, radikalizacija ar apsimestinis palaikymas. Tačiau taip pat žinome, kad negalime numatyti visų galimų šios technologijos pasekmių, todėl šiandien pradedame nuo privačios beta versijos, o ne bendro prieinamumo, kurdami įrankius, padedančius naudotojams geriau valdyti API grąžinamą turinį, ir tyrinėdami su sauga susijusius kalbos technologijų aspektus (pavyzdžiui, žalingo šališkumo analizę, mažinimą ir priemonių prieš jį taikymą). Dalysimės tuo, ką sužinosime, kad mūsų naudotojai ir platesnė bendruomenė galėtų kurti žmogui palankesnes DI sistemas.

API ne tik yra pajamų šaltinis, padedantis mums padengti išlaidas⁠ siekiant savo misijos⁠, bet ir paskatino mus sutelkti dėmesį į bendrosios paskirties DI technologiją – jos tobulinimą, pritaikymą naudoti ir poveikio realiame pasaulyje vertinimą. Tikimės, kad API gerokai sumažins kliūtis⁠(atsidaro naujame lange) kurti naudingus DI produktus, todėl atsiras įrankių ir paslaugų, kuriuos šiandien sunku įsivaizduoti.

Norite patyrinėti API? Prisijunkite prie tokių įmonių kaip „Algolia“⁠(atsidaro naujame lange), „Quizlet“⁠(atsidaro naujame lange) bei „Reddit“⁠(atsidaro naujame lange) ir tokių institucijų kaip „Middlebury Institute“⁠(atsidaro naujame lange) tyrėjų mūsų privačioje⁠(atsidaro naujame lange) beta versijoje.

Galiausiai mums labiausiai rūpi⁠ užtikrinti, kad bendrasis dirbtinis intelektas būtų naudingas visiems. Komercinių produktų kūrimą matome kaip vieną iš būdų užsitikrinti pakankamą finansavimą sėkmei pasiekti.

Taip pat manome, kad saugiai įdiegti galingas DI sistemas pasaulyje bus nelengva užduotis. Išleisdami API, glaudžiai bendradarbiaujame su partneriais, norėdami pamatyti, kokių iššūkių kyla naudojant DI sistemas realiame pasaulyje. Tai padės nukreipti mūsų pastangas suprasti, kaip vyks būsimų DI sistemų diegimas ir ką turime daryti, kad užtikrintume, jog jos būtų saugios ir naudingos visiems.

Tai padarėme dėl trijų pagrindinių priežasčių. Pirma, technologijos komercializavimas padeda apmokėti mūsų vykdomus DI tyrimus, saugos ir politikos formavimo darbus.

Antra, daugelis API bazinių modelių yra labai dideli, jiems sukurti ir įdiegti reikia daug kompetencijos, o jų eksploatacija labai brangi. Dėl to pasinaudoti bazine technologija sunku visiems, išskyrus didesnes bendroves. Tikimės, kad API padarys galingas DI sistemas labiau prieinamas mažesnėms įmonėms ir organizacijoms.

Trečia, API modelis leidžia lengviau reaguoti į netinkamą technologijos naudojimą. Kadangi sunku numatyti tolesnius mūsų modelių naudojimo atvejus, atrodo iš esmės saugiau išleisti juos per API ir laikui bėgant plėsti prieigą, nei išleisti atvirojo kodo modelį, kurio prieigos neįmanoma pakoreguoti paaiškėjus, kad jis naudojamas žalingais tikslais.

Kuriant GPT‑2, vienas pagrindinių mūsų rūpesčių buvo piktybinis modelio naudojimas (pvz., dezinformacijai), kuriam sunku užkirsti kelią, kai modelis tampa atvirojo kodo. Naudojant API, galime geriau užkirsti kelią netinkamam naudojimui, apribodami prieigą tik patvirtintiems klientams ir naudojimo atvejams. Taikome privalomą produkcinės aplinkos peržiūros procesą, atliekamą prieš paleidžiant siūlomas programas. Atlikdami produkcinės aplinkos peržiūras, vertiname programas keliais aspektais, užduodami tokius klausimus: Ar šis naudojimo atvejis šiuo metu palaikomas?, Kiek atvira yra programa?, Kiek rizikinga programa?, Kaip ketinate spręsti galimo netinkamo naudojimo problemą? ir Kas yra galutiniai jūsų programos naudotojai?

Nutraukiame API prieigą naudojimo atvejams, kurie sukelia (arba kuriais siekiama sukelti) fizinę, emocinę ar psichologinę žalą žmonėms, įskaitant priekabiavimą, tyčinį klaidinimą, radikalizaciją, apsimestinį palaikymą ar brukalą, bet tuo neapsiribojant, taip pat programoms, kuriose nėra pakankamų apsaugos priemonių, ribojančių galutinių naudotojų vykdomą netinkamą naudojimą. Įgydami daugiau praktinės API naudojimo patirties, nuolat tikslinsime palaikomas naudojimo kategorijas, siekdami tiek išplėsti palaikomų programų spektrą, tiek sukurti smulkesnes kategorijas toms sritims, dėl kurių kyla susirūpinimas dėl netinkamo naudojimo.

Vienas pagrindinių veiksnių, į kurį atsižvelgiame tvirtindami API naudojimą, yra mastas, kuriuo programa veikia atvirai arba ribotai, atsižvelgiant į sistemos bazines generatyviąsias galimybes. Atvirosios API programos (t. y. tokios, kurios leidžia be kliūčių generuoti didelius kiekius pritaikomo teksto naudojant bet kokius raginimus) yra ypač pažeidžiamos dėl netinkamo naudojimo. Apribojimai, galintys padaryti generatyviuosius naudojimo atvejus saugesnius, apima sistemos projektavimą išlaikant žmogaus dalyvavimą, galutinio naudotojo prieigos ribojimą, išvesčių apdorojimą po generavimo, turinio filtravimą, įvesties ir (arba) išvesties ilgio ribojimą, aktyvų stebėjimą ir teminius apribojimus.

Taip pat tęsiame API teikiamų modelių galimo netinkamo naudojimo tyrimus, įskaitant bendradarbiavimą su trečiųjų šalių tyrėjais per mūsų akademinės prieigos programą⁠(atsidaro naujame lange). Šiuo metu pradedame dirbti su labai ribotu tyrėjų skaičiumi ir jau turime rezultatų iš savo akademinių partnerių: „Middlebury Institute“⁠(atsidaro naujame lange), Vašingtono universiteto ir „Allen Institute for AI“⁠(atsidaro naujame lange).J au sulaukėme dešimčių tūkstančių norinčiųjų dalyvauti šioje programoje ir šiuo metu teikiame pirmenybę paraiškoms, skirtoms teisingumo ir atstovavimo tyrimams.

Neigiamo poveikio, pavyzdžiui, žalingo šališkumo, mažinimas yra sudėtinga, visai industrijai aktuali ir itin svarbi problema. Kaip aptariame GPT‑3 straipsnyje⁠(atsidaro naujame lange) ir modelio kortelėje⁠(atsidaro naujame lange), mūsų API modeliams būdingas šališkumas, atsispindėsiantis generuojamame tekste. Toliau rasite veiksmus, kurių imamės šioms problemoms spręsti.

• Parengėme naudojimo gaires, padedančias programuotojams suprasti ir spręsti galimas saugos problemas.
• Glaudžiai bendradarbiaujame su naudotojais, siekdami suprasti jų naudojimo atvejus ir sukurti įrankius, leidžiančius pastebėti žalingą šališkumą ir imtis priemonių jam mažinti.
• Atliekame žalingo šališkumo apraiškų bei platesnių teisingumo ir atstovavimo problemų tyrimus bendrovės viduje; jie padės formuoti mūsų veiklą tobulinant esamų modelių dokumentaciją ir įvairiais būdais gerinant būsimus modelius.
• Suprantame, kad šališkumas išryškėja ten, kur susikerta sistema ir jos realus taikymo kontekstas; naudojant mūsų technologiją sukurtos programos yra sociotechninės sistemos, todėl dirbame su programuotojais užtikrindami, kad jie diegtų tinkamus procesus ir žmogaus dalyvavimo sistemas nepageidaujamai elgsenai stebėti.

Mūsų tikslas – toliau gilinti supratimą apie galimą API žalą kiekviename naudojimo kontekste ir nuolat tobulinti įrankius bei procesus, padedančius ją sumažinti.

Atnaujinta 2020 m. rugsėjo 18 d.