OpenAI API

Mēs publicējam API, lai piekļūtu jauniem mākslīgā intelekta modeļiem, ko izstrādājusi OpenAI. Atšķirībā no vairuma mākslīgā intelekta sistēmu, kas ir izstrādātas vienam lietošanas gadījumam, API nodrošina vispārējas nozīmes saskarni "teksta ievade, teksta izvade", ļaujot lietotājiem izmēģināt to praktiski jebkurā uzdevumā angļu valodā. Tagad varat pieprasīt piekļuvi, lai integrētu API savā produktā, izstrādātu pilnīgi jaunu lietojumprogrammu vai palīdzētu mums izpētīt šīs tehnoloģijas stiprās puses un robežas.

Izmantojot jebkuru teksta uzvedni, API nodrošinās teksta papildinājumu, mēģinot to saskaņot ar norādīto paraugu. Varat to "ieprogrammēt", parādot tam tikai dažus piemērus, ko vēlaties, lai tas darītu; rezultāts parasti ir atkarīgs no tā, cik sarežģīts ir uzdevums. API ļauj arī uzlabot veiktspēju konkrētos uzdevumos, apmācot ar jūsu sniegto piemēru datu kopu (nelielu vai lielu) vai mācoties no lietotāju vai marķētāju sniegtajām atsauksmēm.

Mēs esam izstrādājuši API tā, lai to varētu lietot ikviens un tas būtu pietiekami elastīgs, padarot mašīnmācīšanās komandas produktīvākas. Patiesībā daudzas mūsu komandas tagad izmanto API, lai varētu koncentrēties uz mašīnmācīšanās pētniecību, nevis izmantoto sistēmu problēmām. Šobrīd API izmanto modeļus ar GPT‑3⁠(atveras jaunā logā) saimes svariem, kā arī veikti daudzi ātruma un caurlaidspējas uzlabojumi. Mašīnmācīšanās attīstās ļoti strauji, un mēs nepārtraukti uzlabojam savu tehnoloģiju, lai mūsu lietotāji būtu informēti par jaunākajām tendencēm.

Šīs jomas progresa temps nozīmē, ka bieži vien ir pārsteidzoši jauni mākslīgā intelekta lietojumi — gan pozitīvi, gan negatīvi. Mēs pārtrauksim API piekļuvi acīmredzami kaitīgu lietojumu gadījumos, piemēram, uzmākšanās, surogātpasta sūtīšana, radikalizācija vai astrotērfings. Taču mēs arī zinām, ka nevaram paredzēt visas šīs tehnoloģijas iespējamās sekas, tāpēc šodien sākam privātu beta versiju, nevis piedāvājam vispārēju pieejamību, izstrādājam rīkus, lai palīdzētu lietotājiem labāk kontrolēt saturu, ko nodrošina mūsu API, un pētām ar valodas tehnoloģijas drošību saistītus aspektus (piemēram, kaitīgas neobjektivitātes analīzi, mazināšanu un iejaukšanos). Mēs dalīsimies ar iegūto informāciju, lai mūsu lietotāji un plašāka kopiena varētu veidot cilvēkiem draudzīgākas mākslīgā intelekta sistēmas.

Papildus tam, ka API ir ieņēmumu avots, kas palīdz mums segt izmaksas mūsu misijas īstenošanai, tas ir mudinājis mūs pastiprināt uzmanību uz vispārējas⁠ nozīmes mākslīgā intelekta tehnoloģijām — attīstīt tehnoloģiju, padarīt to lietojamu un apsvērt tās ietekmi uz reālo pasauli.⁠ Mēs ceram, ka API ievērojami samazinās šķēršļus⁠(atveras jaunā logā) ar mākslīgo intelektu darbināmu produktu radīšanai, radot rīkus un pakalpojumus, kurus šodien ir grūti iedomāties.

Vai vēlaties izpētīt API? Pievienojieties tādiem uzņēmumiem kā Algolia⁠(atveras jaunā logā), Quizlet⁠(atveras jaunā logā) un Reddit⁠(atveras jaunā logā), kā arī pētniekiem tādās iestādēs kā Middlebury Institute⁠(atveras jaunā logā), mūsu privātajā beta versijā⁠(atveras jaunā logā).

Galu galā, mums visvairāk rūp⁠ nodrošināt, lai vispārīgais mākslīgais intelekts sniegtu labumu ikvienam. Mēs uzskatām, ka komerciālu produktu izstrāde ir viens no veidiem, kā nodrošināt pietiekamu finansējumu, lai gūtu panākumus.

Mēs arī uzskatām, ka būs grūti nodrošināt drošu jaudīgu mākslīgā intelekta sistēmu ieviešanu pasaulē. Publiskojot API, mēs cieši sadarbojamies ar partneriem, lai noskaidrotu, kādas problēmas rodas, kad MI sistēmas tiek izmantotas reālajā pasaulē. Tas palīdzēs mums saprast, kā notiks mākslīgā intelekta sistēmu ieviešana nākotnē un kas mums jādara, lai nodrošinātu, ka tās ir drošas un noderīgas ikvienam.

Tam ir trīs galvenie iemesli. Pirmkārt, tehnoloģijas komercializācija palīdz mums apmaksāt mūsu pašreizējos AI pētniecības, drošības un politikas pasākumus.

Otrkārt, daudzi API pamatā esošie modeļi ir ļoti lieli, tāpēc to izstrādei un ieviešanai ir nepieciešamas apjomīgas zināšanas, un to darbība ir ļoti dārga. Tas apgrūtina ikviena, izņemot lielākus uzņēmumus, iespējas izmantot pamattehnoloģiju. Mēs ceram, ka API padarīs pieejamākas mazākiem uzņēmumiem un organizācijām jaudīgas AI sistēmas.

Treškārt, API modelis ļauj mums vieglāk reaģēt uz tehnoloģijas nepareizu izmantošanu. Tā kā ir grūti prognozēt mūsu modeļu izmantošanas gadījumus, šķiet, ka ir drošāk tos publiskot, izmantojot API, un laika gaitā paplašināt piekļuvi, nevis publiskot atklātā pirmkoda modeli, kuram piekļuvi nevar pielāgot, ja izrādītos, ka tam ir kaitīgi lietojumi.

Saistībā ar GPT‑2 viena no mūsu galvenajām bažām bija modeļa ļaunprātīga izmantošana (piemēram, dezinformācijai), ko ir grūti novērst, tiklīdz modelis ir atklāts. API mēs varam labāk novērst ļaunprātīgu izmantošanu, ierobežojot piekļuvi tikai apstiprinātiem klientiem un izmantošanas gadījumiem. Mums ir obligāts ražošanas pārbaudes process, pirms ierosinātās lietojumprogrammas var sākt darboties. Ražošanas pārskatos mēs novērtējam lietojumprogrammas vairākos aspektos, uzdodot tālāk minētos jautājumus. Vai šis ir pašlaik atbalstītas lietošanas gadījums?, Cik atvērta ir lietojumprogramma?, Cik riskanta ir lietojumprogramma?, Kā jūs plānojat risināt iespējamu ļaunprātīgu izmantošanu? un Kas ir jūsu lietojumprogrammas galalietotāji?.

Mēs pārtraucam API piekļuvi lietošanas gadījumiem, kas izraisa (vai ir paredzēti, lai izraisītu) fizisku, emocionālu vai psiholoģisku kaitējumu cilvēkiem, tostarp, bet ne tikai, uzmākšanos, apzinātu maldināšanu, radikalizāciju, astrotērfingu vai surogātpasta sūtīšanu, kā arī lietojumprogrammām, kurām nav pietiekamu aizsargrežģu, lai ierobežotu galalietotāju ļaunprātīgu izmantošanu. Iegūstot vairāk pieredzes API praktiskā izmantošanā, mēs pastāvīgi pilnveidosim lietojuma kategorijas, kuras spēsim atbalstīt, lai paplašinātu lietojumprogrammu klāstu, ko varam atbalstīt, un izveidotu sīkāk izstrādātas kategorijas tām lietojumprogrammām, par kuru ļaunprātīgu izmantošanu mums ir bažas.

Viens no galvenajiem faktoriem, ko mēs ņemam vērā, apstiprinot API lietojumus, ir tas, cik lielā mērā lietojumprogramma ir atvērta vai ierobežota attiecībā uz sistēmas pamatā esošajām ģeneratīvajām iespējām. API lietojumprogrammas ar atvērtu darbību (t.i., tādas, kuras ļauj bez aizķeršanās ģenerēt lielu daudzumu pielāgojama teksta, izmantojot patvaļīgus pieprasījumus) ir īpaši jutīgas pret ļaunprātīgu izmantošanu. Ierobežojumi, kas var padarīt drošākus ģeneratīvos lietojuma gadījumus, ietver sistēmu konstrukciju, kas nodrošina cilvēka līdzdalību, galalietotāja piekļuves ierobežojumus, rezultātu pēcapstrādi, satura filtrēšanu, ievades/izvades garuma ierobežojumus, aktīvu uzraudzību un aktualitātes ierobežojumus.

Mēs arī turpinām veikt pētījumus par API apkalpoto modeļu iespējamu ļaunprātīgu izmantošanu, tostarp ar trešo pušu pētniekiem, izmantojot mūsu akadēmiskās piekļuves programmu⁠(atveras jaunā logā). Šobrīd mēs sākam ar ļoti ierobežotu pētnieku skaitu, un mums jau ir daži rezultāti no mūsu akadēmiskajiem partneriem Middlebury institūtā⁠(atveras jaunā logā), Vašingtonas Universitātē un Allenas Mākslīgā intelekta institūtā⁠(atveras jaunā logā). Šai programmai jau ir pieteikušies vairāki desmiti tūkstoši pretendentu, un pašlaik prioritāri tiek izskatīti pieteikumi, kas vērsti uz taisnīguma un pārstāvības pētniecību.

Negatīvās ietekmes, piemēram, kaitīgaas neobjektivitātes, mazināšana ir sarežģīts nozares mēroga jautājums, kas ir ārkārtīgi svarīgs. Kā aprakstīts GPT‑3 dokumentā⁠(atveras jaunā logā) un modeļa kartē⁠(atveras jaunā logā), mūsu API modeļiem ir tendences, kas atspoguļosies ģenerētajā tekstā. Tālāk aprakstīti pasākumi, kurus veicam, lai risinātu šīs problēmas.

• Esam izstrādājuši lietošanas vadlīnijas, kas izstrādātājiem palīdz izprast un risināt iespējamās drošības problēmas.
• Mēs cieši sadarbojamies ar lietotājiem, lai izprastu viņu lietošanas gadījumus un radītu rīkus, kuri ļauj atklāt un iejaukties, lai mazinātu kaitīgas neobjektivitātes iespēju.
• Mēs veicam savus pētījumus par kaitīgās neobjektivitātes izpausmēm un plašākām taisnīguma un pārstāvības problēmām, kas palīdzēs sniegt informāciju par mūsu darbu, uzlabojot esošo modeļu dokumentāciju, kā arī veicot dažādus uzlabojumus nākotnes modeļos.
• Mēs apzināmies, ka neobjektivitāte ir problēma, kas izpaužas sistēmas un izmantotā konteksta krustpunktā; ar mūsu tehnoloģijām veidotās lietojumprogrammas ir sociotehniskas sistēmas, tāpēc mēs sadarbojamies ar mūsu izstrādātājiem, lai nodrošinātu, ka tie ievieš atbilstošus procesus un cilvēku iesaistes sistēmas, lai uzraudzītu nevēlamu uzvedību.

Mūsu mērķis ir turpināt pilnveidot izpratni par API iespējamo kaitējumu katras lietošanas kontekstā un nepārtraukti uzlabot mūsu rīkus un procesus, lai palīdzētu to mazināt.

Atjaunināts 2020. gada 18. septembrī