OpenAI API

Naglalabas kami ng API para ma-access ang mga bagong modelo ng AI na binuo ng OpenAI. Hindi tulad ng karamihan sa mga sistema ng AI na idinisenyo para sa isang use case, ang API ngayon ay nagbibigay ng pangkalahatang layunin na "text in, text out" interface, na nagpapahintulot sa mga user na subukan ito sa halos anumang gawain sa wikang English. Puwede ka na ngayong humiling ng access para maisama ang API sa iyong produkto, bumuo ng ganap na bagong aplikasyon, o tulungan kaming tuklasin ang mga kalakasan at limitasyon ng teknolohiyang ito.

Kung bibigyan ng anumang prompt na text, magbabalik ang API ng text completion, na susubukang itugma sa pattern na ibinigay mo rito. Puwede mo itong "i-program" sa pamamagitan ng pagpapakita ng ilang halimbawa ng gusto mong ipagawa dito; ang tagumpay nito ay karaniwang nag-iiba depende sa kung gaano kakumplikado ang gawain. Pinapayagan ka rin ng API na ihasa ang pagganap sa mga partikular na gawain sa pamamagitan ng pagsasanay sa dataset (maliit o malaki) ng mga halimbawa na ibinibigay mo, o sa pamamagitan ng pag-aaral mula sa feedback ng tao na ibinigay ng mga user o labeler.

Dinisenyo namin ang API para maging simple para magamit ng sinuman para sapat din ang kakayahang umangkop para gawing mas produktibo ang mga machine learning team. Sa katunayan, marami sa aming mga team ang gumagamit ngayon ng API para makapag-focus sila sa pananaliksik sa machine learning sa halip na sa mga problema ng mga distributed system. Sa kasalukuyan, ang API ay gumagamit ng mga modelong may weights mula sa pamilya ng GPT‑3⁠(magbubukas sa bagong window) na may kasamang malalaking pagpapabuti sa speed at throughput. Napakabilis ng pag-unlad ng machine learning, at patuloy naming ina-upgrade ang aming teknolohiya para manatiling updated ang aming mga user.

Nangangahulugan ang bilis ng pag-unlad ng field na may madalas na nakakagulat na mga bagong application ng AI, parehong positibo at negatibo. Tatapusin namin ang pag-access sa API para sa mga halatang nakakapinsalang paggamit, tulad ng panliligalig, spam, radikalisasyon, o astroturfing. Pero alam din namin na hindi namin maaasahan ang lahat ng posibleng kahihinatnan ng teknolohiyang ito, kaya naglulunsad kami ngayon sa isang pribadong beta sa halip na pangkalahatang kakayahang magamit, bumubuo ng mga tool para matulungan ang mga user na mas mahusay na kontrolin ang nilalaman na ibinabalik ng aming API, at nagsasaliksik ng mga aspeto ng teknolohiya ng wika na may kaugnayan sa kaligtasan (tulad ng pagsusuri, pagpapagaan, at interbensyon sa nakakapinsalang bias). Ibabahagi namin ang aming mga natutunan upang ang aming mga user at ang mas malawak na komunidad ay makabuo ng mas makataong mga sistema ng AI.

Bukod sa pagiging pinagkukunan ng kita upang matulungan kaming matugunan ang mga gastos⁠ sa pagtupad ng aming misyon⁠, ang API ay nagtulak sa amin na patalasin ang aming pagtuon sa pangkalahatang-gamit na teknolohiya ng AI—pagpapaunlad ng teknolohiya, ginagawang magagamit ito, at pagsasaalang-alang sa mga epekto nito sa totoong mundo. Inaasahan namin na ang API ay lubos na magpapababa ng hadlang⁠(magbubukas sa bagong window) sa paggawa ng mga kapaki-pakinabang na produktong pinapatakbo ng AI, na magreresulta sa mga tool at serbisyo na mahirap isipin ngayon.

Interesado ka bang galugarin ang API? Sumali sa mga kumpanya tulad ng Algolia⁠(magbubukas sa bagong window), Quizlet⁠(magbubukas sa bagong window), at Reddit⁠(magbubukas sa bagong window), at mga mananaliksik sa mga institusyon tulad ng Middlebury Institute⁠(magbubukas sa bagong window) sa aming pribadong Beta⁠(magbubukas sa bagong window).

Sa huli, ang pinakamahalaga sa amin⁠ ay ang pagtiyak na makikinabang ang lahat sa artificial general intelligence. Nakikita namin ang pagbuo ng mga produktong pangkomersyo bilang isa sa mga paraan para matiyak na mayroon kaming sapat na pondo para magtagumpay.

Naniniwala rin kami na magiging mahirap ang tamang pag-deploy ng mga makapangyarihang system ng AI sa mundo nang ligtas. Sa paglabas ng API, nakikipagtulungan kami nang malapit sa aming mga partner upang makita kung ano ang mga hamon na lumilitaw kapag ang mga sistema ng AI ay ginagamit sa totoong mundo. Makakatulong ito na gabayan ang aming mga pagsisikap na maunawaan kung paano isasagawa ang pag-deploy ng mga sistema ng AI sa hinaharap, at kung ano ang kailangan nating gawin upang matiyak na ligtas at kapaki-pakinabang ang mga ito para sa lahat.

May tatlong pangunahing dahilan kung bakit namin ginawa ito. Una, ang pagko-komersiyal ng teknolohiyang ito ay tumutulong sa amin na pondohan ang patuloy naming pananaliksik sa AI, pati na ang aming mga pagsisikap sa kaligtasan at patakaran.

Pangalawa, marami sa mga modelong pinagbabatayan ng API ay napakalaki, na nangangailangan ng maraming kadalubhasaan para mabuo at ma-deploy at ginagawa itong napakamahal patakbuhin. Ginagawa nitong mahirap para sa kahit sino maliban sa mas malalaking kumpanya na makinabang mula sa pinagbabatayang teknolohiya. Umaasa kami na gagawing mas naa-access ang API ng mas maliliit na negosyo at organisasyon ang mga makapangyarihang sistema ng AI.

Pangatlo, nagbibigay-daan sa atin ang modelo ng API na mas madaling tumugon sa maling paggamit ng teknolohiya. Dahil mahirap hulaan ang mga susunod na paggamit ng aming mga modelo, tila mas ligtas na ilabas ang mga ito sa pamamagitan ng API at palawakin ang access sa paglipas ng panahon, kaysa sa maglabas ng open source na modelo kung saan hindi puwedeng isaayos ang access kung sakaling lumabas na mayroon itong mga mapaminsalang application.

Sa GPT‑2, isa sa mga pangunahing alalahanin namin ay ang malisyosong paggamit ng modelo (hal., para sa disimpormasyon), na mahirap pigilan kapag open-source na ang modelo. Para sa API, mas napipigilan namin ang maling paggamit sa pamamagitan ng paglilimita sa access sa mga aprubadong customer at mga use case. Mayroon kaming sapilitang proseso ng pagsusuri sa produksyon bago ma-live ang mga iminungkahing application. Sa mga pagsusuri sa produksyon, sinusuri namin ang mga application sa ilang aspeto, na nagtatanong ng mga katanungan tulad ng: Suportado ba ito sa kasalukuyang paggamit?, Gaano kalawak ang saklaw ng application?, Gaano kapanganib ang application?, Paano mo plan tugunan ang potensyal na maling paggamit?, at Sino ang mga end user ng iyong application?.

Tinatapos namin ang access sa API para sa mga use case na napatunayang nagdudulot (o nilalayong magdulot) ng pisikal, emosyonal, o sikolohikal na pinsala sa mga tao, kabilang ngunit hindi limitado sa panliligalig, sinasadyang panlilinlang, radikalisasyon, astroturfing, o spam, pati na rin ang mga application na walang sapat na guardrail para limitahan ang maling paggamit ng mga end user. Habang nagkakaroon kami ng mas maraming karanasan sa pagpapatakbo ng API sa pagsasagawa, patuloy naming ire-refine ang mga kategorya ng paggamit na kaya naming suportahan, para mapalawak ang hanay ng mga application na kaya naming suportahan, at para gumawa ng mas detalyadong mga kategorya para sa mga pinag-alala namin tungkol sa maling paggamit.

Ang pangunahing salik na isinasaalang-alang namin sa pag-apruba ng mga paggamit ng API ay ang lawak kung saan ang application ay nagpapakita ng open-ended versus constrained na paggawi patungkol sa mga pinagbabatayan ng generative na kakayahan ng system. Ang mga open-ended na application ng API (ibig sabihin, ang mga nagbibigay-daan sa walang aberya na pagbuo ng malalaking bilang ng napapasadyang text sa pamamagitan ng mga arbitraryong prompt) ay lalong susceptible sa maling paggamit. Kabilang sa mga constraint na maaaring magpataas ng kaligtasan ng generative use cases ang systems design na nagpapanatili ng human-in-the-loop, mga paghihigpit sa access ng end user, post-processing ng mga output, content filtration, mga limitasyon sa haba ng input/output, aktibong pagmamanman, at mga limitasyon sa saklaw ng paksa.

Magpapatuloy din kaming nagsasagawa ng pananaliksik sa mga posibleng maling paggamit ng mga modelong pinaglilingkuran ng API, kasama ang mga mananaliksik na third party sa pamamagitan ng aming programang pang-akademikong access⁠(magbubukas sa bagong window). Nagsisimula kami sa isang napaka-limitadong bilang ng mga mananaliksik sa oras na ito at mayroon na kaming ilang mga resulta mula sa aming mga kasosyo sa akademiko sa Middlebury Institute⁠(magbubukas sa bagong window), University of Washington, at Allen Institute for AI⁠(magbubukas sa bagong window). Mayroon na kaming sampu-sampung libong applicants para sa programang ito at kasalukuyang inuuna ang mga application na nakatuon sa pananaliksik sa pagiging patas at representasyon.

Ang pagbabawas ng mga negatibong epekto, kabilang ang mapaminsalang bias, ay isang mahirap at napakahalagang isyung kinakaharap ng buong industriya. Tulad ng tinatalakay natin sa GPT‑3 paper⁠(magbubukas sa bagong window) at card ng modelo⁠(magbubukas sa bagong window), ang aming mga modelo ng API ay nagpapakita ng mga bias na makikita sa nabuong text. Narito ang mga hakbang na ginagawa namin para matugunan ang mga isyung ito:

• Bumuo kami ng mga gabay sa paggamit na makakatulong sa mga developer na maunawaan at matugunan ang mga potensyal na isyu sa kaligtasan.
• Nakikipagtulungan kami nang malapit sa mga user para maunawaan ang kanilang mga kaso ng paggamit at bumuo ng mga tool na makakatulong sa pagtukoy at makialam para mabawasan ang mapaminsalang bias.
• Nagsasagawa kami ng sarili naming pananaliksik sa mga manipestasyon ng mapaminsalang bias at mas malawak na mga isyu sa pagiging patas at representasyon, na makakatulong sa pagbibigay-impormasyon sa aming gawain sa pamamagitan ng pinahusay na dokumentasyon ng mga umiiral na modelo pati na rin ang iba't ibang mga pagpapabuti sa mga modelo sa hinaharap.
• Kinikilala namin na ang bias ay isang problemang nagma-manifest sa interseksyon ng system at ng naka-deploy na konteksto; ang mga application na binuo gamit ang aming teknolohiya ay mga sociotechnical system, kaya nakikipagtulungan kami sa aming mga developer para matiyak na naglalagay sila ng mga naaangkop na proseso at mga human-in-the-loop na system para masubaybayan ang masamang paggawi.

Layunin namin ang patuloy na paunlarin ang aming pag-unawa sa mga potensyal na pinsala ng API sa bawat konteksto ng paggamit, at patuloy na pagbutihin ang aming mga tool at proseso para makatulong na mabawasan ang mga ito.

Na-update noong Setyembre 18, 2020