OpenAI API

Kita ngluncurake API kanggo ngakses model AI anyar sing dikembangake dening OpenAI. Beda karo umume sistem AI sing dirancang kanggo siji kasus panggunaan, API iki saiki nyedhiyakake antarmuka umum “teks mlebu, teks metu”, saengga pangguna bisa nyoba kanggo meh kabeh tugas basa Inggris. Saiki sampeyan bisa njaluk akses supaya bisa ngintegrasikake API iki menyang produk sampeyan, ngembangake aplikasi sing bener-bener anyar, utawa mbantu kita njelajahi kakuwatan lan watesan teknologi iki.

Yen diwenehi prompt teks apa wae, API bakal ngasilake pelengkapan teks kanthi nyoba nyocogake pola sing sampeyan paringake. Sampeyan bisa “memprogram”-e kanthi nuduhake mung sawetara conto babagan apa sing pengin ditindakake; tingkat kasilane umume beda-beda gumantung sepira ruwete tugase. API iki uga ngidini sampeyan ngoptimalake kinerja kanggo tugas tartamtu kanthi latihan nganggo dataset conto (cilik utawa gedhe) sing sampeyan paringake, utawa kanthi sinau saka umpan balik manungsa sing diwenehake pangguna utawa pelabel.

Kita ngrancang API iki supaya prasaja kanggo digunakake sapa wae nanging uga cukup luwes kanggo nggawe tim machine learning luwih produktif. Nyatane, akeh tim kita saiki nggunakake API iki supaya bisa fokus ing riset machine learning tinimbang masalah sistem terdistribusi. Dina iki API iki mbukak model kanthi bobot saka kulawarga GPT‑3⁠(mbukak ing jendhela anyar) kanthi akeh peningkatan kacepetan lan kapasitas pangolahan. Machine learning obah cepet banget, lan kita terus-terusan nganyari teknologi kita supaya pangguna tetep ngetutake perkembangan paling anyar.

Lajune kemajuan ing bidang iki ateges asring ana aplikasi AI anyar sing ngagetake, sing positif uga sing negatif. Kita bakal mungkasi akses API kanggo kasus panggunaan sing cetha mbebayani, kayata pelecehan, spam, radikalisasi, utawa astroturfing. Nanging kita uga ngerti yen kita ora bisa ngantisipasi kabeh akibat sing bisa muncul saka teknologi iki, mula dina iki kita ngluncurake ing beta privat tinimbang kasedhiyan umum, mbangun piranti kanggo mbantu pangguna ngontrol konten sing dibalekake API kita kanthi luwih apik, lan neliti aspek teknologi basa sing relevan kanggo safety (kayata nganalisis, nyuda, lan campur tangan marang bias mbebayani). Kita bakal nuduhake apa sing kita sinaoni supaya pangguna kita lan komunitas sing luwih amba bisa mbangun sistem AI sing luwih migunani kanggo manungsa.

Saliyane dadi sumber pendapatan kanggo mbantu kita nutupi biaya⁠ ing upaya nggayuh misi kita⁠, API iki uga ndorong kita supaya luwih ngasah fokus marang teknologi AI serbaguna—majokake teknologi, nggawe bisa digunakake, lan nimbang dampake ing donya nyata. Kita ngarep API iki bakal banget nurunake hambatan⁠(mbukak ing jendhela anyar) kanggo ngasilake produk sing didhukung AI lan migunani, sing pungkasane ngasilake piranti lan layanan sing saiki angel dibayangake.

Kepengin njelajahi API? Gabung karo perusahaan kaya Algolia⁠(mbukak ing jendhela anyar), Quizlet⁠(mbukak ing jendhela anyar), lan Reddit⁠(mbukak ing jendhela anyar), uga para peneliti ing institusi kaya Middlebury Institute⁠(mbukak ing jendhela anyar) ing beta privat⁠(mbukak ing jendhela anyar) kita.

Pungkasane, sing paling kita wigatekake⁠ yaiku mesthekake kecerdhasan umum tiruan migunani kanggo kabeh wong. Kita ndeleng ngembangake produk komersial minangka salah siji cara kanggo mesthekake yen kita duwe pendanaan sing cukup supaya bisa kasil.

Kita uga yakin yen masang sistem AI sing kuat menyang donya kanthi aman bakal angel ditindakake kanthi bener. Nalika ngluncurake API, kita kerja cedhak karo para mitra kanggo ndeleng tantangan apa sing muncul nalika sistem AI digunakake ing donya nyata. Iki bakal mbantu nuntun upaya kita kanggo mangerteni kepiye implementasi sistem AI ing mangsa ngarep bakal mlaku, lan apa sing kudu kita tindakake supaya sistem kasebut aman lan migunani kanggo kabeh wong.

Ana telung alasan utama kenapa kita nindakake iki. Kaping pisan, komersialisasi teknologi iki mbantu kita mbayar riset AI, safety, lan upaya kabijakan sing terus kita lakoni.

Kaping pindho, akeh model sing dadi dhasar API iki ukurane gedhe banget, butuh keahlian akeh kanggo ngembangake lan masang, lan biaya operasine uga larang banget. Iki ndadekake angel kanggo sapa wae kejaba perusahaan gedhe supaya bisa entuk manfaat saka teknologi dhasar kasebut. Kita ngarep API iki bakal nggawe sistem AI sing kuat luwih gampang diakses dening bisnis lan organisasi sing luwih cilik.

Kaping telu, model API ngidini kita luwih gampang nanggapi penyalahgunaan teknologi iki. Amarga angel prédhiksi kasus panggunaan turunan saka model kita, kita nganggep luwih aman yen ngeculake liwat API lan nggedhekake akses kanthi bertahap, tinimbang ngeculake model open source sing aksese ora bisa diatur maneh yen jebul nduweni aplikasi sing mbebayani.

Karo GPT‑2, salah siji keprihatinan utama kita yaiku panggunaan model kanggo tujuan ala (umpamane, disinformasi), sing angel dicegah yen model wis dadi open source. Kanggo API, kita bisa luwih apik nyegah penyalahgunaan kanthi matesi akses mung kanggo pelanggan lan kasus panggunaan sing disetujoni. Kita duwe proses tinjauan produksi wajib sadurunge aplikasi sing diajokake bisa tayang. Ing tinjauan produksi, kita ngevaluasi aplikasi saka sawetara dimensi, kanthi takon pitakonan kaya: Apa iki kasus panggunaan sing saiki didhukung?, Sepira mbukake aplikasi iki?, Sepira berisiko aplikasi iki?, Kepiye rencana sampeyan ngatasi potensi penyalahgunaan?, lan Sapa pangguna pungkasan saka aplikasi sampeyan?.

Kita mungkasi akses API kanggo kasus panggunaan sing kabukten nyebabake (utawa dimaksudake kanggo nyebabake) cilaka fisik, emosional, utawa psikologis marang wong, kalebu nanging ora winates marang pelecehan, penipuan sing disengaja, radikalisasi, astroturfing, utawa spam, uga aplikasi sing ora nduweni guardrail sing cukup kanggo matesi penyalahgunaan dening pangguna pungkasan. Nalika pengalaman kita ngoperasikake API iki saya akeh, kita bakal terus nyaring kategori panggunaan sing bisa kita dukung, kanggo nggedhekake rentang aplikasi sing bisa didhukung lan nggawe kategori sing luwih rinci kanggo sing isih nuwuhake keprihatinan penyalahgunaan.

Salah siji faktor utama sing kita pertimbangake nalika nyetujoni panggunaan API yaiku sepira gedhene aplikasi nuduhake prilaku sing mbukak lawan sing diwatesi gegayutan karo kemampuan generatif dhasar sistem. Aplikasi API sing mbukak (yaiku, sing ngidini generasi teks kustomisasi jumlah gedhe tanpa hambatan liwat prompt sembarang) utamane rentan disalahgunakake. Watesan sing bisa nggawe kasus panggunaan generatif luwih aman kalebu desain sistem sing njaga manungsa tetep melu, watesan akses pangguna pungkasan, pascapemrosesan output, filtrasi konten, wates dawa input/output, pemantauan aktif, lan watesan topik.

Kita uga terus nindakake riset babagan potensi penyalahgunaan model sing dilayani liwat API, kalebu karo peneliti pihak katelu liwat program akses akademik⁠(mbukak ing jendhela anyar) kita. Saiki kita miwiti karo jumlah peneliti sing winates banget lan wis duwe sawetara asil saka mitra akademik kita ing Middlebury Institute⁠(mbukak ing jendhela anyar), University of Washington, and Allen Institute for AI⁠(mbukak ing jendhela anyar). Wis ana puluhan ewu pelamar kanggo program iki, lan saiki kita menehi prioritas marang aplikasi sing fokus ing riset keadilan lan representasi.

Ngurangi dampak negatif kayata bias mbebayani iku masalah angel ing saindenging industri lan penting banget. Kaya sing kita bahas ing makalah GPT‑3⁠(mbukak ing jendhela anyar) lan kertu model⁠(mbukak ing jendhela anyar), model API kita pancen nuduhake bias sing bakal katon ing teks sing diasilake. Iki langkah-langkah sing kita lakoni kanggo ngatasi masalah iki:

• Kita wis ngembangake pedoman panggunaan sing mbantu para pangembang mangerteni lan ngatasi masalah safety sing potensial.
• Kita kerja cedhak karo pangguna kanggo mangerteni kasus panggunaan lan ngembangake piranti kanggo ndeteksi lan campur tangan kanggo nyuda bias mbebayani.
• Kita nindakake riset dhewe babagan wujud bias mbebayani lan masalah sing luwih jembar babagan keadilan lan representasi, sing bakal mbantu nuntun pakaryan kita liwat dokumentasi model sing wis ana sing luwih apik uga macem-macem perbaikan kanggo model ing mangsa ngarep.
• Kita ngakoni yen bias iku masalah sing muncul ing titik temu antarane sistem lan konteks implementasi; aplikasi sing dibangun nganggo teknologi kita iku sistem sosioteknis, mula kita kerja bareng para pangembang kanggo mesthekake dheweke nerapake proses sing trep lan sistem human-in-the-loop kanggo ngawasi prilaku sing ngrugekake.

Tujuan kita yaiku terus ngembangake pangerten babagan potensi bebaya API ing saben konteks panggunaan, lan terus nambah piranti lan proses kita supaya bisa mbantu nyuda bebaya kasebut.

Dianyari 18 September 2020