OpenAI API

Kami melancarkan API untuk mengakses model AI baharu yang dibangunkan oleh OpenAI. Tidak seperti kebanyakan sistem AI yang direka untuk satu kes penggunaan, API hari ini menyediakan antara muka "masuk teks, keluar teks" tujuan umum, membolehkan pengguna mencubanya pada hampir semua tugas dalam bahasa Inggeris. Anda kini boleh meminta akses untuk menyepadukan API ke dalam produk anda, membangunkan aplikasi baharu sepenuhnya, atau membantu kami teroka kekuatan dan had teknologi ini.

Dengan sebarang prom teks, API akan mengembalikan pelengkapan teks, cuba memadankan corak yang anda berikan. Anda boleh "memprogram"nya dengan menunjukkan hanya beberapa contoh perkara yang anda mahu ia lakukan; kejayaannya secara amnya berbeza-beza bergantung pada betapa kompleksnya tugas itu. API juga membolehkan anda mengasah prestasi pada tugas tertentu dengan latihan pada set data (kecil atau besar) contoh yang anda sediakan, atau dengan belajar daripada maklum balas manusia yang diberikan oleh pengguna atau pelabel.

Kami telah merancang API supaya mudah digunakan oleh sesiapa sahaja tetapi juga cukup fleksibel untuk menjadikan pasukan pembelajaran mesin lebih produktif. Malah, banyak pasukan kami kini menggunakan API supaya mereka boleh menumpukan perhatian kepada penyelidikan pembelajaran mesin dan bukannya masalah sistem teragih. Hari ini API menjalankan model dengan pemberat dari keluarga GPT‑3⁠(dibuka dalam tetingkap baru) dengan banyak peningkatan kelajuan dan daya pemprosesan. Pembelajaran mesin bergerak sangat pantas, dan kami sentiasa meningkatkan teknologi kami supaya pengguna-pengguna kami sentiasa mengikuti perkembangan terkini.

Kepantasan kemajuan dalam bidang ini bermaksud terdapat aplikasi AI baharu yang sering mengejutkan, sama ada positif atau negatif. Kami akan menamatkan akses API untuk kes penggunaan yang jelas berbahaya, seperti gangguan, spam, radikalisasi, atau astroturfing. Tetapi kami juga tahu bahawa kami tidak dapat menjangkakan semua kemungkinan akibat daripada teknologi ini, jadi pada hari ini kami melancarkan dalam versi beta peribadi dan bukannya ketersediaan umum, membina alat untuk membantu pengguna mengawal kandungan yang dikembalikan oleh API kami dengan lebih baik dan menyelidik aspek teknologi bahasa yang berkaitan dengan keselamatan (seperti menganalisis, mengurangkan, dan campur tangan terhadap berat sebelah yang berbahaya). Kami akan berkongsi apa yang kami pelajari supaya pengguna kami dan komuniti yang lebih luas dapat membina lebih banyak sistem AI yang lebih positif kepada manusia.

Selain menjadi sumber pendapatan untuk membantu kami menampung kos⁠ dalam mengejar misi kami⁠, API telah mendorong kami untuk mempertajam fokus kami pada teknologi AI dengan tujuan umum—memajukan teknologi, menjadikannya dapat digunakan, dan mempertimbangkan kesannya dalam dunia nyata. Kami berharap API akan sangat mengurangkan halangan⁠(dibuka dalam tetingkap baru) untuk menghasilkan produk berkuasa AI yang bermanfaat, menghasilkan alat dan perkhidmatan yang sukar dibayangkan pada masa kini.

Berminat untuk meneroka API? Sertai syarikat seperti Algolia⁠(dibuka dalam tetingkap baru), Quizlet⁠(dibuka dalam tetingkap baru), dan Reddit⁠(dibuka dalam tetingkap baru), serta penyelidik di institusi seperti Middlebury Institute⁠(dibuka dalam tetingkap baru) dalam Beta peribadi⁠(dibuka dalam tetingkap baru) kami.

Akhirnya, apa yang paling kami titik beratkan⁠ ialah memastikan kecerdasan am buatan memberi manfaat kepada semua orang. Kami melihat pembangunan produk komersial sebagai salah satu cara untuk memastikan kami mempunyai pembiayaan yang mencukupi untuk berjaya.

Kami juga percaya bahawa melancarkan sistem AI berkuasa di dunia dengan selamat adalah sukar untuk dilakukan dengan betul. Dalam melancarkan API, kami bekerjasama rapat dengan rakan kongsi kami untuk melihat cabaran yang timbul apabila sistem AI digunakan dalam dunia sebenar. Ini akan membantu membimbing usaha kami untuk memahami bagaimana penggunaan sistem AI pada masa hadapan akan berjalan, dan apa yang perlu kami lakukan untuk memastikan ia selamat dan bermanfaat untuk semua orang.

Terdapat tiga penaakulan utama mengapa kami melakukannya. Pertama, mengkomersialkan teknologi membantu kami membiayai penyelidikan, keselamatan, dan usaha dasar AI kami yang berterusan.

Kedua, banyak model yang mendasari API adalah sangat besar, memerlukan banyak kepakaran untuk dibangunkan dan digunakan, menjadikannya sangat mahal untuk dijalankan. Ini menyukarkan sesiapa sahaja kecuali syarikat besar untuk mendapat manfaat daripada teknologi asas. Kami berharap API akan menjadikan sistem AI yang berkuasa lebih mudah diakses oleh perniagaan dan organisasi kecil.

Ketiga, model API membolehkan kami bertindak balas dengan lebih mudah terhadap penyalahgunaan teknologi. Memandangkan sukar untuk meramalkan kes penggunaan hiliran model kami, rasanya lebih selamat untuk mengeluarkannya melalui API dan meluaskan akses dari semasa ke semasa, daripada mengeluarkan model sumber terbuka yang aksesnya tidak boleh dilaraskan jika ternyata ia mempunyai aplikasi yang berbahaya.

Dengan GPT‑2, salah satu kebimbangan utama kami ialah penggunaan model yang berniat jahat (contohnya, untuk maklumat salah), yang sukar untuk dicegah sebaik sahaja sumber model itu dibuka. Untuk API, kami dapat mencegah penyalahgunaan dengan lebih baik dengan mengehadkan akses kepada pelanggan yang diluluskan dan kes penggunaan yang diluluskan. Kami mempunyai proses semakan pengeluaran wajib sebelum aplikasi yang dicadangkan boleh disiarkan secara langsung. Dalam ulasan pengeluaran, kami menilai aplikasi merentas beberapa paksi, bertanya soalan seperti: Adakah ini kes penggunaan yang disokong pada masa ini?, Sejauh manakah aplikasi ini bersifat terbuka?, Betapa berisikonya aplikasi ini?, Bagaimanakah anda merancang untuk menangani kemungkinan penyalahgunaan?, dan Siapakah pengguna akhir aplikasi anda?.

Kami menamatkan akses API untuk kes penggunaan yang didapati menyebabkan (atau bertujuan untuk menyebabkan) kemudaratan fizikal, emosi, atau psikologi kepada orang, termasuk tetapi tidak terhad kepada gangguan, penipuan yang disengajakan, radikalisasi, astroturfing, atau spam, serta aplikasi yang mempunyai kawalan yang tidak mencukupi untuk mengehadkan penyalahgunaan oleh pengguna akhir. Apabila kami memperoleh lebih banyak pengalaman mengendalikan API dalam amalan, kami akan terus memperhalusi kategori penggunaan yang dapat kami sokong, baik untuk meluaskan rangkaian aplikasi yang boleh kami sokong, mahupun untuk cipta kategori yang lebih terperinci bagi mereka yang kami bimbang akan menyalahgunakannya.

Satu faktor utama yang kami pertimbangkan dalam meluluskan penggunaan API ialah sejauh mana aplikasi mempamerkan tingkah laku terbuka berbanding terhad berkenaan dengan keupayaan generatif asas sistem. Aplikasi API terbuka (iaitu, yang dayakan penjanaan tanpa geseran sejumlah besar teks yang boleh disesuaikan melalui prom sewenang-wenangnya) amat terdedah kepada penyalahgunaan. Kekangan yang boleh menjadikan kes penggunaan generatif lebih selamat termasuk reka bentuk sistem yang mengekalkan manusia dalam proses, sekatan akses pengguna akhir, pemprosesan pasca output, penapisan kandungan, had panjang input/output, pemantauan aktif, dan had topikal.

Kami juga meneruskan penyelidikan tentang kemungkinan penyalahgunaan model yang disediakan oleh API, termasuk dengan penyelidik pihak ketiga melalui program akses akademik⁠(dibuka dalam tetingkap baru) kami. Kami memulakan dengan bilangan penyelidik yang sangat terhad pada masa ini dan sudah mempunyai beberapa hasil daripada rakan kongsi akademik kami di Middlebury Institute⁠(dibuka dalam tetingkap baru), University of Washington, dan Allen Institute for AI⁠(dibuka dalam tetingkap baru). Kami sudah mempunyai puluhan ribu pemohon untuk program ini dan kini mengutamakan aplikasi yang memberi tumpuan kepada penyelidikan keadilan dan perwakilan.

Mengurangkan kesan negatif seperti berat sebelah yang berbahaya adalah isu yang sukar di seluruh industri dan ia adalah sangat penting. Seperti yang kita bincangkan dalam kertas GPT‑3⁠(dibuka dalam tetingkap baru) dan kad model⁠(dibuka dalam tetingkap baru), model API kami menunjukkan berat sebelah yang akan tercermin dalam teks yang dijana. Berikut adalah langkah-langkah yang kami ambil untuk menangani isu-isu ini:

• Kami telah membangunkan garis panduan penggunaan yang membantu pembangun memahami dan menangani isu-isu keselamatan yang berpotensi.
• Kami bekerjasama rapat dengan pengguna untuk memahami kes penggunaan mereka dan membangunkan alat untuk menonjolkan dan campur tangan bagi mengurangkan berat sebelah yang berbahaya.
• Kami sedang menjalankan penyelidikan kami sendiri tentang manifestasi berat sebelah berbahaya dan isu yang lebih luas dalam keadilan dan perwakilan, yang akan membantu memaklumkan kerja kami melalui dokumentasi yang dipertingkatkan bagi model sedia ada serta pelbagai penambahbaikan pada model masa depan.
• Kami sedar bahawa berat sebelah adalah masalah yang tunjukkan dengan jelas di persimpangan sistem dan konteks yang digunakan; aplikasi yang dibina dengan teknologi kami adalah sistem sosioteknikal, jadi kami bekerjasama dengan pembangun kami untuk memastikan mereka meletakkan proses yang sesuai dan sistem manusia dalam gelung untuk memantau tingkah laku buruk.

Matlamat kami adalah untuk teruskan mengembangkan pemahaman kami tentang potensi bahaya API dalam setiap konteks penggunaan, dan sentiasa menambah baik alatan dan proses kami untuk membantu meminimumkannya.

Dikemas kini pada 18 September 2020