API OpenAI

Kami merilis API untuk mengakses model AI baru yang dikembangkan oleh OpenAI. Berbeda dengan sebagian besar sistem AI yang dirancang untuk satu kasus penggunaan, sekarang API ini menyediakan antarmuka "teks masuk, teks keluar" serbaguna, memungkinkan pengguna mencobanya pada hampir semua tugas berbahasa Inggris. Anda sekarang dapat meminta akses untuk mengintegrasikan API ke dalam produk Anda, mengembangkan aplikasi yang sama sekali baru, atau membantu kami menjelajahi keunggulan dan batasan dari teknologi ini.

Dengan prompt teks apa pun, API akan menghasilkan teks keluaran, sambil berusaha mencocokkan pola yang Anda berikan. Anda dapat "memprogram" API dengan menunjukkan beberapa contoh dari tugas yang Anda ingin API lakukan; keberhasilannya biasanya bervariasi, bergantung pada kompleksitas tugas. API juga memungkinkan Anda meningkatkan performa tugas tertentu dengan melatihnya pada kumpulan data (kecil atau besar) dari contoh yang Anda berikan, atau dengan belajar dari masukan manusia yang diberikan oleh pengguna atau pemberi label.

Kami merancang API agar mudah digunakan siapa saja tetapi juga cukup fleksibel untuk membuat tim pembelajaran mesin lebih produktif. Faktanya, banyak tim kami sekarang menggunakan API ini agar dapat berfokus pada riset pembelajaran mesin daripada terbebani oleh masalah sistem terdistribusi. Saat ini, API menjalankan model dengan bobot dari keluarga GPT‑3⁠(terbuka di jendela baru) dengan banyak peningkatan dalam kecepatan dan throughput. Pembelajaran mesin berkembang sangat cepat, dan kami terus memperbarui teknologi kami agar pengguna tetap mendapatkan teknologi terkini.

Kemajuan bidang ini sering kali menghadirkan aplikasi AI yang mengejutkan, baik positif maupun negatif. Kami akan menghentikan akses API untuk kasus penggunaan yang jelas berbahaya, seperti pelecehan, spam, radikalisasi, atau manipulasi opini publik. Meski begitu, kami sadar betul bahwa tidak semua potensi konsekuensi dari teknologi ini dapat kami antisipasi, jadi kami meluncurkan API dalam versi Beta tertutup daripada versi ketersediaan umum, mengembangkan alat untuk membantu pengguna mengontrol konten yang dihasilkan API, serta meneliti aspek keamanan teknologi bahasa (seperti menganalisis, mengurangi, dan mengintervensi bias yang berbahaya). Hasil pembelajarannya akan kami bagikan agar pengguna dan komunitas lebih luas dapat membangun sistem AI yang lebih positif bagi manusia.

Selain sebagai sumber pendapatan untuk membantu menutupi biaya⁠ dalam menjalankan misi kami⁠, API juga mendorong kami untuk lebih berfokus pada teknologi AI untuk tujuan umum—mengembangkan teknologi, membuatnya dapat digunakan, dan mempertimbangkan dampaknya di dunia nyata. Kami berharap API ini akan secara signifikan menurunkan hambatan⁠(terbuka di jendela baru) dalam menciptakan produk berbasis AI yang bermanfaat, menghasilkan alat dan layanan yang belum terbayangkan saat ini.

Tertarik menjelajahi API? Bergabunglah dengan perusahaan seperi Algolia⁠(terbuka di jendela baru), Quizlet⁠(terbuka di jendela baru), dan Reddit⁠(terbuka di jendela baru), serta peneliti di lembaga seperti Middlebury Institute⁠(terbuka di jendela baru) dalam menggunakan Beta pribadi⁠(terbuka di jendela baru).

Terutama, yang paling kami pedulikan⁠ adalah memastikan bahwa kecerdasan umum buatan bermanfaat bagi semua orang. Kami melihat pengembangan produk komersial sebagai salah satu cara untuk memastikan pendanaan yang memadai agar bisa berhasil.

Kami juga merasa yakin bahwa penerapan sistem AI yang andal secara aman di dunia akan menjadi tantangan besar. Dalam merilis API, kami bekerja sama dengan mitra kami untuk memahami tantangan yang muncul saat sistem AI digunakan di dunia nyata. Ini akan membantu memandu upaya kami dalam memahami cara menerapkan sistem AI di masa depan, serta langkah-langkah yang harus diambil agar aman dan bermanfaat bagi semua orang.

Ada tiga alasan kami memutuskan ini. Pertama, komersialisasi teknologi membantu kami membiayai penelitian AI yang sedang berlangsung, serta upaya keamanan dan kebijakan.

Kedua, banyak model yang mendukung API ini berukuran sangat besar, sehingga membutuhkan keahlian tinggi untuk dikembangkan dan diterapkan, serta memerlukan biaya operasional yang sangat mahal. Hal ini menyulitkan pemanfaatan teknologi dasar oleh siapa pun, kecuali oleh perusahaan besar. Kami berharap API akan menghasilkan sistem AI yang andal, lebih mudah diakses oleh bisnis dan organisasi kecil.

Ketiga, dengan model API kami lebih mudah merespons penyalahgunaan teknologi. Karena sulit untuk memprediksi kasus penggunaan model kami setelah dirilis, rasanya lebih baik merilisnya melalui API dan memperluas akses secara bertahap, dibandingkan merilis model sumber terbuka yang aksesnya tidak dapat dikendalikan jika ternyata memiliki aplikasi yang berbahaya.

Dengan GPT‑2, salah satu perhatian utama kami adalah penyalahgunaan model (misalnya untuk disinformasi), yang sulit dicegah setelah model dirilis dengan sumber terbuka. Untuk API, kami dapat lebih efektif mencegah penyalahgunaan dengan membatasi akses hanya kepada pelanggan dan kasus penggunaan yang disetujui. Kami memiliki proses tinjauan produksi yang wajib dilakukan sebelum aplikasi yang diusulkan dapat dirilis. Selama tinjauan produksi, kami mengevaluasi aplikasi berdasarkan beberapa aspek, dengan sejumlah pertanyaan, seperti: Apakah kasus penggunaan tersebut saat ini didukung?, Seberapa terbuka aplikasi tersebut?, Seberapa berisiko aplikasi tersebut?, Bagaimana rencana Anda untuk mengatasi potensi penyalahgunaan?, dan Siapa pengguna akhir aplikasi Anda?.

Kami akan menghentikan akses API untuk kasus penggunaan yang ternyata menyebabkan (atau ditujukan untuk menyebabkan) dampak fisik, emosional, atau psikologis bagi orang, termasuk tetapi tidak terbatas pada pelecehan, penipuan yang disengaja, radikalisasi, manipulasi opini publik (astroturfing), atau spam, serta aplikasi yang tidak memiliki perlindungan memadai untuk membatasi penyalahgunaan oleh pengguna akhir. Seiring dengan makin banyaknya pengalaman kami dalam mengoperasikan API, kami akan terus menyempurnakan kategori penggunaan yang bisa kami dukung. Ini bertujuan untuk memperluas cakupan aplikasi yang dapat kami fasilitasi, sekaligus membuat kategori yang lebih detail untuk kasus-kasus yang kami khawatirkan berpotensi disalahgunakan.

Salah satu faktor kunci yang kami pertimbangkan dalam menyetujui penggunaan API adalah sejauh mana suatu aplikasi dapat menunjukkan perilaku terbuka versus perilaku terbatas terkait dengan kemampuan generatif dasar dari sistem ini. Aplikasi API yang bersifat terbuka (yaitu aplikasi yang memungkinkan pembuatan teks dalam jumlah besar dan dapat disesuaikan secara bebas melalui prompt arbitrer) sangat rentan terhadap penyalahgunaan. Pembatasan yang dapat membuat kasus penggunaan generatif lebih aman meliputi desain sistem yang melibatkan manusia selama proses, pembatasan akses pengguna akhir, pemrosesan lanjutan terhadap keluaran yang dihasilkan, penyaringan konten, batasan panjang masukan/keluaran, pemantauan aktif, dan pembatasan berdasarkan topik.

Kami juga terus melakukan riset tentang potensi penyalahgunaan model yang dilayani oleh API, termasuk dengan peneliti pihak ketiga melalui program akses akademik⁠(terbuka di jendela baru) kami. Untuk saat ini, kami memulai dengan jumlah peneliti yang sangat terbatas dan telah mendapatkan beberapa hasil dari mitra akademik kami di Middlebury Institute⁠(terbuka di jendela baru), University of Washington, dan Allen Institute for AI⁠(terbuka di jendela baru). Kami telah menerima puluhan ribu pendaftar untuk program ini tetapi untuk saat ini kami memprioritaskan aplikasi yang berfokus pada riset tentang kesetaraan dan keterwakilan.

Mengurangi dampak negatif seperti bias berbahaya adalah tantangan besar yang mencakup seluruh industri dan sangat penting untuk ditangani. Seperti yang kami bahas dalam makalah GPT‑3⁠(terbuka di jendela baru) dan kartu model⁠(terbuka di jendela baru), model API kami memang menunjukkan bias yang akan terlihat dalam teks yang dihasilkan. Langkah-langkah yang kami ambil untuk mengatasi masalah ini adalah:

• Kami mengembangkan pedoman penggunaan yang membantu pengembang memahami dan mengatasi potensi masalah keamanan.
• Kami bekerja sama dengan pengguna untuk memahami kasus penggunaan mereka dan mengembangkan alat untuk mengungkap dan ikut serta mengurangi bias berbahaya.
• Kami melakukan riset sendiri tentang manifestasi bias berbahaya dan masalah yang lebih luas dalam kesetaraan dan keterwakilan, yang akan membantu menginformasikan pekerjaan kami melalui dokumentasi yang lebih baik dari model yang ada serta berbagai perbaikan untuk model masa depan.
• Kami memahami bahwa bias adalah masalah yang muncul di titik temu antara sistem dan lingkungan penggunaannya. Aplikasi yang dibuat dengan teknologi kami merupakan sistem sosioteknis, jadi kami berkolaborasi dengan pengembang untuk memastikan mereka mengimplementasikan proses yang sesuai dan sistem yang melibatkan manusia untuk memantau perilaku yang tidak diinginkan.

Tujuan kami adalah terus mengembangkan pemahaman kami tentang potensi bahaya API dalam setiap konteks penggunaan, dan terus memperbaiki alat dan proses kami untuk membantu meminimalkannya.

Diperbarui 18 September 2020