Kanggo mbantu pangembang nglindhungi aplikasi saka kemungkinan panyalahgunaan, kita ngenalake titik pungkasan Moderation(mbukak ing jendhela anyar) sing luwih cepet lan luwih akurat. Titik pungkasan iki menehi pangembang OpenAI API akses gratis menyang classifier adhedhasar GPT sing ndeteksi konten sing ora dikarepake—conto panggunaan sistem AI kanggo mbantu pengawasan manungsa marang sistem kasebut. Kita uga wis nerbitake makalah teknis(mbukak ing jendhela anyar) sing njlentrehake metodologi kita lan dataset(mbukak ing jendhela anyar) sing digunakake kanggo evaluasi.
Nalika diwenehi input teks, titik pungkasan Moderation netepake apa kontene seksual, kebak sengit, kasar, utawa nyurung cilaka dhiri—konten sing dilarang dening kabijakan konten(mbukak ing jendhela anyar) kita. Titik pungkasan iki dilatih supaya cepet, akurat, lan bisa makarya kanthi tangguh ing macem-macem aplikasi. Sing penting, iki nyuda kemungkinan produk “ngucapake” perkara sing salah, sanajan wis digunakake kanggo pangguna ing skala gedhe. Mula saka kuwi, AI bisa mbukak manfaat ing kahanan sensitif, kaya pendidikan, sing yen ora mangkono ora bisa digunakake kanthi yakin.
Titik pungkasan Moderation mbantu pangembang supaya bisa entuk manfaat saka investasi infrastruktur kita. Tinimbang nggawe lan njaga classifier dhewe—proses sing dawa, kaya sing kita jlentrehake ing makalah(mbukak ing jendhela anyar) kita—dheweke bisa ngakses classifier sing akurat liwat siji panggilan OpenAI API.
Minangka bagean saka komitmen OpenAI kanggo nggawe ekosistem AI luwih aman, kita nyedhiyakake titik pungkasan iki supaya kabeh konten sing digawe OpenAI API bisa dimoderasi kanthi gratis. Contone, Inworld(mbukak ing jendhela anyar), pelanggan OpenAI API, nggunakake titik pungkasan Moderation kanggo mbantu karakter virtual adhedhasar AI tetep cocog kanggo pamirsane. Kanthi nggunakke teknologi OpenAI, Inworld bisa fokus ing produk intine: nggawe karakter sing ngesanake. Saiki kita durung ndhukung ngawasi lalu lintas pihak katelu.
Miwiti nggunakake titik pungkasan Moderation kanthi ndeleng dokumentasi(mbukak ing jendhela anyar). Rincian luwih lengkap babagan proses pelatihan lan kinerja model kasedhiya ing makalah(mbukak ing jendhela anyar) kita. Kita uga wis nerbitake dataset evaluasi(mbukak ing jendhela anyar), sing nampilake data Common Crawl sing diwenehi label miturut kategori kasebut, lan kita ngarep-arep iki bakal nyurung riset luwih lanjut ing bidang iki.
