OpenAI

Dikemaskinikan: 14 November 2022

Dasar perkongsian & penerbitan

Media sosial, penstriman langsung dan demonstrasi

Untuk mengurangkan kemungkinan risiko bagi kandungan dijana AI, kami telah menetapkan dasar yang berikut tentang perkongsian yang dibenarkan.

Menyiarkan prom atau penyelesaian anda sendiri di media sosial pada umumnya dibenarkan, begitu juga dengan menstrim penggunaan anda secara langsung atau mendemonstrasikan produk kami kepada sekumpulan orang. Sila patuhi perkara yang berikut:

  • Semak setiap penjanaan secara manual sebelum berkongsi atau semasa penstriman.

  • Atribusikan kandungan atas nama anda atau syarikat anda.

  • Nyatakan bahawa kandungan tersebut dijana oleh AI dengan cara yang jelas sehingga tiada pengguna secara munasabah akan terlepas pandang atau tersalah faham.

  • Jangan berkongsi kandungan yang melanggar Dasar Kandungan⁠⁠ kami atau yang boleh menyinggung perasaan orang lain.

  • Jika menerima permintaan prom daripada khalayak, gunakan pertimbangan yang wajar; jangan masukkan prom yang mungkin mengakibatkan pelanggaran Dasar Kandungan⁠⁠ kami.

Jika anda ingin memastikan bahawa pasukan OpenAI menyedari akan penyelesaian tertentu, anda boleh menghantar e-mel kepada kami atau menggunakan alatan pelaporan dalam Playground.

Kandungan yang ditulis bersama dengan API OpenAI

Pencipta yang ingin menerbitkan kandungan bertulis pihak pertama mereka (mis., buku, himpunan cerita pendek) yang sebahagiannya dihasilkan menggunakan API OpenAI dibenarkan untuk berbuat demikian menurut syarat yang berikut:

  • Kandungan yang diterbitkan diatribusikan atas nama atau syarikat anda.

  • Peranan AI dalam merumuskan kandungan dinyatakan dengan jelas melalui cara yang dapat memastikan mana-mana pembaca tidak mungkin terlepas pandang dan yang akan dianggap cukup mudah difahami oleh pembaca biasa.

  • Topik kandungan tidak melanggar Dasar Kandungan⁠⁠ atau Syarat Penggunaan⁠⁠ OpenAI, mis., tidak berkaitan dengan kandungan dewasa, spam, kandungan berunsur kebencian, kandungan yang menghasut keganasan atau penggunaan lain yang boleh menyebabkan kemudaratan sosial.

  • Kami meminta jasa baik anda supaya berhenti berkongsi output yang boleh menyinggung perasaan orang lain.

Sebagai contoh, peranan relatif penyediaan draf, penyuntingan dsb. perlu diperincikan dalam Kata Pengantar atau Pengenalan (atau bahagian lain yang serupa). Kandungan yang dijana oleh API tidak seharusnya digambarkan sebagai dijana sepenuhnya oleh manusia atau dijana sepenuhnya oleh AI, dan akhirnya manusia yang bertanggungjawab terhadap kandungan yang diterbitkan.

Yang berikut ialah beberapa bahasa contoh yang boleh anda gunakan untuk menerangkan proses kreatif anda, dengan syarat hal ini tepat:

Penulis menjana teks ini bersama dengan GPT‑3, model penjanaan bahasa berskala besar OpenAI. Setelah menjana draf bahasa, penulis menyemak, mengedit dan mengubah bahasa mengikut cita rasa mereka sendiri dan bertanggungjawab sepenuhnya terhadap kandungan penerbitan ini.

Penyelidikan

Kami percaya bahawa adalah penting untuk membolehkan masyarakat umum menilai penyelidikan dan produk kami, terutamanya untuk memahami dan menambah baik kelemahan yang mungkin wujud serta masalah keselamatan atau kecenderungan tertentu dalam model kami. Kami mengalu-alukan penerbitan penyelidikan yang berkaitan dengan API OpenAI.

  • Dalam sesetengah kes, kami mungkin ingin menyerlahkan hasil kerja anda secara dalaman dan/atau luaran.

  • Dalam kes yang lain, seperti penerbitan yang berkaitan dengan keselamatan atau penyalahgunaan API, kami mungkin ingin mengambil tindakan yang bersesuaian untuk melindungi pengguna kami.

  • Jika anda mendapati terdapat sebarang masalah keselamatan atau perlindungan yang berkenaan dengan API semasa menjalankan penyelidikan anda, kami meminta jasa baik anda untuk memaklumkan perkara ini dengan segera melalui Program Penyelarasan Pendedahan Kerentanan⁠⁠ kami.

Program Akses Penyelidik

Terdapat beberapa haluan penyelidikan yang ingin kami terokai dengan API OpenAI. Jika anda berminat untuk mendapatkan peluang akses bersubsidi, sila berikan butiran tentang kes penggunaan penyelidikan anda kepada kami dalam permohonan Program Akses Penyelidik⁠⁠.

Secara khusus, kami menganggap perkara yang berikut sebagai haluan yang amat penting, namun anda bebas untuk merangka haluan anda sendiri:

  • Penjajaran: Bagaimanakah cara memahami objektif, jika ada, yang cuba dicapai oleh model? Bagaimanakah kita meningkatkan kesejajaran objektif tersebut dengan keutamaan manusia, seperti melalui reka bentuk prom atau penalaan halus?

  • Kesaksamaan dan perwakilan: Bagaimanakah kriteria prestasi harus diwujudkan untuk memperoleh kesaksamaan dan perwakilan dalam model bahasa? Bagaimanakah model bahasa boleh ditingkatkan untuk menyokong objektif kesaksamaan dan perwakilan secara berkesan dalam konteks khusus yang digunakan?

  • Penyelidikan antara disiplin: Bagaimanakah pembangunan AI boleh memanfaatkan cerapan daripada bidang lain seperti falsafah, sains kognitif dan sosiolinguistik?

  • Kebolehtafsiran dan ketelusan: Bagaimanakah model ini berfungsi secara mekanistik? Bolehkah kita mengenal pasti konsep yang digunakan, atau mengekstrak pengetahuan terpendam daripada model, membuat inferens tentang prosedur latihan, atau meramalkan tingkah laku masa hadapan yang mengejutkan?

  • Potensi penyalahgunaan: Bagaimanakah sistem seperti API boleh disalahgunakan? Apakah jenis pendekatan “proses penyerang” yang boleh kami bangunkan untuk membantu kami dan pembangun AI lain memikirkan tentang penggunaan teknologi seperti ini secara bertanggungjawab?

  • Penerokaan model: Model seperti yang disampaikan oleh API mempunyai pelbagai keupayaan yang belum kami terokai. Kami teruja dengan penyelidikan yang dijalankan dalam pelbagai bidang termasuk had model, sifat linguistik, penaakulan lazim dan potensi penggunaan untuk pelbagai masalah lain.

  • Keteguhan: Keupayaan model generatif dalam pelbagai bidang tidak sekata, dengan potensi keupayaan yang luar biasa tinggi dalam bidang tertentu dan luar biasa lemah dalam bidang yang lain. Setakat manakah keteguhan model generatif besar terhadap gangguan “semula jadi” dalam prom, seperti pengungkapan idea yang sama dengan cara yang berbeza atau dengan atau tanpa kesalahan ejaan? Bolehkah kita meramalkan jenis domain dan tugasan yang mana model generatif yang besar lebih berkemungkinan menunjukkan keteguhan (atau ketidakteguhan) dan bagaimanakah perkara ini berkaitan dengan data latihan? Adakah terdapat teknik yang boleh digunakan untuk meramalkan dan mengurangkan tingkah laku yang paling buruk? Bagaimanakah keteguhan boleh diukur dalam konteks pembelajaran beberapa percubaan (cth., merentas variasi dalam prom)? Bolehkah model dilatih untuk memenuhi sifat keselamatan dengan tahap kebolehpercayaan yang sangat tinggi, walaupun di bawah input yang berseteru?

Harap maklum bahawa disebabkan oleh jumlah permintaan yang tinggi, kami mengambil masa untuk menyemak permohonan ini dan bukan semua penyelidikan akan diutamakan untuk subsidi. Kami hanya akan menghubungi anda jika permohonan anda terpilih untuk subsidi.