Jaringan Red Teaming OpenAI

Kita ngumumaké pendaftaran umum kanggo Jaringan Red Teaming OpenAI lan ngajak para ahli ing manéka bidang sing kasengsem ningkataké keamanan model OpenAI supaya melu upaya iki. Kita nggoleki para ahli saka manéka bidang kanggo makarya bebarengan ngevaluasi lan nindakaké red teaming kanthi tliti marang model AI kita.

Red teaming^A minangka bagéan sing ora bisa dipisahaké saka proses panggelaran kanthi bertahap lan dibalèni⁠ kita. Sajroning sawetara taun pungkasan, upaya red teaming kita wis ngrembaka saka fokus nguji kanthi cara adversarial ing internal OpenAI, dadi makarya bebarengan karo klompok ahli njaba^B kanggo mbantu ngembangaké klasifikasi risiko miturut bidang lan ngevaluasi kapabilitas sing bisa mbebayani ing sistem anyar. Sampeyan bisa maca luwih akèh bab upaya red teaming kita sadurungé, kalebu pakaryan bareng para ahli njaba, ing model kayata DALL·E 2⁠(mbukak ing jendhela anyar) lan GPT‑4⁠(mbukak ing jendhela anyar).^C

Dina iki, kita miwiti upaya sing luwih resmi kanggo nerusaké dhasar sing wis dibangun, sarta nguwataké lan nggedhèkaké kerja sama karo para ahli njaba supaya model kita luwih aman. Makarya bebarengan karo ahli perorangan, lembaga riset, lan organisasi masyarakat sipil minangka bagéan wigati saka proses kita. Kita nganggep pakaryan iki minangka pelengkap kanggo praktik tata kelola sing ditemtokaké pihak njaba, kayata audit pihak katelu.

Jaringan Red Teaming OpenAI minangka komunitas para ahli sing dipercaya lan duwé pengalaman, sing bisa menehi masukan luwih jembar kanggo upaya pambijèn lan mitigasi risiko kita. Kanthi mangkono, kerja sama lan proses pamilihan ahli ora mung sapisan sadurungé model utama diluncuraké. Anggota jaringan bakal diajak adhedhasar keahliané kanggo mbantu nindakaké red teaming ing manéka tahap siklus pangembangan model lan produk. Ora saben anggota bakal melu ing saben model utawa produk anyar. Wektu sing diluwangaké bakal ditemtokaké bebarengan karo saben anggota, lan bisa mung 5–10 jam sajroning setaun.

Ing sanjabané kegiatan red teaming sing ditugasaké OpenAI, para anggota bakal duwé kesempatan sesambungan kanggo ngrembug praktik lan temuan red teaming kanthi umum. Tujuané yaiku supaya masukan luwih manéka warna lan terus lumaku, sarta supaya red teaming dadi proses sing luwih ajeg dibalèni lan disampurnakaké. Jaringan iki nglengkapi kesempatan kolaborasi keamanan AI liyané, kalebu Program Akses Panliti⁠ lan evaluasi sumber terbuka⁠(mbukak ing jendhela anyar) kita.

Jaringan iki nawakaké kesempatan mirunggan kanggo mèlu nemtokaké arah pangembangan teknologi lan kabijakan AI sing luwih aman, uga dampak AI marang cara kita urip, nyambut gawé, lan sesambungan. Kanthi gabung ing jaringan iki, sampeyan bakal dadi salah siji ahli bidang sing bisa kita ajak mbiji model lan sistem ing manéka tahap panganggoné.

Mbiji sistem AI mbutuhaké pangerten babagan manéka bidang, cara pandang, lan pengalaman urip. Kita ngajak para ahli saka saindenging donya kanggo ndhaptar lan ngutamakaké keragaman asal dhaérah uga bidang keahlian nalika milih anggota. 

Sawetara bidang sing kita minati kalebu, nanging ora mung:

Pengalaman sadurungé nganggo sistem AI utawa model basa ora dadi syarat, nanging bisa migunani. Sing paling kita ajèni yaiku kekarepan sampeyan kanggo melu lan nyumbang cara pandang marang cara kita mbiji dampak sistem AI.

Kabèh anggota Jaringan Red Teaming OpenAI bakal nampa imbalan kanggo sumbangsihé nalika melu proyèk red teaming. Sanajan dadi anggota jaringan iki ora mbatesi sampeyan nerbitaké riset utawa ngupaya kesempatan liya, perlu digatèkaké yèn keterlibatan ing red teaming lan proyèk liya kerep kaiket Perjanjian Kerahasiaan (NDA) utawa kudu tetep dirahasiakaké nganti wektu sing durung ditemtokaké.

Pendaftaran saiki wis ditutup.

P: Apa waé sing bakal ditindakaké nalika gabung ing jaringan iki?

W: Dadi anggota jaringan iki ateges sampeyan bisa dikontak kanggo nguji model anyar utawa nguji aspek sing dadi kawigatèn ing model sing wis digunakaké. Pakaryan ing jaringan iki kaiket perjanjian kerahasiaan (NDA), sanajan sadurungé kita wis nerbitaké akèh temuan red teaming ing Kertu Sistem lan tulisan blog. Sampeyan bakal nampa imbalan kanggo wektu sing diluwangaké ing proyèk red teaming.

P: Sepira akèh wektu sing kudu diluwangaké minangka anggota jaringan iki? 

W: Wektu sing arep sampeyan luwangaké bisa dicocogaké karo jadwal sampeyan. Perlu digatèkaké yèn ora kabèh anggota jaringan bakal dikontak kanggo saben kesempatan. OpenAI bakal milih anggota sing paling cocog kanggo proyèk red teaming tartamtu, lan ngutamakaké cara pandang anyar ing kegiatan red teaming sabanjuré. Sanajan mung 5 jam sajroning setaun, wektu iku tetep aji tumrap kita. Mula, aja ragu ndhaptar yen sampeyan kasengsem nanging wektu sampeyan winates.

P: Kapan para pendaftar bakal dikabari yèn wis ditampa?

W: OpenAI bakal milih anggota jaringan kanthi bertahap, lan sampeyan bisa ndhaptar nganti tanggal 1 Desember 2023. Sawisé mangsa pendaftaran iki, kita bakal nimbang manèh apa bakal mbukak kesempatan ndhaptar ing tembé.

P: Apa dadi anggota jaringan iki ateges aku bakal dijaluk nindakaké red teaming marang saben model anyar?

W: Ora. OpenAI bakal milih anggota sing paling cocog kanggo proyèk red teaming tartamtu, mula aja ngarep-arep bakal nguji saben model anyar.

P: Apa waé kritéria anggota jaringan sing digoleki?

W: Sawetara kritéria sing kita goleki yaiku:

• Keahlian utawa pengalaman sing wis kabuktèn ing bidang tartamtu sing magepokan karo red teaming

• Duwé semangat kanggo ningkataké keamanan AI

• Ora duwé konflik kepentingan

• Manéka latar mburi lan golongan sing sasuwéné iki kurang diwakili

• Makili manéka dhaérah 

• Lancar nganggo luwih saka siji basa

• Kaprigelan tèknis (ora dadi syarat)

P: Apa ana kesempatan liya kanggo makarya bebarengan ing babagan keamanan?

W: Saliyané gabung ing jaringan iki, ana kesempatan kolaborasi liya kanggo nyumbang marang keamanan AI. Contoné, salah siji pilihan yaiku ngrancang utawa nindakaké evaluasi keamanan sistem AI lan nganalisis asilé.

Gudang kode sumber terbuka Evals⁠(mbukak ing jendhela anyar) saka OpenAI (sing dirilis minangka bagéan saka peluncuran GPT‑4⁠) nyedhiyakaké cithakan sing gampang dienggo lan conto metode kanggo miwiti proses iki.

Evaluasi bisa awujud tes pitakon-wangsulan sing prasaja nganti simulasi sing luwih rumit. Minangka conto nyata, iki sawetara evaluasi sing dikembangaké OpenAI kanggo mbiji prilaku AI saka manéka sudut pandang:

Persuasi

• MakeMeSay⁠(mbukak ing jendhela anyar): Sepira trampilé sistem AI ngakali sistem AI liya supaya ngucapaké tembung rahasia?

• MakeMePay⁠(mbukak ing jendhela anyar): Sepira trampilé sistem AI ngyakinaké sistem AI liya supaya nyumbang dhuwit?

• Usulan Pamilihan⁠(mbukak ing jendhela anyar): Sepira trampilé sistem AI mengaruhi dhukungan sistem AI liya marang usulan politik?

Steganografi (pesen sing didhelikaké)

• Steganografi⁠(mbukak ing jendhela anyar): Sepira trampilé sistem AI ngirim pesen rahasia tanpa konangan sistem AI liya?

• Kompresi Tèks⁠(mbukak ing jendhela anyar): Sepira trampilé sistem AI ngompres lan mbukak manèh pesen sing dikompres supaya bisa ndhelikaké pesen rahasia?

• Titik Schelling⁠(mbukak ing jendhela anyar): Sepira trampilé sistem AI koordinasi karo sistem AI liya tanpa komunikasi langsung?

Kita nyengkuyung kreativitas lan eksperimen nalika ngevaluasi sistem AI. Sawisé rampung, sampeyan bisa nyumbang evaluasi kasebut menyang gudang kode sumber terbuka Evals⁠(mbukak ing jendhela anyar) supaya bisa digunakaké déning komunitas AI sing luwih jembar.

Sampeyan uga bisa ndhaptar Program Akses Panliti⁠ kita, sing nyedhiyakaké kredit kanggo nyengkuyung panliti sing nganggo produk kita kanggo nyinaoni panganggoné AI kanthi tanggung jawab lan cara nyuda risiko sing ana gandhèngané.