OpenAI Red Teaming Network

Nagbubukas kami ng aplikasyon para sa OpenAI Red Teaming Network at inaanyayahan namin ang mga eksperto sa iba't ibang larangan na interesadong mapahusay ang kaligtasan ng mga modelo ng OpenAI na makiisa sa aming mga pagsisikap. Naghahanap kami ng mga eksperto mula sa iba't ibang larangan na makikipagtulungan sa amin sa masusing pagsusuri at red teaming ng aming mga modelo ng AI.

Ang red teaming^A ay mahalagang bahagi ng aming paulit-ulit na proseso ng deployment at pagpapahusay⁠. Sa nakalipas na ilang taon, lumawak ang aming red teaming mula sa pagtutok sa mga pagsubok na naghahanap ng kahinaan sa loob ng OpenAI tungo sa pakikipagtulungan sa isang pangkat ng mga eksperto mula sa labas^B. Tumutulong sila sa pagbuo ng mga sistema ng pag-uuri ng panganib na angkop sa bawat larangan at sa pagsusuri ng mga kakayahan ng mga bagong system na posibleng makapinsala. Maaari mong basahin ang higit pa tungkol sa aming mga nakaraang pagsisikap sa red teaming, kabilang ang pakikipagtulungan namin noon sa mga eksperto mula sa labas, para sa mga modelong gaya ng DALL·E 2⁠(magbubukas sa bagong window) at GPT‑4⁠(magbubukas sa bagong window).^C

Ngayon, naglulunsad kami ng mas pormal na inisyatiba na nakabatay sa mga naunang pundasyong ito, upang palalimin at palawakin ang aming pakikipagtulungan sa mga eksperto mula sa labas at gawing mas ligtas ang aming mga modelo. Mahalagang bahagi ng aming proseso ang pakikipagtulungan sa mga indibidwal na eksperto, institusyon ng pananaliksik, at organisasyon ng lipunang sibil. Itinuturing namin ang gawaing ito bilang pandagdag sa mga pamamaraan ng pamamahalang itinakda ng mga panlabas na entidad, gaya ng mga audit ng independiyenteng tagasuri.

Ang OpenAI Red Teaming Network ay isang komunidad ng mga pinagkakatiwalaan at bihasang eksperto na makakatulong sa mas malawak na paggabay sa aming pagtatasa at pagbabawas ng panganib. Hindi ito limitado sa minsanang pakikipagtulungan at pagpili ng mga eksperto bago ang malalaking deployment ng modelo. Tatawagin ang mga miyembro ng network batay sa kanilang kadalubhasaan upang tumulong sa red teaming sa iba't ibang yugto ng pagbuo ng modelo at produkto. Hindi lahat ng miyembro ay lalahok sa bawat bagong modelo o produkto. Pagkakasunduan kasama ang bawat miyembro ang oras na ilalaan nila, na maaaring 5–10 oras lang sa isang taon.

Bukod sa mga kampanya ng red teaming na ipinapagawa ng OpenAI, magkakaroon ang mga miyembro ng pagkakataong makipagpalitan sa isa't isa ng kaalaman tungkol sa mga pangkalahatang pamamaraan at natuklasan sa red teaming. Layunin nitong magkaroon ng mas sari-sari at tuloy-tuloy na mga ambag, at gawing prosesong mas regular na inuulit at pinapahusay ang red teaming. Pandagdag ang network na ito sa iba pang pagkakataong makipagtulungan sa kaligtasan ng AI, kabilang ang aming Programa ng Access para sa mga Mananaliksik⁠ at mga open-source na pagsusuri⁠(magbubukas sa bagong window).

Nagbibigay ang network na ito ng natatanging pagkakataong makatulong sa pagbuo ng mas ligtas na mga teknolohiya at patakaran sa AI, at sa paghubog ng magiging epekto ng AI sa ating pamumuhay, pagtatrabaho, at pakikipag-ugnayan. Sa pagsali sa network na ito, magiging bahagi ka ng aming pangkat ng mga eksperto sa kani-kanilang larangan na maaaring tawagin upang suriin ang aming mga modelo at system sa iba't ibang yugto ng deployment ng mga ito.

Sa pagtatasa ng mga AI system, kailangan ang pag-unawa sa maraming larangan, iba't ibang pananaw, at mga personal na karanasan sa buhay. Inaanyayahan naming mag-apply ang mga eksperto mula sa buong mundo. Sa aming proseso ng pagpili, binibigyang-priyoridad namin ang pagkakaroon ng mga miyembrong mula sa iba't ibang lugar at larangan. 

Kabilang sa mga larangang interesado kami ang mga sumusunod, pero hindi limitado sa mga ito:

Hindi kailangan ang karanasan sa mga AI system o modelo ng wika, pero maaari itong makatulong. Ang pinakamahalaga sa amin ay ang kahandaan mong makilahok at ibahagi ang iyong pananaw sa paraan ng pagtatasa namin sa mga epekto ng mga AI system.

Babayaran ang lahat ng miyembro ng OpenAI Red Teaming Network para sa kanilang mga ambag kapag lumahok sila sa isang proyekto ng red teaming. Bagama't hindi ka pipigilan ng pagiging miyembro ng network na ito na ilathala ang iyong pananaliksik o tumanggap ng iba pang oportunidad, dapat mong isaalang-alang na ang anumang paglahok sa red teaming at iba pang proyekto ay kadalasang saklaw ng mga kasunduan sa hindi pagsisiwalat (NDA) o nananatiling kumpidensyal nang walang tiyak na takdang panahon.

Sarado na ang pagtanggap ng mga aplikasyon.

Tanong: Ano ang kaakibat ng pagsali sa network?

Sagot: Bilang bahagi ng network, maaari kang kontakin para sa mga pagkakataong subukan ang isang bagong modelo, o suriin ang isang larangang interesado kami sa isang modelong naka-deploy na. Ang mga gawaing isinasagawa bilang bahagi ng network ay saklaw ng kasunduan sa hindi pagsisiwalat (NDA), bagama't nailathala na namin ang marami sa aming mga natuklasan sa red teaming sa mga System Card at blog post. Babayaran ka para sa oras na ilalaan mo sa mga proyekto ng red teaming.

Tanong: Gaano karaming oras ang inaasahang ilalaan ng isang miyembro ng network? 

Sagot: Maaaring iayon sa iyong iskedyul ang oras na pipiliin mong ilaan. Tandaan na hindi kokontakin ang lahat ng miyembro ng network para sa bawat oportunidad. Pipili ang OpenAI batay sa kung sino ang angkop sa isang partikular na proyekto ng red teaming, at bibigyang-diin ang mga bagong pananaw sa mga susunod na kampanya ng red teaming. Kahit 5 oras lang sa isang taon ay mahalaga na sa amin, kaya huwag mag-atubiling mag-apply kung interesado ka pero limitado ang iyong oras.

Tanong: Kailan aabisuhan ang mga aplikante na natanggap sila?

Sagot: Patuloy na pipili ang OpenAI ng mga miyembro ng network habang may mga pumapasok na aplikasyon, at maaari kang mag-apply hanggang Disyembre 1, 2023. Pagkatapos ng panahong ito, muli naming susuriin kung magbubukas ng mga pagkakataong mag-apply sa hinaharap.

Tanong: Kapag miyembro ako ng network, hihilingin ba sa akin na magsagawa ng red teaming sa bawat bagong modelo?

Sagot: Hindi. Pipili ang OpenAI batay sa kung sino ang angkop sa isang partikular na proyekto ng red teaming, at hindi mo dapat asahang masusubukan mo ang bawat bagong modelo.

Tanong: Ano ang ilan sa mga katangiang hinahanap ninyo sa mga miyembro ng network?

Sagot: Ilan sa mga hinahanap namin ay:

• Napatunayang kadalubhasaan o karanasan sa isang partikular na larangang may kaugnayan sa red teaming

• Masigasig na pagnanais na mapahusay ang kaligtasan ng AI

• Walang salungatan ng interes

• Iba't ibang pinagmulan at pagiging kabilang sa mga grupong karaniwang kulang sa representasyon

• Representasyon mula sa iba't ibang lugar 

• Katatasan sa higit sa isang wika

• Teknikal na kakayahan (hindi kinakailangan)

Tanong: Ano ang iba pang pagkakataong makipagtulungan sa kaligtasan ng AI?

Sagot: Bukod sa pagsali sa network, may iba pang pagkakataong makipagtulungan upang makatulong sa kaligtasan ng AI. Halimbawa, maaari kang bumuo o magsagawa ng mga pagsusuri sa kaligtasan ng mga AI system at suriin ang mga resulta.

Nagbibigay ang open-source na Evals⁠(magbubukas sa bagong window) repository ng OpenAI (na inilabas kasabay ng paglulunsad ng GPT‑4⁠) ng mga madaling gamiting template at halimbawang pamamaraan para masimulan ang prosesong ito.

Maaaring mula sa mga simpleng pagsusulit na tanong at sagot hanggang sa mas kumplikadong mga simulation ang mga pagsusuri. Bilang mga kongkretong halimbawa, narito ang ilang pagsusuring binuo ng OpenAI upang tasahin ang mga pag-uugali ng AI mula sa iba't ibang anggulo:

Panghihikayat

• MakeMeSay⁠(magbubukas sa bagong window): Gaano kahusay kayang malinlang ng isang AI system ang isa pang AI system para sabihin nito ang isang lihim na salita?

• MakeMePay⁠(magbubukas sa bagong window): Gaano kahusay kayang makumbinsi ng isang AI system ang isa pang AI system na mag-donate ng pera?

• Panukala sa Balota⁠(magbubukas sa bagong window): Gaano kahusay kayang maimpluwensiyahan ng isang AI system ang pagsuporta ng isa pang AI system sa isang panukalang pampolitika?

Steganograpiya (pagkukubli ng mga mensahe)

• Steganograpiya⁠(magbubukas sa bagong window): Gaano kahusay kayang magpasa ng isang AI system ng mga lihim na mensahe nang hindi natutuklasan ng isa pang AI system?

• Pag-compress ng Teksto⁠(magbubukas sa bagong window): Gaano kahusay kayang mag-compress at mag-decompress ng mga mensahe ang isang AI system upang makapagkubli ng mga lihim na mensahe?

• Punto ni Schelling⁠(magbubukas sa bagong window): Gaano kahusay kayang makipag-ugnayan ng isang AI system sa isa pang AI system nang walang direktang komunikasyon?

Hinihikayat namin ang pagkamalikhain at pag-eeksperimento sa pagsusuri ng mga AI system. Kapag natapos na, malugod ka naming inaanyayahang iambag ang iyong pagsusuri sa open-source na Evals⁠(magbubukas sa bagong window) repository upang magamit ng mas malawak na komunidad ng AI.

Maaari ka ring mag-apply sa aming Programa ng Access para sa mga Mananaliksik⁠, na nagbibigay ng credits upang suportahan ang mga mananaliksik na gumagamit ng aming mga produkto sa pag-aaral ng mga larangang may kaugnayan sa responsableng deployment ng AI at pagbabawas ng mga kaakibat na panganib.