Mreža tvrtke OpenAI za red-team testiranje

Objavljujemo otvoreni poziv za pridruživanje mreži tvrtke OpenAI za red-team testiranje te pozivamo stručnjake iz različitih područja zainteresirane za poboljšanje sigurnosti modela tvrtke OpenAI da nam se pridruže. Tražimo stručnjake iz različitih područja koji će s nama surađivati na temeljitoj evaluaciji i red-team testiranju naših modela umjetne inteligencije.

Red-team testiranje^A sastavni je dio našeg iterativnog procesa uvođenja u upotrebu⁠. Tijekom proteklih nekoliko godina naš se rad na red-team testiranju proširio s internog adversarijalnog testiranja u tvrtki OpenAI na suradnju sa skupinom vanjskih stručnjaka^B koji pomažu u razvoju taksonomija rizika za pojedina područja i procjeni potencijalno štetnih sposobnosti novih sustava. Više o našem dosadašnjem radu na red-team testiranju, uključujući suradnju s vanjskim stručnjacima, možete pročitati na primjerima modela kao što su DALL·E 2⁠(otvara se u novom prozoru) i GPT‑4⁠(otvara se u novom prozoru).^C

Danas pokrećemo formalniju inicijativu kojom ćemo nadograditi te temelje te produbiti i proširiti suradnju s vanjskim stručnjacima kako bismo naše modele učinili sigurnijima. Suradnja s pojedinačnim stručnjacima, istraživačkim institucijama i organizacijama civilnog društva važan je dio našeg procesa. Taj rad smatramo dopunom izvana propisanim praksama upravljanja, poput neovisnih revizija.

Mreža tvrtke OpenAI za red-team testiranje zajednica je pouzdanih i iskusnih stručnjaka koji mogu šire pridonijeti našoj procjeni i ublažavanju rizika, umjesto da se njihovo sudjelovanje svodi na jednokratne angažmane i postupke odabira prije većih uvođenja modela u upotrebu. Članove mreže pozivat ćemo na temelju njihove stručnosti da pomognu u red-team testiranju tijekom različitih faza razvojnog ciklusa modela i proizvoda. Neće svaki član sudjelovati u radu na svakom novom modelu ili proizvodu, a vrijeme koje će posvetiti radu dogovorit ćemo sa svakim članom pojedinačno. To može biti i samo 5–10 sati godišnje.

Izvan ciklusa red-team testiranja koje naručuje OpenAI, članovi će moći međusobno razmjenjivati iskustva o općim praksama i nalazima red-team testiranja. Cilj je omogućiti raznolikije i kontinuirane doprinose te red-team testiranje učiniti procesom koji se u većoj mjeri ponavlja i nadograđuje. Ova mreža nadopunjuje druge mogućnosti suradnje na sigurnosti umjetne inteligencije, uključujući naš Program pristupa za istraživače⁠ i evaluacije otvorenog koda⁠(otvara se u novom prozoru).

Ova mreža pruža jedinstvenu priliku da oblikujete razvoj sigurnijih tehnologija i politika umjetne inteligencije te utjecaj koji umjetna inteligencija može imati na naš način života, rada i međusobne interakcije. Pridruživanjem ovoj mreži postat ćete dio naše skupine stručnjaka koje možemo pozvati da procijene naše modele i sustave u različitim fazama njihova uvođenja u upotrebu.

Procjena sustava umjetne inteligencije zahtijeva razumijevanje širokog raspona područja, različitih perspektiva i životnih iskustava. Pozivamo stručnjake iz cijelog svijeta da se prijave, a u postupku odabira prednost dajemo geografskoj raznolikosti i raznolikosti stručnih područja. 

Područja koja nas zanimaju uključuju, među ostalim:

Prethodno iskustvo sa sustavima umjetne inteligencije ili jezičnim modelima nije potrebno, ali može biti korisno. Najviše cijenimo vašu spremnost da se uključite i svojom perspektivom doprinesete načinu na koji procjenjujemo učinke sustava umjetne inteligencije.

Svi članovi mreže tvrtke OpenAI za red-team testiranje dobit će naknadu za svoj doprinos kada sudjeluju u projektu red-team testiranja. Iako vas članstvo u ovoj mreži neće ograničavati u objavljivanju istraživanja ili prihvaćanju drugih prilika, imajte na umu da sudjelovanje u red-team testiranju i drugim projektima često podliježe ugovorima o povjerljivosti (NDA) ili ostaje povjerljivo na neodređeno vrijeme.

Prijave su zatvorene.

P: Što podrazumijeva pridruživanje mreži?

O: Kao člana mreže možemo vas kontaktirati radi testiranja novog modela ili ispitivanja određenog područja interesa na modelu koji je već u upotrebi. Rad u sklopu mreže podliježe ugovoru o povjerljivosti (NDA), iako smo dosad mnoge nalaze red-team testiranja objavili u dokumentaciji o sustavima i objavama na blogu. Za vrijeme provedeno na projektima red-team testiranja dobit ćete naknadu.

P: Koliko se vremena očekuje da članovi posvete radu u mreži? 

O: Vrijeme koje odlučite posvetiti radu možete prilagoditi svojem rasporedu. Imajte na umu da nećemo kontaktirati sve članove mreže za svaku priliku. OpenAI će odabrati članove čija stručnost najbolje odgovara određenom projektu red-team testiranja, a u sljedećim ciklusima testiranja naglasak će biti na novim perspektivama. Čak i samo 5 sati godišnje bilo bi nam vrijedno, stoga se slobodno prijavite ako ste zainteresirani, ali imate malo vremena.

P: Kada će kandidati biti obaviješteni da su primljeni?

O: OpenAI će kontinuirano odabirati članove mreže, a prijaviti se možete do 1. prosinca 2023. Nakon isteka tog roka razmotrit ćemo mogućnost ponovnog otvaranja prijava.

P: Znači li članstvo u mreži da ću dobiti poziv za red-team testiranje svakog novog modela?

O: Ne, OpenAI će odabrati članove čija stručnost najbolje odgovara određenom projektu red-team testiranja, pa ne biste trebali očekivati da ćete testirati svaki novi model.

P: Koji su neki od kriterija za odabir članova mreže?

O: Neki od kriterija koje uzimamo u obzir su:

• Dokazana stručnost ili iskustvo u određenom području relevantnom za red-team testiranje

• Snažna motivacija za poboljšanje sigurnosti umjetne inteligencije

• Nepostojanje sukoba interesa

• Raznolikost iskustava i zastupljenost tradicionalno nedovoljno zastupljenih skupina

• Zastupljenost različitih geografskih područja 

• Tečno poznavanje više od jednog jezika

• Tehničke vještine (nisu obavezne)

P: Koje još mogućnosti suradnje na sigurnosti postoje?

O: Osim pridruživanja mreži, postoje i druge mogućnosti suradnje kojima možete pridonijeti sigurnosti umjetne inteligencije. Primjerice, možete osmisliti ili provesti evaluacije sigurnosti sustava umjetne inteligencije i analizirati rezultate.

Repozitorij otvorenog koda Evals⁠(otvara se u novom prozoru) tvrtke OpenAI (objavljen u sklopu predstavljanja modela GPT‑4⁠) nudi jednostavne predloške i primjere metoda koji olakšavaju početak tog procesa.

Evaluacije mogu obuhvaćati sve od jednostavnih testova s pitanjima i odgovorima do složenijih simulacija. Evo konkretnih primjera evaluacija koje je OpenAI razvio za procjenu ponašanja umjetne inteligencije iz različitih perspektiva:

Uvjeravanje

• MakeMeSay⁠(otvara se u novom prozoru): Koliko uspješno sustav umjetne inteligencije može navesti drugi takav sustav da izgovori tajnu riječ?

• MakeMePay⁠(otvara se u novom prozoru): Koliko uspješno sustav umjetne inteligencije može uvjeriti drugi takav sustav da donira novac?

• Prijedlog za glasovanje⁠(otvara se u novom prozoru): Koliko uspješno sustav umjetne inteligencije može utjecati na to hoće li drugi takav sustav podržati neki politički prijedlog?

Steganografija (skrivanje poruka)

• Steganografija⁠(otvara se u novom prozoru): Koliko uspješno sustav umjetne inteligencije može prenositi tajne poruke, a da ga drugi takav sustav ne otkrije?

• Kompresija teksta⁠(otvara se u novom prozoru): Koliko uspješno sustav umjetne inteligencije može komprimirati i dekomprimirati poruke kako bi omogućio skrivanje tajnih poruka?

• Schellingova točka⁠(otvara se u novom prozoru): Koliko uspješno sustav umjetne inteligencije može uskladiti svoje djelovanje s drugim takvim sustavom bez izravne komunikacije?

Potičemo kreativnost i eksperimentiranje pri evaluaciji sustava umjetne inteligencije. Kad dovršite evaluaciju, pozivamo vas da je dodate u repozitorij otvorenog koda Evals⁠(otvara se u novom prozoru) kako bi se njome mogla koristiti šira zajednica u području umjetne inteligencije.

Možete se prijaviti i u naš Program pristupa za istraživače⁠, koji dodjeljuje kredite za podršku istraživačima koji se našim proizvodima koriste za proučavanje odgovornog uvođenja umjetne inteligencije i ublažavanja povezanih rizika.