Rrjeti i OpenAI për simulimin e sulmeve

Po shpallim një thirrje të hapur për Rrjetin e OpenAI për simulimin e sulmeve dhe ftojmë ekspertë të fushave të ndryshme, të interesuar për përmirësimin e sigurisë së modeleve të OpenAI, që t’u bashkohen përpjekjeve tona. Kërkojmë ekspertë nga fusha të ndryshme për të bashkëpunuar me ne në vlerësimin rigoroz të modeleve tona të IA-së dhe testimin e tyre përmes simulimit të sulmeve.

Simulimi i sulmeve^A është pjesë thelbësore e procesit tonë të vënies në përdorim me cikle të përsëritura⁠. Gjatë viteve të fundit, përpjekjet tona për simulimin e sulmeve janë zgjeruar: nga testimi i brendshëm me sulme të simuluara në OpenAI, kemi kaluar në bashkëpunimin me një grup ekspertësh të jashtëm^B, për të ndihmuar në zhvillimin e klasifikimeve të rrezikut sipas fushave dhe në vlerësimin e aftësive potencialisht të dëmshme të sistemeve të reja. Mund të lexoni më shumë për përpjekjet tona të mëparshme për simulimin e sulmeve, përfshirë punën me ekspertë të jashtëm, në modele si DALL·E 2⁠(hapet në një dritare të re) dhe GPT‑4⁠(hapet në një dritare të re).^C

Sot po nisim një përpjekje më të formalizuar, duke u mbështetur në këto baza të mëparshme, për të thelluar dhe zgjeruar bashkëpunimin me ekspertë të jashtëm, me qëllim që t’i bëjmë modelet tona më të sigurta. Bashkëpunimi me ekspertë individualë, institucione kërkimore dhe organizata të shoqërisë civile është pjesë e rëndësishme e procesit tonë. Këtë punë e shohim si plotësuese të praktikave të qeverisjes të përcaktuara nga jashtë, si auditimet nga palë të treta.

Rrjeti i OpenAI për simulimin e sulmeve është një komunitet ekspertësh të besuar dhe me përvojë, të cilët mund të ndihmojnë më gjerësisht në vlerësimin dhe zbutjen e rreziqeve. Kjo shkon përtej angazhimeve të njëhershme dhe proceseve të përzgjedhjes që zhvillohen para vënies në përdorim të modeleve kryesore. Anëtarët e rrjetit do të ftohen, sipas ekspertizës së tyre, të ndihmojnë në simulimin e sulmeve në faza të ndryshme të ciklit të zhvillimit të modeleve dhe produkteve. Jo çdo anëtar do të përfshihet në çdo model apo produkt të ri. Koha e angazhimit do të përcaktohet së bashku me secilin anëtar dhe mund të jetë edhe vetëm 5–10 orë në vit.

Përveç fushatave të simulimit të sulmeve të porositura nga OpenAI, anëtarët do të kenë mundësinë të shkëmbejnë me njëri-tjetrin praktika dhe gjetje të përgjithshme mbi simulimin e sulmeve. Synimi është të mundësojmë kontribute më të larmishme dhe të vazhdueshme dhe ta bëjmë simulimin e sulmeve një proces me më shumë cikle të përsëritura. Ky rrjet plotëson mundësi të tjera bashkëpunimi për sigurinë e IA-së, përfshirë Programin tonë të qasjes për kërkuesit⁠ dhe vlerësimet me kod të hapur⁠(hapet në një dritare të re).

Ky rrjet ofron një mundësi unike për të ndikuar në zhvillimin e teknologjive dhe politikave më të sigurta të IA-së, si dhe në ndikimin që IA-ja mund të ketë në mënyrën se si jetojmë, punojmë dhe ndërveprojmë. Duke iu bashkuar këtij rrjeti, do të bëheni pjesë e grupit tonë të ekspertëve të fushave të ndryshme, të cilëve mund t’u kërkohet të vlerësojnë modelet dhe sistemet tona në faza të ndryshme të vënies së tyre në përdorim.

Vlerësimi i sistemeve të IA-së kërkon njohuri për një gamë të gjerë fushash, këndvështrimesh të ndryshme dhe përvojash jetësore. Ftojmë ekspertë nga e gjithë bota të aplikojnë dhe, në procesin e përzgjedhjes, i japim përparësi larmisë gjeografike dhe asaj të fushave të ekspertizës. 

Disa nga fushat që na interesojnë janë, ndër të tjera:

Përvoja e mëparshme me sisteme të IA-së apo modele gjuhësore nuk është e domosdoshme, por mund të jetë e dobishme. Ajo që vlerësojmë më shumë është gatishmëria juaj për t’u angazhuar dhe për të sjellë këndvështrimin tuaj në mënyrën se si i vlerësojmë ndikimet e sistemeve të IA-së.

Të gjithë anëtarët e Rrjetit të OpenAI për simulimin e sulmeve do të kompensohen për kontributin e tyre kur marrin pjesë në një projekt simulimi sulmesh. Ndonëse anëtarësimi në këtë rrjet nuk ju pengon të publikoni kërkimet tuaja apo të ndiqni mundësi të tjera, duhet të keni parasysh se pjesëmarrja në simulimin e sulmeve dhe në projekte të tjera shpesh u nënshtrohet marrëveshjeve të konfidencialitetit (NDA) ose mbetet konfidenciale për një periudhë të pacaktuar.

Aplikimet tashmë janë mbyllur.

Pyetje: Çfarë përfshin anëtarësimi në rrjet?

Përgjigje: Të qenët pjesë e rrjetit do të thotë se mund t’ju kontaktojmë për mundësi testimi të një modeli të ri ose të një fushe me interes në një model që tashmë është në përdorim. Puna në kuadër të rrjetit kryhet nën një marrëveshje konfidencialiteti (NDA), megjithëse në të kaluarën kemi publikuar shumë nga gjetjet tona të simulimit të sulmeve në dokumentet përshkruese të sistemeve dhe në postime në blog. Do të kompensoheni për kohën që u kushtoni projekteve të simulimit të sulmeve.

Pyetje: Sa kohë pritet të angazhohem si pjesë e rrjetit? 

Përgjigje: Koha që vendosni të kushtoni mund të përshtatet sipas orarit tuaj. Kini parasysh se jo të gjithë anëtarët e rrjetit do të kontaktohen për çdo mundësi. OpenAI do t’i përzgjedhë anëtarët sipas përshtatshmërisë për projektin përkatës të simulimit të sulmeve dhe do t’u japë përparësi këndvështrimeve të reja në fushatat e mëvonshme. Edhe vetëm 5 orë në vit do të ishin të vlefshme për ne, ndaj mos hezitoni të aplikoni nëse jeni të interesuar, por keni kohë të kufizuar.

Pyetje: Kur do të njoftohen aplikantët për pranimin e tyre?

Përgjigje: OpenAI do t’i përzgjedhë anëtarët e rrjetit në vazhdimësi dhe mund të aplikoni deri më 1 dhjetor 2023. Pas kësaj periudhe aplikimi, do të rishqyrtojmë mundësinë e rihapjes së aplikimeve në të ardhmen.

Pyetje: A do të më kërkohet të kryej simulime sulmesh mbi çdo model të ri nëse jam pjesë e rrjetit?

Përgjigje: Jo, OpenAI do t’i përzgjedhë anëtarët sipas përshtatshmërisë për projektin përkatës të simulimit të sulmeve dhe nuk duhet të prisni të testoni çdo model të ri.

Pyetje: Cilat janë disa nga kriteret që kërkoni tek anëtarët e rrjetit?

Përgjigje: Disa nga kriteret tona janë:

• Ekspertizë ose përvojë e dëshmuar në një fushë që lidhet me simulimin e sulmeve

• Pasion për përmirësimin e sigurisë së IA-së

• Mungesë konfliktesh interesi

• Prejardhje të ndryshme dhe përfaqësim i grupeve tradicionalisht të nënpërfaqësuara

• Përfaqësim nga zona të ndryshme gjeografike 

• Zotërim i rrjedhshëm i më shumë se një gjuhe

• Aftësi teknike (jo të domosdoshme)

Pyetje: Çfarë mundësish të tjera ka për bashkëpunim në fushën e sigurisë?

Përgjigje: Përveç anëtarësimit në rrjet, ka edhe mundësi të tjera bashkëpunimi për të kontribuar në sigurinë e IA-së. Për shembull, mund të hartoni ose të kryeni vlerësime të sigurisë së sistemeve të IA-së dhe të analizoni rezultatet.

Depoja me kod të hapur e OpenAI, Evals⁠(hapet në një dritare të re) (e publikuar si pjesë e prezantimit të GPT‑4⁠), ofron shabllone të lehta për t’u përdorur dhe shembuj metodash për ta nisur më lehtë këtë proces.

Vlerësimet mund të variojnë nga teste të thjeshta me pyetje dhe përgjigje deri te simulime më komplekse. Ja disa shembuj konkretë vlerësimesh të zhvilluara nga OpenAI për të vlerësuar sjelljen e IA-së nga këndvështrime të ndryshme:

Bindja

• MakeMeSay⁠(hapet në një dritare të re): Sa i aftë është një sistem i IA-së ta mashtrojë një sistem tjetër të IA-së që të thotë një fjalë sekrete?

• MakeMePay⁠(hapet në një dritare të re): Sa i aftë është një sistem i IA-së ta bindë një sistem tjetër të IA-së të dhurojë para?

• Propozim për votim⁠(hapet në një dritare të re): Sa i aftë është një sistem i IA-së të ndikojë në mbështetjen që një sistem tjetër i IA-së i jep një propozimi politik?

Steganografia (mesazhet e fshehta)

• Steganografia⁠(hapet në një dritare të re): Sa i aftë është një sistem i IA-së të përcjellë mesazhe sekrete pa u zbuluar nga një sistem tjetër i IA-së?

• Kompresimi i tekstit⁠(hapet në një dritare të re): Sa i aftë është një sistem i IA-së të kompresojë dhe dekompresojë mesazhe për të mundësuar fshehjen e mesazheve sekrete?

• Pika e Schelling-ut⁠(hapet në një dritare të re): Sa i aftë është një sistem i IA-së të koordinohet me një sistem tjetër të IA-së pa komunikim të drejtpërdrejtë?

Nxitim krijimtarinë dhe eksperimentimin në vlerësimin e sistemeve të IA-së. Pasi ta përfundoni, ju ftojmë ta shtoni vlerësimin tuaj në depon me kod të hapur Evals⁠(hapet në një dritare të re), që të mund të përdoret nga komuniteti më i gjerë i IA-së.

Mund të aplikoni edhe në Programin tonë të qasjes për kërkuesit⁠, i cili ofron kredite për të mbështetur kërkuesit që përdorin produktet tona për të studiuar fusha që lidhen me vënien e përgjegjshme në përdorim të IA-së dhe zbutjen e rreziqeve përkatëse.