OpenAI imitētu uzbrukumu tīkls

Izsludinām atklātu pieteikšanos OpenAI imitētu uzbrukumu tīklam un aicinām nozaru ekspertus, kurus interesē OpenAI modeļu drošības uzlabošana, pievienoties mūsu darbam. Meklējam dažādu nozaru ekspertus, lai kopīgi veiktu rūpīgu mūsu MI modeļu novērtēšanu un imitētus uzbrukumus tiem.

Imitēti uzbrukumi^A ir neatņemama mūsu iteratīvā ieviešanas procesa⁠ daļa. Pēdējos gados mūsu darbs ar imitētiem uzbrukumiem ir paplašinājies: sākotnēji koncentrējāmies uz testēšanu ar apzinātiem uzbrukumiem OpenAI iekšienē, bet tagad sadarbojamies ar ārējo ekspertu grupu^B, lai izstrādātu konkrētām nozarēm atbilstošas risku klasifikācijas un novērtētu jauno sistēmu potenciāli kaitīgās spējas. Vairāk par mūsu iepriekšējo darbu ar imitētiem uzbrukumiem, tostarp sadarbību ar ārējiem ekspertiem, varat lasīt materiālos par tādiem modeļiem kā DALL·E 2⁠(atveras jaunā logā) un GPT‑4⁠(atveras jaunā logā).^C

Šodien sākam formālāku iniciatīvu, lai turpinātu šo iesākto darbu un padziļinātu un paplašinātu sadarbību ar ārējiem ekspertiem, padarot mūsu modeļus drošākus. Sadarbība ar individuāliem ekspertiem, pētniecības iestādēm un pilsoniskās sabiedrības organizācijām ir svarīga mūsu darba procesa daļa. Šo darbu uzskatām par papildinājumu ārēji noteiktām pārvaldības praksēm, piemēram, neatkarīgu trešo pušu auditiem.

OpenAI imitētu uzbrukumu tīkls ir uzticamu un pieredzējušu ekspertu kopiena, kas var plašāk palīdzēt mūsu risku novērtēšanas un mazināšanas darbā, nevis tikai iesaistīties atsevišķos projektos un atlases procesos pirms nozīmīgu modeļu ieviešanas. Tīkla dalībniekus aicināsim palīdzēt veikt imitētus uzbrukumus dažādos modeļu un produktu izstrādes dzīves cikla posmos atbilstoši viņu kompetencei. Ne katrs dalībnieks tiks iesaistīts darbā ar katru jauno modeli vai produktu. Par veltāmo laiku vienosimies ar katru dalībnieku atsevišķi — tās var būt arī tikai 5–10 stundas gadā.

Ārpus OpenAI pasūtītajām imitētu uzbrukumu kampaņām dalībniekiem būs iespēja savstarpēji apspriest vispārīgas imitētu uzbrukumu prakses un gūtos secinājumus. Mērķis ir nodrošināt daudzveidīgāku un nepārtrauktu ekspertu ieguldījumu un padarīt imitētus uzbrukumus par iteratīvāku procesu. Šis tīkls papildina citas sadarbības iespējas MI drošības jomā, tostarp mūsu Pētnieku piekļuves programmu⁠ un atvērtā pirmkoda novērtējumus⁠(atveras jaunā logā).

Šis tīkls piedāvā unikālu iespēju ietekmēt drošāku MI tehnoloģiju un politikas izstrādi, kā arī to, kā MI var ietekmēt mūsu dzīvi, darbu un savstarpējo saziņu. Pievienojoties šim tīklam, jūs kļūsiet par vienu no mūsu nozaru ekspertiem, kurus varam aicināt novērtēt modeļus un sistēmas dažādos to ieviešanas posmos.

MI sistēmu novērtēšanai nepieciešama izpratne par visdažādākajām nozarēm, atšķirīgiem skatījumiem un dzīves pieredzēm. Aicinām pieteikties ekspertus no visas pasaules un atlases procesā priekšroku dosim gan ģeogrāfiskai, gan nozaru daudzveidībai. 

Mūs interesē tostarp šādas jomas:

Iepriekšēja pieredze darbā ar MI sistēmām vai valodas modeļiem nav nepieciešama, taču tā var noderēt. Visaugstāk vērtējam jūsu gatavību iesaistīties un sniegt savu skatījumu uz to, kā novērtējam MI sistēmu ietekmi.

Visi OpenAI imitētu uzbrukumu tīkla dalībnieki saņems atlīdzību par savu ieguldījumu, piedaloties imitētu uzbrukumu projektā. Dalība šajā tīklā neierobežos jūsu iespējas publicēt savus pētījumus vai izmantot citas iespējas. Tomēr jāņem vērā, ka uz dalību imitētos uzbrukumos un citos projektos bieži attiecas neizpaušanas līgumi (NDA) vai arī tā ir jāsaglabā konfidenciāla uz nenoteiktu laiku.

Pieteikšanās ir noslēgusies.

Jautājums: ko nozīmēs dalība tīklā?

Atbilde: Kā tīkla dalībnieku mēs jūs varam uzrunāt ar iespēju testēt jaunu modeli vai pārbaudīt jau ieviestu modeli kādā mūs interesējošā jomā. Uz tīklā veikto darbu attiecas neizpaušanas līgums (NDA), tomēr līdz šim daudzus imitētu uzbrukumu laikā gūtos secinājumus esam publicējuši sistēmu aprakstos un emuāra ierakstos. Jūs saņemsiet atlīdzību par imitētu uzbrukumu projektiem veltīto laiku.

Jautājums: cik daudz laika būs jāvelta dalībai tīklā? 

Atbilde: Dalībai veltīto laiku var pielāgot jūsu noslodzei. Ņemiet vērā, ka ne katrs tīkla dalībnieks tiks uzrunāts par katru iespēju. OpenAI atlasīs dalībniekus atbilstoši konkrētā imitētu uzbrukumu projekta vajadzībām, turpmākajās imitētu uzbrukumu kampaņās īpašu uzmanību pievēršot jauniem skatījumiem. Mums būtu vērtīgs arī pavisam neliels ieguldījums — pat 5 stundas gadā. Tāpēc nevilcinieties pieteikties, ja jūs tas interesē, bet jūsu laiks ir ierobežots.

Jautājums: kad pretendenti saņems ziņu par uzņemšanu?

Atbilde: OpenAI atlasīs tīkla dalībniekus pakāpeniski, izskatot saņemtos pieteikumus. Pieteikties var līdz 2023. gada 1. decembrim. Pēc šī pieteikšanās perioda mēs atkārtoti izvērtēsim iespēju nākotnē atkal atvērt pieteikšanos.

Jautājums: vai dalība tīklā nozīmē, ka man lūgs veikt imitētus uzbrukumus katram jaunajam modelim?

Atbilde: Nē, OpenAI atlasīs dalībniekus atbilstoši konkrētā imitētu uzbrukumu projekta vajadzībām, tāpēc nevajadzētu sagaidīt, ka testēsiet katru jauno modeli.

Jautājums: pēc kādiem kritērijiem jūs atlasāt tīkla dalībniekus?

Atbilde: Lūk, daži no mūsu atlases kritērijiem:

• Apliecinātas zināšanas vai pieredze konkrētā jomā, kas ir būtiska imitētiem uzbrukumiem

• Patiesa aizrautība ar MI drošības uzlabošanu

• Interešu konfliktu neesamība

• Dažāda pieredze un tradicionāli nepietiekami pārstāvētu grupu pārstāvniecība

• Ģeogrāfiski daudzveidīga pārstāvniecība 

• Vairāku valodu brīva pārvaldīšana

• Tehniskās prasmes (nav obligātas)

Jautājums: kādas vēl ir iespējas sadarboties drošības jomā?

Atbilde: Līdztekus dalībai tīklā ir arī citas sadarbības iespējas, kas ļauj sniegt ieguldījumu MI drošībā. Piemēram, viena iespēja ir izstrādāt vai veikt MI sistēmu drošības novērtējumus un analizēt rezultātus.

OpenAI atvērtā pirmkoda Evals⁠(atveras jaunā logā) repozitorijs, kas publicēts līdz ar GPT‑4 izlaišanu⁠, piedāvā ērti lietojamas veidnes un metožu paraugus, lai atvieglotu šī procesa sākšanu.

Novērtējumi var būt gan vienkārši jautājumu un atbilžu testi, gan sarežģītākas simulācijas. Lūk, daži konkrēti OpenAI izstrādātu novērtējumu piemēri, kas ļauj izvērtēt MI uzvedību no dažādiem skatpunktiem:

Pārliecināšana

• MakeMeSay⁠(atveras jaunā logā): cik labi MI sistēma spēj ar viltu panākt, lai cita MI sistēma pasaka slepenu vārdu?

• MakeMePay⁠(atveras jaunā logā): cik labi MI sistēma spēj pārliecināt citu MI sistēmu ziedot naudu?

• Balsošanai izvirzīts priekšlikums⁠(atveras jaunā logā): cik labi MI sistēma spēj ietekmēt citas MI sistēmas atbalstu politiskam priekšlikumam?

Steganogrāfija (slēpta ziņojumu apmaiņa)

• Steganogrāfija⁠(atveras jaunā logā): cik labi MI sistēma spēj nodot slepenus ziņojumus, citai MI sistēmai to nepamanot?

• Teksta saspiešana⁠(atveras jaunā logā): cik labi MI sistēma spēj saspiest un atspiest ziņojumus, lai tajos varētu slēpt slepenus vēstījumus?

• Šellinga punkts⁠(atveras jaunā logā): cik labi MI sistēma spēj saskaņot savu rīcību ar citu MI sistēmu bez tiešas saziņas?

Mēs aicinām MI sistēmu novērtēšanā būt radošiem un eksperimentēt. Kad novērtējums ir gatavs, aicinām to pievienot atvērtā pirmkoda Evals⁠(atveras jaunā logā) repozitorijam, lai to varētu izmantot plašāka MI kopiena.

Varat arī pieteikties mūsu Pētnieku piekļuves programmai⁠, kas nodrošina kredītus, lai atbalstītu pētniekus, kuri ar mūsu produktiem pēta atbildīgu MI ieviešanu un ar to saistīto risku mazināšanu.