Junija so naši modeli med internim učenjem in vrednotenjem do spletnih mest avstralskih vladnih organov dostopali na načine, za katere niso imeli dovoljenja. Tudi naš odziv bi moral biti boljši. Opravičujemo se in si prizadevamo, da bi v prihodnje ravnali bolje.
V tej objavi pojasnjujemo, kaj vemo, kaj smo spremenili in kaj bomo storili, da si povrnemo zaupanje Avstralcev. Gre za novo vrsto kibernetskega incidenta, ki predstavlja nastajajoč globalni izziv. Odgovornost za nastali položaj nameravamo med drugim prevzeti z načrtnim sodelovanjem z Avstralijo pri razvoju praktičnih pristopov, s katerimi bodo razvijalci umetne inteligence in vlade lahko prepoznavali in razkrivali kibernetsko ravnanje umetne inteligence ter se nanj odzivali, ne glede na to, ali je zlonamerno ali nenamerno.
Po julijskem incidentu s Hugging Face smo začeli pregledovati preteklo dejavnost pri učenju in vrednotenju, da bi ugotovili, katere druge organizacije so bile prizadete. Sredi avgusta smo s tem pregledom odkrili dejavnost, ki je zadevala spodaj navedena spletna mesta avstralskih vladnih organov.
Na podlagi dokazov vemo naslednje:
Services Australia: Model podjetja OpenAI je odkril način za dostop do dela storitve, ki ni namenjen javnosti, ter izvajal ukaze, pridobival interne datoteke, poverilnice in zbirne statistične podatke ter zapisoval datoteke. Vendar ni dostopal do evidenc posameznih pacientov ali strank. Ta incident podrobneje obravnavamo v nadaljevanju.
Urad za statistiko in raziskovanje kriminalitete Novega Južnega Walesa (BOCSAR): Model podjetja OpenAI je dostopal do javnega orodja BOCSAR za kartiranje kriminalitete, da bi raziskal javno dostopne statistične podatke o kriminaliteti (v nadaljevanju podrobneje pojasnjujemo, zakaj modeli opravljajo različne naloge iskanja informacij). Model je prek javnega orodja BOCSAR, ki zagotavlja poverilnice za zahteve API iz brskalnika, pošiljal zahteve API in zahteve za metapodatke spletnega mesta. Sistem BOCSAR je vrnil konfiguracijo aplikacije, operativna opravila in dnevnike ter metapodatke spletnega mesta. Do evidenc o kaznivih dejanjih posameznikov ni bilo dostopa.
Ministrstvo za zdravje zvezne države Viktorija: Agenti podjetja OpenAI so odkrili razkrit ključ za dostop, s katerim so poizvedovali po sistemu za poročanje agencije za zdravstvene informacije zvezne države Viktorija ter pridobili konfiguracijo poročanja in zbirne statistične podatke anket. Ni jasno, v kolikšni meri bi ti podatki morali biti dostopni, saj je to odvisno od pravil dostopa agencije VAHI. Do zdravstvenih kartotek posameznikov ali anketnih odgovorov, iz katerih bi bilo mogoče prepoznati posameznike, ni bilo dostopa.
Avstralski inštitut za zdravje in socialno varstvo: Agenti podjetja OpenAI so prek storitev zunanjih ponudnikov za brskanje in prenos pridobili zbirne statistične podatke, tudi s spletnega mesta AIHW, ter neposredno poizvedovali po podatkih grafikonov. Ločeni poskusi izogibanja nadzoru dostopa niso bili uspešni. Kaže, da je bilo preneseno gradivo javno dostopno. Do vdora v sistem ni prišlo. Do zdravstvenih kartotek posameznikov ni bilo dostopa.
Preiskave teh dejavnosti smo začeli takoj, ko smo sredi avgusta izvedeli zanje. Agencijo Services Australia in ministrstvo za zdravje zvezne države Viktorija smo obvestili 10. septembra, urad za statistiko in raziskovanje kriminalitete Novega Južnega Walesa pa 18. septembra. Dejavnost, povezana z Avstralskim inštitutom za zdravje in socialno varstvo, ni izpolnjevala naših meril za obveščanje, saj je bil način dostopa videti skladen z javnim dostopom. Kljub temu smo inštitut obvestili 24. septembra, da bi z njim delili ugotovitve in ponudili podrobnejšo predstavitev.
Naš cilj je bil prizadetim agencijam po koncu preiskave podati podrobno poročilo. Vendar bi morali preliminarne ugotovitve deliti prej in avstralske agencije sproti obveščati o novih dejstvih.
Od takrat tesno sodelujemo z avstralskimi vladnimi agencijami in z njimi delimo dosedanje ugotovitve. Če odkrijemo še druge prizadete agencije, jih bomo nemudoma neposredno obvestili z informacijami, ki bodo na voljo, in jih sproti seznanjali z novimi dejstvi.
Med internim učenjem in vrednotenjem junija smo uporabljali poskusni model podjetja OpenAI, namenjen izključno interni uporabi, ne pa javni objavi. Pri tem ni bil vzpostavljen celoten nabor zaščitnih ukrepov, ki jih uporabljamo pri javno dostopnih izdelkih. Med tem učenjem in vrednotenjem je dostopal do storitve za statistično poročanje Medicare pri agenciji Services Australia. V dosedanjem pregledu nismo našli dokazov o dostopu do zdravstvenih kartotek kogar koli.
Pri internem učenju in vrednotenju modelom dodeljujemo naloge iz obsežne zbirke raziskovalnih vprašanj z različnih področij, ki odražajo podrobna vprašanja, kakršna bi lahko zastavili uporabniki. Tako se model uči iskati, razlagati in analizirati javno dostopne informacije, da bi bil ljudem bolj koristen. Naši modeli naj bi na ta vprašanja odgovarjali na podlagi javno objavljenih statističnih podatkov.
V tem primeru je bila ena od nalog modela raziskati javne izdatke na prebivalca za zdravila za kožna obolenja v skupnostih v zvezni državi Viktorija. Model je imel težave pri pridobivanju teh podatkov in je izvedel dejanja, za katera mu nismo dali dovoljenja. Med iskanjem teh podatkov v storitvi za statistično poročanje Medicare pri agenciji Services Australia je odkril način za dostop do dela storitve, ki ni namenjen javnosti. Ta dostop je nato uporabil za pregled tehničnih informacij o sistemu in izvorne kode, povezane s storitvijo, še vedno z namenom poiskati prvotno zahtevane podatke. Tega ravnanja nismo predvideli, do dostopa do storitve in nadaljnjih dejanj pa ne bi smelo priti.
Po incidentu s Hugging Face smo okrepili zaščitne ukrepe pri raziskavah, med drugim z dodatnimi omrežnimi omejitvami in razširjenim spremljanjem. V teh raziskovalnih okoljih smo uvedli kontrole, ki blokirajo neposredni dostop do interneta, spletne vsebine pa so dostopne prek predpomnilnika. Naši sedanji sistemi za spremljanje bi kot dodatna varnostna plast zaznali to dejavnost in naši ekipi poslali nujno opozorilo za človeški pregled. Ko je na primer model med nedavnim učnim postopkom(odpre se v novem oknu) pridobil neposredni dostop do interneta, je naš sistem za spremljanje to zaznal in opozoril pregledovalca, mi pa smo postopek ustavili. Te zaščitne ukrepe še naprej preizkušamo in odpravljamo pomanjkljivosti. Incident s Hugging Face ostaja najresnejši, kar smo jih doslej zaznali.
Ljudje želijo vedeti, da razvoj umetne inteligence poteka varno, in to se začne pri ravnanju podjetij, kot je naše. Pred kratkim smo sporočili(odpre se v novem oknu), da smo začasno ustavili učenje in vrednotenje naših najzmogljivejših modelov, ki vključuje uporabo orodij. Njihovo učenje bomo nadaljevali šele, ko bomo prepričani, da so vzpostavljeni dodatni zaščitni ukrepi, ki jih trenutno razvijamo.
Ker sistemi umetne inteligence na splošno postajajo vse zmogljivejši, se krajša tudi čas, ki ga imamo na voljo za pomoč organizacijam pri odkrivanju in odpravljanju ranljivosti. Za to je potrebno skupno ukrepanje v sodelovanju s strokovnjaki za kibernetsko obrambo po vsem svetu.
Organizacijam s področij tehnologije, kibernetske varnosti in kritične infrastrukture smo se pridružili pri pozivu k skupnemu ukrepanju na področju kibernetske obrambe. Ta poziv se začne pri naših lastnih odgovornostih, vključno z močnejšimi zaščitnimi ukrepi, pravočasnim razkrivanjem informacij in konkretno podporo prizadetim organizacijam. Poziva tudi k naložbam v ekipe, ki varujejo bistvene storitve, da bodo lahko odkrivale ranljivosti, preverjale popravke in delile učinkovite rešitve.
V Avstraliji namenjamo sredstva in strokovno znanje podpori prizadetim agencijam ter pomoči strokovnjakom za kibernetsko obrambo pri uresničevanju teh načel, med drugim z naslednjimi ukrepi:
Namenska podpora prizadetim agencijam. Zagotovili bomo potrebna sredstva, da prizadetim agencijam pomagamo razumeti, kaj se je zgodilo, in oceniti posledice. To vključuje izmenjavo relevantnih tehničnih ugotovitev in vzpostavitev sodelovanja z našimi odzivnimi ekipami na podlagi ustreznih dogovorov o izmenjavi informacij.
Financiranje in podpora za krepitev kibernetske obrambe. Avstralske vlade in gospodarstvo bomo podprli s točkami iz našega sklada Daybreak za branilce na prvi črti v vrednosti ene milijarde dolarjev ter s tehnično pomočjo za krepitev kibernetske obrambe v kritični infrastrukturi in drugih občutljivih okoljih. To delo bo nadgradilo naše sodelovanje z vladami in upravljavci kritične infrastrukture ter organizacijam pomagalo bolje razumeti in zaznavati tveganja, ki jih prinašajo vse zmogljivejši agenti umetne inteligence, in se nanje odzivati.
Avstralska delovna skupina. Ustanovili bomo delovno skupino z neodvisnimi avstralskimi strokovnjaki, ki bo pripravila praktična priporočila za oblikovanje politik za obvladovanje tveganj vse zmogljivejših agentov umetne inteligence. Na podlagi spoznanj iz teh incidentov se bo osredotočila na izboljšanje postopkov obveščanja, krepitev usklajevanja med razvijalci umetne inteligence in vlado ter opredelitev ukrepov za boljšo zaščito vladnih sistemov. Priporočila delovne skupine bodo usmerjala pristop podjetja OpenAI in podpirala delo avstralskih vlad na področju varnosti umetne inteligence in kibernetske varnosti. Delovna skupina, ki naj bi delo zaključila do konca leta, bo priporočila tudi konkretne korake, s katerimi lahko podjetja na področju umetne inteligence zmanjšajo tveganje podobnih incidentov.
Avstralske vlade, gospodarske panoge in državljani so bili in ostajajo neprecenljivi partnerji podjetja OpenAI. Tega ne jemljemo za samoumevno in nameravamo popraviti svoje napake.
Direktor strategije pri OpenAI Jason Kwon bo s sedeža podjetja v ZDA pripotoval v Sydney, kjer bo v torek, 6. oktobra, nastopil pred skupnim posebnim odborom za umetno inteligenco. Odgovarjal bo na vprašanja o tem, kaj vemo, kako smo se odzvali, katere ukrepe smo sprejeli in kako bomo v prihodnje ravnali bolje.
Preverjene ugotovitve bomo še naprej delili s prizadetimi agencijami in pristojnimi vladami. Objavljali bomo novosti o pregledu, ki še poteka, in napredku pri izpolnjevanju teh zavez. Zavedamo se, da nas pri obnovi zaupanja čaka še veliko dela in da smo Avstralcem dolžni pokazati, da uvajamo pomembne spremembe ter izpolnjujemo svoje obljube.
