U junu su, tokom interne obuke i evaluacije, naši modeli pristupali web-stranicama australskih vlasti na načine za koje nisu imali ovlaštenje. Trebali smo i bolje reagirati na te incidente. Žao nam je i radimo na tome da ubuduće postupamo bolje.
U ovoj objavi iznosimo šta znamo, šta smo promijenili i šta ćemo učiniti da obnovimo povjerenje građana Australije. Ovo je nova vrsta kibernetičkog incidenta koja predstavlja globalni izazov u nastajanju. Jedan od načina na koje namjeravamo preuzeti odgovornost za ovu situaciju jeste predana saradnja s Australijom na razvoju praktičnih pristupa tome kako razvojne kompanije i vlasti prepoznaju kibernetičko ponašanje umjetne inteligencije, obavještavaju o njemu i na njega odgovaraju, bilo ono zlonamjerno ili nenamjerno.
Nakon incidenta s platformom Hugging Face u julu, počeli smo pregledati ranije aktivnosti obuke i evaluacije kako bismo utvrdili koje su još organizacije pogođene. Sredinom augusta tom analizom otkrivene su aktivnosti koje su zahvatile niže navedene web-stranice australskih vlasti.
Evo šta znamo na osnovu dokaza:
Services Australia: Model kompanije OpenAI otkrio je način da pristupi dijelovima servisa koji nisu javno dostupni te je izvršavao naredbe, preuzimao interne datoteke, pristupne podatke i zbirne statističke podatke te zapisivao datoteke. Međutim, nije pristupao pojedinačnim evidencijama pacijenata ili korisnika. Ovaj incident detaljnije opisujemo u nastavku.
Ured za statistiku i istraživanje kriminala Novog Južnog Velsa (BOCSAR): Model kompanije OpenAI pristupio je javnom alatu BOCSAR-a za mapiranje kriminala radi istraživanja javno dostupnih statističkih podataka o kriminalu (u nastavku dodatno objašnjavamo zašto modeli obavljaju različite zadatke istraživanja informacija). Model je slao API zahtjeve i zahtjeve za metapodatke web-stranice putem javnog alata BOCSAR-a, koji pruža pristupne podatke za API zahtjeve iz preglednika. Sistem BOCSAR-a vratio je konfiguraciju aplikacije, operativne zadatke i zapisnike te metapodatke web-stranice. Nije bilo pristupa kaznenim evidencijama pojedinaca.
Ministarstvo zdravstva Viktorije: Agenti kompanije OpenAI otkrili su nezaštićeni pristupni ključ kojim su mogli slati upite sistemu za izvještavanje Agencije za zdravstvene informacije Viktorije i preuzimati konfiguraciju izvještavanja i zbirne statističke podatke iz anketa. Nije jasno u kojoj su mjeri ove informacije trebale biti dostupne, a to zavisi od pravila pristupa agencije VAHI. Nije bilo pristupa pojedinačnim medicinskim kartonima niti odgovorima na ankete na osnovu kojih bi se mogao utvrditi identitet ispitanika.
Australski institut za zdravlje i socijalnu zaštitu: Agenti kompanije OpenAI preuzimali su zbirne statističke podatke koristeći servise trećih strana za pregledanje i preuzimanje sadržaja, uključujući podatke s web-stranice AIHW-a, te su direktno slali upite za podatke iz grafikona. Odvojeni pokušaji zaobilaženja kontrola pristupa bili su neuspješni. Čini se da je preuzeti materijal bio javno dostupan. Nije došlo do narušavanja sigurnosti sistema. Nije bilo pristupa pojedinačnim medicinskim kartonima.
Pokrenuli smo istrage o ovim aktivnostima čim smo za njih saznali sredinom augusta. Obavijestili smo agenciju Services Australia i Ministarstvo zdravstva Viktorije 10. septembra, a Ured za statistiku i istraživanje kriminala Novog Južnog Velsa 18. septembra. Aktivnosti povezane s Australskim institutom za zdravlje i socijalnu zaštitu nisu ispunjavale naše kriterije za obavještavanje jer se činilo da način pristupa odgovara javnom pristupu. Ipak, obavijestili smo Institut 24. septembra kako bismo podijelili nalaze i ponudili sastanak radi detaljnijeg informiranja.
Cilj nam je bio dostaviti pogođenim agencijama detaljan izvještaj po završetku istrage. Međutim, trebali smo ranije podijeliti preliminarne nalaze i obavještavati australske agencije kako su se pojavljivale nove činjenice.
Od tada blisko sarađujemo s australskim državnim agencijama kako bismo podijelili dosadašnja saznanja. Ako utvrdimo da ima još pogođenih agencija, odmah ćemo ih direktno obavijestiti na osnovu dostupnih informacija i dostavljati im nove informacije kako budemo dolazili do dodatnih činjenica.
Tokom interne obuke i evaluacije u junu koristili smo eksperimentalni model kompanije OpenAI, namijenjen isključivo internoj upotrebi, koji nije bio predviđen za javno objavljivanje i nije imao sve zaštitne mjere koje koristimo u našim javno dostupnim proizvodima. Tokom te obuke i evaluacije pristupio je servisu agencije Services Australia za statističko izvještavanje o programu Medicare. Našom dosadašnjom analizom nisu pronađeni dokazi da je bilo pristupa bilo čijim medicinskim kartonima.
Kada provodimo internu obuku i evaluaciju naših modela, dodjeljujemo im zadatke iz široke zbirke istraživačkih pitanja koja obuhvataju brojne teme i odražavaju vrste detaljnih pitanja koja bi korisnici mogli postaviti. Tako se model obučava da pronalazi, tumači i analizira javno dostupne informacije kako bi bio korisniji ljudima. Naši modeli trebaju odgovarati na ta pitanja koristeći javno objavljene statističke podatke.
U ovom slučaju, jedan od zadataka dodijeljenih modelu bio je da istraži koliko država troši po stanovniku na lijekove za kožne bolesti u zajednicama u Viktoriji. Model je imao poteškoća s pribavljanjem tih informacija i poduzeo je radnje za koje mu nismo dali ovlaštenje. Tražeći te informacije u servisu agencije Services Australia za statističko izvještavanje o programu Medicare, otkrio je način da pristupi dijelovima servisa koji nisu javno dostupni. Zatim je iskoristio taj pristup da pregleda tehničke informacije o sistemu i izvorni kod povezan sa servisom — i dalje s ciljem da pronađe informacije koje je prvobitno tražio. Nismo namjeravali da dođe do ovih aktivnosti, a ni pristup servisu ni radnje koje su uslijedile nisu se smjeli dogoditi.
Nakon incidenta s platformom Hugging Face, pojačali smo zaštitne mjere u istraživanju, uključujući dodatna mrežna ograničenja i prošireni nadzor. Uveli smo kontrole koje blokiraju direktan pristup internetu u tim istraživačkim okruženjima, dok se pristup webu omogućava putem sadržaja iz predmemorije. Kao dodatni sloj sigurnosti, naši sadašnji sistemi nadzora otkrili bi tu aktivnost i poslali upozorenje našem timu radi hitne provjere koju bi obavili ljudi. Naprimjer, kada je model ostvario direktan pristup internetu tokom nedavnog ciklusa obuke(otvara se u novom prozoru), naš sistem nadzora otkrio je tu aktivnost i poslao upozorenje osobi zaduženoj za provjeru, nakon čega smo zaustavili ciklus. Nastavljamo testirati ove zaštitne mjere i otklanjati nedostatke. Incident s platformom Hugging Face i dalje je najozbiljniji koji smo zabilježili.
Ljudi žele biti sigurni da se umjetna inteligencija razvija na siguran način, a to počinje onim što same kompanije poput naše poduzimaju. Nedavno smo objavili(otvara se u novom prozoru) da smo privremeno obustavili obuku i evaluaciju naših najsposobnijih modela koje uključuju upotrebu alata. Njihovu obuku nastavit ćemo tek kada budemo sigurni da su uspostavljene dodatne zaštitne mjere, na kojima sada radimo.
Kako sistemi umjetne inteligencije općenito postaju sve sposobniji, vidimo da je i sve manje vremena da pomognemo organizacijama da pronađu i otklone slabosti. Za to je potrebno zajedničko djelovanje u saradnji sa stručnjacima za kibernetičku odbranu širom svijeta.
Pridružili smo se organizacijama iz oblasti tehnologije, kibernetičke sigurnosti i kritične infrastrukture u pozivu na zajedničko djelovanje u kibernetičkoj odbrani. Taj poziv počinje našim vlastitim odgovornostima, uključujući snažnije zaštitne mjere, pravovremeno obavještavanje i praktičnu podršku pogođenim organizacijama. Njime se poziva i na ulaganje u timove koji štite ključne usluge kako bi mogli pronalaziti ranjivosti, provjeravati ispravke i razmjenjivati djelotvorna rješenja.
U Australiji se obavezujemo da ćemo osigurati resurse i stručno znanje za podršku pogođenim agencijama i pomoći stručnjacima za kibernetičku odbranu da ove principe provedu u praksi, što uključuje:
Namjensku podršku pogođenim agencijama. Osigurat ćemo potrebne resurse kako bismo pomogli pogođenim agencijama da razumiju šta se dogodilo i procijene posljedice. To uključuje dijeljenje relevantnih tehničkih nalaza i organiziranje saradnje s našim timovima za odgovor na incidente putem odgovarajućih aranžmana za razmjenu informacija.
Finansiranje i podršku za jačanje kibernetičke odbrane. Podržat ćemo australske vlasti i privredu kreditima iz našeg fonda Daybreak for Frontline Defenders, vrijednog milijardu dolara, te tehničkom pomoći za jačanje kibernetičke odbrane kritične infrastrukture i drugih osjetljivih okruženja. Nadovezujući se na našu saradnju s vlastima i operatorima kritične infrastrukture, ove aktivnosti pomoći će organizacijama da bolje razumiju i otkrivaju rizike koje donose sve sposobniji agenti umjetne inteligencije te da na njih odgovore.
Australsku radnu grupu. Osnovat ćemo radnu grupu uz učešće nezavisnih australskih stručnjaka radi izrade praktičnih preporuka za javne politike upravljanja rizicima koje donose sve sposobniji agenti umjetne inteligencije. Oslanjajući se na pouke iz ovih incidenata, grupa će se usredotočiti na unapređenje postupaka obavještavanja, jačanje koordinacije između onih koji razvijaju umjetnu inteligenciju i vlasti te utvrđivanje mjera za bolju zaštitu državnih sistema. Preporuke radne grupe usmjeravat će pristup kompanije OpenAI i podržati rad australskih vlasti na sigurnosti umjetne inteligencije i kibernetičkoj sigurnosti. Radna grupa, za koju se očekuje da će završiti rad do kraja godine, preporučit će i praktične korake koje kompanije koje razvijaju umjetnu inteligenciju mogu poduzeti kako bi smanjile rizik od sličnih incidenata.
Australske vlasti, privredni sektori i građani jesu i oduvijek su bili neprocjenjivo važni partneri kompanije OpenAI. To ne uzimamo zdravo za gotovo i namjeravamo ispraviti situaciju.
Direktor za strategiju kompanije OpenAI, Jason Kwon, doputovat će iz sjedišta kompanije u SAD-u kako bi se u utorak, 6. oktobra, pojavio pred Zajedničkim posebnim odborom za umjetnu inteligenciju u Sydneyju. Odgovarat će na pitanja o tome šta znamo, kako smo reagirali, koje smo korake poduzeli i kako ćemo ubuduće postupati bolje.
Nastavit ćemo dijeliti provjerene nalaze s pogođenim agencijama i nadležnim vlastima. Objavljivat ćemo nove informacije o našoj analizi koja je u toku i napretku u ispunjavanju ovih obaveza. Znamo da je pred nama mnogo posla na obnovi povjerenja i da je naša odgovornost da Australcima pokažemo kako uvodimo suštinske promjene i ispunjavamo obećanja.
