Í innri þjálfun og mati í júní fengu líkön okkar aðgang að vefsvæðum ástralskra stjórnvalda með óheimilum hætti. Við hefðum líka átt að bregðast betur við. Við biðjumst afsökunar og vinnum að því að gera betur í framtíðinni.
Í þessari færslu greinum við frá því sem við vitum, hverju við höfum breytt og hvað við munum gera til að endurheimta traust áströlsku þjóðarinnar. Þetta er ný tegund netöryggisatviks sem endurspeglar vaxandi áskorun á heimsvísu. Ein leið til að axla ábyrgð á stöðunni er að vinna markvisst með Ástralíu að þróun hagnýtra aðferða fyrir gervigreindarþróunaraðila og stjórnvöld til að greina, tilkynna um og bregðast við netvirkni gervigreindar, hvort sem hún er illgjörn eða óviljandi.
Eftir atvikið hjá Hugging Face í júlí hófum við yfirferð á fyrri þjálfun og mati til að finna önnur fyrirtæki og stofnanir sem höfðu orðið fyrir áhrifum. Um miðjan ágúst leiddi sú yfirferð í ljós virkni sem hafði áhrif á eftirfarandi vefsvæði ástralskra stjórnvalda.
Þetta er það sem við vitum út frá fyrirliggjandi gögnum:
Services Australia: Líkan frá OpenAI fann leið til að fá aðgang að hluta þjónustunnar sem var ekki opinn almenningi. Það keyrði skipanir, sótti innri skrár, auðkenningarupplýsingar og samantekin tölfræðigögn og skrifaði skrár. Það opnaði þó ekki skrár einstakra sjúklinga eða þjónustuþega. Við fjöllum nánar um þetta atvik hér á eftir.
Stofnun Nýja Suður-Wales um afbrotatölfræði og rannsóknir (BOCSAR): Líkan frá OpenAI notaði opinbert afbrotakort BOCSAR til að kanna opinbera afbrotatölfræði (hér á eftir skýrum við nánar hvers vegna líkön sinna ýmiss konar upplýsingaöflun). Líkanið sendi API-beiðnir og beiðnir um lýsigögn vefsvæðisins í gegnum opinbert verkfæri BOCSAR, sem veitir auðkenningarupplýsingar fyrir API-beiðnir úr vafra. BOCSAR-kerfið skilaði stillingum forrits, keyrsluverkum og annálum ásamt lýsigögnum vefsvæðisins. Ekki var farið í afbrotaskrár einstaklinga.
Heilbrigðisráðuneyti Viktoríufylkis: Fulltrúar OpenAI fundu óvarinn aðgangslykil og notuðu hann til að senda fyrirspurnir á skýrslukerfi heilbrigðisupplýsingastofnunar Viktoríufylkis (VAHI) og sækja skýrslustillingar og samantekin tölfræðigögn úr könnunum. Óljóst er að hve miklu leyti þessar upplýsingar áttu að vera aðgengilegar og fer það eftir aðgangsreglum VAHI. Ekki var farið í sjúkraskrár einstaklinga eða persónugreinanleg svör við könnunum.
Ástralska heilbrigðis- og velferðarstofnunin (AIHW): Fulltrúar OpenAI sóttu samantekin tölfræðigögn með vafra- og niðurhalsþjónustum þriðju aðila, meðal annars af vefsvæði AIHW, og sendu beinar fyrirspurnir um gögn í gröfum. Aðskildar tilraunir til að komast fram hjá aðgangsstýringum báru ekki árangur. Efnið sem var sótt virðist hafa verið aðgengilegt almenningi. Ekki var brotist inn í kerfið. Ekki var farið í sjúkraskrár einstaklinga.
Við hófum rannsóknir á þessum aðgerðum um leið og við urðum vör við þær um miðjan ágúst. Við tilkynntum Services Australia og heilbrigðisráðuneyti Viktoríufylkis um málið 10. september og stofnun Nýja Suður-Wales um afbrotatölfræði og rannsóknir 18. september. Aðgerðirnar sem tengdust áströlsku heilbrigðis- og velferðarstofnuninni náðu ekki þeim viðmiðum sem kalla á tilkynningu samkvæmt verklagi okkar, þar sem aðgangurinn virtist samræmast almennum aðgangi. Við tilkynntum stofnuninni þó um málið 24. september til að deila niðurstöðum okkar og bjóða nánari kynningu.
Markmið okkar var að veita stofnunum sem urðu fyrir áhrifum ítarlega greinargerð þegar rannsókn okkar væri lokið. Við hefðum þó átt að deila bráðabirgðaniðurstöðum fyrr og upplýsa áströlsku stofnanirnar jafnóðum þegar frekari staðreyndir komu í ljós.
Síðan þá höfum við unnið náið með áströlskum ríkisstofnunum að því að miðla því sem við höfum komist að hingað til. Ef við finnum fleiri stofnanir sem hafa orðið fyrir áhrifum munum við tilkynna þeim það tafarlaust og milliliðalaust, veita þær upplýsingar sem liggja fyrir og fylgja þeim eftir þegar fleiri staðreyndir koma í ljós.
Við innri þjálfun og mat í júní vorum við að keyra tilraunalíkan frá OpenAI sem var eingöngu til innri nota og ekki ætlað til opinberrar útgáfu. Það var ekki búið öllum þeim öryggisráðstöfunum sem eru í vörum okkar sem almenningur hefur aðgang að. Við þessa þjálfun og mat fékk það aðgang að tölfræðiþjónustu Medicare hjá Services Australia. Athugun okkar hefur hingað til ekki leitt í ljós nein merki um að farið hafi verið í sjúkraskrár nokkurs einstaklings.
Þegar við þjálfum og metum líkön okkar innanhúss úthlutum við þeim verkefnum úr víðtæku safni rannsóknarspurninga á mörgum sviðum. Þær endurspegla þær ítarlegu spurningar sem notendur gætu spurt. Þannig er líkan þjálfað í að finna, túlka og greina upplýsingar sem eru aðgengilegar almenningi svo það geti nýst fólki betur. Líkön okkar eiga að svara þessum spurningum með því að nota opinberlega birt tölfræðigögn.
Í þessu tilviki var eitt af verkefnum líkansins að kanna útgjöld hins opinbera á mann vegna lyfja við húðsjúkdómum í byggðarlögum í Viktoríufylki. Líkanið átti erfitt með að afla þessara upplýsinga og greip til aðgerða sem við höfðum ekki heimilað því. Við leit að þessum upplýsingum í tölfræðiþjónustu Medicare hjá Services Australia fann það leið til að fá aðgang að hluta þjónustunnar sem var ekki opinn almenningi. Það notaði síðan þennan aðgang til að skoða tæknilegar kerfisupplýsingar og frumkóða sem tengdust þjónustunni — enn með það að markmiði að finna upplýsingarnar sem það leitaði upphaflega að. Þetta var ekki ætlun okkar og hvorki aðgangurinn að þjónustunni né aðgerðirnar sem fylgdu í kjölfarið hefðu átt að eiga sér stað.
Í kjölfar atviksins hjá Hugging Face efldum við öryggisráðstafanir í rannsóknum okkar, meðal annars með frekari nettakmörkunum og auknu eftirliti. Við innleiddum aðgangsstýringar sem loka fyrir beina nettengingu í þessu rannsóknarumhverfi og veitum í staðinn aðgang að vefefni úr skyndiminni. Núverandi eftirlitskerfi okkar veita viðbótaröryggi: þau hefðu greint þessa virkni og sent teymi okkar bráðaboð svo starfsfólk gæti yfirfarið hana tafarlaust. Þegar líkan fékk til dæmis beina nettengingu í nýlegri þjálfunarlotu(opnast í nýjum glugga) greindi eftirlitskerfið okkar virknina og sendi yfirferðaraðila bráðaboð. Við stöðvuðum þá lotuna. Við höldum áfram að prófa þessar varnir og bæta úr veikleikum. Atvikið hjá Hugging Face er enn alvarlegasta atvikið sem við höfum orðið vör við.
Fólk vill vera visst um að gervigreind sé þróuð á öruggan hátt og það byrjar á því sem fyrirtæki eins og okkar gera sjálf. Við greindum nýlega frá(opnast í nýjum glugga) því að við hefðum gert hlé á þjálfun og mati á öflugustu líkönum okkar þar sem verkfæri eru notuð. Við munum ekki hefja þjálfun þeirra aftur fyrr en við erum fullviss um að viðbótaröryggisráðstafanir séu komnar til framkvæmda, en við vinnum nú að þeim.
Eftir því sem gervigreindarkerfi verða almennt öflugri sjáum við jafnframt að tíminn til að hjálpa fyrirtækjum og stofnunum að finna og laga veikleika er að styttast. Til þess þarf sameiginlegt átak með þeim sem sinna netvörnum um allan heim.
Við höfum tekið höndum saman við fyrirtæki og stofnanir á sviði tækni, netöryggis og mikilvægra innviða í ákalli um sameiginlegt átak í netvörnum. Það ákall hefst á okkar eigin ábyrgð, meðal annars að efla öryggisráðstafanir, greina tímanlega frá atvikum og veita þeim sem verða fyrir áhrifum hagnýtan stuðning. Einnig er kallað eftir fjárfestingu í teymum sem verja nauðsynlega þjónustu, svo þau geti fundið veikleika, sannreynt lagfæringar og miðlað aðferðum sem virka.
Í Ástralíu munum við leggja fram úrræði og sérþekkingu til að styðja við stofnanir sem urðu fyrir áhrifum og hjálpa þeim sem sinna netvörnum að beita þessum meginreglum í framkvæmd, meðal annars með eftirfarandi hætti:
Sérstakur stuðningur við stofnanir sem urðu fyrir áhrifum. Við munum leggja fram þau úrræði sem þarf til að hjálpa viðkomandi stofnunum að skilja hvað gerðist og meta áhrifin. Þetta felur meðal annars í sér að miðla viðeigandi tæknilegum niðurstöðum og koma á samstarfi við viðbragðsteymi okkar með viðeigandi fyrirkomulagi um upplýsingamiðlun.
Fjármagn og stuðningur til að efla netvarnir. Við munum styðja stjórnvöld og atvinnulíf í Ástralíu með inneignum úr milljarðs Bandaríkjadala sjóðnum okkar, Daybreak fyrir framlínufólk í netvörnum, og tækniaðstoð til að efla netvarnir mikilvægra innviða og í öðru viðkvæmu umhverfi. Þetta starf byggir á samstarfi okkar við stjórnvöld og rekstraraðila mikilvægra innviða. Það mun hjálpa fyrirtækjum og stofnunum að skilja, greina og bregðast betur við áhættu sem stafar af sífellt öflugri gervigreindarfulltrúum.
Ástralskur starfshópur. Við munum stofna starfshóp með aðkomu óháðra ástralskra sérfræðinga til að móta hagnýtar tillögur að stefnu um hvernig megi stýra áhættu sem stafar af sífellt öflugri gervigreindarfulltrúum. Hópurinn mun byggja á lærdómnum af þessum atvikum og leggja áherslu á að bæta tilkynningaferli, efla samhæfingu milli gervigreindarþróunaraðila og stjórnvalda og finna leiðir til að verja upplýsingakerfi hins opinbera betur. Tillögur starfshópsins munu móta nálgun OpenAI og styðja starf stjórnvalda í Ástralíu að öryggi gervigreindar og netöryggi. Starfshópurinn, sem gert er ráð fyrir að ljúki störfum fyrir árslok, mun einnig leggja til hagnýtar aðgerðir sem gervigreindarfyrirtæki geta gripið til til að draga úr hættu á sambærilegum atvikum.
Stjórnvöld, atvinnulíf og almenningur í Ástralíu eru og hafa verið ómetanlegir samstarfsaðilar OpenAI. Við tökum því ekki sem sjálfsögðum hlut og ætlum að bæta fyrir þetta.
Jason Kwon, framkvæmdastjóri stefnumótunar hjá OpenAI, mun fljúga frá höfuðstöðvum OpenAI í Bandaríkjunum til að koma fyrir sameiginlega sérnefnd beggja þingdeilda um gervigreind í Sydney þriðjudaginn 6. október. Hann mun svara spurningum um það sem við vitum, hvernig við brugðumst við, til hvaða aðgerða við höfum gripið og hvernig við munum standa okkur betur í framtíðinni.
Við munum áfram miðla staðfestum niðurstöðum til stofnana sem urðu fyrir áhrifum og viðeigandi stjórnvalda. Við munum birta nýjar upplýsingar um yfirstandandi athugun okkar og hvernig gengur að standa við þessar skuldbindingar. Við vitum að mikil vinna er fram undan við að endurheimta traust og að það er á okkar ábyrgð að sýna Áströlum að við séum að gera raunverulegar breytingar og standa við loforð okkar.
