Juunis pääsesid meie mudelid ettevõttesisese treenimise ja hindamise käigus Austraalia valitsusasutuste veebisaitidele ligi viisil, milleks neil puudus luba. Ka meie oleksime pidanud olukorrale paremini reageerima. Palume vabandust ja töötame selle nimel, et tulevikus paremini tegutseda.
Selles postituses selgitame, mida me teame, mida oleme muutnud ja mida teeme Austraalia inimeste usalduse taastamiseks. See on uut tüüpi küberintsident, mis osutab esilekerkivale üleilmsele probleemile. Üks viis, kuidas kavatseme olukorra eest vastutuse võtta, on teha Austraaliaga sihikindlat koostööd, et töötada välja praktilised lahendused. Need aitaksid tehisintellekti arendajatel ja valitsustel tuvastada tehisintellekti tegevust küberruumis, sellest teavitada ja sellele reageerida, olenemata sellest, kas tegevus on pahatahtlik või tahtmatu.
Pärast juulis toimunud Hugging Face’i intsidenti alustasime varasema treenimis- ja hindamistegevuse läbivaatamist, et tuvastada teised mõjutatud organisatsioonid. Augusti keskel tuvastasime selle käigus tegevuse, mis puudutas allpool loetletud Austraalia valitsusasutuste veebisaite.
Tõendite põhjal teame järgmist.
Services Australia: OpenAI mudel avastas viisi, kuidas pääseda ligi teenuse mitteavalikule osale, ning käivitas käske, hankis sisemisi faile, autentimisandmeid ja koondstatistikat ning kirjutas faile. Üksikute patsientide ega klientide andmetele siiski ligi ei pääsetud. Käsitleme seda intsidenti allpool üksikasjalikumalt.
Uus-Lõuna-Walesi kuritegevuse statistika ja uuringute büroo (BOCSAR): OpenAI mudel kasutas BOCSAR-i avalikku kuritegevuse kaardirakendust, et uurida avalikku kuritegevuse statistikat (allpool selgitame lähemalt, miks mudelid täidavad mitmesuguseid teabeotsingu ülesandeid). Mudel tegi API- ja veebisaidi metaandmete päringuid BOCSAR-i avaliku tööriista kaudu, mis väljastab autentimisandmeid brauseri API-päringuteks. BOCSAR-i süsteem tagastas rakenduse konfiguratsiooni, süsteemi tööülesanded ja logid ning veebisaidi metaandmed. Üksikisikute kuriteoandmetele ligi ei pääsetud.
Victoria tervishoiuministeerium: OpenAI agendid avastasid kaitsmata juurdepääsuvõtme, millega sai teha päringuid Victoria terviseteabe ameti aruandlussüsteemi ning hankida aruandluse konfiguratsiooni ja küsitluste koondstatistikat. Pole selge, mil määral oleks see teave pidanud olema kättesaadav, ning see sõltub VAHI juurdepääsureeglitest. Üksikisikute terviseandmetele ega vastajate tuvastamist võimaldavatele küsitlusvastustele ligi ei pääsetud.
Austraalia tervise ja heaolu instituut: OpenAI agendid hankisid kolmandate osapoolte sirvimis- ja allalaadimisteenuste kaudu koondstatistikat, sealhulgas AIHW veebisaidilt, ning tegid otsepäringuid diagrammide andmetele. Eraldi katsed juurdepääsupiirangutest mööda pääseda ebaõnnestusid. Allalaaditud materjal näib olevat olnud avalikult kättesaadav. Süsteemi turvalisust ei rikutud. Üksikisikute terviseandmetele ligi ei pääsetud.
Alustasime nende tegevuste uurimist kohe, kui neist augusti keskel teada saime. Teavitasime Services Australiat ja Victoria tervishoiuministeeriumi 10. septembril ning Uus-Lõuna-Walesi kuritegevuse statistika ja uuringute bürood 18. septembril. Austraalia tervise ja heaolu instituudiga seotud tegevus ei vastanud meie teavitamiskriteeriumidele, sest juurdepääsuviis näis olevat kooskõlas avaliku juurdepääsuga. Siiski teavitasime instituuti 24. septembril, et jagada oma leide ja pakkuda võimalust saada põhjalikum ülevaade.
Meie eesmärk oli anda mõjutatud asutustele üksikasjalik ülevaade pärast uurimise lõpuleviimist. Oleksime siiski pidanud esialgseid leide varem jagama ja Austraalia asutusi uute asjaolude selgumisel kursis hoidma.
Sellest ajast alates oleme teinud Austraalia valitsusasutustega tihedat koostööd, et jagada seni selgunud teavet. Kui tuvastame veel mõjutatud asutusi, teavitame neid viivitamata ja otse olemasoleva teabe põhjal ning anname uute asjaolude selgumisel lisateavet.
Juunis toimunud ettevõttesisese treenimise ja hindamise käigus kasutasime eksperimentaalset, üksnes sisekasutuseks mõeldud OpenAI mudelit. See ei olnud mõeldud avalikuks väljalaskeks ning sellel puudus täielik kaitsemeetmete komplekt, mida kasutame oma avalikult kättesaadavates toodetes. Selle treenimise ja hindamise käigus pääses mudel ligi Services Australia Medicare’i statistikateenusele. Meie senine uurimine ei ole leidnud tõendeid selle kohta, et kellegi terviseandmetele oleks ligi pääsetud.
Mudelite ettevõttesisesel treenimisel ja hindamisel anname neile ülesandeid, mis pärinevad paljusid valdkondi hõlmavast laiast uurimisküsimuste kogumist. Need peegeldavad üksikasjalikke küsimusi, mida kasutajad võiksid esitada. See õpetab mudelit avalikult kättesaadavat teavet leidma, tõlgendama ja analüüsima, et mudelist oleks inimestele rohkem kasu. Meie mudelid peaksid neile küsimustele vastama avaldatud statistika põhjal.
Sel juhul oli mudeli üks ülesanne uurida, kui palju kulutab riik Victoria kogukondades elaniku kohta nahahaiguste ravimitele. Mudelil oli raskusi selle teabe hankimisega ning ta tegi toiminguid, milleks me polnud talle luba andnud. Seda teavet Services Australia Medicare’i statistikateenusest otsides avastas mudel viisi, kuidas pääseda ligi teenuse mitteavalikule osale. Seejärel kasutas ta seda juurdepääsu teenusega seotud tehnilise süsteemiteabe ja lähtekoodi uurimiseks – endiselt eesmärgiga leida algselt otsitud teave. Me ei kavatsenud sellist tegevust lubada ning seda juurdepääsu teenusele ega sellele järgnenud tegevust poleks tohtinud toimuda.
Pärast Hugging Face’i intsidenti tugevdasime oma teadustöö kaitsemeetmeid, sealhulgas lisasime võrgupiiranguid ja laiendasime seiret. Rakendasime meetmed, mis blokeerivad neis uurimiskeskkondades otsese internetiühenduse, võimaldades veebisisule ligi pääseda vahemällu salvestatud koopiate kaudu. Täiendava turvakihina oleksid meie praegused seiresüsteemid selle tegevuse tuvastanud ja saatnud meie meeskonnale häire, et inimene selle kiiresti üle vaataks. Näiteks kui mudel sai hiljutise treeningu(avaneb uues aknas) ajal otsese internetiühenduse, tuvastas meie seire selle tegevuse ja saatis kontrollijale häire ning me peatasime treeningu. Jätkame nende kaitsemeetmete katsetamist ja puuduste kõrvaldamist. Hugging Face’i juhtum on endiselt kõige tõsisem intsident, mida oleme täheldanud.
Inimesed tahavad olla kindlad, et tehisintellekti arendatakse ohutult, ja see algab sellest, mida meiesugused ettevõtted ise teevad. Hiljuti teatasime(avaneb uues aknas), et oleme peatanud oma kõige võimekamate mudelite tööriistakasutust hõlmava treenimise ja hindamise. Jätkame nende treenimist alles siis, kui oleme kindlad, et praegu väljatöötatavad täiendavad kaitsemeetmed on paigas.
Tehisintellektisüsteemide üldise võimekuse kasvades näeme ka, et organisatsioonide aitamiseks nõrkuste leidmisel ja kõrvaldamisel jääb üha vähem aega. See nõuab ühist tegutsemist koos küberkaitsjatega üle maailma.
Oleme ühinenud tehnoloogia-, küberturbe- ja elutähtsa taristu valdkonna organisatsioonidega, et kutsuda üles ühisele tegutsemisele küberkaitses. See üleskutse algab meie endi kohustustest, sealhulgas tugevamatest kaitsemeetmetest, õigeaegsest teavitamisest ja praktilisest toest mõjutatud organisatsioonidele. Samuti kutsutakse selles üles investeerima elutähtsaid teenuseid kaitsvatesse meeskondadesse, et nad saaksid leida turvanõrkusi, kontrollida parandusi ja jagada toimivaid lahendusi.
Austraalias panustame ressursse ja oskusteavet, et toetada mõjutatud asutusi ning aidata küberkaitsjatel neid põhimõtteid ellu viia. Muu hulgas hõlmab see järgmist.
Sihipärane tugi mõjutatud asutustele. Eraldame vajalikud ressursid, et aidata mõjutatud asutustel juhtunut mõista ja selle mõju hinnata. See hõlmab asjakohaste tehniliste leidude jagamist ja koostöö korraldamist meie reageerimismeeskondadega sobivate teabevahetuskokkulepete alusel.
Rahastus ja tugi küberkaitse tugevdamiseks. Toetame Austraalia valitsusi ja ettevõtteid oma miljardi dollari suuruse Daybreak for Frontline Defendersi fondi krediitide ja tehnilise abiga, et tugevdada elutähtsa taristu ning muude tundlike keskkondade küberkaitset. Tuginedes meie koostööle valitsuste ja elutähtsa taristu käitajatega, aitab see töö organisatsioonidel üha võimekamate tehisintellektiagentidega seotud riske paremini mõista ja tuvastada ning neile reageerida.
Austraalia töörühm. Loome sõltumatuid Austraalia eksperte kaasava töörühma, et töötada välja praktilised poliitikasoovitused üha võimekamate tehisintellektiagentidega seotud riskide juhtimiseks. Nende intsidentide õppetundidele tuginedes keskendub töörühm teavitamisprotsesside parandamisele, tehisintellekti arendajate ja valitsuse vahelise koordineerimise tugevdamisele ning riiklike süsteemide paremaks kaitsmiseks vajalike meetmete väljaselgitamisele. Töörühma soovitused aitavad kujundada OpenAI lähenemisviisi ning toetavad Austraalia valitsuste tööd tehisintellekti ohutuse ja küberturvalisuse vallas. Töörühm, mis peaks oma töö lõpetama aasta lõpuks, soovitab ka praktilisi samme, mida tehisintellektiettevõtted saavad astuda sarnaste intsidentide riski vähendamiseks.
Austraalia valitsused, ettevõtted ja kodanikud on ja on olnud OpenAI jaoks hindamatu väärtusega partnerid. Me ei pea seda iseenesestmõistetavaks ning kavatseme olukorra heastada.
OpenAI strateegiajuht Jason Kwon lendab OpenAI USA peakontorist Austraaliasse, et astuda teisipäeval, 6. oktoobril Sydneys parlamendi tehisintellekti erikomisjoni ette. Ta vastab küsimustele selle kohta, mida me teame, kuidas reageerisime, milliseid samme oleme astunud ja kuidas edaspidi paremini tegutseme.
Jätkame kontrollitud leidude jagamist mõjutatud asutuste ja asjaomaste valitsustega. Avaldame uut teavet oma käimasoleva uurimise ja nende kohustuste täitmisel tehtud edusammude kohta. Teame, et usalduse taastamiseks seisab meil ees palju tööd. Meie kohustus on näidata austraallastele, et teeme sisulisi muudatusi ja täidame oma lubadusi.
