Birželį, per vidinį mokymą ir vertinimą, mūsų modeliai prie Australijos valdžios institucijų svetainių prisijungė būdais, kuriais naudotis neturėjo leidimo. Taip pat turėjome geriau reaguoti į šią situaciją. Atsiprašome ir stengiamės, kad ateityje elgtumės geriau.
Šiame įraše paaiškiname, ką žinome, ką pakeitėme ir ką darysime, kad atkurtume Australijos gyventojų pasitikėjimą. Tai naujo pobūdžio kibernetinis incidentas, atskleidžiantis kylantį pasaulinį iššūkį. Vienas iš būdų, kuriais ketiname prisiimti atsakomybę už šią situaciją, – kryptingas bendradarbiavimas su Australija. Padėsime kurti praktinius metodus, kuriais DI kūrėjai ir valdžios institucijos galėtų atpažinti DI veiksmus kibernetinėje erdvėje, apie juos pranešti ir į juos reaguoti, nesvarbu, ar tie veiksmai kenkėjiški, ar netyčiniai.
Po liepą įvykusio incidento, susijusio su „Hugging Face“, pradėjome peržiūrėti ankstesnio mokymo ir vertinimo veiklą, kad nustatytume kitas nukentėjusias organizacijas. Rugpjūčio viduryje per šią peržiūrą nustatėme veiklą, paveikusią toliau nurodytas Australijos valdžios institucijų svetaines.
Štai ką žinome remdamiesi įrodymais:
„Services Australia“: OpenAI modelis aptiko būdą gauti prieigą prie neviešos sistemos dalies, vykdė komandas, gavo vidinius failus, prisijungimo duomenis bei apibendrintus statistinius duomenis ir įrašė failus. Tačiau prie atskirų pacientų ar klientų įrašų prieigos nebuvo. Šį incidentą išsamiau aptariame toliau.
Naujojo Pietų Velso nusikalstamumo statistikos ir tyrimų biuras (BOCSAR): OpenAI modelis prisijungė prie BOCSAR viešojo nusikalstamumo žemėlapių įrankio, kad ištirtų viešus nusikalstamumo statistinius duomenis (toliau paaiškiname, kodėl modeliai atlieka įvairias informacijos paieškos ir tyrimo užduotis). Modelis siuntė API ir svetainės metaduomenų užklausas per viešąjį BOCSAR įrankį, kuris pateikia prisijungimo duomenis naršyklės API užklausoms. BOCSAR sistema pateikė programos konfigūraciją, vykdomas užduotis ir žurnalus bei svetainės metaduomenis. Prie atskirų asmenų nusikaltimų įrašų prieigos nebuvo.
Viktorijos sveikatos departamentas: OpenAI agentai aptiko neapsaugotą prieigos raktą, leidžiantį siųsti užklausas Viktorijos sveikatos informacijos agentūros ataskaitų sistemai ir gauti ataskaitų konfigūraciją bei apibendrintus apklausų statistinius duomenis. Neaišku, kokia šios informacijos dalis turėjo būti prieinama – tai priklauso nuo VAHI prieigos politikos. Prie atskirų asmenų medicininių įrašų ar apklausų atsakymų, pagal kuriuos būtų galima nustatyti asmens tapatybę, prieigos nebuvo.
Australijos sveikatos ir gerovės institutas: OpenAI agentai per trečiųjų šalių naršymo ir atsisiuntimo paslaugas gavo apibendrintus statistinius duomenis, taip pat ir iš AIHW svetainės, bei tiesiogiai siuntė užklausas diagramų duomenims gauti. Atskiri bandymai apeiti prieigos kontrolės priemones buvo nesėkmingi. Panašu, kad atsisiųsta medžiaga buvo viešai prieinama. Sistema nebuvo pažeista. Prie atskirų asmenų medicininių įrašų prieigos nebuvo.
Šios veiklos tyrimus pradėjome vos apie ją sužinoję rugpjūčio viduryje. „Services Australia“ ir Viktorijos sveikatos departamentą informavome rugsėjo 10 d., o Naujojo Pietų Velso nusikalstamumo statistikos ir tyrimų biurą – rugsėjo 18 d. Su Australijos sveikatos ir gerovės institutu susijusi veikla neatitiko mūsų pranešimo apie incidentus kriterijų, nes prieigos būdas atrodė atitinkantis viešą prieigą. Vis dėlto rugsėjo 24 d. institutą informavome, kad pasidalytume išvadomis ir pasiūlytume jas išsamiau pristatyti.
Siekėme pateikti nukentėjusioms institucijoms išsamią informaciją, kai tyrimas bus baigtas. Tačiau turėjome anksčiau pasidalyti preliminariomis išvadomis ir informuoti Australijos institucijas, kai paaiškėdavo naujų faktų.
Nuo tada glaudžiai bendradarbiaujame su Australijos valdžios institucijomis ir dalijamės tuo, ką iki šiol sužinojome. Jei nustatysime daugiau nukentėjusių institucijų, nedelsdami tiesiogiai joms pranešime, pateiksime turimą informaciją ir ją papildysime paaiškėjus naujiems faktams.
Birželį per vidinį mokymą ir vertinimą naudojome eksperimentinį, tik vidiniam naudojimui skirtą OpenAI modelį, kurio neketinome viešai išleisti. Jis veikė be viso apsaugos priemonių rinkinio, taikomo mūsų viešai prieinamuose produktuose. Per šį mokymą ir vertinimą jis prisijungė prie „Services Australia“ sistemos „Medicare Statistics Reporting Service“. Iki šiol atlikta peržiūra neatskleidė jokių įrodymų, kad būtų gauta prieiga prie kieno nors medicininių įrašų.
Atlikdami vidinį modelių mokymą ir vertinimą, skiriame jiems užduotis iš plataus įvairių sričių tiriamųjų klausimų rinkinio. Šie klausimai atspindi išsamius klausimus, kuriuos galėtų užduoti naudotojai. Taip modelis mokomas rasti, interpretuoti ir analizuoti viešai prieinamą informaciją, kad būtų naudingesnis žmonėms. Į šiuos klausimus mūsų modeliai turėtų atsakyti remdamiesi viešai paskelbtais statistiniais duomenimis.
Šiuo atveju viena iš modeliui skirtų užduočių buvo ištirti, kiek valstybės lėšų vienam gyventojui skiriama vaistams nuo odos ligų Viktorijos bendruomenėse. Modeliui buvo sunku gauti šią informaciją, todėl jis ėmėsi veiksmų, kurių atlikti jam nebuvome leidę. Ieškodamas šios informacijos „Services Australia“ sistemoje „Medicare Statistics Reporting Service“, jis aptiko būdą gauti prieigą prie neviešos sistemos dalies. Tada jis pasinaudojo šia prieiga, kad peržiūrėtų techninę sistemos informaciją ir su ja susijusį pirminį kodą – vis dar siekdamas rasti informaciją, kurios ieškojo iš pradžių. Tokios veiklos neplanavome. Nei ši prieiga prie sistemos, nei vėlesni veiksmai neturėjo būti įmanomi.
Po incidento, susijusio su „Hugging Face“ sustiprinome tyrimų apsaugos priemones: įvedėme papildomus tinklo apribojimus ir išplėtėme stebėseną. Šiose tyrimų aplinkose įdiegėme kontrolės priemones, blokuojančias tiesioginę prieigą prie interneto. Žiniatinklio turinys pasiekiamas tik iš podėlio. Mūsų dabartinės stebėsenos sistemos, suteikiančios papildomą apsaugą, būtų aptikusios šią veiklą ir išsiuntusios komandai skubų perspėjimą, kad ją patikrintų žmogus. Pavyzdžiui, kai per neseniai vykusį mokymą(atsidaro naujame lange) modelis gavo tiesioginę prieigą prie interneto, mūsų stebėsenos sistema aptiko šią veiklą ir skubiai perspėjo tikrintoją, o mes mokymą sustabdėme. Toliau tikriname šias apsaugos priemones ir šaliname spragas. Incidentas, susijęs su „Hugging Face“, tebėra rimčiausias iš mūsų nustatytų incidentų.
Žmonės nori žinoti, kad DI kuriamas saugiai, o tai pirmiausia priklauso nuo to, ką daro pačios tokios įmonės kaip mūsų. Neseniai pranešėme(atsidaro naujame lange), kad sustabdėme pažangiausių savo modelių mokymą ir vertinimą, kai naudojami įrankiai. Jų mokymą atnaujinsime tik įsitikinę, kad įdiegtos papildomos apsaugos priemonės, kurias šiuo metu rengiame.
DI sistemų galimybėms vis didėjant, taip pat matome, kad lieka vis mažiau laiko padėti organizacijoms aptikti ir pašalinti silpnąsias vietas. Tam reikia bendrų veiksmų su kibernetinės gynybos specialistais visame pasaulyje.
Kartu su technologijų, kibernetinio saugumo ir ypatingos svarbos infrastruktūros organizacijomis prisidėjome prie raginimo imtis bendrų kibernetinės gynybos veiksmų. Šis raginimas prasideda nuo mūsų pačių atsakomybės: stipresnių apsaugos priemonių, savalaikio informacijos atskleidimo ir praktinės pagalbos nukentėjusioms organizacijoms. Juo taip pat raginama investuoti į esmines paslaugas saugančias komandas, kad jos galėtų aptikti pažeidžiamumus, patikrinti, ar jie pašalinti, ir dalytis veiksminga praktika.
Australijoje skiriame išteklių ir ekspertinių žinių, kad paremtume nukentėjusias institucijas ir padėtume kibernetinės gynybos specialistams įgyvendinti šiuos principus. Tai apima:
Tikslinę pagalbą nukentėjusioms institucijoms. Skirsime reikiamus išteklius, kad padėtume nukentėjusioms institucijoms suprasti, kas įvyko, ir įvertinti poveikį. Dalysimės aktualiomis techninio tyrimo išvadomis ir organizuosime bendradarbiavimą su mūsų reagavimo komandomis pagal atitinkamus dalijimosi informacija susitarimus.
Finansavimą ir paramą kibernetinei gynybai stiprinti. Remsime Australijos valdžios institucijas ir pramonę, skirdami kreditų iš mūsų 1 mlrd. JAV dolerių fondo „Daybreak for Frontline Defenders“ ir teikdami techninę pagalbą, kad sustiprintume ypatingos svarbos infrastruktūros ir kitų jautrių aplinkų kibernetinę gynybą. Tęsdami bendradarbiavimą su valdžios institucijomis ir ypatingos svarbos infrastruktūros operatoriais, padėsime organizacijoms geriau suprasti ir aptikti vis didesnių galimybių DI agentų keliamą riziką bei į ją reaguoti.
Darbo grupę Australijoje. Subursime darbo grupę, kuri, pasitelkusi nepriklausomus Australijos ekspertus, parengs praktines politikos rekomendacijas, kaip valdyti vis didesnių galimybių DI agentų keliamą riziką. Remdamasi šių incidentų pamokomis, ji daugiausia dėmesio skirs pranešimo apie incidentus procesams gerinti, DI kūrėjų ir valdžios institucijų veiksmų koordinavimui stiprinti bei priemonėms, kurios geriau apsaugotų valstybės institucijų sistemas, nustatyti. Darbo grupės rekomendacijos padės formuoti OpenAI veiklos kryptį ir prisidės prie Australijos valdžios institucijų darbo DI saugos ir kibernetinio saugumo srityse. Darbo grupė, kuri, kaip tikimasi, darbą baigs iki metų pabaigos, taip pat rekomenduos praktinius veiksmus, kurių DI įmonės galėtų imtis, kad sumažintų panašių incidentų riziką.
Australijos valdžios institucijos, pramonės sektoriai ir piliečiai buvo ir tebėra neįkainojami OpenAI partneriai. Nelaikome šios partnerystės savaime suprantama ir ketiname ištaisyti padėtį.
OpenAI strategijos vadovas Jasonas Kwonas atskris iš OpenAI būstinės JAV ir antradienį, spalio 6 d., Sidnėjuje dalyvaus Jungtinio specialiojo dirbtinio intelekto komiteto posėdyje. Jis atsakys į klausimus apie tai, ką žinome, kaip reagavome, kokių veiksmų ėmėmės ir ką ateityje darysime geriau.
Toliau dalysimės patikrintomis išvadomis su nukentėjusiomis institucijomis ir atitinkamomis valdžios institucijomis. Skelbsime naujausią informaciją apie vykdomą peržiūrą ir pažangą įgyvendinant šiuos įsipareigojimus. Žinome, kad pasitikėjimui atkurti dar reikės daug darbo. Esame atsakingi už tai, kad Australijos gyventojai matytų, jog imamės reikšmingų pokyčių ir laikomės savo pažadų.
