Miten toimimme jatkossa paremmin Australian hyväksi
Kesäkuussa mallimme käyttivät sisäisen koulutuksen ja arvioinnin aikana Australian julkishallinnon verkkosivustoja tavoilla, joihin niillä ei ollut lupaa. Myös meidän olisi pitänyt hoitaa tilanteen jälkitoimet paremmin. Pyydämme anteeksi ja teemme työtä toimiaksemme jatkossa paremmin.
Tässä kirjoituksessa kerromme, mitä tiedämme, mitä olemme muuttaneet ja mitä aiomme tehdä palauttaaksemme Australian kansalaisten luottamuksen. Kyse on uudenlaisesta kyberturvallisuuspoikkeamasta, joka ilmentää kehittymässä olevaa maailmanlaajuista haastetta. Aiomme kantaa vastuumme tilanteesta muun muassa tekemällä määrätietoista yhteistyötä Australian kanssa. Autamme kehittämään käytännön toimintatapoja, joiden avulla tekoälyn kehittäjät ja julkishallinto voivat tunnistaa tekoälyn haitallista tai tahatonta toimintaa kyberympäristössä, tiedottaa siitä ja reagoida siihen.
Heinäkuisen Hugging Face -tapauksen jälkeen aloimme tarkastella aiempaa koulutus- ja arviointitoimintaa tunnistaaksemme muita poikkeamien kohteeksi joutuneita organisaatioita. Elokuun puolivälissä selvityksessä havaittiin toimintaa, joka kohdistui alla mainittuihin Australian julkishallinnon verkkosivustoihin.
Tämän tiedämme näytön perusteella:
Services Australia: OpenAI:n malli löysi keinon päästä palvelun osiin, jotka eivät olleet julkisia. Se suoritti komentoja, haki sisäisiä tiedostoja, tunnistetietoja ja koottuja tilastotietoja sekä kirjoitti tiedostoja. Yksittäisten potilaiden tai asiakkaiden tietoihin ei kuitenkaan päästy. Käsittelemme tätä tapausta tarkemmin jäljempänä.
NSW Bureau of Crime Statistics and Research (BOCSAR): OpenAI:n malli käytti BOCSARin julkista Crime Mapping Tool -työkalua tutkiakseen julkisia rikostilastoja. Kerromme jäljempänä tarkemmin, miksi mallit tekevät erilaisia tiedonhakutehtäviä. Malli teki API-pyyntöjä ja verkkosivuston metatietopyyntöjä julkisen BOCSAR-työkalun kautta. Työkalu antaa selaimen API-pyyntöihin tarvittavat tunnistetiedot. BOCSARin järjestelmä palautti sovelluksen asetustietoja, järjestelmän ajotehtäviä ja lokeja sekä verkkosivuston metatietoja. Yksittäisten henkilöiden rikostietoihin ei päästy.
Victorian osavaltion terveysministeriö: OpenAI:n agentit löysivät suojaamattoman pääsyavaimen, jolla ne tekivät kyselyjä Victorian Agency for Health Information -viraston raportointijärjestelmään ja hakivat raportointiasetuksia sekä koottuja kyselytilastoja. On epäselvää, missä määrin näiden tietojen olisi pitänyt olla saatavilla. Se riippuu VAHI:n käyttöoikeuskäytännöistä. Yksittäisiin potilastietoihin tai tunnistettaviin kyselyvastauksiin ei päästy.
Australian Institute of Health and Welfare: OpenAI:n agentit hakivat koottuja tilastotietoja kolmansien osapuolten selaus- ja latauspalveluilla muun muassa AIHW:n verkkosivustolta sekä tekivät kyselyjä suoraan kaavioiden tietoihin. Erilliset yritykset kiertää pääsynhallintaa epäonnistuivat. Ladattu aineisto vaikuttaa olleen julkisesti saatavilla. Järjestelmään ei murtauduttu. Yksittäisiin potilastietoihin ei päästy.
Aloitimme näiden tapahtumien tutkinnan heti saatuamme niistä tiedon elokuun puolivälissä. Ilmoitimme asiasta Services Australialle ja Victorian osavaltion terveysministeriölle 10. syyskuuta sekä NSW Bureau of Crime Statistics and Research -virastolle 18. syyskuuta. Australian Institute of Health and Welfare -laitokseen liittyvä toiminta ei ylittänyt ilmoituskynnystämme, sillä tietojen käyttötapa vaikutti vastaavan julkista käyttöä. Ilmoitimme sille kuitenkin asiasta 24. syyskuuta jakaaksemme havaintomme ja tarjotaksemme mahdollisuuden tarkempaan tilannekatsaukseen.
Tavoitteenamme oli antaa poikkeamien kohteeksi joutuneille virastoille yksityiskohtainen selvitys tutkinnan valmistuttua. Meidän olisi kuitenkin pitänyt jakaa alustavat havainnot aiemmin ja pitää Australian virastot ajan tasalla sitä mukaa kuin uusia tietoja tuli ilmi.
Sen jälkeen olemme tehneet tiivistä yhteistyötä Australian virastojen kanssa ja jakaneet niille tähän mennessä saamamme tiedot. Jos tunnistamme muita poikkeamien kohteeksi joutuneita virastoja, ilmoitamme niille asiasta viipymättä ja suoraan käytettävissä olevien tietojen pohjalta sekä päivitämme tietoja uusien seikkojen selvitessä.
Kesäkuussa käytimme sisäisessä koulutuksessa ja arvioinnissa kokeellista, vain sisäiseen käyttöön tarkoitettua OpenAI:n mallia. Sitä ei ollut tarkoitus julkaista, eikä siinä ollut kaikkia julkisesti saatavilla olevien tuotteidemme suojatoimia. Tämän koulutuksen ja arvioinnin aikana malli käytti Services Australian Medicare Statistics Reporting Service -palvelua. Selvityksessämme ei ole tähän mennessä löytynyt näyttöä siitä, että kenenkään potilastietoihin olisi päästy.
Kun koulutamme ja arvioimme mallejamme sisäisesti, annamme niille tehtäviä laajasta, monia aiheita kattavasta tutkimuskysymysten kokoelmasta. Kysymykset vastaavat sellaisia yksityiskohtaisia kysymyksiä, joita käyttäjät saattavat esittää. Näin mallia koulutetaan etsimään, tulkitsemaan ja analysoimaan julkisesti saatavilla olevia tietoja, jotta siitä olisi enemmän hyötyä ihmisille. Malliemme on tarkoitus vastata näihin kysymyksiin julkisesti julkaistujen tilastojen avulla.
Tässä tapauksessa yksi mallille annetuista tehtävistä oli selvittää, kuinka paljon julkisia varoja käytetään asukasta kohden ihosairauksien lääkkeisiin Victorian osavaltion eri yhteisöissä. Mallilla oli vaikeuksia hankkia näitä tietoja, ja se ryhtyi toimiin, joihin emme olleet antaneet sille lupaa. Etsiessään tietoja Services Australian Medicare Statistics Reporting Service -palvelusta se löysi keinon päästä palvelun osiin, jotka eivät olleet julkisia. Tämän pääsyn avulla se tarkasteli palveluun liittyviä teknisiä järjestelmätietoja ja lähdekoodia. Sen tavoitteena oli edelleen löytää alun perin etsimänsä tiedot. Tämä toiminta ei ollut tarkoituksemme mukaista. Palveluun pääsyä ja sitä seuranneita toimia ei olisi pitänyt tapahtua.
Hugging Face -tapauksen jälkeen vahvistimme tutkimustyömme suojatoimia muun muassa lisäämällä verkkorajoituksia ja laajentamalla valvontaa. Otimme näissä tutkimusympäristöissä käyttöön rajoitukset, jotka estävät suorat internetyhteydet. Verkkosisältöihin pääsee välimuistiin tallennettujen versioiden kautta. Lisäsuojana toimivat nykyiset valvontajärjestelmämme olisivat havainneet tämän toiminnan ja hälyttäneet tiimimme arvioimaan tilanteen kiireellisesti. Esimerkiksi kun malli sai suoran internetyhteyden äskettäisen koulutusajon(avautuu uudessa ikkunassa) aikana, valvontamme havaitsi toiminnan ja hälytti ihmisen arvioimaan tilanteen. Keskeytimme koulutusajon. Jatkamme näiden suojatoimien testaamista ja puutteiden korjaamista. Hugging Face -tapaus on edelleen vakavin havaitsemamme poikkeama.
Ihmiset haluavat voida luottaa siihen, että tekoälyä kehitetään turvallisesti. Se alkaa kaltaistemme yritysten omista toimista. Kerroimme(avautuu uudessa ikkunassa) äskettäin keskeyttäneemme kyvykkäimpien malliemme koulutuksen ja arvioinnin, johon sisältyy työkalujen käyttöä. Jatkamme niiden koulutusta vasta, kun olemme varmoja, että tarvittavat lisäsuojatoimet ovat käytössä. Kehitämme niitä parhaillaan.
Tekoälyjärjestelmien yleisen suorituskyvyn kasvaessa näemme myös, että aikaa auttaa organisaatioita löytämään ja korjaamaan heikkouksia on yhä vähemmän. Tämä edellyttää yhteisiä toimia kyberpuolustajien kanssa eri puolilla maailmaa.
Olemme liittyneet teknologia-alan, kyberturvallisuusalan ja kriittisen infrastruktuurin organisaatioiden vetoomukseen yhteisistä kyberpuolustustoimista. Vetoomuksen lähtökohtana ovat omat velvollisuutemme: vahvemmat suojatoimet, oikea-aikainen tiedottaminen ja käytännön tuki poikkeamien kohteeksi joutuneille organisaatioille. Siinä vaaditaan myös panostuksia välttämättömiä palveluja suojaaviin tiimeihin, jotta ne voivat löytää haavoittuvuuksia, varmistaa korjausten toimivuuden ja jakaa toimivia käytäntöjä.
Australiassa sitoudumme tarjoamaan resursseja ja asiantuntemusta poikkeamien kohteeksi joutuneiden virastojen tueksi sekä auttamaan kyberpuolustajia soveltamaan näitä periaatteita käytäntöön. Tähän sisältyvät seuraavat toimet:
Kohdennettua tukea poikkeamien kohteeksi joutuneille virastoille. Sitoudumme tarjoamaan tarvittavat resurssit, jotta poikkeamien kohteeksi joutuneet virastot voivat ymmärtää tapahtumat ja arvioida niiden vaikutukset. Tähän kuuluu olennaisten teknisten havaintojen jakaminen ja yhteistyön järjestäminen poikkeamiin reagoivien tiimiemme kanssa asianmukaisia tiedonjakokäytäntöjä noudattaen.
Rahoitusta ja tukea kyberpuolustuksen vahvistamiseen. Tuemme Australian julkishallintoa ja elinkeinoelämää myöntämällä krediittejä miljardin dollarin Daybreak for Frontline Defenders -rahastostamme sekä tarjoamalla teknistä apua kriittisen infrastruktuurin ja muiden arkaluonteisten ympäristöjen kyberpuolustuksen vahvistamiseen. Työ pohjautuu yhteistyöhömme julkishallinnon ja kriittisen infrastruktuurin toimijoiden kanssa. Se auttaa organisaatioita ymmärtämään ja havaitsemaan entistä kyvykkäämpien tekoälyagenttien aiheuttamia riskejä sekä reagoimaan niihin.
Australialainen työryhmä. Perustamme riippumatonta australialaista asiantuntemusta hyödyntävän työryhmän laatimaan käytännön toimenpidesuosituksia entistä kyvykkäämpien tekoälyagenttien aiheuttamien riskien hallintaan. Näistä tapauksista saatujen oppien pohjalta työryhmä keskittyy ilmoitusmenettelyjen parantamiseen, tekoälyn kehittäjien ja julkishallinnon välisen koordinoinnin vahvistamiseen sekä sellaisten toimien tunnistamiseen, joilla julkishallinnon järjestelmiä voidaan suojata paremmin. Työryhmän suositukset ohjaavat OpenAI:n toimintatapaa ja tukevat Australian hallitusten työtä tekoälyn turvallisuuden ja kyberturvallisuuden parissa. Työryhmän odotetaan saavan työnsä valmiiksi vuoden loppuun mennessä. Se suosittelee myös käytännön toimia, joilla tekoäly-yritykset voivat vähentää vastaavien tapausten riskiä.
Australian hallitukset, elinkeinoelämä ja kansalaiset ovat nyt ja ovat olleet aiemminkin OpenAI:lle korvaamattomia kumppaneita. Emme pidä tätä itsestäänselvyytenä, ja aiomme korjata tilanteen.
OpenAI:n strategiajohtaja Jason Kwon lentää OpenAI:n Yhdysvaltain-pääkonttorista Sydneyyn parlamentin kamarien yhteisen tekoälyä käsittelevän erityisvaliokunnan kuultavaksi tiistaina 6. lokakuuta. Hän vastaa kysymyksiin siitä, mitä tiedämme, miten reagoimme, mihin toimiin olemme ryhtyneet ja miten toimimme jatkossa paremmin.
Jatkamme vahvistettujen havaintojen jakamista poikkeamien kohteeksi joutuneille virastoille ja asianomaisille hallituksille. Julkaisemme ajantasaista tietoa käynnissä olevasta selvityksestämme ja näiden sitoumusten toteuttamisen edistymisestä. Tiedämme, että luottamuksen palauttaminen vaatii meiltä vielä paljon työtä. Meidän on osoitettava australialaisille, että teemme merkittäviä muutoksia ja pidämme lupauksemme.
