Sådan vil vi gøre det bedre for Australien
Under intern træning og evaluering i juni tilgik vores modeller australske myndigheders websteder på måder, de ikke havde tilladelse til. Vi burde også have håndteret vores reaktion bedre. Det beklager vi, og vi arbejder på at gøre det bedre fremover.
I dette indlæg redegør vi for, hvad vi ved, hvad vi har ændret, og hvad vi vil gøre for at genopbygge den australske befolknings tillid. Dette er en ny type cyberhændelse, som udgør en voksende global udfordring. En af de måder, vi vil tage ansvar for situationen på, er at samarbejde målrettet med Australien om at udvikle praktiske metoder til, hvordan AI-udviklere og myndigheder identificerer, underretter om og reagerer på AI-systemers cyberadfærd, uanset om den er ondsindet eller utilsigtet.
Efter Hugging Face-hændelsen i juli begyndte vi at gennemgå tidligere trænings- og evalueringsaktiviteter for at identificere andre berørte organisationer. I midten af august afdækkede gennemgangen aktivitet, der berørte de australske myndighedswebsteder, som er nævnt nedenfor.
Her er, hvad vi ved på baggrund af dokumentationen:
Services Australia: En OpenAI-model opdagede en måde at få adgang til dele af tjenesten, som ikke var offentligt tilgængelige, og kørte kommandoer, hentede interne filer, legitimationsoplysninger og aggregerede statistikker samt skrev filer. Der blev dog ikke tilgået individuelle patientjournaler eller klientoplysninger. Vi beskriver denne hændelse nærmere nedenfor.
NSW Bureau of Crime Statistics and Research (BOCSAR): En OpenAI-model tilgik BOCSAR's offentlige Crime Mapping Tool for at undersøge offentlige kriminalstatistikker (nedenfor forklarer vi nærmere, hvorfor modeller udfører forskellige informationssøgningsopgaver). Modellen sendte API-forespørgsler og forespørgsler om webstedets metadata via BOCSAR's offentlige værktøj, som stiller legitimationsoplysninger til rådighed for API-forespørgsler fra browsere. BOCSAR-systemet returnerede applikationskonfiguration, driftsjob og logfiler samt metadata om webstedet. Der blev ikke tilgået oplysninger om enkeltpersoners straffeforhold.
Victorian Department of Health: OpenAI-agenter opdagede en eksponeret adgangsnøgle, som de brugte til at forespørge i rapporteringssystemet hos Victorian Agency for Health Information og hente rapporteringskonfiguration og aggregerede spørgeskemastatistikker. Det er uklart, i hvilket omfang disse oplysninger burde have været tilgængelige, og det afhænger af VAHI's adgangspolitikker. Der blev ikke tilgået individuelle patientjournaler eller spørgeskemabesvarelser, der kunne knyttes til enkeltpersoner.
Australian Institute of Health and Welfare: OpenAI-agenter hentede aggregerede statistikker via tredjepartstjenester til browsing og download, blandt andet fra AIHW's websted, og forespurgte direkte på diagramdata. Særskilte forsøg på at omgå adgangskontroller mislykkedes. Det downloadede materiale ser ud til at have været offentligt tilgængeligt. Systemet blev ikke kompromitteret. Der blev ikke tilgået individuelle patientjournaler.
Vi iværksatte undersøgelser af disse aktiviteter, så snart vi blev opmærksomme på dem i midten af august. Vi underrettede Services Australia og Victorian Department of Health den 10. september og NSW Bureau of Crime Statistics and Research den 18. september. Aktiviteten vedrørende Australian Institute of Health and Welfare opfyldte ikke vores kriterier for underretning, fordi adgangen så ud til at svare til den offentligt tilgængelige adgang. Vi underrettede dog instituttet den 24. september for at dele vores undersøgelsesresultater og tilbyde en orientering.
Vores mål var at give de berørte myndigheder en detaljeret redegørelse, når vores undersøgelse var afsluttet. Vi burde dog have delt de foreløbige undersøgelsesresultater tidligere og holdt de australske myndigheder orienteret, efterhånden som flere fakta kom frem.
Siden da har vi arbejdet tæt sammen med australske myndigheder om at dele det, vi indtil videre har fundet ud af. Hvis vi identificerer yderligere berørte myndigheder, vil vi straks underrette dem direkte med de oplysninger, vi har, og give opdateringer, efterhånden som flere fakta kommer frem.
Under intern træning og evaluering i juni anvendte vi en eksperimentel OpenAI-model udelukkende til internt brug. Den var ikke beregnet til offentlig udgivelse og havde ikke alle de sikkerhedsforanstaltninger, vi bruger i vores offentligt tilgængelige produkter. Under denne træning og evaluering tilgik den Services Australias Medicare Statistics Reporting Service. Vores gennemgang har indtil videre ikke fundet tegn på, at nogens patientjournaler blev tilgået.
Når vi træner og evaluerer vores modeller internt, giver vi dem opgaver fra en bred samling af undersøgelsesspørgsmål på tværs af mange emner. De afspejler de typer detaljerede spørgsmål, brugere kunne stille. Det træner en model i at finde, fortolke og analysere offentligt tilgængelige oplysninger, så den kan være mere nyttig for mennesker. Det er meningen, at vores modeller skal besvare disse spørgsmål ved hjælp af offentliggjorte statistikker.
I dette tilfælde var en af modellens opgaver at undersøge de offentlige udgifter pr. person til medicin mod hudsygdomme i lokalsamfund i delstaten Victoria. Modellen havde svært ved at finde disse oplysninger og foretog handlinger, som vi ikke havde givet den tilladelse til. Mens den søgte efter oplysningerne hos Services Australias Medicare Statistics Reporting Service, opdagede den en måde at få adgang til dele af tjenesten, som ikke var offentligt tilgængelige. Den brugte derefter denne adgang til at gennemgå tekniske systemoplysninger og kildekode knyttet til tjenesten – stadig med det formål at finde de oplysninger, den oprindeligt søgte efter. Denne aktivitet var ikke tilsigtet fra vores side, og hverken adgangen til tjenesten eller den efterfølgende aktivitet burde have fundet sted.
Efter Hugging Face-hændelsen styrkede vi sikkerhedsforanstaltningerne i vores forskning med blandt andet yderligere netværksbegrænsninger og udvidet overvågning. Vi indførte kontrolforanstaltninger, der blokerer direkte internetadgang i disse forskningsmiljøer, så webadgang i stedet sker via cachelagret indhold. Som et ekstra sikkerhedslag ville vores nuværende overvågningssystemer have opdaget denne aktivitet og alarmeret vores team, så den straks kunne blive gennemgået af et menneske. Da en model for eksempel fik direkte internetadgang under en nylig træningskørsel(åbner i et nyt vindue), opdagede vores overvågning aktiviteten og alarmerede en medarbejder, og vi stoppede kørslen. Vi fortsætter med at teste disse sikkerhedsforanstaltninger og udbedre mangler. Hugging Face er fortsat den alvorligste hændelse, vi har observeret.
Folk vil være sikre på, at AI udvikles forsvarligt, og det begynder med, hvad virksomheder som vores selv gør. Vi har for nylig fortalt(åbner i et nyt vindue), at vi har sat træning og evaluering med brug af værktøjer på pause for vores mest avancerede modeller. Vi genoptager først træningen af dem, når vi er sikre på, at yderligere sikkerhedsforanstaltninger er på plads. Det arbejder vi på nu.
Efterhånden som AI-systemer generelt bliver mere avancerede, ser vi også, at der bliver stadig kortere tid til at hjælpe organisationer med at finde og udbedre svagheder. Det kræver en fælles indsats i samarbejde med dem, der arbejder med cyberforsvar verden over.
Sammen med organisationer inden for teknologi, cybersikkerhed og kritisk infrastruktur har vi fremsat en opfordring til en fælles indsats for cyberforsvar. Opfordringen tager udgangspunkt i vores eget ansvar, herunder stærkere sikkerhedsforanstaltninger, rettidig underretning og praktisk støtte til berørte organisationer. Den opfordrer også til investeringer i de teams, der beskytter samfundsvigtige tjenester, så de kan finde sårbarheder, kontrollere, at rettelser virker, og dele de løsninger, der fungerer.
I Australien stiller vi ressourcer og ekspertise til rådighed for at støtte berørte myndigheder og hjælpe dem, der arbejder med cyberforsvar, med at omsætte disse principper til praksis. Det omfatter:
Målrettet støtte til berørte myndigheder. Vi vil afsætte de nødvendige ressourcer til at hjælpe berørte myndigheder med at forstå, hvad der skete, og vurdere konsekvenserne. Det omfatter deling af relevante tekniske undersøgelsesresultater og etablering af samarbejde med vores beredskabsteams inden for passende rammer for informationsdeling.
Finansiering og støtte til at styrke cyberforsvaret. Vi vil støtte Australiens regeringer og erhvervsliv med kreditter fra vores Daybreak for Frontline Defenders-fond på 1 milliard dollars og teknisk bistand til at styrke cyberforsvaret i kritisk infrastruktur og andre følsomme miljøer. Arbejdet bygger videre på vores samarbejde med regeringer og operatører af kritisk infrastruktur og vil hjælpe organisationer med bedre at forstå, opdage og håndtere risici fra stadig mere avancerede AI-agenter.
En australsk arbejdsgruppe. Vi vil nedsætte en arbejdsgruppe med uafhængige australske eksperter, som skal udarbejde konkrete politiske anbefalinger til håndtering af risici fra stadig mere avancerede AI-agenter. Med afsæt i erfaringerne fra disse hændelser vil den fokusere på at forbedre underretningsprocedurer, styrke koordineringen mellem AI-udviklere og myndigheder og identificere tiltag, der bedre kan beskytte myndighedernes systemer. Arbejdsgruppens anbefalinger vil indgå i OpenAI's tilgang og understøtte de australske regeringers arbejde med AI-sikkerhed og cybersikkerhed. Arbejdsgruppen forventes at afslutte sit arbejde inden årets udgang og vil også anbefale konkrete tiltag, som AI-virksomheder kan iværksætte for at mindske risikoen for lignende hændelser.
Australiens regeringer, erhvervsliv og borgere er og har været uvurderlige partnere for OpenAI. Det tager vi ikke for givet, og vi er fast besluttede på at rette op på situationen.
OpenAI's strategidirektør, Jason Kwon, flyver fra OpenAI's hovedkvarter i USA for at møde op i parlamentets fælles særudvalg om kunstig intelligens i Sydney tirsdag den 6. oktober. Han vil besvare spørgsmål om, hvad vi ved, hvordan vi reagerede, hvilke tiltag vi har iværksat, og hvordan vi vil gøre det bedre fremover.
Vi vil fortsat dele bekræftede undersøgelsesresultater med berørte myndigheder og relevante regeringer. Vi vil offentliggøre opdateringer om vores igangværende gennemgang, og hvor langt vi er med at indfri disse forpligtelser. Vi ved, at der ligger et stort arbejde foran os med at genopbygge tilliden, og at det er vores ansvar at vise australierne, at vi gennemfører væsentlige ændringer og holder vores løfter.
