Jūnijā iekšējās apmācības un novērtēšanas laikā mūsu modeļi piekļuva Austrālijas valsts iestāžu tīmekļvietnēm neatļautos veidos. Arī mūsu reakcijai vajadzēja būt labākai. Mēs atvainojamies un strādājam, lai turpmāk rīkotos labāk.
Šajā rakstā izklāstām, ko zinām, ko esam mainījuši un ko darīsim, lai atjaunotu Austrālijas iedzīvotāju uzticību. Šis ir jauna veida kiberincidents, kas liecina par jaunu globālu izaicinājumu. Viens no veidiem, kā plānojam uzņemties atbildību par šo situāciju, ir mērķtiecīga sadarbība ar Austrāliju, palīdzot izstrādāt praktiskas pieejas tam, kā MI izstrādātāji un valdības atklāj MI darbības kibertelpā, ziņo par tām un reaģē uz tām neatkarīgi no tā, vai šīs darbības ir ļaunprātīgas vai netīšas.
Pēc Hugging Face incidenta jūlijā mēs sākām pārskatīt iepriekšējās apmācības un novērtēšanas darbības, lai apzinātu citas skartās organizācijas. Augusta vidū šajā pārbaudē tika konstatētas darbības, kas skāra tālāk minētās Austrālijas valsts iestāžu tīmekļvietnes.
Lūk, ko mēs zinām, balstoties uz pierādījumiem:
Services Australia: OpenAI modelis atklāja veidu, kā piekļūt sistēmas publiski nepieejamajai daļai, un izpildīja komandas, ieguva iekšējos failus, piekļuves datus un apkopotu statistiku, kā arī ierakstīja failus. Tomēr atsevišķu pacientu vai klientu datiem piekļuve nenotika. Tālāk šo incidentu aplūkojam sīkāk.
Jaundienvidvelsas Noziedzības statistikas un izpētes birojs (BOCSAR): OpenAI modelis piekļuva BOCSAR publiskajam noziedzības kartēšanas rīkam, lai izpētītu publiski pieejamo noziedzības statistiku (tālāk sīkāk skaidrojam, kāpēc modeļi veic dažādus informācijas izpētes uzdevumus). Modelis veica API un tīmekļvietnes metadatu pieprasījumus, izmantojot publisko BOCSAR rīku, kas nodrošina piekļuves datus pārlūkprogrammas API pieprasījumiem. BOCSAR sistēma atgrieza lietotnes konfigurāciju, sistēmas darbības uzdevumus un žurnālus, kā arī tīmekļvietnes metadatus. Atsevišķu personu noziedzīgo nodarījumu datiem piekļuve nenotika.
Viktorijas štata Veselības departaments: OpenAI aģenti atrada neaizsargātu piekļuves atslēgu, ar kuru varēja veikt vaicājumus Viktorijas štata Veselības informācijas aģentūras pārskatu sistēmā un iegūt pārskatu konfigurāciju un apkopotu aptauju statistiku. Nav skaidrs, cik lielā mērā šai informācijai bija jābūt pieejamai, un tas ir atkarīgs no VAHI piekļuves politikām. Atsevišķu personu medicīniskajiem datiem vai identificējamām aptauju atbildēm piekļuve nenotika.
Austrālijas Veselības un labklājības institūts: OpenAI aģenti ieguva apkopotu statistiku, tostarp no AIHW tīmekļvietnes, izmantojot trešo pušu pārlūkošanas un lejupielādes pakalpojumus, un tieši pieprasīja diagrammu datus. Atsevišķi mēģinājumi apiet piekļuves kontroles mehānismus bija neveiksmīgi. Šķiet, ka lejupielādētie materiāli bija publiski pieejami. Sistēmas drošība netika pārkāpta. Atsevišķu personu medicīniskajiem datiem piekļuve nenotika.
Mēs sākām šo darbību izmeklēšanu, tiklīdz par tām uzzinājām augusta vidū. Mēs informējām Services Australia un Viktorijas štata Veselības departamentu 10. septembrī, bet Jaundienvidvelsas Noziedzības statistikas un izpētes biroju — 18. septembrī. Ar Austrālijas Veselības un labklājības institūtu saistītās darbības neatbilda mūsu ziņošanas kritērijiem, jo piekļuves veids šķita atbilstošs publiskai piekļuvei. Tomēr 24. septembrī mēs informējām institūtu, lai dalītos izpētes rezultātos un piedāvātu detalizētu skaidrojumu.
Mūsu mērķis bija sniegt skartajām iestādēm detalizētu pārskatu pēc izmeklēšanas pabeigšanas. Tomēr mums vajadzēja agrāk dalīties sākotnējos izpētes rezultātos un regulāri informēt Austrālijas iestādes, tiklīdz kļuva zināmi jauni fakti.
Kopš tā laika esam cieši sadarbojušies ar Austrālijas valsts iestādēm, daloties līdz šim noskaidrotajā. Ja konstatēsim vēl citas skartas iestādes, mēs tās nekavējoties un tieši informēsim par pieejamo informāciju un sniegsim atjauninājumus, tiklīdz kļūs zināmi jauni fakti.
Jūnijā iekšējās apmācības un novērtēšanas laikā mēs izmantojām eksperimentālu OpenAI modeli, kas bija paredzēts tikai iekšējai lietošanai, nevis publiskai izlaišanai, un kam nebija pilna mūsu publiski pieejamajos produktos izmantoto aizsardzības pasākumu klāsta. Šīs apmācības un novērtēšanas laikā tas piekļuva aģentūras Services Australia Medicare statistikas pārskatu sistēmai. Līdzšinējā pārbaudē nav atrasti pierādījumi, ka būtu piekļūts kādas personas medicīniskajiem datiem.
Veicot modeļu iekšējo apmācību un novērtēšanu, mēs tiem uzdodam uzdevumus no plaša pētniecisku jautājumu kopuma, kas aptver daudzas tēmas un atspoguļo detalizētus jautājumus, kādus lietotāji varētu uzdot. Tā modelis tiek apmācīts atrast, interpretēt un analizēt publiski pieejamu informāciju, lai tas varētu būt cilvēkiem noderīgāks. Mūsu modeļiem uz šiem jautājumiem jāatbild, izmantojot publiski pieejamu statistiku.
Šajā gadījumā viens no modelim uzdotajiem uzdevumiem bija izpētīt valdības izdevumus uz vienu iedzīvotāju par zālēm ādas slimību ārstēšanai Viktorijas štata kopienās. Modelim bija grūtības iegūt šo informāciju, un tas veica darbības, kuras mēs tam nebijām atļāvuši. Meklējot šo informāciju aģentūras Services Australia Medicare statistikas pārskatu sistēmā, tas atklāja veidu, kā piekļūt sistēmas publiski nepieejamajai daļai. Pēc tam tas izmantoja šo piekļuvi, lai apskatītu sistēmas tehnisko informāciju un ar to saistīto pirmkodu, joprojām cenšoties atrast sākotnēji meklēto informāciju. Mēs nebijām paredzējuši šādas darbības, un ne šādai piekļuvei sistēmai, ne turpmākajām darbībām nevajadzēja notikt.
Pēc Hugging Face incidenta mēs pastiprinājām pētniecības aizsardzības pasākumus, tostarp ieviesām papildu tīkla ierobežojumus un paplašinājām uzraudzību. Mēs ieviesām kontroles mehānismus, kas šajās pētniecības vidēs bloķē tiešu piekļuvi internetam, nodrošinot piekļuvi tīmeklim ar kešatmiņā saglabāta satura starpniecību. Mūsu pašreizējās uzraudzības sistēmas nodrošina papildu drošības līmeni: tās būtu atklājušas šīs darbības un nosūtījušas mūsu komandai brīdinājumu steidzamai pārbaudei, ko veiktu cilvēks. Piemēram, kad modelis nesenā apmācības ciklā(atveras jaunā logā) ieguva tiešu piekļuvi internetam, mūsu uzraudzības sistēma to atklāja un nosūtīja brīdinājumu pārbaudes veicējam, un mēs apturējām apmācības ciklu. Mēs turpinām pārbaudīt šos aizsardzības pasākumus un novērst nepilnības. Hugging Face incidents joprojām ir nopietnākais, ko esam novērojuši.
Cilvēki vēlas būt pārliecināti, ka MI tiek izstrādāts droši, un tas sākas ar to, kā rīkojas tādi uzņēmumi kā mūsējais. Mēs nesen paziņojām(atveras jaunā logā), ka esam apturējuši mūsu spējīgāko modeļu apmācību un novērtēšanu, kas ietver rīku izmantošanu, un atsāksim to apmācību tikai tad, kad būsim pārliecināti, ka ir ieviesti papildu aizsardzības pasākumi, pie kuriem pašlaik strādājam.
MI sistēmu spējām kopumā pieaugot, mēs arī redzam, ka paliek arvien mazāk laika, lai palīdzētu organizācijām atrast un novērst vājās vietas. Tam nepieciešama kopīga rīcība, sadarbojoties ar kiberaizsardzības speciālistiem visā pasaulē.
Mēs esam pievienojušies tehnoloģiju, kiberdrošības un kritiskās infrastruktūras organizāciju aicinājumam kopīgi rīkoties kiberaizsardzības jomā. Šis aicinājums sākas ar mūsu pašu pienākumiem, tostarp stingrākiem aizsardzības pasākumiem, savlaicīgu informēšanu un praktisku atbalstu skartajām organizācijām. Tas arī aicina ieguldīt komandās, kas aizsargā būtiskos pakalpojumus, lai tās varētu atrast ievainojamības, pārbaudīt labojumus un dalīties efektīvos risinājumos.
Austrālijā mēs atvēlam resursus un speciālistu zināšanas, lai atbalstītu skartās iestādes un palīdzētu kiberaizsardzības speciālistiem īstenot šos principus praksē, tostarp nodrošinot:
Mērķētu atbalstu skartajām iestādēm. Mēs piešķirsim nepieciešamos resursus, lai palīdzētu skartajām iestādēm izprast notikušo un novērtēt tā ietekmi. Tas ietver dalīšanos ar būtiskajiem tehniskās izpētes rezultātiem un sadarbības organizēšanu ar mūsu reaģēšanas komandām, ievērojot atbilstošu informācijas apmaiņas kārtību.
Finansējumu un atbalstu kiberaizsardzības stiprināšanai. Mēs atbalstīsim Austrālijas valdības un nozaru uzņēmumus, piešķirot kredītus no mūsu viena miljarda ASV dolāru fonda Daybreak priekšējās līnijas kiberaizsargiem un sniedzot tehnisko palīdzību kiberaizsardzības stiprināšanai kritiskajā infrastruktūrā un citās sensitīvās vidēs. Balstoties uz mūsu sadarbību ar valdībām un kritiskās infrastruktūras operatoriem, šis darbs palīdzēs organizācijām labāk izprast un atklāt riskus, ko rada arvien spējīgāki MI aģenti, un uz tiem reaģēt.
Austrālijas darba grupu. Mēs izveidosim darba grupu, iesaistot neatkarīgus Austrālijas ekspertus, lai izstrādātu praktiskus politikas ieteikumus arvien spējīgāku MI aģentu radīto risku pārvaldībai. Balstoties uz šajos incidentos gūtajām atziņām, tā pievērsīsies ziņošanas procesu uzlabošanai, MI izstrādātāju un valdības sadarbības koordinācijas stiprināšanai un pasākumu noteikšanai, kas palīdzētu labāk aizsargāt valsts iestāžu sistēmas. Darba grupas ieteikumi palīdzēs veidot OpenAI pieeju un atbalstīs Austrālijas valdību darbu MI drošības un kiberdrošības jomā. Darba grupa, kurai paredzēts pabeigt darbu līdz gada beigām, ieteiks arī praktiskus pasākumus, ko MI uzņēmumi var veikt, lai mazinātu līdzīgu incidentu risku.
Austrālijas valdības, nozaru uzņēmumi un iedzīvotāji ir un vienmēr ir bijuši ārkārtīgi vērtīgi OpenAI partneri. Mēs to neuzskatām par pašsaprotamu un esam apņēmušies labot situāciju.
OpenAI stratēģijas direktors Džeisons Kvons ieradīsies no OpenAI galvenās mītnes ASV, lai otrdien, 6. oktobrī, Sidnejā piedalītos Apvienotās speciālās mākslīgā intelekta komitejas sēdē. Viņš atbildēs uz jautājumiem par to, ko mēs zinām, kā reaģējām, kādus pasākumus esam veikuši un kā turpmāk uzlabosim savu rīcību.
Mēs turpināsim dalīties pārbaudītajos izpētes rezultātos ar skartajām iestādēm un attiecīgajām valdībām. Mēs publicēsim jaunāko informāciju par notiekošo pārbaudi un šo saistību izpildes gaitu. Mēs zinām, ka uzticības atjaunošanai vēl jāiegulda daudz darba un ka mūsu pienākums ir parādīt Austrālijas iedzīvotājiem, ka veicam būtiskas pārmaiņas un pildām savus solījumus.
