F’Ġunju, waqt taħriġ u evalwazzjoni interni, il-mudelli tagħna aċċessaw siti web tal-gvern Awstraljan b’modi li ma kinux awtorizzati jużaw. Kellna wkoll niġġestixxu r-rispons tagħna aħjar. Nitolbu skuża u qed naħdmu biex nagħmlu aħjar fil-futur.
F’din il-pubblikazzjoni, qed nispjegaw dak li nafu, dak li biddilna, u dak li se nagħmlu biex nerġgħu niksbu l-fiduċja tal-poplu Awstraljan. Dan huwa tip ġdid ta’ inċident ċibernetiku li jirrappreżenta sfida globali emerġenti. Wieħed mill-modi kif biħsiebna nieħdu r-responsabbiltà għas-sitwazzjoni huwa li naħdmu b’impenn mal-Awstralja biex ngħinu niżviluppaw approċċi prattiċi għall-mod kif l-iżviluppaturi tal-IA u l-gvernijiet jidentifikaw, jiżvelaw u jirrispondu għall-imġiba ċibernetika tal-IA, kemm jekk malizzjuża kif ukoll jekk mhux intenzjonata.
Wara l-inċident ta’ Hugging Face f’Lulju, bdejna neżaminaw l-attività ta’ taħriġ u evalwazzjoni preċedenti biex nidentifikaw organizzazzjonijiet affettwati oħra. F’nofs Awwissu, dik l-analiżi identifikat attività li affettwat is-siti web tal-gvern Awstraljan elenkati hawn taħt.
Dan huwa dak li nafu abbażi tal-evidenza:
Services Australia: Mudell ta’ OpenAI skopra mod kif jikseb aċċess għas-servizz li mhuwiex disponibbli għall-pubbliku, u eżegwixxa kmandi, ġab fajls interni, kredenzjali u statistika aggregata, u kiteb fajls. Madankollu, ma ġewx aċċessati rekords ta’ pazjenti jew klijenti individwali. Niddiskutu dan l-inċident f’aktar dettall hawn taħt.
NSW Bureau of Crime Statistics and Research (BOCSAR): Mudell ta’ OpenAI aċċessa l-għodda pubblika tal-BOCSAR għall-immappjar tal-kriminalità biex jirriċerka statistika pubblika dwar il-kriminalità (aktar ’l isfel nispjegaw għaliex il-mudelli jwettqu diversi kompiti ta’ riċerka tal-informazzjoni). Il-mudell għamel talbiet lill-API u talbiet għall-metadata tas-sit web permezz tal-għodda pubblika tal-BOCSAR, li tipprovdi kredenzjali għal talbiet lill-API mill-brawżer. Is-sistema tal-BOCSAR irritornat il-konfigurazzjoni tal-applikazzjoni, kompiti u reġistri operattivi, u metadata tas-sit web. Ma ġewx aċċessati rekords kriminali ta’ individwi.
Dipartiment tas-Saħħa ta’ Victoria: Aġenti ta’ OpenAI skoprew ċavetta ta’ aċċess esposta li setgħu jużaw biex jagħmlu mistoqsijiet lis-sistema ta’ rapportar tal-Victorian Agency for Health Information u jiksbu l-konfigurazzjoni tar-rapportar u statistika aggregata minn stħarriġ. Mhuwiex ċar sa liema punt din l-informazzjoni kellha tkun aċċessibbli, u dan jiddependi mill-politiki ta’ aċċess tal-VAHI. Ma ġewx aċċessati rekords mediċi individwali jew tweġibiet għal stħarriġ li setgħu jidentifikaw lil xi ħadd.
Istitut Awstraljan tas-Saħħa u l-Benesseri: Aġenti ta’ OpenAI kisbu statistika aggregata permezz ta’ servizzi ta’ browsing u tniżżil ta’ partijiet terzi, inkluż mis-sit web tal-AIHW, u għamlu mistoqsijiet direttament dwar id-data tal-graffs. Tentattivi separati biex jiġu evitati l-kontrolli tal-aċċess ma rnexxewx. Il-materjal imniżżel jidher li kien disponibbli għall-pubbliku. Is-sistema ma ġietx kompromessa. Ma ġewx aċċessati rekords mediċi individwali.
Bdejna investigazzjonijiet dwar dawn l-attivitajiet hekk kif sirna nafu bihom f’nofs Awwissu. Innotifikajna lil Services Australia u lid-Dipartiment tas-Saħħa ta’ Victoria fl-10 ta’ Settembru u lin-NSW Bureau of Crime Statistics and Research fit-18 ta’ Settembru. L-attività relatata mal-Istitut Awstraljan tas-Saħħa u l-Benesseri ma laħqitx il-limiti stabbiliti tagħna għall-iżvelar, għax il-mod kif sar l-aċċess deher konsistenti mal-aċċess pubbliku. Madankollu, innotifikajna lill-istitut fl-24 ta’ Settembru biex naqsmu s-sejbiet tagħna u noffru laqgħa ta’ informazzjoni.
L-għan tagħna kien li nagħtu lill-aġenziji affettwati rendikont dettaljat ladarba titlesta l-investigazzjoni tagħna. Madankollu, kellna naqsmu s-sejbiet preliminari aktar kmieni u nżommu lill-aġenziji Awstraljani aġġornati hekk kif ħarġu aktar fatti.
Minn dakinhar ħdimna mill-qrib mal-aġenziji tal-gvern Awstraljan biex naqsmu dak li sirna nafu s’issa. Jekk nidentifikaw aġenziji affettwati oħra, se ninnotifikawhom minnufih u direttament bl-informazzjoni disponibbli u nipprovdu aġġornamenti hekk kif joħorġu aktar fatti.
Waqt taħriġ u evalwazzjoni interni f’Ġunju, konna qed inħaddmu mudell sperimentali ta’ OpenAI għall-użu intern biss, li ma kienx maħsub biex jiġi rilaxxat għall-pubbliku u li ma kellux is-sett sħiħ ta’ salvagwardji użati fil-prodotti tagħna disponibbli għall-pubbliku. Matul dan it-taħriġ u din l-evalwazzjoni, il-mudell aċċessa l-Medicare Statistics Reporting Service ta’ Services Australia. L-analiżi tagħna s’issa ma sabet l-ebda evidenza li ġew aċċessati r-rekords mediċi ta’ xi ħadd.
Meta nħarrġu u nevalwaw il-mudelli tagħna internament, nassenjawlhom kompiti meħuda minn ġabra wiesgħa ta’ mistoqsijiet ta’ riċerka fuq bosta suġġetti, li jirriflettu t-tipi ta’ mistoqsijiet dettaljati li jistgħu jistaqsu l-utenti. Dan iħarreġ mudell biex isib, jinterpreta u janalizza informazzjoni disponibbli għall-pubbliku sabiex ikun aktar utli għan-nies. Il-mudelli tagħna suppost iwieġbu dawn il-mistoqsijiet billi jużaw statistika ppubblikata għall-pubbliku.
F’dan il-każ, wieħed mill-kompiti assenjati lill-mudell kien li jirriċerka kemm jonfoq il-gvern għal kull persuna fuq mediċini għall-kundizzjonijiet tal-ġilda fil-komunitajiet ta’ Victoria. Il-mudell sabha diffiċli biex jikseb dik l-informazzjoni, u ħa azzjonijiet li ma konniex awtorizzajnieh jieħu. Waqt li kien qed ifittex din l-informazzjoni fil-Medicare Statistics Reporting Service ta’ Services Australia, skopra mod kif jikseb aċċess għas-servizz li mhuwiex disponibbli għall-pubbliku. Imbagħad uża dan l-aċċess biex jeżamina informazzjoni teknika tas-sistema u kodiċi tas-sors relatat mas-servizz—dejjem bl-għan li jipprova jsib l-informazzjoni li kien qed ifittex oriġinarjament. Ma kellniex l-intenzjoni li sseħħ din l-attività, u la l-aċċess għas-servizz u lanqas l-attività li segwiet ma kellhom iseħħu.
Wara l-inċident ta’ Hugging Face, saħħaħna s-salvagwardji tar-riċerka tagħna, fosthom b’restrizzjonijiet addizzjonali fuq in-network u monitoraġġ aktar estensiv. Implimentajna kontrolli biex nibblukkaw l-aċċess dirett għall-internet f’dawn l-ambjenti tar-riċerka, bl-aċċess għall-web jingħata permezz ta’ kontenut maħżun fil-cache. Bħala saff addizzjonali ta’ sigurtà, is-sistemi ta’ monitoraġġ attwali tagħna kienu jindunaw b’din l-attività u javżaw lit-tim tagħna biex issir verifika urġenti minn persuna. Pereżempju, meta mudell kiseb aċċess dirett għall-internet waqt ċiklu reċenti ta’ taħriġ(jinfetaħ f’tieqa ġdida), il-monitoraġġ tagħna identifika l-attività u bagħat twissija lil persuna inkarigata mill-verifika, u waqqafna ċ-ċiklu. Aħna nkomplu nittestjaw dawn il-protezzjonijiet u nindirizzaw il-lakuni. L-inċident ta’ Hugging Face jibqa’ l-aktar wieħed gravi li osservajna.
In-nies iridu jkunu jafu li l-IA qed tiġi żviluppata b’mod sikur, u dan jibda minn dak li nagħmlu aħna stess bħala kumpaniji f’dan il-qasam. Dan l-aħħar ħabbarna(jinfetaħ f’tieqa ġdida) li ssospendejna t-taħriġ u l-evalwazzjoni li jinvolvu l-użu ta’ għodod għall-mudelli l-aktar kapaċi tagħna, u li se nerġgħu nibdew inħarrġuhom biss meta nkunu fiduċjużi li jkollna fis-seħħ salvagwardji addizzjonali, li qed naħdmu fuqhom bħalissa.
Hekk kif is-sistemi tal-IA b’mod ġenerali jsiru aktar kapaċi, qed naraw ukoll li qed jonqos iż-żmien disponibbli biex ngħinu lill-organizzazzjonijiet isibu u jirranġaw id-dgħufijiet. Dan jeħtieġ azzjoni kollettiva b’kollaborazzjoni ma’ dawk li jiddefendu s-sistemi madwar id-dinja.
Ingħaqadna ma’ organizzazzjonijiet fis-setturi tat-teknoloġija, taċ-ċibersigurtà u tal-infrastruttura kritika f’sejħa għal azzjoni kollettiva dwar iċ-ċiberdifiża. Dik is-sejħa tibda mir-responsabbiltajiet tagħna stess, fosthom salvagwardji aktar b’saħħithom, żvelar f’waqtu u appoġġ prattiku għall-organizzazzjonijiet affettwati. Titlob ukoll investiment fit-timijiet li jipproteġu s-servizzi essenzjali, sabiex ikunu jistgħu jsibu l-vulnerabbiltajiet, jivverifikaw it-tiswijiet u jaqsmu ma’ oħrajn dak li jaħdem.
Fl-Awstralja, qed nimpenjaw riżorsi u għarfien espert biex nappoġġjaw lill-aġenziji affettwati u ngħinu lil dawk responsabbli għad-difiża tas-sistemi japplikaw dawn il-prinċipji fil-prattika, fosthom permezz ta’:
Appoġġ dedikat għall-aġenziji affettwati. Se nimpenjaw ir-riżorsi meħtieġa biex ngħinu lill-aġenziji affettwati jifhmu x’ġara u jivvalutaw l-impatt. Dan jinkludi l-kondiviżjoni tas-sejbiet tekniċi rilevanti u l-arranġament ta’ kuntatt mat-timijiet tagħna ta’ rispons permezz ta’ arranġamenti xierqa għall-kondiviżjoni tal-informazzjoni.
Finanzjament u appoġġ biex jissaħħu d-difiżi ċibernetiċi. Se nappoġġjaw lill-gvernijiet u lill-industrija Awstraljani permezz ta’ krediti mill-fond tagħna ta’ biljun dollaru Daybreak for Frontline Defenders u assistenza teknika biex insaħħu d-difiżi ċibernetiċi fl-infrastruttura kritika u f’ambjenti sensittivi oħra. Filwaqt li jibni fuq il-kollaborazzjoni tagħna mal-gvernijiet u mal-operaturi tal-infrastruttura kritika, dan ix-xogħol se jgħin lill-organizzazzjonijiet jifhmu, jidentifikaw u jirrispondu aħjar għar-riskji minn aġenti tal-IA dejjem aktar kapaċi.
Task force Awstraljana. Se nwaqqfu task force b’għarfien espert Awstraljan indipendenti biex tiżviluppa rakkomandazzjonijiet prattiċi ta’ politika għall-ġestjoni tar-riskji minn aġenti tal-IA dejjem aktar kapaċi. Abbażi tat-tagħlim minn dawn l-inċidenti, se tiffoka fuq it-titjib tal-proċessi ta’ notifika, it-tisħiħ tal-koordinazzjoni bejn l-iżviluppaturi tal-IA u l-gvern, u l-identifikazzjoni ta’ miżuri biex is-sistemi tal-gvern jiġu protetti aħjar. Ir-rakkomandazzjonijiet tat-task force se jiggwidaw l-approċċ ta’ OpenAI u jappoġġjaw il-ħidma tal-gvernijiet Awstraljani dwar is-sikurezza tal-IA u ċ-ċibersigurtà. It-task force, li mistennija tlesti x-xogħol tagħha sal-aħħar tas-sena, se tirrakkomanda wkoll passi prattiċi li l-kumpaniji tal-IA jistgħu jieħdu biex inaqqsu r-riskju ta’ inċidenti simili.
Il-gvernijiet, l-industriji u ċ-ċittadini tal-Awstralja huma u dejjem kienu sħab imprezzabbli għal OpenAI. Ma nqisux dan bħala xi ħaġa garantita, u biħsiebna nsewwu s-sitwazzjoni.
L-Uffiċjal Kap tal-Istrateġija ta’ OpenAI, Jason Kwon, se jivvjaġġa mill-kwartieri ġenerali ta’ OpenAI fl-Istati Uniti biex jidher quddiem il-Kumitat Magħżul Konġunt dwar l-Intelliġenza Artifiċjali f’Sydney nhar it-Tlieta 6 ta’ Ottubru. Se jwieġeb mistoqsijiet dwar dak li nafu, kif irrispondejna, x’passi ħadna, u kif se ntejbu l-ħidma tagħna fil-futur.
Se nkomplu naqsmu sejbiet ivverifikati mal-aġenziji affettwati u mal-gvernijiet rilevanti. Se nippubblikaw aġġornamenti dwar l-analiżi tagħna li għadha għaddejja u l-progress fit-twettiq ta’ dawn l-impenji. Nafu li għad għandna ħafna xogħol quddiemna biex nerġgħu niksbu l-fiduċja, u li għandna r-responsabbiltà li nuru lill-Awstraljani li qed nagħmlu bidliet sinifikanti u nwettqu l-wegħdiet tagħna.
