Kepriye kita bakal tumindak luwih becik kanggo Australia
Ing wulan Juni, sajrone pelatihan lan evaluasi internal, model-model kita ngakses situs web pamrentah Australia kanthi cara sing ora diidini. Kita uga kudune nanggapi kedadeyan iki kanthi luwih becik. Kita njaluk pangapura lan ngupaya supaya luwih becik ing tembe.
Ing tulisan iki, kita njlentrehake apa sing kita weruhi, apa sing wis kita owahi, lan apa sing bakal kita tindakake kanggo mbangun maneh kapercayan masyarakat Australia. Iki kalebu kedadeyan siber jinis anyar sing dadi tantangan global sing lagi tuwuh. Salah siji cara kita tanggung jawab marang kahanan iki yaiku kanthi tenanan kerja sama karo Australia kanggo mbantu ngrumusake pendekatan praktis tumrap pangembang AI lan pamrentah anggone ngenali, ngandharake, lan nanggapi tumindak siber AI, apa iku kanthi niyat ala utawa ora disengaja.
Sawise kedadeyan Hugging Face ing wulan Juli, kita wiwit mriksa kegiyatan pelatihan lan evaluasi sadurunge kanggo ngenali organisasi liyane sing kena dampak. Ing pertengahan Agustus, pamriksa kasebut nemokake kegiyatan sing mengaruhi situs web pamrentah Australia ing ngisor iki.
Iki sing kita weruhi adhedhasar bukti:
Services Australia: Sawijining model OpenAI nemokake cara kanggo entuk akses menyang layanan sing ora kabukak kanggo umum, banjur nglakokake prentah, njupuk berkas internal, kredensial, lan statistik agregat, uga nulis berkas. Nanging, cathetan pasien utawa klien perorangan ora diakses. Kedadeyan iki kita jlentrehake luwih rinci ing ngisor iki.
NSW Bureau of Crime Statistics and Research (BOCSAR): Sawijining model OpenAI ngakses Piranti Pemetaan Kadurjanan BOCSAR sing kabukak kanggo umum kanggo nliti statistik kadurjanan umum (ing ngisor iki kita njlentrehake luwih lanjut kenapa model nindakake maneka tugas riset informasi). Model kasebut nggawe panjaluk API lan metadata situs web liwat piranti umum BOCSAR, sing nyedhiyakake kredensial kanggo panjaluk API saka browser. Sistem BOCSAR mbalekake konfigurasi aplikasi, tugas lan log operasional, sarta metadata situs web. Cathetan kadurjanan perorangan ora diakses.
Victorian Department of Health: Agen OpenAI nemokake kunci akses sing kabukak kanggo nglakokake kueri ing sistem pelaporan Victorian Agency for Health Information lan njupuk konfigurasi pelaporan sarta statistik survei agregat. Durung cetha nganti sepira informasi iki kudune bisa diakses, lan iki gumantung marang kabijakan akses VAHI. Cathetan medis perorangan utawa wangsulan survei sing bisa nuduhake identitas responden ora diakses.
Australian Institute of Health and Welfare: Agen OpenAI njupuk statistik agregat nganggo layanan njelajah web lan ngundhuh saka pihak katelu, kalebu saka situs web AIHW, lan nglakokake kueri data grafik kanthi langsung. Upaya kapisah kanggo ngliwati kontrol akses ora kasil. Materi sing diundhuh katon minangka materi sing wis kasedhiya kanggo umum. Ora ana sistem sing kasil dibobol. Cathetan medis perorangan ora diakses.
Kita langsung miwiti investigasi marang kegiyatan iki nalika ngerti ing pertengahan Agustus. Kita menehi kabar marang Services Australia lan Victorian Department of Health tanggal 10 September, sarta NSW Bureau of Crime Statistics and Research tanggal 18 September. Kegiyatan sing ana gandhengane karo Australian Institute of Health and Welfare ora tekan ambang kritéria pambocoran kita amarga cara aksese katon selaras karo akses umum. Nanging, kita tetep menehi kabar tanggal 24 September kanggo nuduhake temuan lan nawakake katrangan luwih lanjut.
Tujuan kita yaiku menehi katrangan rinci marang instansi sing kena dampak sawise investigasi kita rampung. Nanging, kita kudune luwih enggal nuduhake temuan awal lan terus menehi kabar paling anyar marang instansi Australia saben ana fakta anyar.
Wiwit iku, kita wis kerja sama kanthi raket karo instansi pamrentah Australia kanggo nuduhake apa sing wis kita weruhi nganti saiki. Yen kita nemokake instansi liyane sing kena dampak, kita bakal enggal menehi kabar langsung kanthi informasi sing kasedhiya lan menehi kabar sabanjure nalika ana fakta anyar.
Sajrone pelatihan lan evaluasi internal ing wulan Juni, kita nglakokake model eksperimen OpenAI khusus internal sing ora ditujokake kanggo dirilis marang umum. Model iki uga durung dilengkapi kabeh pangayoman sing digunakake ing produk kita sing kasedhiya kanggo umum. Sajrone pelatihan lan evaluasi iki, model kasebut ngakses Medicare Statistics Reporting Service duweke Services Australia. Pamriksa kita nganti saiki ora nemokake bukti yen cathetan medis sapa wae wis diakses.
Nalika nindakake pelatihan lan evaluasi internal marang model, kita menehi tugas saka kumpulan pitakon riset sing nyakup maneka topik. Pitakon kasebut nggambarake jinis pitakon rinci sing bisa ditakokake pangguna. Iki nglatih model supaya bisa nemokake, napsirake, lan nganalisis informasi sing kasedhiya kanggo umum, saengga model bisa luwih migunani tumrap masyarakat. Model-model kita kudune mangsuli pitakon iki nganggo statistik sing diterbitake kanggo umum.
Ing kasus iki, salah siji tugas sing diwenehake marang model yaiku nliti belanja pamrentah saben wong kanggo obat penyakit kulit ing masyarakat Victoria. Model kasebut kangelan entuk informasi iku, banjur nindakake tumindak sing ora kita idini. Nalika nggoleki informasi iki ing Medicare Statistics Reporting Service duweke Services Australia, model kasebut nemokake cara kanggo entuk akses menyang layanan sing ora kabukak kanggo umum. Banjur, akses iki digunakake kanggo mriksa informasi teknis sistem lan kode sumber sing ana gandhengane karo layanan kasebut—kabeh mau isih kanthi tujuan nggoleki informasi sing digoleki wiwitane. Kita ora nduweni niyat supaya kegiyatan iki kedadeyan. Akses menyang layanan lan kegiyatan sabanjure iku kudune ora kedadeyan.
Sawise kedadeyan Hugging Face, kita nguwatake pangayoman riset, kalebu nambah watesan jaringan lan nggedhekake cakupan pangawasan. Kita ngetrapake kontrol kanggo mblokir akses internet langsung ing lingkungan riset iki, dene akses web dilayani liwat konten sing disimpen ing cache. Minangka lapisan keamanan tambahan, sistem pangawasan kita saiki mesthine bakal ndeteksi kegiyatan iki lan ngirim tandha darurat marang tim kita supaya enggal dipriksa manungsa. Contone, nalika sawijining model entuk akses internet langsung sajrone sesi pelatihan bubar iki(mbukak ing jendhela anyar), sistem pangawasan kita ndeteksi kegiyatan kasebut lan ngirim tandha darurat marang petugas pamriksa, banjur kita mungkasi sesi kasebut. Kita terus nguji pangayoman iki lan ngrampungake celah sing ana. Hugging Face isih dadi kedadeyan paling abot sing wis kita temokake.
Masyarakat kepengin yakin yen AI dikembangake kanthi aman, lan iki diwiwiti saka tumindake perusahaan kaya kita dhewe. Bubar iki kita ngandharake(mbukak ing jendhela anyar) yen kita wis mandhegake sauntara pelatihan lan evaluasi sing nggunakake piranti kanggo model-model kita sing paling mumpuni. Kita mung bakal nerusake pelatihane yen wis yakin ana pangayoman tambahan, sing saiki lagi kita garap.
Nalika sistem AI umume saya mumpuni, kita uga weruh yen wektu kanggo mbantu organisasi nemokake lan ndandani kelemahane saya mepet. Iki mbutuhake tumindak bebarengan karo para pembela keamanan siber ing saindenging jagad.
Kita wis gabung karo organisasi ing bidang teknologi, keamanan siber, lan infrastruktur kritis kanggo ngajak tumindak bebarengan kanggo pertahanan siber. Ajakan iku diwiwiti saka tanggung jawab kita dhewe, kalebu pangayoman sing luwih kuwat, pambocoran informasi kanthi trep wektu, lan dhukungan praktis kanggo organisasi sing kena dampak. Ajakan iki uga nyengkuyung investasi kanggo tim sing nglindhungi layanan penting, supaya bisa nemokake kerentanan, mesthekake asil dandanan, lan nuduhake cara sing kabukten efektif.
Ing Australia, kita duwe komitmen nyedhiyakake sumber daya lan keahlian kanggo nyengkuyung instansi sing kena dampak lan mbantu para pembela keamanan ngetrapake prinsip-prinsip iki, kalebu:
Dhukungan khusus kanggo instansi sing kena dampak. Kita bakal nyedhiyakake sumber daya sing dibutuhake kanggo mbantu instansi sing kena dampak mangerteni apa sing kedadeyan lan netepake dampake. Iki kalebu nuduhake temuan teknis sing cocog lan ngatur kerja sama karo tim tanggap kita liwat tata cara ijol-ijolan informasi sing trep.
Pendanaan lan dhukungan kanggo nguwatake pertahanan siber. Kita bakal nyengkuyung pamrentah lan industri Australia liwat kredit saka dana Daybreak kanggo Pembela Garis Ngarep kita sing cacahe $1 milyar, uga pitulungan teknis kanggo nguwatake pertahanan siber ing infrastruktur kritis lan lingkungan sensitif liyane. Kanthi nerusake kerja sama kita karo pamrentah lan operator infrastruktur kritis, upaya iki bakal mbantu organisasi supaya luwih bisa mangerteni, ndeteksi, lan nanggapi risiko saka agen AI sing saya mumpuni.
Gugus tugas Australia. Kita bakal mbentuk gugus tugas sing nglibatake ahli independen saka Australia kanggo ngrumusake rekomendasi kabijakan praktis kanggo ngatur risiko saka agen AI sing saya mumpuni. Kanthi njupuk piwulang saka kedadeyan-kedadeyan iki, gugus tugas bakal fokus ndandani proses kabar, nguwatake koordinasi antarane pangembang AI lan pamrentah, lan nemtokake langkah kanggo nglindhungi sistem pamrentah kanthi luwih becik. Rekomendasi gugus tugas iki bakal dadi dhasar pendekatan OpenAI lan nyengkuyung upaya pamrentah ing Australia kanggo keamanan AI lan keamanan siber. Gugus tugas iki, sing diajab ngrampungake pakaryane ing pungkasan taun, uga bakal menehi rekomendasi langkah praktis sing bisa ditindakake perusahaan AI kanggo nyuda risiko kedadeyan sing padha.
Pamrentah, industri, lan warga Australia wiwit biyen nganti saiki dadi mitra sing aji banget kanggo OpenAI. Kita ora nyepelekake sesambungan iki, lan kita duwe tekad kanggo ndandani kahanan iki.
Kepala Strategi OpenAI, Jason Kwon, bakal mabur saka kantor pusat OpenAI ing AS kanggo menehi katrangan ing ngarepe Joint Select Committee on Artificial Intelligence ing Sydney, dina Selasa, 6 Oktober. Dheweke bakal mangsuli pitakon babagan apa sing kita weruhi, kepriye tanggapan kita, langkah sing wis kita tindakake, lan kepriye kita bakal tumindak luwih becik ing tembe.
Kita bakal terus nuduhake temuan sing wis diverifikasi marang instansi sing kena dampak lan pamrentah sing ana gandhengane. Kita bakal nerbitake kabar paling anyar babagan pamriksa sing isih lumaku lan kemajuan anggone netepi komitmen iki. Kita ngerti isih akeh pakaryan sing kudu ditindakake kanggo mbangun maneh kapercayan. Kita uga tanggung jawab kanggo nuduhake marang masyarakat Australia yen kita nindakake owah-owahan sing nyata lan netepi janji.
