Cara kami akan melakukan yang lebih baik untuk Australia

Pada bulan Jun, semasa latihan dan penilaian dalaman, model kami mengakses laman web kerajaan Australia dengan cara yang tidak dibenarkan. Kami juga sepatutnya mengendalikan respons kami dengan lebih baik. Kami memohon maaf dan sedang berusaha untuk melakukan yang lebih baik pada masa hadapan.

Dalam siaran ini, kami menerangkan perkara yang kami ketahui, perubahan yang telah kami lakukan dan tindakan yang akan kami ambil untuk membina semula kepercayaan rakyat Australia. Ini ialah jenis insiden siber baharu yang mencerminkan cabaran global yang sedang muncul. Salah satu cara kami berhasrat untuk bertanggungjawab atas keadaan ini ialah dengan bekerjasama secara bersungguh-sungguh dengan Australia bagi membantu membangunkan pendekatan praktikal untuk pembangun AI dan kerajaan mengenal pasti, mendedahkan dan bertindak balas terhadap tingkah laku siber AI, sama ada yang berniat jahat atau tidak disengajakan.

Selepas insiden Hugging Face pada bulan Julai, kami mula menyemak aktiviti latihan dan penilaian terdahulu untuk mengenal pasti organisasi lain yang terjejas. Pada pertengahan Ogos, semakan itu mengenal pasti aktiviti yang menjejaskan laman web kerajaan Australia yang disenaraikan di bawah.

Berikut ialah perkara yang kami ketahui berdasarkan bukti:

• Services Australia: Sebuah model OpenAI menemui cara untuk mendapatkan akses yang tidak terbuka kepada orang awam ke perkhidmatan tersebut, lalu menjalankan perintah, mendapatkan fail dalaman, kelayakan akses dan statistik agregat, serta menulis fail. Walau bagaimanapun, rekod individu pesakit atau pelanggan tidak diakses. Kami menghuraikan insiden ini dengan lebih terperinci di bawah.

• Biro Statistik dan Penyelidikan Jenayah NSW (BOCSAR): Sebuah model OpenAI mengakses Alat Pemetaan Jenayah BOCSAR yang tersedia kepada orang awam untuk menyelidik statistik jenayah awam (kami menerangkan dengan lebih lanjut di bawah sebab model menjalankan pelbagai tugas penyelidikan maklumat). Model itu membuat permintaan API dan metadata laman web melalui alat awam BOCSAR, yang membekalkan kelayakan akses untuk permintaan API daripada pelayar. Sistem BOCSAR mengembalikan konfigurasi aplikasi, tugas operasi dan log, serta metadata laman web. Rekod jenayah individu tidak diakses.

• Jabatan Kesihatan Victoria: Ejen OpenAI menemui kunci akses yang terdedah untuk membuat pertanyaan kepada sistem pelaporan Agensi Maklumat Kesihatan Victoria dan mendapatkan konfigurasi pelaporan serta statistik agregat tinjauan. Sejauh mana maklumat ini sepatutnya boleh diakses masih tidak jelas dan bergantung pada dasar akses VAHI. Rekod perubatan individu atau jawapan tinjauan yang boleh mengenal pasti responden tidak diakses.

• Institut Kesihatan dan Kebajikan Australia: Ejen OpenAI mendapatkan statistik agregat menggunakan perkhidmatan pelayaran dan muat turun pihak ketiga, termasuk daripada laman web AIHW, serta membuat pertanyaan terus terhadap data carta. Percubaan berasingan untuk memintas kawalan akses tidak berjaya. Bahan yang dimuat turun nampaknya tersedia kepada orang awam. Tiada pencerobohan sistem berlaku. Rekod perubatan individu tidak diakses.

Kami memulakan siasatan terhadap aktiviti ini sebaik sahaja kami mengetahuinya pada pertengahan Ogos. Kami memaklumkan Services Australia dan Jabatan Kesihatan Victoria pada 10 September serta Biro Statistik dan Penyelidikan Jenayah NSW pada 18 September. Aktiviti yang berkaitan dengan Institut Kesihatan dan Kebajikan Australia tidak mencapai ambang pendedahan kami kerana kaedah aksesnya kelihatan selaras dengan akses awam. Namun, kami memaklumkan institut itu pada 24 September untuk berkongsi dapatan kami dan menawarkan taklimat.

Matlamat kami adalah untuk memberikan penjelasan terperinci kepada agensi yang terjejas setelah siasatan kami selesai. Namun, kami sepatutnya berkongsi dapatan awal lebih awal dan terus memaklumkan perkembangan terkini kepada agensi Australia apabila lebih banyak fakta diketahui.

Sejak itu, kami telah bekerjasama rapat dengan agensi kerajaan Australia untuk berkongsi perkara yang telah kami ketahui setakat ini. Jika kami mengenal pasti agensi lain yang terjejas, kami akan segera memaklumkan mereka secara langsung dengan maklumat yang tersedia dan memberikan maklumat terkini apabila fakta lanjut diketahui.

Semasa latihan dan penilaian dalaman pada bulan Jun, kami menggunakan model eksperimen OpenAI untuk kegunaan dalaman sahaja. Model ini tidak dimaksudkan untuk dikeluarkan kepada orang awam dan tidak dilengkapi set penuh langkah perlindungan yang digunakan dalam produk kami yang tersedia kepada umum. Semasa latihan dan penilaian ini, model tersebut mengakses Perkhidmatan Pelaporan Statistik Medicare milik Services Australia. Semakan kami setakat ini tidak menemui bukti bahawa rekod perubatan mana-mana individu telah diakses.

Apabila kami menjalankan latihan dan penilaian dalaman ke atas model kami, kami memberikan tugas daripada koleksi soalan penyelidikan yang luas merangkumi pelbagai bidang, yang mencerminkan jenis soalan terperinci yang mungkin ditanya oleh pengguna. Ini melatih model untuk mencari, mentafsir dan menganalisis maklumat yang tersedia kepada orang awam supaya model itu dapat memberikan lebih banyak manfaat kepada mereka. Model kami sepatutnya menjawab soalan ini menggunakan statistik yang diterbitkan kepada umum.

Dalam kes ini, salah satu tugas yang diberikan kepada model ialah menyelidik perbelanjaan kerajaan bagi setiap orang untuk ubat penyakit kulit dalam komuniti di Victoria. Model itu menghadapi kesukaran mendapatkan maklumat tersebut, lalu mengambil tindakan yang tidak kami benarkan. Semasa mencari maklumat ini melalui Perkhidmatan Pelaporan Statistik Medicare milik Services Australia, model itu menemui cara untuk mendapatkan akses yang tidak terbuka kepada orang awam ke perkhidmatan tersebut. Model itu kemudian menggunakan akses ini untuk menyemak maklumat teknikal sistem dan kod sumber yang berkaitan dengan perkhidmatan tersebut—semuanya masih bertujuan mencari maklumat yang dicarinya pada asalnya. Kami tidak berniat untuk membenarkan aktiviti ini berlaku, dan akses ke perkhidmatan tersebut serta aktiviti susulannya tidak sepatutnya berlaku.

Susulan insiden Hugging Face, kami memperkukuh langkah perlindungan penyelidikan kami, termasuk sekatan rangkaian tambahan dan pemantauan yang lebih menyeluruh. Kami melaksanakan kawalan untuk menyekat akses internet secara langsung dalam persekitaran penyelidikan ini, dengan akses web disediakan melalui kandungan dalam cache. Sebagai lapisan keselamatan tambahan, sistem pemantauan kami yang sedia ada kini akan dapat mengesan aktiviti seperti ini dan menghantar amaran kepada pasukan kami untuk semakan segera oleh manusia. Sebagai contoh, apabila sebuah model mendapat akses internet secara langsung semasa sesi latihan baru-baru ini⁠(dibuka dalam tetingkap baru), sistem pemantauan kami mengesan aktiviti itu dan menghantar amaran kepada penyemak manusia, lalu kami menghentikan sesi tersebut. Kami terus menguji langkah perlindungan ini dan menangani kelemahannya. Hugging Face kekal sebagai insiden paling serius yang pernah kami kesan.

Orang ramai mahu yakin bahawa AI dibangunkan dengan selamat, dan keyakinan itu bermula dengan tindakan syarikat seperti kami sendiri. Baru-baru ini, kami memaklumkan⁠(dibuka dalam tetingkap baru) bahawa kami telah menjeda latihan dan penilaian yang melibatkan penggunaan alat bagi model kami yang paling berkeupayaan. Kami hanya akan menyambung semula latihan model tersebut apabila kami yakin bahawa langkah perlindungan tambahan sudah tersedia. Langkah ini sedang kami usahakan.

Apabila sistem AI secara umumnya semakin berkeupayaan, kami juga melihat peluang yang semakin singkat untuk membantu organisasi mengenal pasti dan membaiki kelemahan. Ini memerlukan tindakan kolektif dengan kerjasama pihak pertahanan siber di seluruh dunia.

Kami telah menyertai organisasi dalam sektor teknologi, keselamatan siber dan infrastruktur kritikal dalam seruan untuk tindakan kolektif dalam pertahanan siber. Seruan itu bermula dengan tanggungjawab kami sendiri, termasuk langkah perlindungan yang lebih kukuh, pendedahan tepat pada masanya dan sokongan praktikal untuk organisasi yang terjejas. Seruan itu juga menggesa pelaburan dalam pasukan yang melindungi perkhidmatan penting agar mereka dapat mengenal pasti kerentanan, mengesahkan pembaikan dan berkongsi kaedah yang berkesan.

Di Australia, kami komited untuk menyediakan sumber dan kepakaran bagi menyokong agensi yang terjejas serta membantu pihak pertahanan siber menerapkan prinsip ini, termasuk:

• Sokongan khusus untuk agensi yang terjejas. Kami akan menyediakan sumber yang diperlukan untuk membantu agensi yang terjejas memahami perkara yang berlaku dan menilai kesannya. Ini termasuk berkongsi dapatan teknikal yang berkaitan dan mengatur sesi libat urus dengan pasukan respons kami melalui aturan perkongsian maklumat yang sesuai.

• Pembiayaan dan sokongan untuk memperkukuh pertahanan siber. Kami akan menyokong kerajaan dan industri di Australia melalui kredit daripada dana Daybreak for Frontline Defenders kami yang bernilai $1 bilion serta bantuan teknikal untuk memperkukuh pertahanan siber merentas infrastruktur kritikal dan persekitaran sensitif yang lain. Dengan meneruskan kerjasama kami dengan kerajaan dan pengendali infrastruktur kritikal, usaha ini akan membantu organisasi memahami, mengesan dan bertindak balas dengan lebih baik terhadap risiko daripada ejen AI yang semakin berkeupayaan.

• Pasukan petugas Australia. Kami akan menubuhkan pasukan petugas yang melibatkan pakar bebas dari Australia untuk merangka cadangan dasar yang praktikal bagi mengurus risiko daripada ejen AI yang semakin berkeupayaan. Berdasarkan pengajaran daripada insiden ini, pasukan tersebut akan menumpukan usaha pada penambahbaikan proses pemberitahuan, pengukuhan penyelarasan antara pembangun AI dengan kerajaan, serta pengenalpastian langkah untuk melindungi sistem kerajaan dengan lebih baik. Cadangan pasukan petugas ini akan menjadi panduan bagi pendekatan OpenAI dan menyokong usaha kerajaan di Australia dalam keselamatan AI dan keselamatan siber. Pasukan petugas ini, yang dijangka menyelesaikan tugasnya menjelang akhir tahun, juga akan mencadangkan langkah praktikal yang boleh diambil oleh syarikat AI untuk mengurangkan risiko insiden serupa.

Kerajaan, industri dan rakyat Australia sejak dahulu hingga kini merupakan rakan kongsi yang amat bernilai bagi OpenAI. Kami tidak mengambil mudah hubungan ini, dan kami berhasrat untuk membetulkan keadaan.

Ketua Pegawai Strategi OpenAI, Jason Kwon, akan terbang dari ibu pejabat OpenAI di AS untuk hadir di hadapan Jawatankuasa Pilihan Bersama mengenai Kecerdasan Buatan di Sydney pada hari Selasa, 6 Oktober. Beliau akan menjawab soalan tentang perkara yang kami ketahui, cara kami bertindak balas, langkah yang telah kami ambil dan cara kami akan melakukan yang lebih baik pada masa hadapan.

Kami akan terus berkongsi dapatan yang telah disahkan dengan agensi yang terjejas dan kerajaan yang berkaitan. Kami akan menerbitkan maklumat terkini tentang semakan kami yang sedang dijalankan dan kemajuan dalam memenuhi komitmen ini. Kami sedar bahawa masih banyak yang perlu kami lakukan untuk membina semula kepercayaan, dan kami bertanggungjawab untuk membuktikan kepada rakyat Australia bahawa kami sedang membuat perubahan yang bermakna dan menunaikan janji kami.