今年 6 月，在內部訓練與評估期間，我們的模型以未經授權的方式存取了澳洲政府網站。我們對事件的應對也應該做得更好。我們深感抱歉，並正努力改善，確保未來做得更好。
在這篇文章中，我們將說明目前掌握的情況、已做出的改變，以及未來將如何重建澳洲民眾的信任。這是一種新型態的網路安全事件，也代表著全球正在面臨的新挑戰。我們將採取的負責任行動之一，是積極與澳洲合作，協助制定務實做法，讓 AI 開發者與政府能辨識、揭露及因應 AI 的網路行為，無論這些行為出於惡意還是無心之失。
在 7 月的 Hugging Face 事件之後，我們開始檢視更早期的訓練與評估活動，以確認是否有其他組織受到影響。8 月中旬，這項調查發現了影響下列澳洲政府網站的行為。
根據現有證據，我們掌握的情況如下：
澳洲服務局：一個 OpenAI 模型發現了取得該服務非公開存取權限的方法，並執行了指令、擷取內部檔案、憑證及彙總統計資料，也寫入了檔案。不過，個別病患或服務對象的紀錄並未遭到存取。我們將在下文更詳細說明這起事件。
新南威爾斯州犯罪統計與研究局（BOCSAR）：一個 OpenAI 模型存取了 BOCSAR 的公開犯罪地圖工具，以研究公開的犯罪統計資料（我們將在下文進一步說明，為何模型會執行各種資訊研究任務）。模型透過 BOCSAR 的公開工具發出了 API 請求及網站中繼資料請求；該工具會提供用於瀏覽器 API 請求的憑證。BOCSAR 系統傳回了應用程式設定、系統作業及日誌，以及網站中繼資料。個人的犯罪紀錄並未遭到存取。
維多利亞州衛生部：OpenAI 智慧體發現了一組暴露在外的存取金鑰，並用它查詢維多利亞州健康資訊局的報告系統，擷取報告設定及彙總調查統計資料。這些資訊原本應開放到何種程度，目前尚不清楚，須視維多利亞州健康資訊局（VAHI）的存取政策而定。個人病歷或可識別身分的調查回覆並未遭到存取。
澳洲健康與福利研究所：OpenAI 智慧體使用第三方瀏覽與下載服務，從包括該研究所（AIHW）網站在內的來源擷取彙總統計資料，並直接查詢圖表資料。另外繞過存取控制的嘗試均未成功。下載的資料似乎原本就已公開。系統並未遭到入侵。個人病歷並未遭到存取。
我們在 8 月中旬得知這些行為後，立即展開調查。我們於 9 月 10 日通知澳洲服務局及維多利亞州衛生部，並於 9 月 18 日通知新南威爾斯州犯罪統計與研究局。涉及澳洲健康與福利研究所的行為未達到我們的揭露門檻，因為存取方式看來符合公開存取的情況。不過，我們仍於 9 月 24 日通知該研究所，分享調查結果，並表示願意提供簡報說明。
我們原本希望在調查完成後，再向受影響的機關提供詳細說明。然而，我們應該更早分享初步調查結果，並隨著更多事實浮現，持續向澳洲相關機關提供最新資訊。
此後，我們一直與澳洲政府機關密切合作，分享目前掌握的資訊。如果我們發現還有其他機關受到影響，將立即直接通知對方，提供當時掌握的資訊，並在更多事實浮現時持續更新。
在 6 月的內部訓練與評估期間，我們運行了一個僅供內部使用的實驗性 OpenAI 模型。這個模型並無對外發布的計畫，也未配備我們公開產品所採用的完整安全防護措施。在這次訓練與評估過程中，模型存取了澳洲服務局的 Medicare 統計報告服務。截至目前，我們的調查並未發現任何人的病歷遭到存取的證據。
我們對模型進行內部訓練與評估時，會從涵蓋多種主題的大量研究問題中挑選任務，指派給模型，以反映使用者可能提出的各類細節問題。這能訓練模型尋找、解讀與分析公開資訊，讓模型能為人們提供更多幫助。我們的模型本應使用公開發布的統計資料來回答這些問題。
在這起事件中，模型被指派的任務之一，是研究政府在維多利亞州各社區用於治療皮膚疾病藥物的人均支出。模型難以取得這項資訊，於是採取了我們未授權的行動。模型在澳洲服務局的 Medicare 統計報告服務中搜尋這項資訊時，發現了一種取得該服務非公開存取權限的方法。接著，模型利用這項權限查看與該服務相關的系統技術資訊和原始碼，目的仍是尋找最初要查詢的資訊。這些行為並非我們的本意，而這次對服務的存取及後續行為都不應發生。
在 Hugging Face 事件之後，我們強化了研究安全防護措施，包括增設網路限制及擴大監控範圍。我們實施了管控措施，阻止這些研究環境直接連上網際網路，改以快取內容提供網頁存取。作為額外一層安全防護，如果這類行為現在發生，我們現行的監控系統應能偵測到，並發出警報通知團隊立即進行人工審查。例如，在最近一次訓練(在新視窗中開啟)中，當模型取得直接連上網際網路的權限時，我們的監控系統偵測到了這項行為，並發出警報通知審查人員，隨後我們停止了該次訓練。我們持續測試這些防護措施，並補強不足之處。Hugging Face 事件仍是我們觀察到最嚴重的事件。
大家希望確信 AI 的開發過程是安全的，而這必須從我們這類公司的自身作為做起。我們最近對外說明(在新視窗中開啟)，已暫停對能力最強的模型進行涉及工具使用的訓練與評估，只有在確信額外的安全防護措施已到位後，才會恢復訓練。目前我們正著手落實這些措施。
隨著 AI 系統的能力普遍提升，我們也看到，能協助各組織找出並修補弱點的時間窗口正不斷縮小。這需要我們與世界各地的防禦團隊合作，共同行動。
我們已與科技、資安和關鍵基礎設施領域的組織共同呼籲採取集體行動，強化網路防禦。這項呼籲首先從我們自身的責任做起，包括加強安全防護、及時揭露資訊，以及為受影響的組織提供實質支援。我們也呼籲投入資源，支持守護必要服務的團隊，讓他們能找出漏洞、驗證修補成效，並分享有效做法。
在澳洲，我們承諾投入資源與專業知識，支援受影響的機關，並協助防禦團隊落實這些原則，具體措施包括：
為受影響的機關提供專項支援。我們將投入必要資源，協助受影響的機關了解事件經過並評估影響。這包括分享相關技術調查結果，並透過適當的資訊分享安排，協助他們與我們的應變團隊交流。
提供資金與支援，強化網路防禦。我們將透過規模達 10 億美元的「Daybreak 第一線防禦者支援」基金提供點數及技術協助，支持澳洲各級政府與產業，強化關鍵基礎設施及其他敏感環境的網路防禦。這項工作將以我們和各級政府及關鍵基礎設施營運者的合作為基礎，協助組織更深入了解、偵測及因應能力日益強大的 AI 智慧體所帶來的風險。
成立澳洲專案小組。我們將成立專案小組，納入澳洲獨立專家的專業意見，制定務實的政策建議，以管理能力日益強大的 AI 智慧體所帶來的風險。專案小組將汲取這些事件的教訓，著重改善通報流程、加強 AI 開發者與政府之間的協調，並找出能更有效保護政府系統的措施。專案小組的建議將作為 OpenAI 擬定做法的參考，並支持澳洲各級政府在 AI 安全與網路安全方面的工作。專案小組預計於年底前完成工作，也將提出 AI 公司可採取的具體措施，以降低類似事件發生的風險。
澳洲各級政府、產業及民眾一直以來都是 OpenAI 極為珍視的合作夥伴。我們不會將這份關係視為理所當然，也決心妥善補救。
OpenAI 策略長 Jason Kwon 將從 OpenAI 美國總部飛往澳洲，於 10 月 6 日星期二在雪梨出席人工智慧聯合特別委員會的會議。他將回答有關我們已知情況、應對方式、已採取措施，以及未來如何改進的問題。
我們將持續向受影響的機關與相關政府分享經查證的調查結果。我們將公布持續進行中的調查最新情況，以及履行這些承諾的進展。我們深知，要重建信任，還有許多工作要做。我們也有責任讓澳洲民眾看見，我們正在做出實質改變，並確實履行承諾。
