兒童性剝削是數碼時代其中一項最迫切的挑戰。AI 正迅速改變整個行業中兒童性剝削傷害出現的方式，也改變了我們如何大規模應對這些問題。
在 OpenAI，我們已建立並持續加強 防止系統遭濫用的保障措施，同時與美國國家失蹤與受剝削兒童中心 (NCMEC) 和執法機關緊密合作，提升偵測和舉報能力。這些工作亦讓我們更清楚看到，業界需要更有力而且一致的共同標準。
今日，我們發佈一份政策藍圖，概述在 AI 時代下加強美國兒童保護框架的務實方向。這份藍圖反映並納入了兒童安全生態圈內多個領先機構和專家的意見，包括 NCMEC、Attorney General Alliance 及其 AI 工作小組的兩位聯席主席，北卡羅來納州總檢察長 Jeff Jackson 和猶他州總檢察長 Derek Brown，以及 Thorn，以確保內容反映他們的重點關注，並有助促成更有效的協作，防止兒童受到傷害。
藍圖主要圍繞三項重點：更新法律以應對 AI 生成和經變造的兒童性虐待材料 (CSAM)、改善服務提供者的舉報和協調機制以支援更有效的調查，以及將安全設計措施直接納入 AI 系統，以預防和偵測濫用。
單靠任何一項措施，都不足以應對這項挑戰。這個框架結合法律、營運和技術層面的做法，能更有效地識別風險、加快回應並加強問責，同時確保執法機關在技術持續演進下，仍然具備足夠而有力的執法能力。
綜合這些措施，業界便能更早、更有效地處理兒童安全問題。透過更早阻止剝削企圖、提升傳送至執法機關訊號的質素，以及加強整個生態圈的問責，這個框架旨在於傷害發生前加以預防，並在風險出現時更快保護兒童。
「作為 Attorney General Alliance 下 AI 工作小組的聯席主席，我們歡迎這份藍圖。這是非常重要的一步，有助令科技業的兒童安全措施更切合我們辦事處每日實際面對的執法情況。我們尤其認同這個框架指出，有效的 GenAI 保障措施需要多層防線，不能單靠某一項技術控制，而是要結合偵測、拒絕機制、人工監督，以及持續因應新出現的濫用模式作出調整。這與我們在實際執行工作中所見的情況一致：威脅持續演變，而一成不變的靜態方案並不足夠。及早在源頭建立穩健的預防架構，是整個行業在兒童安全方面最具效益的一項關鍵投資。
最終，任何自願框架的成效，都取決於其承諾是否具體，以及業界是否願意就這些承諾接受問責。我們期待繼續與 OpenAI、NCMEC 和其他總檢察長攜手合作，確保將這些建議轉化為可以持續保障兒童的措施。」
—Attorney General Alliance 下 AI 工作小組聯席主席，北卡羅來納州總檢察長 Jeff Jackson 和猶他州總檢察長 Derek Brown
「Attorney General Alliance 正透過匯聚各州總檢察長、業界領袖、非牟利機構及全球夥伴，推動 AI 與數碼安全方面務實而具前瞻性的方案，在保障年輕人網上安全方面發揮帶頭作用。透過協作和創新，AGA 正為我們如何在負責任地擁抱新興技術的同時保障青少年，建立明確而有力的標準。我們讚揚 OpenAI 持續致力推動安全，並與 AGA 及各州總檢察長保持合作，共同制定這份極具價值的兒童安全藍圖。」
—Attorney General Alliance 執行總監 Karen White
「生成式 AI 正加速網上兒童性剝削罪行，令門檻降低、規模擴大，並催生新的傷害形式，這種情況令人憂慮。但與此同時，美國國家失蹤與受剝削兒童中心 (NCMEC) 樂見 OpenAI 等公司思考如何以更負責任的方式設計這些工具，並從一開始就把保障措施納入其中。單靠任何一個機構、企業或界別，都無法獨自解決這個問題。我們會繼續致力與業界、政府和兒童保護社群的夥伴合作，推動能減少傷害並更有效地保障兒童安全的措施。」
—美國國家失蹤與受剝削兒童中心總裁兼行政總裁 Michelle DeLaune
