Представляємо План безпеки дітей
Система протидії та запобігання сексуальній експлуатації дітей через застосування ШІ
Експлуатація дітей у сексуальних цілях — одна з найгостріших проблем цифрової епохи. ШІ стрімко змінює як виникнення цих ризиків у галузі, так і способи їх усунення в масштабах.
Ми в OpenAI створили й продовжуємо посилювати заходи захисту для запобігання зловживанню нашими системами, а також тісно співпрацюємо з такими партнерами, як Національний центр з питань зниклих безвісти та експлуатованих дітей (NCMEC), і правоохоронними органами, щоб покращити виявлення та звітність. Ця робота допомогла виявити, де в усій галузі потрібні суворіші спільні стандарти.
Сьогодні ми представляємо концепцію політики, яка окреслює практичний шлях уперед для зміцнення систем захисту дітей у США в епоху ШІ. Цей план відображає та враховує відгуки кількох провідних організацій і експертів з усієї екосистеми безпеки дітей, зокрема NCMEC, Attorney General Alliance та співголів її робочої групи з ШІ — генерального прокурора штату Північна Кароліна Джеффа Джексона та генерального прокурора штату Юта Дерека Брауна —а також Thorn, щоб забезпечити врахування їхніх пріоритетів і сприяти ефективнішій співпраці для запобігання шкоді дітям.
План зосереджується на трьох ключових пріоритетах: модернізації законодавства з метою протидії розповсюдженню матеріалів сексуального насильства над дітьми (CSAM), створеним або зміненим за допомогою ШІ; поліпшенні звітування постачальників і координації між ними, щоб розслідування були ефективнішими; а також упровадженні принципів безпеки на етапі проєктування безпосередньо в системи ШІ для запобігання зловживанням і їх виявлення.
Жодне окреме втручання не здатне вирішити цю проблему самостійно. Ця структура об’єднує правові, операційні та технічні підходи для кращого виявлення ризиків, прискорення реагування та підтримки підзвітності, забезпечуючи при цьому спроможність органів правозастосування в умовах розвитку технологій.
Разом ці кроки дозволяють галузі раніше та ефективніше вирішувати питання безпеки дітей. Завдяки швидшому припиненню спроб експлуатації, покращенню якості сигналів, що надсилаються до правоохоронних органів, та посиленню підзвітності в усій екосистемі ця структура спрямована на запобігання шкоді ще до її заподіяння та забезпечення швидшого захисту дітей, коли виникають відповідні ризики.
«Як співголови робочої групи Attorney General Alliance з питань ШІ, ми вітаємо цей план як важливий крок до узгодження практик захисту дітей у технологічному секторі з реаліями правозастосування, з якими наші офіси стикаються щодня. Нас особливо обнадіює те, що в цій рамковій моделі визнається: ефективні заходи безпеки для генеративного ШІ потребують багаторівневого захисту — не лише технічного контролю, а поєднання виявлення, механізмів відмови, людського нагляду та постійної адаптації до нових схем зловживань. Це відповідає тому, що ми бачимо на практиці: загроза постійно змінюється, і статичних рішень недостатньо. Правильне формування архітектури запобігання на ранніх етапах є найефективнішою інвестицією, яку галузь може зробити в безпеку дітей.
Зрештою, сила будь-якої добровільної системи залежить від конкретності її зобов’язань і готовності галузі нести відповідальність за їх дотримання. Ми з нетерпінням очікуємо на подальше партнерство з OpenAI, NCMEC та нашими колегами — генеральними прокурорами, щоб забезпечити втілення цих рекомендацій у надійні механізми захисту дітей.
—Генеральні прокурори штатів Джефф Джексон (Північна Кароліна) та Дерек Браун (Юта), співголови робочої групи Attorney General Alliance з питань ШІ.
«Attorney General Alliance (AGA) відіграє провідну роль у захисті молоді в Інтернеті, об’єднуючи генеральних прокурорів, лідерів галузі, некомерційні організації та глобальних партнерів задля просування практичних, перспективних рішень у сфері штучного інтелекту та цифрової безпеки. Завдяки співпраці та інноваціям AGA встановлює високий стандарт того, як ми захищаємо молодь, водночас відповідально впроваджуючи новітні технології. Ми вітаємо незмінну відданість OpenAI безпеці та її взаємодію з AGA і генеральними прокурорами у розробці надзвичайно цінного плану безпеки дітей».
— Карен Вайт, виконавча директорка Attorney General Alliance
«Генеративний ШІ тривожним чином прискорює злочини сексуальної експлуатації дітей в Інтернеті — знижуючи бар’єри, збільшуючи масштаби та створюючи нові форми шкоди. Водночас Національний центр з питань зниклих безвісти та експлуатованих дітей (NCMEC) із заохоченням відзначає, що такі компанії, як OpenAI, замислюються над тим, як можна більш відповідально розробляти ці інструменти, із запобіжними механізмами, вбудованими від самого початку. Жодна окрема організація, компанія чи сектор не можуть впоратися з цим самотужки. Ми залишаємося відданими співпраці з партнерами з усієї індустрії, уряду та спільноти із захисту дітей задля просування рішень, які зменшують шкоду та краще підтримують безпеку дітей».
— Мішель Делон, президент і генеральний директор Національного центру з питань зниклих безвісти та експлуатованих дітей
