Представяме Ви плана за детска безопасност
Рамка за борба и предотвратяване на сексуалната експлоатация на деца, подпомагано от ИИ
Сексуалната експлоатация на деца е едно от най-неотложните предизвикателства на дигиталната ера. ИИ бързо променя както начина, по който тези вреди се проявяват в цялата индустрия, така и начина, по който могат да бъдат преодолени в голям мащаб.
В OpenAI създадохме и продължаваме да укрепваме предпазни мерки за предотвратяване на злоупотребата с нашите системи и работим в тясно сътрудничество с партньори като Националния център за изчезнали и експлоатирани деца (NCMEC) и правоприлагащите органи, за да подобрим откриването и докладването. Тази работа помогна да се откроят областите, в които са необходими по-строги, споделени стандарти в цялата индустрия.
Днес представяме политически план, който очертава практически път за укрепване на рамките за закрила на децата в САЩ в ерата на изкуствения интелект. Този план отразява и включва обратна връзка от няколко водещи организации и експерти в екосистемата за безопасност на децата, включително NCMEC, Attorney General Alliance и съпредседателите на неговата работна група за ИИ—главният прокурор на Северна Каролина Джеф Джаксън и главният прокурор на Юта Дерек Браун—и Thorn, за да се гарантира, че той отразява техните приоритети и може да улесни по-ефективното сътрудничество за предотвратяване на вреди за децата.
Планът се фокусира върху три ключови приоритета: модернизиране на законите за противодействие на Материали със сексуално насилие над деца (CSAM), подобряване на докладването от доставчиците и координацията за подпомагане на по-ефективни разследвания и вграждане на мерки за безопасност още на етапа на проектиране директно в системите с ИИ, за да се предотвратява и открива злоупотреба.
Нито една интервенция сама по себе си не може да се справи с това предизвикателство. Тази рамка обединява правни, оперативни и технически подходи за по-добро идентифициране на рисковете, ускоряване на реакциите и подкрепа на отчетността, като същевременно гарантира, че правоприлагащите органи остават ефективни с развитието на технологиите.
Заедно тези стъпки позволяват на индустрията да се заеме с безопасността на децата по-рано и по-ефективно. Като прекъсва по-рано опитите за експлоатация, подобрява качеството на сигналите, подавани към правоприлагащите органи, и укрепва отчетността в цялата екосистема, тази рамка има за цел да предотвратява вредите, преди да са настъпили, и да спомага за осигуряването на по-бърза защита за децата, когато възникнат рискове.
„Като съпредседатели на Работната група по ИИ към Attorney General Alliance приветстваме този план като важна стъпка към привеждането на практиките на технологичния сектор за безопасност на децата в съответствие с реалностите по прилагането на закона, с които нашите служби се сблъскват всеки ден. Особено сме окуражени от признанието в рамката, че ефективните предпазни мерки за GenAI изискват многопластова защита — а не единичен технически контрол, а комбинация от откриване, механизми за отказ, човешки надзор и непрекъснато адаптиране към възникващи модели на злоупотреба. Това отразява това, което виждаме на практика: заплахата непрекъснато се развива, а статичните решения са недостатъчни. Правилното изграждане на архитектура за превенция в ранните етапи е инвестицията с най-голямо въздействие, която индустрията може да направи за безопасността на децата.
В крайна сметка силата на всяка доброволна рамка зависи от конкретността на нейните ангажименти и от готовността на индустрията да носи отговорност за тяхното спазване. Очакваме с нетърпение да продължим партньорството си с OpenAI, NCMEC и колегите ни главни прокурори, за да гарантираме, че тези препоръки ще се превърнат в трайни защити за децата.“
—Главните прокурори на щатите Джеф Джаксън (Северна Каролина) и Дерек Браун (Юта), съпредседатели на работната група по ИИ към Attorney General Alliance.
„Attorney General Alliance“ е начело в защитата на младите хора онлайн, като обединява главни прокурори, лидери от индустрията, организации с нестопанска цел и глобални партньори, за да насърчава практични, ориентирани към бъдещето решения в областта на ИИ и цифровата безопасност. Чрез сътрудничество и иновации Изкуственият общ интелект (AGA) задава висок стандарт за това как защитаваме младите хора, като същевременно отговорно възприемаме нововъзникващите технологии. Аплодираме непрекъснатия ангажимент на OpenAI към безопасността и сътрудничеството с Изкуствения общ интелект (AGA) и главните прокурори при разработването на изключително ценен план за безопасността на децата.“
— Карън Уайт, изпълнителен директор на Attorney General Alliance
„Генеративният изкуствен интелект ускорява престъплението онлайн сексуална експлоатация на деца по силно обезпокоителни начини - намалявайки бариерите, увеличавайки мащаба и създавайки нови форми на вреда. Но същевременно Националният център за изчезнали и експлоатирани деца (NCMEC) е насърчен да вижда как компании като OpenAI обмислят как тези инструменти могат да бъдат проектирани по-отговорно с вградени предпазни мерки, заложени още от самото начало.“ Никоя отделна организация, компания или сектор не може да се справи с това самостоятелно. Оставаме ангажирани да работим с партньори от индустрията, правителството и общността за закрила на децата, за да насърчаваме решения, които намаляват вредата и по-добре да подкрепят безопасността на децата.“
— Мишел ДеЛоун, президент и главен изпълнителен директор на Националния център за изчезнали и експлоатирани деца
