Predstavujeme plán bezpečnosti detí
Rámec pre boj proti sexuálnemu vykorisťovaniu detí s využitím umelej inteligencie a jeho prevenciu
Sexuálne vykorisťovanie detí je jednou z najnaliehavejších výziev digitálnej doby. Umelá inteligencia rýchlo mení spôsob, akým sa tieto škody prejavujú v celom odvetví, a spôsob, akým ich možno riešiť vo veľkom meradle.
V OpenAI sme vybudovali a naďalej posilňujeme ochranné opatrenia na predchádzanie zneužívaniu našich systémov a úzko spolupracujeme s partnermi, ako sú Národné centrum pre nezvestné a vykorisťované deti (NCMEC) a orgány presadzovania práva, s cieľom zlepšiť odhaľovanie a nahlasovanie. Táto práca pomohla odhaliť, kde sú v celom odvetví potrebné silnejšie, spoločné normy.
Dnes predstavujeme politický plán, ktorý načrtáva praktickú cestu vpred na posilnenie rámcov ochrany detí v USA v ére umelej inteligencie. Tento plán odráža a zahŕňa spätnú väzbu od viacerých popredných organizácií a odborníkov z celého ekosystému ochrany detí, vrátane NCMEC, Aliancie generálnych prokurátorov a spolupredsedov jej pracovnej skupiny pre AI — generálneho prokurátora Severnej Karolíny Jeffa Jacksona a generálneho prokurátora Utahu Dereka Browna —a Thorn, s cieľom zabezpečiť, aby sa v ňom zohľadnili ich priority a aby mohol uľahčiť efektívnejšiu spoluprácu pri predchádzaní ujme na deťoch.
Plán sa zameriava na tri kľúčové priority: modernizáciu zákonov s cieľom riešiť prípady CSAM (materiál zobrazujúci sexuálne zneužívanie detí) generované a pozmenené umelou inteligenciou, zlepšenie nahlasovania a koordinácie poskytovateľov s cieľom podporiť efektívnejšie vyšetrovania a zabudovanie bezpečnostných opatrení už od návrhu priamo do systémov umelej inteligencie s cieľom predchádzať zneužívaniu a odhaľovať ho.
Žiadny jednotlivý zásah sám osebe nedokáže riešiť túto výzvu. Tento rámec spája právne, operačné a technické prístupy s cieľom lepšie identifikovať riziká, urýchliť reakcie a podporiť zodpovednosť, pričom zároveň zabezpečuje, aby orgány presadzovania práva zostali silné aj napriek vývoju technológií.
Tieto kroky spoločne umožňujú odvetviu riešiť bezpečnosť detí skôr a efektívnejšie. Vďaka skoršiemu prerušeniu pokusov o zneužívanie, zlepšeniu kvality signálov zasielaných orgánom presadzovania práva a posilneniu zodpovednosti v celom ekosystéme sa tento rámec zameriava na predchádzanie škodám skôr, ako k nim dôjde, a pomáha zabezpečiť rýchlejšiu ochranu detí, keď sa objavia riziká.
„Ako spolupredsedovia pracovnej skupiny pre umelú inteligenciu Aliancie generálnych prokurátorov vítame tento plán ako zmysluplný krok k zosúladeniu postupov technologického sektora v oblasti bezpečnosti detí s realitou presadzovania práva, s ktorou sa naše úrady stretávajú každý deň.“ Osobitne nás povzbudzuje, že rámec uznáva, že účinné ochranné opatrenia pre GenAI si vyžadujú viacvrstvovú obranu – nie jedno technické opatrenie, ale kombináciu detekcie, mechanizmov odmietnutia, ľudského dohľadu a neustáleho prispôsobovania sa novým vzorom zneužívania. To odráža to, čo vidíme v praxi: hrozba sa neustále vyvíja a statické riešenia nestačia. Správne zavedenie preventívnej architektúry v počiatočných fázach vývoja je najväčšou investíciou, ktorú môže toto odvetvie urobiť v oblasti bezpečnosti detí.
V konečnom dôsledku sila akéhokoľvek dobrovoľného rámca závisí od špecifickosti jeho záväzkov a ochoty odvetvia niesť za ne zodpovednosť. Tešíme sa na pokračujúce partnerstvo s OpenAI, NCMEC a našimi kolegami generálnymi prokurátormi, aby sme zabezpečili, že tieto odporúčania sa premenia na trvalú ochranu detí.“
–Štátni generálni prokurátori Jeff Jackson (Severná Karolína) a Derek Brown (Utah), spolupredsedovia pracovnej skupiny pre AI v rámci Aliancie generálnych prokurátorov (Attorney General Alliance).
„Aliancia generálnych prokurátorov udáva smer v ochrane mladých ľudí online tým, že spája generálnych prokurátorov, lídrov v odvetví, neziskové organizácie a globálnych partnerov s cieľom presadzovať praktické a perspektívne riešenia v oblasti umelej inteligencie a digitálnej bezpečnosti. Prostredníctvom spolupráce a inovácií AGA nastavuje vysoký štandard v tom, ako chránime mládež a zároveň zodpovedne prijímame nové technológie. „Oceňujeme pokračujúci záväzok spoločnosti OpenAI k bezpečnosti a spoluprácu s AGA a generálnymi prokurátormi pri vytváraní veľmi hodnotného plánu pre bezpečnosť detí.“
—Karen Whiteová, výkonná riaditeľka Aliancie generálnych prokurátorov
„Generatívna umelá inteligencia urýchľuje páchanie trestných činov sexuálneho vykorisťovania detí online veľmi znepokojujúcim spôsobom – znižuje bariéry, zvyšuje rozsah a umožňuje nové formy ujmy. Zároveň však Národné centrum pre nezvestné a vykorisťované deti (NCMEC) povzbudzuje spoločnosti ako OpenAI, aby sa zamysleli nad tým, ako možno tieto nástroje navrhnúť zodpovednejšie, s ochrannými opatreniami zabudovanými od začiatku. Žiadna jednotlivá organizácia, podnik ani sektor to nedokážu vyriešiť sami. Sme naďalej odhodlaní spolupracovať s partnermi z celého priemyslu, vlády a komunity na ochranu detí s cieľom presadzovať riešenia, ktoré znižujú škody a lepšie podporujú bezpečnosť detí .“
—Michelle DeLaune, prezidentka a generálna riaditeľka Národného centra pre nezvestné a vykorisťované deti
