Představujeme plán pro bezpečnost dětí
Rámec pro boj a prevenci sexuálního vykořisťování dětí s využitím umělé inteligence
Sexuální vykořisťování dětí je jednou z nejnaléhavějších výzev digitálního věku. Umělá inteligence rychle mění způsoby, jakým se tyto škody v celém odvětví objevují, tak i způsoby, jakým je lze ve velkém měřítku řešit.
Ve společnosti OpenAI jsme vytvořili a nadále posilujeme ochranná opatření, která mají zabránit zneužití našich systémů, a úzce spolupracujeme s partnery, jako jsou Národní centrum pro pohřešované a zneužívané děti (NCMEC) a orgány činné v trestním řízení, na zlepšování jejich odhalování a nahlašování. Tyto snahy pomohly odhalit, kde jsou v celém odvětví potřeba silnější a sdílené standardy.
Dnes představujeme plán zásad, který nastiňuje praktickou cestu k posílení rámců ochrany dětí v USA v době umělé inteligence. Tento plán odráží a zahrnuje zpětnou vazbu od několika předních organizací a odborníků v ekosystému bezpečnosti dětí, včetně NCMEC, organizace Aliance generálních prokurátorů (Attorney General Alliance) a spolupředsedů jejich pracovní skupiny pro AI generálního prokurátora Severní Karolíny Jeffa Jacksona a generálního prokurátora Utahu Dereka Browna a společnosti Thorn, abychom měli jistotu, že odráží jejich priority a může usnadnit efektivnější spolupráci při prevenci ohrožení dětí.
Plán se zaměřuje na tři klíčové priority: modernizaci právních předpisů s cílem řešit problematiku materiálů zachycujících sexuální zneužívání dětí (CSAM) vytvořených a upravených pomocí AI, zlepšení oznamování ze strany poskytovatelů a koordinaci, která podpoří účinnější vyšetřování a zavádění bezpečnostních opatření již od návrhu přímo do systémů AI tak, aby se předcházelo zneužívání a zneužívání bylo odhaleno.
Žádný jednotlivý zásah nemůže tuto výzvu vyřešit sám o sobě. Tento rámec propojuje právní, provozní a technické přístupy tak, aby šlo lépe identifikovat rizika, urychlit reakce a podpořit odpovědnost. Zároveň je cílem zajistit silnou pozici orgánů činných v trestním řízení i tehdy, když se vyvíjí technologie.
Díky těmto krokům může celé odvětví řešit ochranu dětí včasněji a účinněji. Díky rychlejšímu přerušení pokusů o zneužívání, zlepšení kvality podnětů předávaných orgánům činným v trestním řízení a posílení odpovědnosti v rámci celého ekosystému si tento rámec klade za cíl předcházet ohrožením dříve, než k nim dojde. Současně chce zajistit rychlejší ochranu dětí, když se objeví rizika.
„Jako spolupředsedové pracovní skupiny pro AI Aliance generálních prokurátorů (Attorney General Alliance) vítáme tento plán jako smysluplný krok ke sladění postupů technologického sektoru v oblasti bezpečnosti dětí s realitou vymáhání práva, s níž se naše úřady každý den setkávají. Za zvlášť povzbudivé považujeme, že tento rámec uznává, že účinné zabezpečení generativní umělé inteligence vyžaduje vícevrstvou obranu. Ne jedno jediné technické opatření, ale kombinaci detekce, mechanismů odmítnutí, lidského dohledu a průběžné adaptace na nově se objevující způsoby zneužívání. To odráží skutečnost, kterou vidíme v praxi: hrozby se neustále vyvíjí a statická řešení nestačí. Správné nastavení preventivní architektury už v rané fázi je pro celé odvětví tou nejúčinnější investicí do ochrany dětí.
V konečném důsledku závisí síla jakéhokoli dobrovolného rámce na konkrétnosti jeho závazků a ochotě odvětví nést za ně odpovědnost. Těšíme se na pokračující partnerství s OpenAI, NCMEC a našimi kolegy z řad generálních prokurátorů, abychom zajistili, že se tato doporučení promítnou do trvalé ochrany dětí.“
–Generální prokurátoři států Jeff Jackson (Severní Karolína) a Derek Brown (Utah), spolupředsedové pracovní skupiny pro AI Aliance generálního prokurátorů (Attorney General Alliance).
„Aliance generálních prokurátorů (Attorney General Alliance) vede boj o ochranu mladých lidí v online prostředí tím, že spojuje generální prokurátory, lídry v odvětví, neziskové organizace a globální partnery a prosazuje praktická a perspektivní řešení v oblasti AI a digitální bezpečnosti. Díky spolupráci a inovacím nastavuje Aliance generálních prokurátorů vysoký standard ochrany mládeže a současně odpovědný přístup k novým technologiím. Oceňujeme trvalé úsilí OpenAI o bezpečnosti a její spolupráci s Aliancí generálních prokurátorů a generálními prokurátory při vytváření mimořádně cenného plánu pro bezpečnost dětí.“
– Karen Whiteová, výkonná ředitelka Aliance generálních prokurátorů (Attorney General Alliance)
„Generativní umělá inteligence urychluje znepokojivým způsobem online zločinné sexuální vykořisťování dětí, snižuje bariéry, zvyšuje rozsah a umožňuje nové formy ohrožení. Zároveň však Národní centrum pro pohřešované a zneužívané děti (NCMEC) s povzbuzením sleduje, jak společnosti jako OpenAI přemýšlejí nad tím jak lze tyto nástroje navrhovat zodpovědněji a jak od samého začátku zahrnout ochranná opatření. Žádná jednotlivá organizace, podnik ani sektor se s tímto problémem nedokážou vypořádat samy. I nadále jsme odhodláni spolupracovat s partnery v rámci odvětví, státních orgánů a komunit na ochranu dětí při prosazování řešení, která snižují ohrožení a lépe podporují bezpečnost dětí .“
– Michelle DeLaune, prezidentka a generální ředitelka Národního centra pro pohřešované a zneužívané děti
