A Child Safety Blueprint, gyermekbiztonságot szolgáló terv bemutatása
Keretrendszer a mesterséges intelligencia által lehetővé tett gyermekek szexuális kizsákmányolásának leküzdésére és megelőzésére
A gyermekek szexuális kizsákmányolása a digitális kor egyik legsürgetőbb kihívása. Az AI gyorsan változatja azt meg, hogyan jelennek meg ezek a káros dolgok az egész iparágban, és azt is, hogyan lehet őket nagy léptékben kezelni.
Az OpenAI-nál kiépítettük, és tovább erősítjük a rendszereink visszaélésének megelőzését szolgáló védelmi intézkedéseket, és szorosan együttműködünk olyan partnerekkel, mint a National Center for Missing and Exploited Children (NCMEC) és a bűnüldöző szervek az észlelés és a jelentéstétel javítása érdekében. Ez a munka segített feltárni, mely területeken van szükség szigorúbb, közös szabványokra az iparágban.
Ma egy szakpolitikai tervet mutatunk be, amely felvázolja a gyakorlati utat az Egyesült Államok gyermekvédelmi keretrendszereinek megerősítésére az AI korában. Ez a terv a gyermekbiztonsági ökoszisztéma több vezető szervezetének és szakértőjének visszajelzéseit tükrözi és építi be, köztük a NCMEC, az Attorney General Alliance és annak MI-munkacsoportjának társelnökei - Észak-Karolina főügyésze, Jeff Jackson, valamint Utah főügyésze, Derek Brown -, továbbá a Thorn visszajelzéseit, hogy tükrözze prioritásaikat, és elősegítse a gyermekeket érő károk megelőzését szolgáló hatékonyabb együttműködést.
A terv három fő prioritásra összpontosít: a jogszabályok korszerűsítésére az AI által létrehozott és módosított gyermekpornográf tartalom (CSAM) kezelésére, a szolgáltatói jelentéstétel és koordináció javítására a hatékonyabb vizsgálatok támogatása érdekében, valamint beépített biztonsági intézkedések kialakítására közvetlenül az AI-rendszerekben a visszaélések megelőzése és észlelése érdekében.
Egyetlen beavatkozás sem képes önmagában kezelni ezt a kihívást. Ez a keretrendszer egyesíti a jogi, működési és technikai megközelítéseket a kockázatok jobb azonosítása, a reagálás felgyorsítása és az elszámoltathatóság támogatása érdekében, miközben biztosítja, hogy a végrehajtó hatóságok a technológia fejlődésével továbbra is kellően erősek maradjanak.
E lépések együttesen lehetővé teszik, hogy az iparág hamarabb és hatékonyabban kezelje a gyermekbiztonság kérdését. Azzal, hogy korábban megszakítja a kizsákmányolási kísérleteket, javítja a bűnüldöző szervek felé továbbított jelzések minőségét, és erősíti az elszámoltathatóságot az egész ökoszisztémában, a keretrendszer arra törekszik, hogy még a bekövetkezés előtt megelőzze a károkat, valamint hogy a kockázatok felmerülésekor gyorsabb védelmet biztosítson a gyermekek számára.
„Az Attorney General Alliance AI Task Force társelnökeiként üdvözöljük ezt a keretrendszert, hiszen fontos lépést afelé, hogy a technológiai szektor gyermekbiztonsági gyakorlatai összhangba kerüljenek a hivatalaink által nap mint nap tapasztalt jogérvényesítési realitásokkal. Különösen biztatónak tartjuk, hogy a keret felismeri: a hatékony GenAI-ra vonatkozó védelmi intézkedések többrétegű védelmet igényelnek - nem egyetlen technikai kontrollról van szó, hanem az észlelés, az elutasítási mechanizmusok, az emberi felügyelet és az újonnan megjelenő visszaélési mintákhoz való folyamatos alkalmazkodás kombinációjáról. Ez összhangban van azzal, amit a gyakorlatban látunk: a fenyegetés folyamatosan változik, a statikus megoldások pedig nem elegendők. A megelőzési architektúra helyes kialakítása a folyamat korai szakaszában a leghatékonyabb befektetés, amelyet az iparág a gyermekek biztonsága érdekében tehet.
Végső soron bármely önkéntes keretrendszer ereje a kötelezettségvállalások konkrétságától és attól függ, hogy az iparág mennyire hajlandó elszámoltathatóvá válni ezek alapján. Örömmel nézünk elébe az OpenAI-jal, az NCMEC-kel és főállamügyész-kollégáinkkal való együttműködésnek annak érdekében, hogy ezek az ajánlások tartós védelmet nyújtsanak a gyermekek számára.”
- Jeff Jackson (Észak-Karolina) és Derek Brown (Utah) állami főügyészek, az Államügyészek Szövetsége (Attorney General Alliance) AI munkacsoportjának társelnökei.
„Az Attorney General Alliance élen jár a fiatalok online védelmében azáltal, hogy összehozza a legfőbb ügyészeket, az iparági vezetőket, a nonprofit szervezeteket és a globális partnereket, hogy gyakorlati, előremutató megoldásokat dolgozzanak ki a mesterséges intelligencia és a digitális biztonság területén. Az együttműködés és az innováció révén az AGA erős mércét állít fel arra, hogyan óvjuk a fiatalokat, miközben felelősségteljesen alkalmazzuk az újonnan megjelenő technológiákat. Elismeréssel fogadjuk az OpenAI biztonság iránti folyamatos elkötelezettségét, valamint az AGA-val és a főügyészekkel folytatott együttműködését egy rendkívül értékes gyermekbiztonsági terv kidolgozásában.”
- Karen White, az Attorney General Alliance ügyvezető igazgatója
„A generatív AI igen aggasztó módokon gyorsítja fel a gyermekek online szexuális kizsákmányolását célzó bűncselekményeket – csökkenti a korlátokat, növeli a méreteket, és a károkozás új formáit teszi lehetővé. Ugyanakkor a National Center for Missing & Exploited Children (NCMEC) biztatónak tartja, hogy az olyan vállalatok, mint az OpenAI, átgondolják, miként lehet ezeket az eszközöket felelősségteljesebben megtervezni, már a kezdetektől beépített védelmi intézkedésekkel.. Ezzel egyetlen szervezet, vállalkozás vagy ágazat sem képes egyedül megbirkózni. Továbbra is elkötelezettek vagyunk amellett, hogy az iparág, a kormányzat és a gyermekvédelmi közösség partnereivel együttműködve olyan megoldásokat mozdítsunk elő, amelyek csökkentik a károkat, és jobban támogatják a gyermekek biztonságát.”
- Michelle DeLaune, a National Center for Missing & Exploited Children elnök-vezérigazgatója
