Við kynnum öryggisáætlun fyrir börn
Rammi til að berjast gegn og fyrirbyggja kynferðislega misnotkun barna með aðstoð gervigreindar
Kynferðisleg misnotkun barna er ein af brýnustu áskorunum stafrænnar aldarinnar. Gervigreind er hratt að breyta bæði því hvernig þessi skaði birtist í greininni og hvernig hægt er að bregðast við honum í stórum stíl.
Hjá OpenAI höfum við komið á og höldum áfram að efla öryggisráðstafanir til að koma í veg fyrir misnotkun á kerfum okkar, og við vinnum náið með samstarfsaðilum á borð við National Center for Missing and Exploited Children (NCMEC) og löggæsluyfirvöldum til að bæta greiningu og tilkynningar. Þessi vinna hefur hjálpað til við að draga fram hvar þörf er á öflugri, sameiginlegri stöðlum þvert á atvinnugreinina.
Í dag kynnum við stefnuáætlun sem lýsir hagnýtri leið fram á við til að efla bandaríska umgjörð um barnavernd á tímum gervigreindar. Þessi grunnmynd endurspeglar og felur í sér ábendingar frá nokkrum leiðandi stofnunum og sérfræðingum víðs vegar um vistkerfi barnaverndar, þar á meðal NCMEC, Attorney General Alliance og meðformönnum AI Task Force þess—Jeff Jackson, dómsmálaráðherra Norður-Karólínu, og Derek Brown, dómsmálaráðherra Utah—og Thorn til að tryggja að hún endurspegli forgangsmál þeirra og geti greitt fyrir skilvirkara samstarfi til að koma í veg fyrir skaða á börnum.
Áætlunin beinist að þremur lykilforgangsatriðum: að nútímavæða lög til að taka á CSAM sem er búið til með gervigreind eða breytt með henni, að bæta tilkynningar þjónustuveitenda og samhæfingu til að styðja skilvirkari rannsóknir og að byggja öryggisráðstafanir strax í hönnun beint inn í gervigreindarkerfi til að koma í veg fyrir misnotkun og greina hana.
Engin ein íhlutun getur tekist á við þessa áskorun ein og sér. Þessi rammi sameinar lagalegar, rekstrarlegar og tæknilegar nálganir til að greina áhættur betur, flýta viðbrögðum og styðja ábyrgðarskyldu, á sama tíma og tryggt er að eftirlits- og fullnustuyfirvöld haldist öflug eftir því sem tæknin þróast.
Saman gera þessi skref greininni kleift að bregðast fyrr og á skilvirkari hátt við öryggi barna. Með því að stöðva tilraunir til misnotkunar fyrr, bæta gæði ábendinga sem sendar eru til löggæsluyfirvalda og efla ábyrgð um allt vistkerfið miðar þessi rammi að því að koma í veg fyrir skaða áður en hann verður og stuðla að því að börn njóti verndar hraðar þegar áhætta kemur fram.
„Sem meðstjórnendur gervigreindarverkefnahóps Attorney General Alliance fögnum við þessari áætlun sem mikilvægu skrefi í átt að því að samræma starfshætti tæknigeirans í öryggismálum barna við þann raunveruleika í framkvæmd og eftirfylgni sem embætti okkar glíma við á hverjum degi. Við erum sérstaklega hvött af viðurkenningu rammans á því að árangursríkar öryggisráðstafanir fyrir skapandi gervigreind krefjast lagskiptra varna — ekki einnar tæknilegrar stýringar, heldur samspils greiningar, synjunarkerfa, mannlegs eftirlits og stöðugrar aðlögunar að nýjum mynstrum misnotkunar sem eru að koma fram. Þetta endurspeglar það sem við sjáum í framkvæmd: ógnin þróast stöðugt og kyrrstæðar lausnir duga ekki. Að hafa forvarnauppbygginguna rétta framar í ferlinu er sú fjárfesting sem hefur mest áhrif sem greinin getur lagt í öryggi barna.
Að lokum ræðst styrkur hvers kyns sjálfviljugs ramma af því hversu skýrar skuldbindingar hans eru og af vilja atvinnugreinarinnar til að sæta ábyrgð á þeim. Við hlökkum til áframhaldandi samstarfs við OpenAI, NCMEC og starfsfélaga okkar meðal ríkissaksóknara til að tryggja að þessar tillögur skili sér í varanlegri vernd fyrir börn.
—Ríkissaksóknararnir Jeff Jackson (Norður-Karólína) og Derek Brown (Utah), meðstjórnendur verkefnahóps um gervigreind hjá Attorney General Alliance.
„Attorney General Alliance er í fararbroddi við að vernda ungt fólk á netinu með því að leiða saman ríkissaksóknara, leiðtoga í atvinnulífinu, sjálfseignarstofnanir og alþjóðlega samstarfsaðila til að stuðla að hagnýtum og framsýnum lausnum á sviði gervigreindar og stafræns öryggis. Með samstarfi og nýsköpun er AGA að setja sterkan staðal fyrir það hvernig við verndum ungmenni á meðan við tökum nýrri tækni fagnandi á ábyrgan hátt. Við fögnum áframhaldandi skuldbindingu OpenAI við öryggi og samstarfi við AGA og dómsmálaráðherra við þróun afar verðmætrar öryggisáætlunar fyrir börn.“
—Karen White, framkvæmdastjóri Attorney General Alliance
„Skapandi gervigreind hraðar glæpum tengdum kynferðislegri misnotkun barna á netinu á mjög uggvænlegan hátt — með því að lækka þröskulda, auka umfang og gera nýjar tegundir skaða mögulegar. Hins vegar er það hvetjandi fyrir National Center for Missing & Exploited Children (NCMEC) að sjá fyrirtæki eins og OpenAI íhuga hvernig hægt sé að hanna þessi verkfæri á ábyrgari hátt, með innbyggðum vörnum frá upphafi. Engin ein stofnun, ekkert fyrirtæki eða geiri getur tekist á við þetta verkefni einn. Við erum staðráðin í að vinna með samstarfsaðilum í atvinnulífi, stjórnvöldum og barnaverndarsamfélaginu til að þróa lausnir sem draga úr skaða og styðja betur viðöryggi barna.“
—Michelle DeLaune, forseti og forstjóri National Center for Missing & Exploited Children
