Vi introducerar Child Safety Blueprint
Ett ramverk för att bekämpa och förebygga AI-drivet sexuellt utnyttjande av barn
Sexuellt utnyttjande av barn är en av de mest akuta utmaningarna i den digitala tidsåldern. AI förändrar snabbt både hur dessa skador uppstår i branschen och hur de kan åtgärdas i stor skala.
På OpenAI har vi skapat och fortsätter att stärka skyddsåtgärder för att förhindra att våra system missbrukas och vi arbetar i nära samarbete med partners såsom National Center for Missing and Exploited Children (NCMEC) och brottsbekämpande myndigheter för att förbättra identifiering och rapportering. Det här arbetet har bidragit till att visa vart det behövs starkare, gemensamma standarder i branschen.
Idag presenterar vi en policyplan som beskriver en praktisk väg framåt för att stärka amerikanska ramverk för skydd av barn i AI:s tidsålder. Denna plan återspeglar och införlivar synpunkter från flera ledande organisationer och experter inom ekosystemet för barns säkerhet, inklusive NCMEC, Attorney General Alliance och dess AI Task Force-medordförande—North Carolinas justitieminister Jeff Jackson och Utahs justitieminister Derek Brown—och Thorn för att säkerställa att den återspeglar deras prioriteringar och kan möjliggöra ett mer effektivt samarbete för att förhindra att barn far illa.
Planen fokuserar på tre viktiga prioriteringar: att modernisera lagstiftningen för AI-genererat och ändrat övergreppsmaterial, förbättra leverantörers rapportering och samordning för att stödja effektivare utredningar samt att bygga in säkerhetsåtgärder direkt i AI-system för att förebygga och upptäcka missbruk.
Ingen enskild åtgärd kan hantera denna utmaning ensam. Detta ramverk förenar juridiska, operativa och tekniska metoder för att bättre identifiera risker, påskynda åtgärder och stödja ansvarsskyldighet samtidigt som det säkerställs att brottsbekämpande myndigheter förblir starka i takt med att tekniken utvecklas.
Tillsammans gör dessa steg det möjligt för branschen att ta itu med barns säkerhet tidigare och mer effektivt. Genom att stoppa exploateringsförsök tidigare, förbättra kvaliteten på signalerna som skickas till brottsbekämpande myndigheter och stärka ansvarsskyldigheten i hela ekosystemet förhindrar detta ramverk skada innan den uppstår och bidrar till att säkerställa att barn skyddas snabbare när risker uppstår.
"Som medordförande i Attorney General Alliances AI-arbetsgrupp välkomnar vi denna färdplan och ser den som ett steg mot anpassning av tekniksektorns barnsäkerhetsrutiner efter den verklighet som vi stöter på varje dag. Vi är särskilt uppmuntrade av ramverkets erkännande av att effektiva skyddsåtgärder för GenAI kräver försvar på flera nivåer — inte en enda teknisk kontroll utan en kombination av upptäckt, avvisningsmekanismer, mänsklig tillsyn och kontinuerlig anpassning till framväxande mönster av missbruk. Detta speglar vad vi ser i praktiken: hoten utvecklas ständigt och statiska lösningar är otillräckliga. Att få den förebyggande arkitekturen på plats uppströms är den enskilt mest effektiva investeringen som branschen kan göra för att öka barnsäkerheten.
Styrkan i varje frivilligt ramverk beror i slutändan på hur specifika dess åtaganden är och branschens vilja att följa dem. Vi ser fram emot att fortsätta vårt partnerskap med OpenAI, NCMEC, våra kollegor och andra justitieministrar för att säkerställa att dessa rekommendationer leder till varaktiga skydd för barn."
–Delstatsåklagarna Jeff Jackson (North Carolina) och Derek Brown (Utah), medordförande för AI-arbetsgruppen i Attorney General Alliance.
"Attorney General Alliance är ledande inom skyddet av ungdomar online genom att sammanföra justitieminister, branschledare, ideella organisationer och globala partners för att främja praktiska, framåtblickande lösningar inom AI och digital säkerhet." Genom samarbete och innovation skapar AGA en hög standard för hur vi skyddar ungdomar samtidigt som vi på ett ansvarsfullt sätt tar till oss ny teknik. Vi välkomnar OpenAI:s fortsatta engagemang för säkerhet och samarbetet med AGA och justitieministrar i utvecklingen av en värdefull färdplan för barns säkerhet."
—Karen White, verkställande direktör för Attorney General Alliance
"Generativ AI påskyndar sexuellt utnyttjande av barn på nätet genom att sänka trösklarna, öka omfattningen och möjliggöra nya former av skada. Fast National Center for Missing & Exploited Children (NCMEC) är glada över att se att företag som OpenAI reflekterar över hur dess verktyg kan utformas mer ansvarsfullt tillsammans med inbyggda skyddsåtgärder. Ingen enskild organisation, verksamhet eller sektor kan hantera detta ensam. Vi är fortsatt engagerade i att samarbeta med partner inom industrin, myndigheter och barnskyddsområdet för att skapa lösningar som minskar skada och ökar barns trygghet."
– Michelle DeLaune, VD och koncernchef för National Center for Missing & Exploited Children
