Vi presenterer Child Safety Blueprint
Et rammeverk for bekjempelse og forebygging av KI-tilrettelagt seksuell utnyttelse av barn
Seksuell utnyttelse av barn er en av de mest presserende utfordringene i den digitale tidsalderen. KI endrer raskt både hvordan disse skadevirkningene oppstår på tvers av bransjen, og hvordan de kan håndteres i stor skala.
I OpenAI har vi utviklet og fortsetter å styrke beskyttelsestiltak for å forhindre misbruk av systemene våre, og vi samarbeider tett med partnere som National Center for Missing and Exploited Children (NCMEC) og politiet for å forbedre oppdagelse og rapportering. Dette arbeidet har bidratt til å synliggjøre hvor det er behov for sterkere, felles standarder på tvers av bransjen.
I dag lanserer vi et politisk veikart som viser en praktisk vei fremover for å styrke USAs rammeverk for barnevern i KI-alderen. Denne planen gjenspeiler og inkluderer tilbakemeldinger fra flere ledende organisasjoner og eksperter innen barns sikkerhet, inkludert NCMEC, Attorney General Alliance og medlederne for organisasjonens AI Task Force – North Carolina Attorney General Jeff Jackson og Utah Attorney General Derek Brown –og Thorn, for å sikre at den gjenspeiler deres prioriteringer og kan legge til rette for bedre samarbeid for å beskytte barn.
Planen fokuserer på tre hovedprioriteringer: å modernisere lovene for å håndtere KI-generert og manipulert CSAM, forbedre rapportering og koordinering fra leverandører for å støtte mer effektive etterforskninger, og bygge sikkerhetstiltak direkte inn i KI-systemer for å forebygge og oppdage misbruk.
Ingen enkelt intervensjon kan løse denne utfordringen alene. Dette rammeverket samler juridiske, operative og tekniske tilnærminger for å bedre identifisere risikoer, fremskynde responsen og støtte ansvarliggjøring, samtidig som det sikres at håndhevingsmyndighetene forblir sterke etter hvert som teknologien utvikler seg.
Sammen gjør disse trinnene det mulig for bransjen å ta tak i barnesikkerhet tidligere og mer effektivt. Ved å stoppe utnyttelsesforsøk tidligere, forbedre kvaliteten på signalene som sendes til politiet, og styrke ansvarligheten i hele økosystemet, sikter dette rammeverket på å forhindre skade før det skjer og bidra til raskere beskyttelse for barn når risiko oppstår.
«Som medledere for Attorney General Alliances KI-arbeidsgruppe ønsker vi dette veikartet velkommen som et viktig steg mot å samordne teknologisektorens praksis for barns sikkerhet med håndhevingsrealitetene våre kontorer møter hver dag. Vi er særlig oppmuntret av rammeverkets anerkjennelse av at effektive sikkerhetstiltak for GenAI krever forsvar i flere lag — ikke én enkelt teknisk kontroll, men en kombinasjon av oppdagelse, avvisningsmekanismer, menneskelig tilsyn og kontinuerlig tilpasning til nye mønstre for misbruk. Dette gjenspeiler det vi ser i praksis: trusselen er i konstant utvikling, og statiske løsninger er utilstrekkelige. Å få forebyggingsarkitekturen på plass tidlig i kjeden er den investeringen med størst effekt som bransjen kan gjøre for barns sikkerhet.
Til syvende og sist avhenger styrken til ethvert frivillig rammeverk av hvor konkrete forpliktelsene er, og av viljen i bransjen til å bli holdt ansvarlig for dem. Vi ser frem til det fortsatte samarbeidet med OpenAI, NCMEC og våre medstatsadvokater for å sikre at disse anbefalingene omsettes i varig beskyttelse for barn.»
–Delstatsjustisministrene Jeff Jackson (North Carolina) og Derek Brown (Utah), medledere for Attorney General Alliance sin KI-arbeidsgruppe.
«Attorney General Alliance leder an i arbeidet med å beskytte unge på nett ved å samle statsadvokater, bransjeledere, ideelle organisasjoner og globale partnere for å fremme praktiske og fremtidsrettede løsninger innen KI og digital sikkerhet.» Gjennom samarbeid og innovasjon setter AGA en sterk standard for hvordan vi beskytter barn og unge samtidig som vi tar i bruk ny teknologi på en ansvarlig måte. Vi roser OpenAIs fortsatte engasjement for sikkerhet og samarbeidet med AGA og statsadvokater i utviklingen av en svært verdifull plan for barns sikkerhet.»
—Karen White, administrerende direktør i Attorney General Alliance
«Generativ KI akselererer kriminaliteten knyttet til seksuell utnyttelse av barn på nettet på dypt urovekkende måter – ved å senke tersklene, øke omfanget og muliggjøre nye former for skade. Men samtidig er National Center for Missing & Exploited Children (NCMEC) oppmuntret over å se at selskaper som OpenAI vurderer hvordan disse verktøyene kan utformes på en mer ansvarlig måte, med sikkerhetsmekanismer bygget inn fra starten av. Ingen enkelt organisasjon, virksomhet eller sektor kan håndtere dette alene. Vi er fortsatt forpliktet til å samarbeide med partnere på tvers av industri, myndigheter og barnevernsfeltet for å fremme løsninger som reduserer skade og bedre ivaretar barns trygghet.»
— Michelle DeLaune, sjef og leder, Nasjonalt senter for savnede og utnyttede barn
