Introduktion af Child Safety Blueprint
En ramme for bekæmpelse og forebyggelse af AI-understøttet seksuel udnyttelse af børn
Seksuel udnyttelse af børn er en af de mest presserende udfordringer i den digitale tidsalder. AI ændrer hurtigt både, hvordan disse skader opstår på tværs af branchen, og hvordan de kan håndteres i stor skala.
Hos OpenAI har vi etableret og fortsætter med at styrke sikkerhedsforanstaltninger for at forhindre misbrug af vores systemer, og vi arbejder tæt sammen med partnere såsom National Center for Missing and Exploited Children (NCMEC) og retshåndhævende myndigheder for at forbedre detektering og rapportering. Dette arbejde har været med til at synliggøre, hvor der er behov for stærkere, fælles standarder på tværs af branchen.
I dag introducerer vi en politisk plan, der skitserer en praktisk vej fremad for at styrke de amerikanske rammer for børnebeskyttelse i AI-tidsalderen. Denne plan afspejler og inddrager feedback fra flere førende organisationer og eksperter inden for børnesikkerhed, herunder NCMEC, Attorney General Alliance og medformændene for organisationens AI Task Force – North Carolinas justitsminister Jeff Jackson og Utahs justitsminister Derek Brown –samt Thorn, for at sikre, at den afspejler deres prioriteter og kan fremme et mere effektivt samarbejde for at forhindre skade på børn.
Oplægget fokuserer på tre centrale prioriteter: at modernisere lovgivningen for at håndtere AI-genereret og manipuleret CSAM, at forbedre udbyderes indberetning og koordinering for at understøtte mere effektive efterforskninger, og at indbygge sikkerhed fra designet direkte i AI-systemer for at forebygge og opdage misbrug.
Ingen enkeltstående indsats kan håndtere denne udfordring alene. Denne ramme samler juridiske, operationelle og tekniske tilgange for bedre at identificere risici, fremskynde reaktioner og understøtte ansvarlighed, samtidig med at det sikres, at håndhævende myndigheder forbliver stærke, efterhånden som teknologien udvikler sig.
Samlet set sætter disse trin branchen i stand til at håndtere børnesikkerhed tidligere og mere effektivt. Ved at afbryde forsøg på udnyttelse tidligere, forbedre kvaliteten af de signaler, der sendes til retshåndhævende myndigheder, og styrke ansvarligheden på tværs af økosystemet har denne ramme til formål at forhindre skade, før den sker, og bidrage til at sikre hurtigere beskyttelse af børn, når risici opstår.
“Som medformand for Attorney General Alliance's AI Task Force hilser vi denne køreplan velkommen som et meningsfuldt skridt i retning af at tilpasse teknologisektorens praksisser for børns sikkerhed til de håndhævelsesmæssige realiteter, som vores embeder står over for hver dag. Vi er især optimistiske pga. rammens anerkendelse af, at effektive GenAI-sikkerhedsforanstaltninger kræver lagdelte forsvar - ikke en enkelt teknisk kontrol, men en kombination af detektion, afvisningsmekanismer, menneskeligt tilsyn og kontinuerlig tilpasning til nye misbrugsmønstre. Dette afspejler det, vi ser i praksis: truslen udvikler sig konstant, og statiske løsninger er utilstrækkelige. Udvikling af en forebyggelsesstrategi og få den implementeret tidligt i kæden er den metode, der har den største effekt, og som branchen kan foretage for at sikre børns sikkerhed.
I sidste ende afhænger styrken af ethvert frivilligt rammeværk af, hvor specifikke dets forpligtelser er, og af branchens vilje til at blive holdt ansvarlig op imod dem. Vi ser frem til det fortsatte partnerskab med OpenAI, NCMEC og vores kolleger blandt statsadvokaterne for at sikre, at disse anbefalinger omsættes til varige beskyttelsesforanstaltninger for børn.
–State Attorneys General Jeff Jackson (North Carolina) and Derek Brown (Utah), Co-Chairs of the AI Task Force of the Attorney General Alliance.
“Attorney General Alliance går forrest i arbejdet med at beskytte unge online ved at samle justitsministre, brancheledere, nonprofitorganisationer og globale partnere for at fremme praktiske og fremadskuende løsninger inden for AI og digital sikkerhed. Gennem samarbejde og innovation sætter AGA en høj standard for, hvordan vi beskytter unge og samtidig ansvarligt tager nye teknologier i brug. Vi støtter OpenAI's fortsatte engagement i sikkerhed og samarbejde med AGA og statsadvokater om at udvikle en meget værdifuld plan for børns sikkerhed.”
– Karen White, administrerende direktør for Attorney General Alliance
“Generativ kunstig intelligens accelererer forbrydelsen af seksuel udnyttelse af børn online på dybt bekymrende måder – ved at sænke barriererne, øge omfanget og muliggøre nye former for skade. Men samtidig er National Center for Missing & Exploited Children (NCMEC) opmuntret over at se virksomheder som OpenAI reflektere over, hvordan disse værktøjer kan designes mere ansvarligt, med sikkerhedsforanstaltninger indbygget fra starten.. Ingen enkelt organisation, virksomhed eller sektor kan løse dette alene. Vi er fortsat engagerede i at samarbejde med partnere på tværs af industri, myndigheder og børnebeskyttelsesområdet for at fremme løsninger, der reducerer skade og bedre understøtter børns sikkerhed.”
– Michelle DeLaune, administrerende direktør for National Center for Missing & Exploited Children
