Introductie van de Child Safety Blueprint
Een kader voor de bestrijding en preventie van door AI mogelijk gemaakte seksuele uitbuiting van kinderen
Seksuele uitbuiting van kinderen is een van de meest urgente uitdagingen van het digitale tijdperk. AI verandert snel hoe dit soort misbruik ontstaat en hoe het op grote schaal kan worden aangepakt.
Bij OpenAI hebben we beschermingsmechanismen ingevoerd om misbruik van onze systemen te voorkomen en blijven we deze versterken. Daarnaast werken we nauw samen met partners zoals het National Center for Missing and Exploited Children (NCMEC) en wetshandhavingsinstanties om opsporing en melding te verbeteren. Dit werk heeft aan het licht gebracht waar in de hele sector strengere, gedeelde normen nodig zijn.
Vandaag introduceren we een beleidsblauwdruk die een praktische weg vooruit schetst voor het versterken van Amerikaanse kaders voor kinderbescherming in het tijdperk van AI. Deze blauwdruk weerspiegelt en verwerkt feedback van verschillende toonaangevende organisaties en experts uit het ecosysteem voor kindveiligheid, waaronder NCMEC, de Attorney General Alliance en de covoorzitters van de AI Task Force, procureur-generaal van North Carolina Jeff Jackson en procureur-generaal van Utah Derek Brown, en Thorn, om ervoor te zorgen dat deze hun prioriteiten weerspiegelt en effectievere samenwerking kan bevorderen om schade aan kinderen te voorkomen.
De blauwdruk richt zich op drie belangrijke prioriteiten: wetgeving te moderniseren om door AI gegenereerd en aangepast CSAM aan te pakken, rapportage door aanbieders en de onderlinge coördinatie te verbeteren om effectievere onderzoeken te ondersteunen, en veiligheidsmaatregelen volgens het principe van safety by design rechtstreeks in AI-systemen in te bouwen om misbruik te voorkomen en te detecteren.
Geen enkele maatregel kan deze uitdaging op zichzelf aanpakken. Dit kader brengt juridische, operationele en technische benaderingen samen om risico's beter te identificeren, reacties te versnellen en verantwoording te ondersteunen, terwijl ervoor wordt gezorgd dat handhavingsautoriteiten slagvaardig blijven naarmate de technologie zich ontwikkelt.
Samen helpen deze stappen de sector om kinderveiligheid eerder en effectiever aan te pakken. Door pogingen tot uitbuiting eerder te onderbreken, de kwaliteit te verbeteren van signalen die naar wetshandhavingsinstanties worden gestuurd, en de verantwoordingsplicht in het hele ecosysteem te versterken, beoogt dit kader schade te voorkomen voordat die ontstaat en snellere bescherming van kinderen te helpen waarborgen wanneer risico's ontstaan.
"Als covoorzitters van de AI-taskforce van de Attorney General Alliance verwelkomen wij deze blauwdruk als een betekenisvolle stap in de richting van het afstemmen van de praktijken rond kindveiligheid in de technologiesector op de realiteit van de handhaving waarmee onze kantoren dagelijks worden geconfronteerd. We worden vooral bemoedigd door de erkenning in het kader dat effectieve waarborgen voor generatieve AI gelaagde bescherming vereisen: niet één technische maatregel, maar een combinatie van detectie, weigeringmechanismen, menselijk toezicht en voortdurende aanpassing aan nieuwe vormen van misbruik. Dit weerspiegelt wat we in de praktijk zien: de dreiging verandert voortdurend en statische oplossingen zijn ontoereikend. Het goed opzetten van de preventiearchitectuur aan de voorkant is de investering met veruit de grootste impact die de sector kan doen voor kindveiligheid.
Uiteindelijk hangt de kracht van elk vrijwillig kader af van de mate van specificiteit van de toezeggingen erin en de bereidheid van de sector om daarover verantwoording af te leggen. We kijken ernaar uit om het partnerschap met OpenAI, NCMEC en onze collega-ministers van Justitie voort te zetten, zodat deze aanbevelingen worden omgezet in duurzame bescherming voor kinderen."
—Procureurs-generaal Jeff Jackson (North Carolina) en Derek Brown (Utah), covoorzitters van de AI-taskforce van de Attorney General Alliance.
"De Attorney General Alliance loopt voorop in het online beschermen van jongeren door procureurs-generaal, leiders uit het bedrijfsleven, non-profitorganisaties en wereldwijde partners samen te brengen om praktische, toekomstgerichte oplossingen op het gebied van AI en digitale veiligheid te bevorderen. Door samenwerking en innovatie zet AGA een sterke norm voor de manier waarop we jongeren beschermen, terwijl we op verantwoorde wijze opkomende technologieën omarmen. We juichen OpenAI’s voortdurende inzet voor veiligheid en de samenwerking met AGA en procureurs-generaal bij de ontwikkeling van een zeer waardevolle blauwdruk voor kindveiligheid toe.”
—Karen White, uitvoerend directeur van Attorney General Alliance
"Generatieve AI versnelt online seksuele uitbuiting van kinderen op zorgwekkende manieren: door drempels te verlagen, de schaal te vergroten en nieuwe vormen van schade mogelijk te maken. Tegelijkertijd is het bemoedigend dat organisaties zoals het National Center for Missing & Exploited Children (NCMEC) zien dat bedrijven als OpenAI nadenken over hoe deze tools verantwoordelijker kunnen worden ontworpen, met waarborgen die vanaf het begin zijn ingebouwd. Geen enkele organisatie, onderneming of sector kan dit alleen aanpakken. We blijven ons inzetten om samen te werken met partners in de industrie, overheid en de kinderbeschermingssector aan oplossingen die schade beperken en bijdragen aan een veiligere omgeving voor kinderen."
Michelle DeLaune, voorzitter en CEO van het National Center for Missing & Exploited Children
