Jeugdveiligheid en kansen bevorderen via wereldwijd leiderschap

AI kan een krachtig hulpmiddel zijn voor jongeren. Het kan leerlingen helpen een moeilijk concept te begrijpen, een nieuwe taal te oefenen, zich voor te bereiden op een sollicitatiegesprek, creatieve ideeën te verkennen of een nieuwe vaardigheid te leren. Net zoals de alfabetiseringsbeweging die zich halverwege de 20e eeuw over de wereld verspreidde massale verspreiding van gedrukte tekst en toegang tot opgeleide leraren vereiste, zal toegang tot veilige AI vandaag nieuwe kansen bieden voor gepersonaliseerd leren, barrières voor groepen die onvoldoende worden bereikt helpen verminderen en de voorbereiding op de arbeidsmarkt verbeteren.

Omdat de potentiële voordelen zo groot zijn, is het essentieel dat jongeren toegang krijgen tot AI op manieren die veilig, leeftijdsgeschikt en ondersteunend zijn voor een gezonde ontwikkeling. Die verantwoordelijkheid mag niet vooral bij ouders of jongeren zelf liggen. Bedrijven, waaronder OpenAI, hebben de verantwoordelijkheid om producten te bouwen met passende waarborgen als standaardinstelling en gezinnen tegelijk tools en informatie te bieden om richting te geven aan het gebruik van AI.

Wanneer staatshoofden later deze maand bijeenkomen op de G7-leiderstop in Évian, Frankrijk, zal het onderwerp AI-veiligheid voor jongeren een belangrijk aandachtspunt zijn. OpenAI zal deelnemen om te spreken over meer samenwerking rond de veiligheid van jongeren, hoe we samen de sectornormen kunnen verhogen, en de nieuwe oproep van OpenAI om een internationaal instituut voor jeugdveiligheid op te richten.

De G7-leiderstop biedt een zeldzame kans voor wereldwijde coördinatie rond de veiligheid van jongeren. Maar een gespecialiseerd instituut zou de continuïteit en opvolging bieden die nodig zijn na één enkele top, en overheden, onderzoekers, maatschappelijke organisaties en de sector helpen om samen bevindingen te blijven delen, richtlijnen te ontwikkelen en de normen in de loop van de tijd te verhogen.

Er zijn meerdere geloofwaardige manieren om dit te doen: via een nieuw internationaal instituut, of door een bestaand of nieuw opgericht nationaal AI-instituut een wereldwijd mandaat te geven om onderzoek, bevindingen en richtlijnen te delen met partners over de hele wereld. Het belangrijkste is de functie die het vervult. AI-veiligheid voor jongeren vraagt om blijvende aandacht, betrouwbare onderbouwing en praktische richtlijnen die gelijke tred kunnen houden met de technologie.

Zo'n instituut kan voortbouwen op opkomende initiatieven zoals het Youth AI Safety Institute van Common Sense Media, ondersteund door de OpenAI Foundation, en op praktische samenwerkingen met onderwijsprofessionals, waaronder het werk van OpenAI met de American Federation of Teachers⁠. Het moet ook putten uit toepassingen in de praktijk, zoals de nationale uitrol van ChatGPT op scholen in Estland, waarbij OpenAI samenwerkt met Stanford en Estse onderzoekers om de impact te bestuderen en veiliger, effectiever gebruik bij het leren te bevorderen.

OpenAI verwelkomt de kans om met de Franse regering, andere G7-regeringen en partners uit maatschappelijke organisaties, de academische wereld en de sector samen te werken aan dit vitale werk en de wereldwijde normen voor de veiligheid van jongeren te verhogen.

Wij vinden dat sterke kaders voor AI-veiligheid voor jongeren, waaronder een mogelijke overeenkomst die tijdens G7-bijeenkomsten wordt bereikt, moeten worden geleid door de principes die we hier uiteenzetten.

1. Bedrijven moeten weten wanneer een gebruiker minderjarig is en leeftijdsgeschikte bescherming toepassen. Dit betekent dat aanbieders middelen moeten gebruiken zoals effectieve, privacybeschermende leeftijdsschatting om minderjarigen van volwassenen te onderscheiden, en standaard beschermende waarborgen moeten toepassen wanneer de leeftijd van een gebruiker niet kan worden vastgesteld. Zonder deze basis bereiken zelfs de best bedoelde beschermingsmaatregelen voor jongeren mogelijk niet de jongeren die ze moeten beschermen.
2. Bedrijven moeten regelmatig zowel risico's als voordelen voor jongeren beoordelen en stappen nemen om die aan te pakken voordat er schade ontstaat. Dit betekent dat aanbieders jaarlijkse risicobeoordelingen voor de veiligheid van jongeren moeten uitvoeren en evenredige waarborgen moeten invoeren op basis van de risico's die ze vaststellen. Zulke beoordelingen moeten rekening houden met risico's voor jongeren op basis van hun ontwikkelingsfase, empirisch bewijs uit daadwerkelijk gebruik en relevant onderzoek of regelgevende richtlijnen. Beoordelingen moeten niet alleen mogelijke schade meenemen, maar ook of AI positieve resultaten ondersteunt, zoals leren, creativiteit, vaardigheidsontwikkeling en toegang tot kansen.
3. Ouders en voogden moeten toegang hebben tot toegankelijke, gebruiksvriendelijke instellingen om hen te helpen de ervaringen van hun kinderen te begeleiden en tegelijk leeftijdsgeschikte zelfstandigheid te ondersteunen. Deze moeten tools omvatten om belangrijke instellingen te beheren, waaronder geheugen, datagebruik en tijdslimieten. Tools voor ouderlijk toezicht moeten actief worden gepromoot, zodat ouders weten dat ze bestaan en begrijpen hoe ze ze kunnen gebruiken.
4. Gezinnen verdienen duidelijke, begrijpelijke informatie over hoe bedrijven jonge gebruikers beschermen, evenals zinvolle informatie over zowel de voordelen als de risico's van AI-gebruik door jongeren. Bedrijven moeten veiligheidsbeleid publiceren waarin wordt uitgelegd welke waarborgen er zijn om jongeren te beschermen, welke tools voor ouderlijk toezicht beschikbaar zijn en hoe beschermingen worden bijgewerkt naarmate risico's evolueren. Deze transparantie bouwt vertrouwen op en helpt ouders weloverwogen keuzes te maken.
5. Bedrijven moeten duidelijke protocollen hebben om ernstige veiligheidssituaties aan te pakken, waaronder zelfbeschadiging, uitbuiting, grooming, seksueel uitbuitende content en andere risicovolle interacties. Deze moeten ondersteuning binnen de dienst, doorverwijzingen naar passende hulpbronnen en tijdige meldingen aan ouders omvatten wanneer dat gepast is. Bedrijven moeten hun systemen ook zo ontwerpen dat ze geen content genereren die onveilig of ontwikkelingsmatig ongepast is voor kinderen, waaronder expliciet seksueel of gewelddadig materiaal.  
6. AI-systemen die door jongeren worden gebruikt, moeten worden ontworpen om leren, ontwikkeling en relaties in de echte wereld te ondersteunen, niet om die te vervangen. AI moet dienen als een hulpmiddel dat jongeren helpt te leren, te creëren, vaardigheden op te bouwen en zich voor te bereiden op de toekomst. Tegelijkertijd moeten bedrijven duidelijke grenzen stellen op gebieden waar gezonde ontwikkeling afhangt van menselijk oordeel, relaties in de echte wereld en professionele ondersteuning.
7. De persoonlijke informatie van minderjarigen moet worden beschermd. Dit betekent dat privacy-invasieve, gerichte reclame aan jongeren moet worden verboden en dat bedrijven geen persoonlijke informatie mogen verkopen.
8. Kaders voor de veiligheid van jongeren moeten kansen, geletterdheid en bescherming bevorderen. Jongeren moeten toegang hebben tot AI-tools die leren, creativiteit, vaardigheidsontwikkeling en toekomstige kansen ondersteunen, terwijl ze ook worden uitgerust met de kennis en kritische denkvaardigheden die nodig zijn om AI veilig en verantwoord te gebruiken. Dit omvat het bevorderen van AI-geletterdheid en jongeren helpen de kansen en beperkingen van AI-systemen te begrijpen, zodat ze zich vol vertrouwen en verantwoord in digitale omgevingen kunnen begeven.
9. Sterke verantwoordingsmechanismen, waaronder onafhankelijke audits, zijn essentieel om ervoor te zorgen dat deze beschermingen in de praktijk effectief zijn. Audits moeten worden ondersteund door een reeks gemeenschappelijke normen die onderling vergelijkbare audits in verschillende rechtsgebieden mogelijk maken. Wetgevende kaders moeten toezicht- en handhavingsmaatregelen bevatten waarmee overheden kunnen beoordelen of bedrijven waarborgen voor de veiligheid van jongeren effectief implementeren, vastgestelde risico's beperken en voldoen aan verplichtingen rond jeugdveiligheid en privacy.

De principes komen tot uiting in hoe we ChatGPT bouwen en beheren, van modelgedrag en productontwerp tot input van experts en ondersteuning in de echte wereld. We hebben de waarborgen voor gebruikers onder de 18 versterkt, ouderlijk toezicht⁠ met proactieve meldingen gelanceerd en systemen voor leeftijdsvoorspelling⁠ verder ontwikkeld, zodat ChatGPT sterkere bescherming kan toepassen wanneer iemand mogelijk jonger dan 18 is. Onze Model Spec, waarin staat hoe onze modellen zich moeten gedragen, bevat ook specifieke principes voor gebruikers onder de 18⁠(opent in een nieuw venster), met prioriteit voor de veiligheid van tieners, leeftijdsgeschikte ervaringen, ondersteuning in de echte wereld en duidelijke verwachtingen. In de praktijk betekent dit sterkere veiligheidsmechanismen rond zelfbeschadiging, gevaarlijke activiteiten, expliciete content, lichaamsbeeld en geheimhouding, samen met aanmoediging om waar nodig betrouwbare offline ondersteuning of crisishulp te zoeken. Wanneer de leeftijd onzeker is, kiezen we standaard voor sterkere waarborgen.

AI die is ontworpen met sterke waarborgen en wordt aangeboden met duidelijke begeleiding en steun van gezinnen en onderwijsprofessionals, kan jongeren helpen veilig te profiteren van tools die leren, creativiteit en kansen vergroten. AI kan leerlingen helpen moeilijke concepten te begrijpen, talen te oefenen, hun schrijfvaardigheid te verbeteren, te leren programmeren, onderzoek te organiseren, creatieve ideeën te verkennen en zich voor te bereiden op banen die nu al veranderen. Via Education for Countries⁠ werkt OpenAI met overheden en onderwijsprofessionals aan implementaties op basis van onderzoek, gelokaliseerde leertools en lerarentraining, zodat AI-adoptie is gebaseerd op bewijs en concrete behoeften in de klas. Dit werk ondersteunt nu al nationale onderwijsinspanningen met onze partnerlanden, waaronder Estland⁠, Griekenland⁠ en Singapore⁠.

Naast deelname aan de leiderstop brengen we het OpenAI Forum⁠(opent in een nieuw venster) naar Parijs om een praktijkgericht gesprek te organiseren over hoe overheden, onderzoekers, maatschappelijke organisaties, onderwijsprofessionals en de sector gedeelde doelen voor de veiligheid van jongeren kunnen omzetten in concrete waarborgen, normen en implementatiepraktijken. De Franse ambassadeur voor AI en digitale zaken, Clara Chappaz, zal samen met Chris Lehane, Chief Global Affairs Officer bij OpenAI, experts op het gebied van jeugdveiligheid van iRaise/Everyone.AI en andere deskundigen bespreken hoe jongeren van AI kunnen profiteren en tegelijk risico's kunnen verminderen.