Waarom tieners toegang verdienen tot veilige AI

Tieners zijn de eerste generatie die opgroeit met AI, en deze technologie zal hun toekomst sterk bepalen. Vandaag de dag gebruiken bijna 9 op de 10 tieners op ChatGPT het in één week voor leren, informatie, het ontwikkelen van vaardigheden of productiviteit. Daarom vinden we het essentieel dat tieners toegang hebben tot AI. Tieners ervan weerhouden AI te gebruiken tot ze volwassen zijn, zou vergelijkbaar zijn met een vorige generatie vragen het internet of zoekmachines te vermijden tot hun 18e, waardoor ze minder goed voorbereid zouden zijn op een van de bepalende technologieën van hun tijd. Maar toegang moet samengaan met bescherming die speciaal voor tieners is ontworpen.

Tijdens een recente OpenAI Academy⁠(opent in een nieuw venster) vertelde Oriana McKenzie hoe ChatGPT haar hielp de nummer 1 van haar middelbare school te worden door slimmer te studeren en haar werklast beter te beheren, waardoor ze tijd overhield voor de sport en schoolprogramma’s waar ze van houdt. Haar verhaal laat zien wat er mogelijk is wanneer tieners toegang hebben tot AI die hen helpt leren en creëren.

Om die voordelen zo groot mogelijk te maken, hebben tieners sterkere bescherming nodig die is afgestemd op hun levensfase, waaronder geautomatiseerde vangrails waarmee ze met vertrouwen kunnen ontdekken, leren en bouwen, met waarborgen die passen bij hun leeftijd. Naarmate AI meer kan, is het onze verantwoordelijkheid om brede toegang te combineren met leeftijdsgerichte bescherming, zodat tieners van deze technologie kunnen profiteren terwijl die zich ontwikkelt.

Het afgelopen jaar betekende dat onder meer het versterken van standaardbescherming voor tieners, het uitrollen van leeftijdsvoorspelling⁠, het uitbreiden van ouderlijk toezicht⁠, het maken van extra gezinsbronnen⁠(opent in een nieuw venster) om ouders te helpen gezond en verantwoord gebruik te ondersteunen, en het introduceren van leerfuncties die dieper begrip helpen bevorderen in plaats van alleen antwoorden te geven.

Ons werk wordt geleid door vier belangrijke toezeggingen⁠:

• We zetten de veiligheid van tieners voorop, ook wanneer die kan botsen met andere doelen.
• We moedigen ondersteuning in de echte wereld aan wanneer dat nodig is.
• We behandelen tieners als tieners.
• We zijn transparant door duidelijke verwachtingen te scheppen.

Leren is een van de duidelijkste manieren waarop tieners voordeel hebben van AI. Daarom bouwen we tools die actieve betrokkenheid, kritisch denken en dieper begrip stimuleren. Leermodus⁠(opent in een nieuw venster) is ontworpen in samenwerking met leraren, leerwetenschappers en pedagogische experts om leerlingen te helpen stap voor stap problemen door te werken met richtinggevende vragen, gestructureerde uitleg en ruimte voor reflectie, zonder simpelweg het antwoord te geven. Vroege evaluatie van tools zoals Leermodus liet veelbelovende verbeteringen in leerlingprestaties zien⁠, wat onze bredere onderzoeksvraag helpt sturen hoe AI leerresultaten kan ondersteunen.

Hoewel tieners deze modus zelf kunnen inschakelen, kunnen ouders met gekoppelde tieneraccounts Leermodus⁠ nu rechtstreeks inschakelen via ouderlijk toezicht⁠. Wanneer de functie is ingeschakeld, staat die standaard aan telkens wanneer een tiener een nieuwe chat start. Zo krijgen gezinnen nog een manier om te sturen hoe ChatGPT wordt gebruikt voor schoolwerk en studie.

We hebben onlangs ook op onderwijs gerichte startprompts voor tieners geïntroduceerd, zodat het makkelijker is te beginnen met taken zoals een onderwerp opdelen in eenvoudige stappen, aantekeningen omzetten in een studiegids, flashcards of oefenvragen maken, en bewijsvoering en duidelijkheid controleren.

Daarnaast blijven we interactieve leerervaringen⁠ uitbreiden. Onderzoek heeft steeds opnieuw aangetoond⁠ dat mensen effectiever leren wanneer ze actief met concepten aan de slag kunnen in plaats van informatie passief tot zich te nemen. Sinds de lancering eerder dit jaar gebruiken nu wekelijks 18 miljoen gebruikers interactieve wiskunde- en natuurwetenschapservaringen in ChatGPT, en we hebben die ervaringen uitgebreid naar meer dan 250 nieuwe onderwerpen, van integralen en mitose tot maanfasen, fotosynthese en meer. We hebben ook een uitspraakervaring geïntroduceerd die audio gebruikt om mensen te helpen woorden in meer dan 61 talen te leren uitspreken.

Als ons systeem inschat dat iemand die ChatGPT gebruikt jonger is dan 18,⁠ bieden we automatisch een meer leeftijdsgerichte ervaring⁠(opent in een nieuw venster). Tieners kunnen ChatGPT nog steeds gebruiken om te leren, te creëren en te ontdekken, maar met extra bescherming die is ontworpen om blootstelling te verminderen aan content die mogelijk niet geschikt voor hen is. Dat omvat sterkere waarborgen rond expliciet geweld, zelfbeschadiging, riskante virale uitdagingen, ongezonde content over lichaamsbeeld en gevaarlijke, romantische of seksuele rollenspellen. Het doel is ervoor te zorgen dat ChatGPT een tool blijft voor leren en creativiteit, en geen vervanging wordt voor relaties in de echte wereld.

We ontwerpen ChatGPT ook om gezonde gewoonten te stimuleren. Tieners die langere tijd in ChatGPT doorbrengen, krijgen nu vaker pauzeherinneringen⁠ die hen aanmoedigen te pauzeren en afstand te nemen. Deze herinneringen zijn bedoeld om jongeren te helpen evenwichtige technologiegewoonten op te bouwen, terwijl ze de vrijheid behouden om AI te gebruiken voor leren, creativiteit en probleemoplossing.

Wij geloven dat de beste veiligheidstools gezinnen kunnen helpen samen hun weg te vinden in de online ervaringen van tieners. We hebben ouderlijk toezicht en meldingen⁠ gebouwd waarmee ouders stille uren kunnen instellen, spraakmodus kunnen uitschakelen, toegang tot beeldgeneratie kunnen beheren en meldingen kunnen ontvangen in bepaalde risicovolle situaties, zoals signalen van mogelijke zelfbeschadiging.

We breiden die meldingen uit met gevallen waarin een gekoppeld tieneraccount is gedeactiveerd wegens schending van ons gebruiksbeleid⁠ rond gewelddadige dreigingen of gewelddaden online. Deze aanpak maakt ouders erop attent wanneer er iets ernstigs is gebeurd, terwijl de privacy van tieners wordt gerespecteerd en gesprekken en ondersteuning offline worden aangemoedigd.

Bij het ontwikkelen van deze functies hebben we verschillende experts geraadpleegd, waaronder Moonshot⁠(opent in een nieuw venster), een leider in het voorkomen van online geweld, om te helpen zorgen dat deze interventies doordacht, effectief en gericht zijn op het helpen van gezinnen wanneer dat nodig is.

We willen er ook voor zorgen dat ouders, tieners en docenten duidelijke begeleiding krijgen over hoe ze AI het best verantwoord kunnen gebruiken. We publiceren educatieve bronnen in meer dan 50 talen, waaronder Een gezinsgids om tieners te helpen AI verantwoord te gebruiken⁠(opent in een nieuw venster), Tips om met je tiener over AI te praten⁠(opent in een nieuw venster) en Tips voor ouders die ChatGPT gebruiken⁠(opent in een nieuw venster).

Jongeren online veilig houden is niet iets wat één bedrijf alleen kan oplossen. We werken nauw samen met tieners, ouders, docenten, experts op het gebied van kindveiligheid, professionals in de geestelijke gezondheidszorg, onderzoekers, overheden en maatschappelijke organisaties. Deze samenwerkingen helpen ons de behoeften van jongeren beter te begrijpen, opkomende risico’s te signaleren, de effectiviteit van onze waarborgen te evalueren en ervoor te zorgen dat ons beleid wordt gevoed door onafhankelijke expertise.

Dit werk omvat zowel onze aanpak van leren als het welzijn van jongeren. We werken samen met docenten, waaronder de American Federation of Teachers⁠, studenten en onderwijsorganisaties om beter te begrijpen hoe AI onderwijs en leren kan ondersteunen en tegelijk actieve betrokkenheid en kritisch denken kan versterken. We werken ook nauw samen met experts uit de gemeenschappen rond geestelijke gezondheid, kinderontwikkeling en veiligheid van jongeren, waaronder de American Psychological Association⁠(opent in een nieuw venster), ons Global Physicians Network⁠ en onze Expert Council on Well-Being and AI⁠.

Ons werk aan een gezonder digitaal ecosysteem reikt verder dan onze eigen producten. We hebben opgeroepen tot de ontwikkeling van schaalbare wereldwijde standaarden voor AI-veiligheid voor jongeren⁠ via een speciaal AI Safety Institute, open-sourcebeleid en -tools⁠ die ontwikkelaars in hun eigen AI-systemen kunnen inbouwen, en samenwerking met organisaties zoals Common Sense Media⁠(opent in een nieuw venster) en everyone.ai⁠(opent in een nieuw venster) om inzichten en best practices te delen.

Dit jaar zijn we ook toegetreden tot het Family Online Safety Institute⁠(opent in een nieuw venster) (FOSI), een gevestigde pleitbezorger voor veilige online ervaringen voor gezinnen en jongeren. We zullen samenwerken om ervoor te zorgen dat jongeren kunnen profiteren van AI, met mondige ouders en verantwoorde praktijken in de sector als uitgangspunt. We hopen dat deze samenwerking helpt om gedeeld inzicht te vergroten in wat werkt, leeftijdsgerichte bescherming en oudertools te versterken, en sectorbrede inspanningen te ondersteunen waardoor jongeren veilig en verantwoord van AI kunnen profiteren.

Jongeren online beschermen vraagt om voortdurende vooruitgang. De komende maanden blijven we leeftijdsgerichte bescherming versterken, ouders meer tools en controle geven, waarborgen tegen ernstige schade verbeteren, onderzoek naar gezond AI-gebruik bevorderen en meer ervaringen bouwen die tieners helpen actief te leren en AI met vertrouwen te gebruiken.

We weten dat er nog meer te doen is, en we blijven ons werk voortzetten in samenwerking met tieners, ouders, docenten, experts en gemeenschappen wereldwijd om tieners veilige, brede toegang te bieden.