Update van onze modelspecificaties met bescherming voor tieners

We delen een update van onze modelspecificaties, de schriftelijke set regels, waarden en gedragsverwachtingen die bepalen hoe onze AI-modellen zich moeten gedragen, vooral in lastige of risicovolle situaties. Met deze update voegen we specifieke principes toe voor gebruikers onder de 18 jaar (U18)⁠(opent in een nieuw venster). Het gedrag van een model is cruciaal voor de interactie tussen mens en AI, en tieners hebben andere ontwikkelingsbehoeften dan volwassenen.

De U18-principes zorgen ervoor dat ChatGPT een veilige omgeving biedt voor jongeren van 13 tot 17 jaar. Deze aanpak is geworteld in de ontwikkelingswetenschap en geeft prioriteit aan preventie, transparantie en vroegtijdige interventie. We hebben deze principes ontwikkeld en getoetst in samenwerking met externe experts, waaronder de American Psychological Association (APA).

De algemene principes van de modelspecificaties blijven van toepassing op zowel volwassen als tieners, maar deze update verduidelijkt hoe deze regels specifiek gelden in de context van tieners, met name daar waar veiligheidsoverwegingen voor minderjarigen zwaarder wegen. 

De vier pijlers van de U18-principes:

• De veiligheid van tieners staat voorop, zelfs als dit botst met andere doelen
• Stimuleer hulp in de echte wereld: we moedigen contact met mensen en offline hulpbronnen aan
• Benader tieners als tieners: we spreken ze niet neerbuigend toe, maar behandelen ze ook niet als volwassenen
• Wees transparant door duidelijke verwachtingen te scheppen.

In lijn met onze Teen Safety Blueprint⁠ hebben deze principes richting gegeven aan ons veiligheidswerk tot nu toe. Dit omvat onder meer inhoudelijke beschermingsmaatregelen voor gebruikers die bij aanmelding aangeven jonger dan 18 te zijn, en functies voor ouderlijk toezicht. In deze contexten hebben we waarborgen ingebouwd die het model instructies geven om extra voorzichtig te zijn bij risicovolle onderwerpen. Denk hierbij aan zelfbeschadiging en zelfmoord, romantische of seksuele rollenspellen, grafische of expliciete inhoud, gevaarlijke activiteiten en middelen, lichaamsbeeld en eetstoornissen of verzoeken om onveilig gedrag geheim te houden.

De American Psychological Association heeft een vroege versie van de U18 Model Spec beoordeeld en belangrijke inzichten voor de lange termijn geboden, en benadrukt hoe belangrijk het is om tieners te beschermen.

Deze update verduidelijkt ook hoe de assistent moet reageren wanneer er veiligheidszorgen ontstaan bij tieners. Dat betekent dat tieners te maken krijgen met strengere grenzen ('guardrails'), veilige alternatieven en het advies om met een vertrouwd persoon te praten. Bij acuut gevaar worden tieners dringend aangespoord contact op te nemen met hulpdiensten of crisisbronnen.

Net als de rest van de modelspecificaties beschrijven de U18-principes het gewenste gedrag van onze modellen. We blijven dit aanscherpen op basis van nieuw onderzoek, input van experts en feedback uit de praktijk.

Naast de update van de modelspecificaties hanteren we een gelaagde aanpak om de veiligheid van tieners binnen ChatGPT te versterken⁠, zoals veiligheidsmaatregelen, gezinsondersteuning en deskundig advies.

Sinds de uitrol van ouderlijk toezich⁠(opent in een nieuw venster)t hebben we de bescherming uitgebreid naar nieuwe producten, waaronder groepschats, de ChatGPT Atlas-browser en de Sora-app. Hiermee kunnen ouders de ChatGPT‑ervaring van hun tiener beheren als we nieuwe producten en functies introduceren.

In lijn met advies van experts moedigen we aan dat ouders en tieners met elkaar in gesprek blijven over gezond en verantwoord AI-gebruik. Om daarbij te helpen, hebben we nieuwe gidsen toegevoegd aan onze informatiehub voor ouders⁠(opent in een nieuw venster), waaronder een handleiding voor gezinnen om tieners te helpen AI verantwoord te gebruiken⁠(opent in een nieuw venster) en tips voor ouders⁠(opent in een nieuw venster) over hoe je een gesprek over AI met kinderen. Deze zijn beoordeeld door ConnectSafely en leden van onze deskundigenraad voor welzijn en AI⁠. We zullen in de loop der tijd meer bronnen toevoegen. Ook in het product zelf stimuleren we gezond gebruik, bijvoorbeeld met ingebouwde pauzeherinneringen⁠ tijdens lange sessies.

Ons werk op het gebied van tienerveiligheid wordt geleid door nauwe samenwerking met experts uit verschillende disciplines. In oktober hebben we een deskundigenraad voor welzijn en AI⁠ opgericht om te adviseren en te definiëren hoe gezonde interacties met AI er voor alle leeftijden uit zouden moeten zien. Dat werk heeft geleid tot richtlijnen voor ouderlijk toezicht en meldingen aan ouders. We integreren ook klinische expertise via ons Global Physician Network⁠ om veiligheidsonderzoek te informeren en modelgedrag te evalueren. Dit omvat het verbeteren van de manier waarop ChatGPT stress of nood herkent en mensen naar professionele zorg begeleidt indien nodig. We hebben op deze fundamenten voortgebouwd met GPT‑5.2⁠ en hebben de toegang tot echte ondersteuning uitgebreid door lokale hulplijnen in ChatGPT en Sora te tonen via onze samenwerking met ThroughLine⁠(opent in een nieuw venster).

We bevinden ons in de vroege stadia van de uitrol van een leeftijdsverificatiemodel⁠(opent in een nieuw venster) voor consumentenabonnementen op ChatGPT. Dit helpt ons automatisch beveiligingen voor tieners toe te passen wanneer we vermoeden dat een account van een minderjarige is. Als we niet zeker zijn van iemands leeftijd of onvolledige informatie hebben, vallen we standaard terug op de U18-ervaring. We bieden volwassenen manieren om hun leeftijd te verifiëren.

Het versterken van de veiligheid van tieners is een continu proces. We blijven werken aan het verbeteren van ouderlijk toezicht en modelcapaciteiten, het uitbreiden van bronnen voor ouders, en het samenwerken met organisaties, onderzoekers en partners zoals de deskundigenraad voor welzijn en het Global Physician Network. 

We zetten ons in voor krachtige bescherming van tieners en blijven deze verbeteren om tieners en gezinnen beter te ondersteunen.