OpenAI steunt Californisch wetsvoorstel voor betere AI-veiligheid van jongeren

Door Ann O'Leary, VP Global Policy

OpenAI steunt SB 1119 van de Californische Senaat. Dit wetsvoorstel legt wezenlijke waarborgen vast voor de manier waarop jongeren AI gebruiken, terwijl ze toegang houden tot hulpmiddelen waarmee ze kunnen leren, creëren en zich op de toekomst kunnen voorbereiden. Deze steun bouwt voort op de toezegging die Sam Altman, medeoprichter en CEO van OpenAI, vorig jaar deed toen hij de uitgangspunten van het bedrijf ten aanzien van tieners uiteenzette.

Nu federale maatregelen uitblijven, kan Californië een krachtige norm stellen voor de AI-veiligheid van jongeren.

In onze brief aan gouverneur Newsom⁠(opent in een nieuw venster) prijzen we hem, senator Steve Padilla, de afgevaardigden Buffy Wicks en Rebecca Bauer-Kahan van de California State Assembly en het parlement van Californië voor hun leiderschap rond deze belangrijke kwestie. SB 1119 bouwt voort op maatregelen voor de veiligheid van jongeren die OpenAI heeft ondersteund via onze producten, mondiale beleidsprincipes, belangenbehartiging in Californië en ons werk aan de Parents & Kids Safe AI Act. We roepen gouverneur Newsom op het wetsvoorstel te ondertekenen, zodat het wet wordt.

Tieners zijn de eerste generatie die opgroeit met AI. Bijna negen op de tien tieners die ChatGPT gebruiken, zetten het in een gemiddelde week in om te leren, informatie te vinden, vaardigheden te ontwikkelen of productiever te zijn. Die mogelijkheid brengt een duidelijke verantwoordelijkheid met zich mee: tieners verdienen ervaringen die zijn ontworpen rond hun specifieke ontwikkelingsbehoeften, met krachtige standaardbescherming en passende mogelijkheden om te leren, creëren en ontdekken.

Onze onlangs gelanceerde ChatGPT voor tieners weerspiegelt die aanpak. Het is ontworpen om gebruikers jonger dan 18 jaar te helpen leren, kritisch na te denken en dingen te maken. Tegelijkertijd bevordert het gezond gebruik, biedt het ingebouwde waarborgen en geeft het ouders extra controlemogelijkheden. Als ons systeem inschat dat iemand jonger dan 18 is, of als diegene aangeeft tussen de 13 en 17 jaar te zijn, wordt die persoon automatisch in ChatGPT voor tieners geplaatst. Die bescherming maakt standaard deel uit van de ervaring en bestaat niet uit optionele instellingen die gebruikers kunnen uitschakelen.

In bredere zin geloven we dat tieners van AI kunnen profiteren zonder dat dit ten koste gaat van hun veiligheid. Die doelstelling staat centraal in SB 1119.

SB 1119 combineert krachtige bescherming met blijvende toegang tot nuttige AI-hulpmiddelen. We steunen deze belangrijke vereisten van harte:

• De leeftijd van een gebruiker vaststellen;
• Veiligheidsrisico's vaststellen en aanpakken voordat een product beschikbaar wordt gesteld aan jongeren;
• Onafhankelijke audits ondergaan;
• Jongeren beschermen tegen schadelijke content, waaronder content over zelfbeschadiging en seksueel uitbuitende content, en tegen andere risicovolle interacties;
• Ouders hulpmiddelen bieden om het gebruik door hun kinderen te begeleiden en te beperken;
• Jongeren in contact brengen met passende crisishulp wanneer zich ernstige veiligheidsrisico's voordoen; en
• Gerichte reclame beperken en de persoonsgegevens van jongeren beschermen.

Voor gebruikers van wie is vastgesteld dat ze 13 tot en met 17 jaar zijn, moeten deze beschermingsmaatregelen automatisch gelden. Dit wetsvoorstel zou effectieve verantwoordingsmechanismen combineren met waarborgen die jongeren helpen beschermen wanneer zij AI gebruiken.

SB 1119 erkent ook terecht dat AI geen sociale media is. Het wetsvoorstel voorziet in gerichte beschermingsmaatregelen die jongeren helpen AI te gebruiken om te leren, te creëren en te ontdekken. Bij de ontwikkeling van dit kader wilden beleidsmakers de toegang tot educatieve en veiligheidskritieke functies behouden, waaronder verantwoorde toepassingen van de geheugenfunctie van ChatGPT, en tegelijkertijd veiligere, leeftijdsgeschikte ervaringen voor tieners bevorderen.

ChatGPT voor tieners bevat diverse functies die speciaal zijn afgestemd op het leren door tieners, zoals quizzen, leervisualisaties en de Leermodus. Deze zijn samen met onderwijsprofessionals en leerexperts ontwikkeld om leerlingen stap voor stap door problemen te leiden. Deze hulpmiddelen zijn bedoeld om het begrip te verdiepen en betere leergewoonten te ondersteunen. Functies die context uit eerdere gesprekken gebruiken, waaronder het geheugen, helpen om waarborgen consequent toe te passen, zorgwekkende patronen te herkennen en na verloop van tijd nuttigere ondersteuning bij het leren te bieden.

Context helpt deze hulpmiddelen voor veiligheid en leren bovendien om na verloop van tijd consistenter te werken. Met functies zoals het geheugen kan ChatGPT relevante informatie en voorkeuren uit eerdere gesprekken meenemen. Zo kunnen tieners doorgaan met leerprojecten voor de langere termijn zonder opnieuw te hoeven beginnen. Die continuïteit kan ook helpen voorkomen dat schadelijke patronen worden versterkt en effectievere reacties mogelijk maken wanneer een jongere wellicht extra hulp of middelen nodig heeft.

Het vinden van een evenwicht tussen veiligheid en leren is voor ons niet nieuw. Het afgelopen jaar hebben we ouderlijk toezicht, leeftijdsvoorspelling, onze blauwdruk voor de veiligheid van tieners en principes voor jongeren onder 18 in onze modelspecificaties toegevoegd. Die laatste bevatten de regels die bepalen hoe onze modellen zich horen te gedragen. Zo stellen we nieuwe normen voor de manier waarop ze met jongeren moeten omgaan. Ze verbieden romantische toenadering, het aanmoedigen van emotionele afhankelijkheid en beweringen dat ChatGPT een mens of bewust wezen is. We bieden ook ouderlijk toezicht waarmee gezinnen belangrijke instellingen voor hun tieners kunnen beheren en meldingen kunnen ontvangen in situaties met een hoog risico.

SB 1119 stelt in Californië een krachtig kader vast voor de AI-veiligheid van jongeren. Voortgaand onderzoek en samenwerking tijdens de uitvoering kunnen belangrijke bepalingen helpen verbeteren en het kader doeltreffend houden terwijl de technologie zich ontwikkelt. OpenAI kijkt ernaar uit dit werk te ondersteunen en AI-ervaringen te blijven ontwikkelen die tieners als tieners behandelen, met krachtigere automatische bescherming en betekenisvolle mogelijkheden om te leren en zich te ontwikkelen.