OpenAI støtter Californiens lovforslag om AI-sikkerhed for unge

Af Ann O’Leary, vicedirektør for global politik

OpenAI støtter Californiens senatslovforslag 1119, som indfører væsentlige sikkerhedsforanstaltninger for unges brug af AI og samtidig sikrer deres adgang til værktøjer, der kan hjælpe dem med at lære, skabe og forberede sig på fremtiden. Denne støtte bygger videre på det tilsagn, som Sam Altman, medstifter og administrerende direktør for OpenAI, gav sidste år, da han beskrev virksomhedens principper for teenagere.

I mangel af føderale tiltag har Californien mulighed for at sætte en høj standard for AI-sikkerhed for unge.

I vores brev til guvernør Newsom⁠(åbner i et nyt vindue) roser vi ham samt senator Steve Padilla, medlemmerne af delstatsforsamlingen Buffy Wicks og Rebecca Bauer-Kahan og Californiens lovgivende forsamling for deres lederskab i denne vigtige sag. SB 1119 bygger videre på de sikkerhedsforanstaltninger for unge, som OpenAI har støttet gennem vores produkter, globale politiske principper, interessevaretagelse i Californien og arbejdet med Parents & Kids Safe AI Act. Vi opfordrer guvernør Newsom til at underskrive lovforslaget.

Teenagere er den første generation, der vokser op med AI. Næsten ni ud af ti teenagere, der bruger ChatGPT, benytter det i løbet af en typisk uge til læring, informationssøgning, udvikling af færdigheder eller produktivitet. Denne mulighed medfører et klart ansvar: Teenagere bør have oplevelser, der er udviklet med deres særlige udviklingsbehov for øje, med stærk standardbeskyttelse og passende muligheder for at lære, skabe og udforske.

Vores nyligt lancerede ChatGPT til teenagere afspejler denne tilgang. Det er udviklet til at hjælpe brugere under 18 år med at lære, tænke kritisk og skabe, samtidig med at det fremmer sund brug, har indbyggede sikkerhedsforanstaltninger og giver forældre yderligere kontrolmuligheder. Hvis vores system vurderer, at en person er under 18 år, eller personen oplyser at være mellem 13 og 17 år, bliver vedkommende automatisk placeret i ChatGPT til teenagere. Denne beskyttelse er en del af standardoplevelsen og ikke valgfrie indstillinger, som brugerne kan slå fra.

Mere overordnet mener vi, at teenagere kan få gavn af AI uden at gå på kompromis med sikkerheden – et mål, der er centralt for SB 1119.

SB 1119 kombinerer stærk beskyttelse med fortsat adgang til nyttige AI-værktøjer. Vi bakker stærkt op om disse centrale krav:

• Fastslå en brugers alder;
• Identificere og håndtere sikkerhedsrisici, før et produkt gøres tilgængeligt for unge;
• Gennemgå uafhængige revisioner;
• Beskytte unge mod skadeligt indhold, herunder selvskade, seksuelt udnyttende indhold og andre interaktioner med høj risiko;
• Give forældre værktøjer til at vejlede og begrænse deres børns brug;
• Henvise unge til krisehjælp, når der opstår alvorlige sikkerhedsrisici; og
• Begrænse målrettet annoncering og beskytte unges personoplysninger.

For brugere, der identificeres som værende mellem 13 og 17 år, bør denne beskyttelse gælde automatisk. Lovgivningen vil kombinere reel ansvarlighed med sikkerhedsforanstaltninger, der kan beskytte unge, når de bruger AI.

SB 1119 anerkender også med rette, at AI ikke er sociale medier. Lovforslaget indfører beskyttelse, der er skræddersyet til at hjælpe unge med at bruge AI til at lære, skabe og udforske. Ved udarbejdelsen af denne ramme søgte politikerne at bevare adgangen til funktioner, der er vigtige for uddannelse og sikkerhed, herunder ansvarlig brug af ChatGPTs hukommelsesfunktion, samtidig med at de fremmede mere sikre og alderssvarende oplevelser for teenagere.

ChatGPT til teenagere indeholder en række funktioner, der er skræddersyet til at hjælpe teenagere med at lære, såsom quizzer, læringsvisualiseringer og studietilstand, som er udviklet sammen med undervisere og læringseksperter for at guide elever gennem problemer trin for trin. Disse værktøjer skal styrke forståelsen og understøtte bedre læringsvaner. Funktioner, der bruger kontekst fra tidligere samtaler, herunder hukommelse, hjælper med at anvende sikkerhedsforanstaltninger konsekvent, genkende bekymrende mønstre og med tiden yde mere nyttig støtte til læring.

Kontekst hjælper også disse sikkerheds- og læringsværktøjer med at fungere mere konsekvent over tid. Med funktioner som hukommelse kan ChatGPT videreføre relevante oplysninger og præferencer fra tidligere samtaler, så teenagere kan fortsætte længerevarende læringsprojekter uden at skulle begynde forfra. Denne kontinuitet kan også bidrage til at undgå at forstærke skadelige mønstre og understøtte mere effektive reaktioner, når en ung person kan have behov for yderligere hjælp eller ressourcer.

Det er ikke nyt for os at afveje sikkerhed og læring. I løbet af det seneste år har vi tilføjet forældrekontrol, aldersforudsigelse, vores plan for teenagersikkerhed og principper for personer under 18 år i vores modelspecifikationer – reglerne, der styrer, hvordan vores modeller skal opføre sig – for at sætte nye standarder for deres interaktion med unge. De forbyder romantisk engagement, opfordring til følelsesmæssig afhængighed og påstande om, at ChatGPT er et menneske eller har bevidsthed. Vi tilbyder også forældrekontrol, så familier kan administrere centrale indstillinger for deres teenagere og modtage underretninger i situationer med høj risiko.

SB 1119 etablerer en stærk ramme for AI-sikkerhed for unge i Californien. Fortsatte undersøgelser og samarbejde under implementeringen kan forbedre centrale bestemmelser og sikre, at rammen forbliver effektiv, i takt med at teknologien udvikler sig. OpenAI ser frem til at støtte dette arbejde og fortsat udvikle AI-oplevelser, der behandler teenagere som teenagere, med stærkere automatisk beskyttelse og reelle muligheder for at lære og udvikle sig.