OpenAI støtter Californias lovforslag om trygg KI for unge

Av Ann O’Leary, visepresident for global politikk

OpenAI støtter Californias senatslovforslag 1119, som innfører viktige sikkerhetstiltak for unges bruk av KI, samtidig som de beholder tilgangen til verktøy som kan hjelpe dem med å lære, skape og forberede seg på fremtiden. Støtten bygger videre på forpliktelsen Sam Altman, medgrunnlegger og administrerende direktør i OpenAI, ga uttrykk for i fjor da han presenterte selskapets prinsipper for tenåringer.

I mangel av føderale tiltak har California muligheten til å sette en tydelig standard for trygg KI for unge.

I brevet vårt til guvernør Newsom⁠(åpnes i et nytt vindu) berømmer vi ham, senator Steve Padilla, delstatsrepresentantene Buffy Wicks og Rebecca Bauer-Kahan samt Californias lovgivende forsamling for lederskapet de har vist i denne viktige saken. SB 1119 bygger videre på sikkerhetstiltak for unge som OpenAI har støttet gjennom produktene våre, globale politiske prinsipper, påvirkningsarbeid i California og arbeidet med Parents & Kids Safe AI Act. Vi oppfordrer guvernør Newsom til å undertegne lovforslaget.

Tenåringer er den første generasjonen som vokser opp med KI. Nesten ni av ti tenåringer som bruker ChatGPT, bruker det til læring, informasjon, kompetansebygging eller produktivitet i løpet av en vanlig uke. Denne muligheten medfører et tydelig ansvar: Tenåringer bør få opplevelser som er utformet etter deres særlige utviklingsbehov, med et høyt beskyttelsesnivå som standard og gode muligheter til å lære, skape og utforske.

Vår nylig lanserte ChatGPT for tenåringer gjenspeiler denne tilnærmingen. Løsningen er utviklet for å hjelpe brukere under 18 år med å lære, tenke kritisk og skape, samtidig som den fremmer sunn bruk, har innebygde sikkerhetstiltak og gir foreldre mer kontroll. Hvis systemet vårt anslår at noen er under 18 år, eller de oppgir at de er mellom 13 og 17 år, blir de automatisk plassert i ChatGPT for tenåringer. Denne beskyttelsen er en del av grunnopplevelsen, ikke valgfrie innstillinger som brukerne kan slå av.

Mer overordnet mener vi at tenåringer kan ha nytte av KI uten at det går på bekostning av sikkerheten – et mål som står sentralt i SB 1119.

SB 1119 kombinerer et høyt beskyttelsesnivå med fortsatt tilgang til nyttige KI-verktøy. Vi støtter disse sentrale kravene fullt ut:

• Fastslå brukerens alder;
• Identifisere og håndtere sikkerhetsrisikoer før et produkt gjøres tilgjengelig for unge;
• Gjennomgå uavhengige revisjoner;
• Beskytte unge mot skadelig innhold, inkludert selvskading, seksuelt utnyttende innhold og andre interaksjoner med høy risiko;
• Gi foreldre verktøy for å veilede og begrense barnas bruk;
• Sette unge i kontakt med krisehjelp når det oppstår alvorlige sikkerhetsrisikoer; og
• Begrense målrettet annonsering og beskytte unges personopplysninger.

For brukere som er identifisert som 13 til 17 år gamle, bør denne beskyttelsen gjelde automatisk. Lovforslaget vil kombinere reelt ansvar med sikkerhetstiltak som bidrar til å beskytte unge når de bruker KI.

SB 1119 anerkjenner også med rette at KI ikke er sosiale medier. Lovforslaget innfører beskyttelsestiltak som er tilpasset unges bruk av KI til læring, skapende arbeid og utforskning. Da rammeverket ble utarbeidet, ønsket beslutningstakerne å bevare tilgangen til funksjoner som er viktige for læring og sikkerhet, blant annet ansvarlig bruk av minnefunksjonen i ChatGPT, samtidig som de fremmet tryggere og alderstilpassede opplevelser for tenåringer.

ChatGPT for tenåringer har en rekke funksjoner som er spesielt tilpasset læring, blant annet quizer, læringsvisualiseringer og studiemodus. De er utviklet sammen med pedagoger og læringseksperter for å veilede elever gjennom problemer trinn for trinn. Disse verktøyene skal gi dypere forståelse og støtte bedre læringsvaner. Funksjoner som bruker kontekst fra tidligere samtaler, blant annet minne, bidrar til å bruke sikkerhetstiltak konsekvent, oppdage bekymringsfulle mønstre og gi mer nyttig læringsstøtte over tid.

Kontekst bidrar også til at disse sikkerhets- og læringsverktøyene fungerer mer konsekvent over tid. Gjennom funksjoner som minne kan ChatGPT ta med relevant informasjon og relevante preferanser fra tidligere samtaler, slik at tenåringer kan fortsette med langsiktige læringsprosjekter uten å måtte begynne på nytt. Denne kontinuiteten kan også bidra til å unngå at skadelige mønstre forsterkes, og gi mer effektive svar når en ung person kan trenge ekstra hjelp eller ressurser.

Det er ikke nytt for oss å balansere sikkerhet og læring. Det siste året har vi lagt til foreldrekontroll, aldersestimering, vår plan for tenåringers sikkerhet og prinsipper for personer under 18 år i våre modellspesifikasjoner – reglene som veileder hvordan modellene våre skal opptre – for å sette nye standarder for hvordan de bør samhandle med unge. De forbyr romantisk involvering, oppmuntring til emosjonell avhengighet og påstander om at ChatGPT er et menneske eller har bevissthet. Vi tilbyr også foreldrekontroll som lar familier administrere viktige innstillinger for tenåringene sine og motta varsler i situasjoner med høy risiko.

SB 1119 etablerer et solid rammeverk for trygg KI for unge i California. Videre utredning og samarbeid under gjennomføringen kan bidra til å forbedre sentrale bestemmelser og holde rammeverket effektivt etter hvert som teknologien utvikler seg. OpenAI ser frem til å støtte dette arbeidet og fortsette å utvikle KI-opplevelser som behandler tenåringer som tenåringer, med sterkere automatisk beskyttelse og gode muligheter til å lære og utvikle seg.