OpenAI stöder Kaliforniens lagförslag om AI-säkerhet för unga

Av Ann O’Leary, global policychef

OpenAI stöder Kaliforniens lagförslag SB 1119, som inför betydande skyddsåtgärder för ungas användning av AI, samtidigt som de får fortsatt tillgång till verktyg som kan hjälpa dem att lära, skapa och förbereda sig för framtiden. Stödet bygger vidare på det åtagande som Sam Altman, OpenAI:s medgrundare och vd, gjorde förra året när han presenterade företagets principer för tonåringar.

När federala åtgärder saknas har Kalifornien möjlighet att sätta en hög standard för ungas AI-säkerhet.

I vårt brev till guvernör Newsom⁠(öppnas i ett nytt fönster) berömmer vi honom, senator Steve Padilla, ledamöterna Buffy Wicks och Rebecca Bauer-Kahan samt Kaliforniens lagstiftande församling för deras ledarskap i denna viktiga fråga. Lagförslaget SB 1119 bygger vidare på åtgärder för ungas säkerhet som OpenAI har stött genom våra produkter, globala policyprinciper, vårt påverkansarbete i Kalifornien och vårt arbete med lagen Parents & Kids Safe AI Act. Vi uppmanar guvernör Newsom att underteckna lagförslaget.

Tonåringar är den första generationen som växer upp med AI. Nästan nio av tio tonåringar som använder ChatGPT tar under en typisk vecka hjälp av tjänsten för att lära sig, söka information, utveckla färdigheter eller bli mer produktiva. Den möjligheten medför ett tydligt ansvar: tonåringars upplevelser bör utformas efter deras särskilda utvecklingsbehov, med starka standardskydd och lämpliga möjligheter att lära, skapa och utforska.

Vår nyligen lanserade ChatGPT för tonåringar bygger på detta synsätt. Den är utformad för att hjälpa användare under 18 år att lära, tänka kritiskt och skapa, samtidigt som den främjar en sund användning, har inbyggda skyddsåtgärder och ger föräldrar fler kontrollmöjligheter. Om vårt system bedömer att någon är under 18 år, eller om personen uppger att hen är mellan 13 och 17 år, placeras hen automatiskt i ChatGPT för tonåringar. Dessa skydd ingår i grundupplevelsen och är inte valfria inställningar som användaren kan stänga av.

Mer övergripande anser vi att tonåringar kan dra nytta av AI utan att säkerheten äventyras, ett mål som står i centrum för SB 1119.

SB 1119 kombinerar starka skydd med fortsatt tillgång till användbara AI-verktyg. Vi ger vårt starka stöd till följande centrala krav:

• Fastställa användarens ålder
• Identifiera och hantera säkerhetsrisker innan en produkt görs tillgänglig för unga
• Genomgå oberoende granskningar
• Skydda unga från skadligt innehåll, däribland självskadeinnehåll, sexuellt exploaterande innehåll och andra interaktioner med hög risk
• Ge föräldrar verktyg för att vägleda och begränsa sina barns användning
• Hänvisa unga till stödresurser vid kriser när allvarliga säkerhetsrisker uppstår
• Begränsa riktad reklam och skydda ungas personuppgifter.

För användare som identifieras som 13–17 år bör dessa skydd tillämpas automatiskt. Lagstiftningen skulle förena verkligt ansvarsutkrävande med skyddsåtgärder som bidrar till att skydda unga när de använder AI.

SB 1119 slår också med rätta fast att AI inte är sociala medier. Lagförslaget inför skydd som är anpassade för att hjälpa unga att använda AI för att lära, skapa och utforska. När ramverket utarbetades ville beslutsfattarna bevara tillgången till utbildningsfunktioner och säkerhetskritiska funktioner, däribland ansvarsfull användning av ChatGPT:s minnesfunktion, samtidigt som säkrare och åldersanpassade upplevelser för tonåringar främjas.

ChatGPT för tonåringar innehåller flera funktioner som särskilt anpassats för att hjälpa tonåringar att lära, exempelvis quiz, lärandevisualiseringar och Studieläge. De har utvecklats tillsammans med pedagoger och inlärningsexperter för att stegvis vägleda elever genom problem. Verktygen är avsedda att fördjupa förståelsen och främja bättre studievanor. Funktioner som använder sammanhang från tidigare samtal, däribland minnet, bidrar till att skyddsåtgärder tillämpas konsekvent, oroande mönster upptäcks och ett mer användbart stöd för lärande kan ges över tid.

Sammanhanget hjälper också dessa säkerhets- och lärandeverktyg att fungera mer konsekvent över tid. Med funktioner som minne kan ChatGPT ta med relevant information och relevanta preferenser från tidigare samtal, så att tonåringar kan fortsätta med långsiktiga lärandeprojekt utan att behöva börja om. Denna kontinuitet kan också motverka att skadliga mönster förstärks och möjliggöra effektivare svar när en ung person kan behöva ytterligare hjälp eller resurser.

Att balansera säkerhet och lärande är inget nytt för oss. Under det senaste året har vi lagt till Föräldrainställningar, åldersbedömning, vår plan för tonåringars säkerhet och principer för personer under 18 år i våra Modellspecifikationer. Det här är regler som styr hur våra modeller är avsedda att agera och sätter nya standarder för hur de bör interagera med unga. De förbjuder romantiska relationer, uppmuntran till känslomässigt beroende och påståenden om att ChatGPT är en människa eller har ett medvetande. Vi erbjuder även Föräldrainställningar som gör det möjligt för familjer att hantera viktiga inställningar för sina tonåringar och få aviseringar i högrisksituationer.

SB 1119 inför ett starkt ramverk för ungas AI-säkerhet i Kalifornien. Fortsatta studier och samarbeten under genomförandet kan bidra till att förbättra centrala bestämmelser och hålla ramverket effektivt i takt med att tekniken utvecklas. OpenAI ser fram emot att stödja detta arbete och fortsätta utveckla AI-upplevelser som behandlar tonåringar som tonåringar, med starkare automatiska skydd och goda möjligheter att lära och utvecklas.