Främja ungas säkerhet och möjligheter genom globalt ledarskap

AI kan vara ett kraftfullt verktyg för unga. Den kan hjälpa elever att förstå ett svårt begrepp, öva på ett nytt språk, förbereda sig inför en jobbintervju, utforska kreativa idéer eller lära sig en ny färdighet. Precis som läskunnighetsrörelsen som spreds över världen i mitten av 1900-talet krävde massdistribution av tryckt text och tillgång till utbildade lärare, kommer tillgång till säker AI i dag att skapa nya möjligheter för individanpassat lärande, bidra till att minska hinder för underbetjänade grupper och öka beredskapen för arbetslivet.

Eftersom de potentiella fördelarna är så betydande är det avgörande att unga kan få tillgång till AI på sätt som är säkra, åldersanpassade och som stödjer en sund utveckling. Det ansvaret bör inte i första hand ligga på föräldrarna eller de unga själva. Företag, däribland OpenAI, har ett ansvar att bygga produkter med lämpliga skydd som standard, samtidigt som familjer ges verktyg och information för att vägleda hur AI används.

När stats- och regeringschefer samlas vid G7-ledarnas toppmöte i Évian i Frankrike senare denna månad kommer frågan om AI-säkerhet för unga att stå i fokus. OpenAI kommer att delta för att diskutera närmare samarbeten kring ungas säkerhet, hur vi kan arbeta tillsammans för att höja branschstandarderna och OpenAI:s nya uppmaning om att inrätta ett internationellt institut för ungas säkerhet.

G7-ledarnas toppmöte erbjuder en sällsynt möjlighet till global samordning kring ungas säkerhet. Men ett särskilt institut skulle ge den kontinuitet och uppföljning som behövs bortom ett enskilt toppmöte, och hjälpa regeringar, forskare, civilsamhälle och näringsliv att fortsätta samarbeta för att dela evidens, ta fram vägledning och höja standarderna över tid.

Det finns flera rimliga sätt att åstadkomma detta på: genom ett nytt internationellt institut eller genom att ge ett befintligt eller nyinrättat nationellt AI-institut ett globalt uppdrag att dela forskning, kunskapsunderlag och vägledning med samarbetspartner runt om i världen. Det avgörande är vilken funktion det fyller. AI-säkerhet för unga kräver långsiktigt engagemang, tillförlitligt kunskapsunderlag och praktisk vägledning som kan utvecklas i takt med tekniken.

Ett sådant institut kan bygga vidare på initiativ som redan håller på att ta form, såsom Common Sense Medias Youth AI Safety Institute, med stöd från OpenAI Foundation, samt på praktiska samarbeten med utbildningssektorn, däribland OpenAI:s arbete med American Federation of Teachers⁠. Det bör också dra lärdom av praktiska tillämpningar, såsom Estlands nationella införande av ChatGPT i skolorna, där OpenAI samarbetar med Stanford och estniska forskare för att undersöka effekterna och bidra till en säkrare och mer effektiv användning i undervisningen.

OpenAI välkomnar möjligheten att samarbeta med den franska regeringen, andra G7-regeringar och partner inom civilsamhället, akademin och näringslivet kring detta viktiga arbete och för att höja globala standarder för ungas säkerhet.

Vi anser att starka ramverk för AI-säkerhet för unga, inklusive eventuella överenskommelser som nås vid G7-sammankomster, bör vägledas av de principer som vi lägger fram här.

1. Företag bör veta när en användare är minderårig och tillämpa åldersanpassade skydd. Det innebär att leverantörer måste använda metoder som effektiv, integritetsbevarande åldersuppskattning för att skilja minderåriga från vuxna, och använda skyddsåtgärder som standard när en användares ålder inte kan fastställas. Utan denna grund kan även de mest välmenande skydden för unga misslyckas med att nå de unga människor som de är avsedda att skydda.
2. Företag bör regelbundet bedöma både risker och fördelar för unga och vidta åtgärder för att hantera dem – innan skada uppstår. Det innebär att leverantörer måste genomföra årliga riskbedömningar av ungas säkerhet och införa proportionerliga skyddsåtgärder utifrån de risker de identifierar. Sådana bedömningar bör beakta risker för unga utifrån deras utvecklingsstadium, empirisk evidens från faktisk användning och relevant forskning eller vägledning från tillsynsmyndigheter. Bedömningarna bör inte bara beakta potentiell skada, utan också om AI stödjer positiva resultat som lärande, kreativitet, färdighetsutveckling och tillgång till möjligheter.
3. Föräldrar och vårdnadshavare bör ha tillgång till lättillgängliga och lättanvända kontroller som hjälper dem att vägleda sina barns upplevelser samtidigt som de stödjer åldersanpassad självständighet. Dessa bör omfatta verktyg för att hantera viktiga inställningar, inklusive minne, dataanvändning och tidsgränser. Föräldraverktyg bör lyftas fram aktivt så att föräldrar vet att de finns och förstår hur de ska användas. 
4. Familjer förtjänar tydlig och begriplig information om hur företag skyddar unga användare och meningsfull information om både fördelarna och riskerna med ungas användning av AI. Företag bör publicera säkerhetspolicyer som förklarar vilka skydd som finns för att skydda unga, vilka föräldraverktyg som finns tillgängliga och hur skydden uppdateras när riskerna utvecklas. Denna transparens bygger förtroende och hjälper föräldrar att fatta välgrundade beslut.
5. Företag bör ha tydliga protokoll för att hantera allvarliga säkerhetssituationer, däribland självskadebeteende, utnyttjande, grooming, sexuellt exploaterande innehåll och andra högriskinteraktioner. Dessa bör omfatta stöd i tjänsten, hänvisningar till lämpliga resurser och, när det är lämpligt, skyndsamma aviseringar till föräldrar. Företag bör också utforma sina system så att de förhindras från att generera innehåll som är osäkert eller utvecklingsmässigt olämpligt för barn, inklusive grafiskt sexuellt eller våldsamt material.  
6. AI-system som används av unga bör utformas för att stödja lärande, utveckling och relationer i verkliga livet – inte ersätta dem. AI bör fungera som ett verktyg som hjälper unga att lära sig, skapa, bygga färdigheter och förbereda sig för framtiden. Samtidigt bör företag fastställa tydliga gränser inom områden där en sund utveckling är beroende av mänskligt omdöme, relationer i verkliga livet och professionellt stöd.
7. Minderårigas personuppgifter bör skyddas. Det innebär att integritetskränkande, riktad annonsering till unga förbjuds och att företag hindras från att sälja personuppgifter.
8. Ramverk för ungas säkerhet bör främja möjligheter, kunskap och skydd. Unga bör ha tillgång till AI-verktyg som stödjer lärande, kreativitet, färdighetsutveckling och framtida möjligheter, samtidigt som de får den kunskap och det kritiska tänkande som krävs för att använda AI säkert och ansvarsfullt. Detta omfattar att främja AI-kunnighet och hjälpa unga att förstå AI-systems möjligheter och begränsningar, så att de kan agera tryggt och ansvarsfullt i digitala miljöer.
9. Starka mekanismer för ansvarstagande, inklusive oberoende granskningar, är avgörande för att säkerställa att dessa skydd får verklig betydelse i praktiken. Granskningar bör bygga på en uppsättning gemensamma standarder som möjliggör interoperabla granskningar mellan jurisdiktioner. Lagstiftningsramverk bör omfatta tillsyns- och verkställighetsåtgärder som gör det möjligt för regeringar att bedöma om företag effektivt inför skyddsåtgärder för ungas säkerhet, minskar identifierade risker och följer skyldigheter för ungas säkerhet och integritet.

Principerna kommer till uttryck i hur vi utvecklar och driver ChatGPT, från modellbeteende och produktutformning till expertkunskap och stöd utanför tjänsten. Vi har stärkt skyddsåtgärderna för användare under 18 år, lanserat föräldrakontroller⁠ med proaktiva aviseringar och infört avancerade system⁠ för åldersbedömning så att ChatGPT kan tillämpa starkare skydd när en användare kan vara under 18 år. Vår Model Spec, som beskriver hur våra modeller ska bete sig, innehåller också särskilda principer för användare under 18⁠(öppnas i ett nytt fönster) år med fokus på tonåringars säkerhet, åldersanpassade upplevelser, stöd utanför tjänsten och tydliga ramar. I praktiken innebär det starkare skyddsåtgärder kring självskadebeteende, farliga aktiviteter, grafiskt innehåll, kroppsuppfattning och uppmaningar till hemlighetsmakeri, samt uppmuntran att söka stöd från betrodda personer eller krisresurser när det behövs. När åldern inte kan fastställas tillämpar vi starkare skyddsåtgärder.

AI som utvecklas med starka skyddsåtgärder, tydlig vägledning och stöd från familjer och lärare kan hjälpa unga att på ett säkert sätt dra nytta av verktyg som främjar lärande, kreativitet och nya möjligheter. AI kan hjälpa elever att förstå svåra begrepp, öva språk, förbättra sitt skrivande, lära sig programmera, strukturera research, utforska kreativa idéer och förbereda sig för en arbetsmarknad som redan är under förändring. Genom Education for Countries⁠ samarbetar OpenAI med regeringar och utbildningsaktörer kring forskningsbaserade implementeringar, lokalt anpassade lärverktyg och fortbildning för lärare, så att användningen av AI vilar på evidens och faktiska behov i klassrummet. Arbetet stödjer redan nationella utbildningssatsningar i samarbete med våra partnerländer, däribland Estland⁠, Grekland⁠ och Singapore⁠.

Utöver deltagandet i ledartoppmötet kommer vi att ta OpenAI Forum⁠(öppnas i ett nytt fönster) till Paris för att samla till ett praktiskt samtal om hur regeringar, forskare, civilsamhälle, lärare och näringsliv kan omsätta gemensamma mål för ungas säkerhet i konkreta skyddsåtgärder, standarder och införandepraxis. Frankrikes ambassadör för AI och digitala frågor, Clara Chappaz, kommer att delta tillsammans med OpenAI:s Chief Global Affairs Officer Chris Lehane, ledare inom ungas säkerhet från iRaise/Everyone.AI och andra experter i en diskussion om hur unga kan dra nytta av AI samtidigt som riskerna minskas.