Varför tonåringar förtjänar tillgång till säker AI

Tonåringar är den första generationen som växer upp med AI, och den här tekniken kommer att prägla deras framtid starkt. I dag använder nästan 9 av 10 tonåriga ChatGPT‑användare tjänsten under en vecka för lärande, information, färdighetsutveckling eller produktivitet. Därför anser vi att det är avgörande att tonåringar har tillgång till AI. Att hindra tonåringar från att använda den fram till vuxen ålder vore som att be en tidigare generation undvika internet eller sökmotorer tills de fyllde 18. Det skulle göra dem sämre rustade att använda en av sin tids mest betydelsefulla tekniker. Men tillgången måste kombineras med skyddsåtgärder som är särskilt utformade för tonåringar.

Under ett nyligen genomfört OpenAI Academy⁠(öppnas i ett nytt fönster)-evenemang berättade Oriana McKenzie hur ChatGPT hjälpte henne att bli etta i sin gymnasieklass genom att studera smartare och hantera sin arbetsbelastning – vilket gav henne den tid hon behövde för de sporter och skolprogram hon älskar. Hennes berättelse visar vad som är möjligt när tonåringar får tillgång till AI som hjälper dem att lära och skapa.

För att maximera de vinsterna behöver tonåringar starkare skydd som är utformade för deras skede i livet, inklusive automatiserade skyddsräcken som låter dem utforska, lära och bygga med tillförsikt, samtidigt som de får skydd anpassade efter sin ålder. I takt med att AI blir mer kapabel är vårt ansvar att kombinera bred tillgång med åldersanpassade skydd som gör att tonåringar kan dra nytta av tekniken när den utvecklas.

Under det senaste året har det inneburit att vi har stärkt standardskyddet för tonåringar, infört åldersbedömning⁠, utökat Föräldrakontroller⁠, tagit fram fler resurser för familjer⁠(öppnas i ett nytt fönster) som hjälper föräldrar att stödja en sund och ansvarsfull användning samt infört funktioner som främjar lärande genom att hjälpa användare att utveckla en djupare förståelse i stället för att bara ge svar.

Vårt arbete vägleds av fyra viktiga åtaganden⁠:

• Vi sätter tonåringars säkerhet främst, även när det kan stå i konflikt med andra mål.
• Vi uppmuntrar stöd i verkliga livet när det behövs.
• Vi behandlar tonåringar som tonåringar.
• Vi är transparenta genom att skapa tydliga förväntningar.

Lärande är ett av de tydligaste sätten som tonåringar kan dra nytta av AI på, så vi bygger verktyg som uppmuntrar aktivt engagemang, kritiskt tänkande och djupare förståelse. Studieläge⁠(öppnas i ett nytt fönster) utformades i samarbete med lärare, lärandeforskare och pedagogikexperter för att hjälpa elever att arbeta sig igenom problem steg för steg med hjälp av vägledande frågor, strukturerade förklaringar och tillfällen för reflektion utan att bara få svaret. Tidiga utvärderingar av verktyg som Studieläge har visat lovande förbättringar av elevers prestationer⁠, vilket bidrar till vår bredare forskning om hur AI kan stödja läranderesultat.

Även om tonåringar själva kan aktivera det här läget kan föräldrar med länkade tonårskonton nu aktivera Studieläge⁠ direkt från Föräldrainställningar⁠. När det är aktiverat är det på som standard varje gång en tonåring startar en ny chatt, vilket ger familjer ytterligare ett sätt att vägleda hur ChatGPT används för skolarbete och studier.

Vi har också nyligen introducerat utbildningsinriktade startpromptar för tonåringar, så att det blir enklare att börja med uppgifter som att bryta ner ett ämne i enkla steg, omvandla anteckningar till en studieguide, skapa flashcards eller övningsfrågor samt kontrollera belägg och tydlighet.

Vi fortsätter också att utöka interaktiva lärandeupplevelser⁠. Forskning har konsekvent visat⁠ att människor lär sig mer effektivt när de aktivt kan engagera sig i begrepp i stället för att passivt ta till sig information. Sedan lanseringen tidigare i år använder nu 18 miljoner användare varje vecka interaktiva matematik- och naturvetenskapsupplevelser i ChatGPT, och vi har utökat dessa upplevelser till fler än 250 nya ämnen, från integraler och mitos till månens faser, fotosyntes och mer. Vi har också introducerat en uttalsupplevelse som använder ljud för att hjälpa människor att lära sig uttala ord på fler än 61 språk.

Om vårt system bedömer att någon som använder ChatGPT är under 18 år⁠ ger vi automatiskt en mer åldersanpassad upplevelse⁠(öppnas i ett nytt fönster). Tonåringar kan fortfarande använda ChatGPT för att lära, skapa och utforska, men med ytterligare skydd som är utformade för att minska exponeringen för innehåll som kanske inte är lämpligt för dem. Det omfattar starkare skydd kring grovt våld, självskada, riskfyllda virala utmaningar, innehåll som främjar en ohälsosam kroppsbild och farligt, romantiskt eller sexuellt rollspel. Vår ledstjärna är att bidra till att ChatGPT förblir ett verktyg för lärande och kreativitet, inte en ersättning för relationer i verkliga livet.

Vi utformar också ChatGPT så att det uppmuntrar sunda vanor. Tonåringar som tillbringar längre tid i ChatGPT kommer nu att få mer frekventa pauspåminnelser⁠ som uppmuntrar dem att pausa och kliva bort. Dessa påminnelser är avsedda att hjälpa unga att bygga balanserade teknikvanor, samtidigt som de behåller friheten att använda AI för lärande, kreativitet och problemlösning.

Vi tror att de bästa säkerhetsverktygen kan hjälpa familjer att tillsammans navigera tonåringars upplevelser på nätet. Vi byggde föräldrainställningar och aviseringar⁠ som gör det möjligt för dem att ställa in tysta timmar, stänga av röstläge, hantera tillgång till bildgenerering och få aviseringar i vissa högrisksituationer, till exempel tecken på möjlig självskada.

Vi utökar nu dessa aviseringar så att de även omfattar fall där ett länkat tonårskonto har inaktiverats för att ha brutit mot våra användningspolicyer⁠ genom våldshot eller våldshandlingar på nätet. Syftet är att ge föräldrar information när något allvarligt har inträffat, samtidigt som tonåringars integritet respekteras och samtal och stöd utanför nätet uppmuntras.

När vi utvecklade de här funktionerna rådfrågade vi flera experter, däribland Moonshot⁠(öppnas i ett nytt fönster), en ledare inom förebyggande av våld online, för att bidra till att insatserna är genomtänkta, effektiva och inriktade på att hjälpa familjer att agera när det behövs.

Vi vill också säkerställa att föräldrar, tonåringar och lärare har tydlig vägledning om hur AI bäst används ansvarsfullt. Vi publicerar utbildningsresurser på fler än 50 språk, däribland En familjeguide som hjälper tonåringar att använda AI ansvarsfullt⁠(öppnas i ett nytt fönster), Tips för att prata med din tonåring om AI⁠(öppnas i ett nytt fönster) och Tips för föräldrar som använder ChatGPT⁠(öppnas i ett nytt fönster).

Att hålla unga säkra på nätet är inget som ett enskilt företag kan lösa på egen hand. Vi arbetar nära tonåringar, föräldrar, lärare, experter på barns säkerhet, psykologer och andra yrkespersoner inom psykisk hälsa, forskare, myndigheter och civilsamhällesorganisationer. Dessa partnerskap hjälper oss att bättre förstå ungas behov, identifiera framväxande risker, utvärdera hur effektiva våra skyddsåtgärder är och säkerställa att våra policyer bygger på oberoende expertis.

Det här arbetet omfattar vår syn på både lärande och ungas välbefinnande. Vi samarbetar med lärare, däribland American Federation of Teachers⁠, elever och lärandeorganisationer för att bättre förstå hur AI kan stödja undervisning och lärande samtidigt som aktivt engagemang och kritiskt tänkande stärks. Vi arbetar också nära experter inom psykisk hälsa, barns utveckling och ungdomssäkerhet, däribland American Psychological Association⁠(öppnas i ett nytt fönster), vårt Global Physicians Network⁠ och vårt expertråd för välbefinnande och AI⁠.

Vårt arbete med att bygga ett sundare digitalt ekosystem sträcker sig längre än våra egna produkter. Vi har efterlyst utveckling av skalbara globala standarder för ungas AI-säkerhet⁠ genom ett särskilt AI Safety Institute, policyer och verktyg med öppen källkod⁠ som utvecklare kan bygga in i sina egna AI-system, samt samarbete med organisationer som Common Sense Media⁠(öppnas i ett nytt fönster) och everyone.ai⁠(öppnas i ett nytt fönster) för att dela lärdomar och bästa praxis.

I år gick vi också med i Family Online Safety Institute⁠(öppnas i ett nytt fönster) (FOSI), en mångårig förespråkare för trygga onlineupplevelser för familjer och unga. Vi kommer att arbeta tillsammans för att säkerställa att unga kan dra nytta av AI, med stärkta föräldrar och ansvarsfull branschpraxis i centrum. Vi hoppas att detta partnerskap ska bidra till en gemensam förståelse av vad som fungerar, stärka åldersanpassade skydd och föräldraverktyg samt stödja branschövergripande insatser som gör det möjligt för unga att dra nytta av AI på ett säkert och ansvarsfullt sätt.

Att skydda unga på nätet kräver ständiga framsteg. Under de kommande månaderna fortsätter vi att stärka åldersanpassade skydd, ge föräldrar fler verktyg och mer kontroll, förbättra skydd mot allvarliga skador, driva forskning om sund AI-användning framåt och bygga fler upplevelser som hjälper tonåringar att lära aktivt och använda AI med tillförsikt.

Vi vet att det finns mer att göra, och vi är fast beslutna att fortsätta vårt arbete i samarbete med tonåringar, föräldrar, lärare, experter och samhällen världen över för att ge tonåringar säker och bred tillgång.