Vi delar med oss av en uppdatering av våra modellspecifikationer, den skriftliga uppsättningen regler, värderingar och beteendeförväntningar som styr hur vi vill att våra AI-modeller ska bete sig, särskilt i svåra eller kritiska situationer, med nya Under-18 (U18) Principles(öppnas i ett nytt fönster). Modellbeteende är avgörande för hur människor interagerar med AI, och tonåringar har andra utvecklingsbehov än vuxna.
U18 Principles är riktlinjer för hur ChatGPT ska erbjuda en säker och åldersanpassad upplevelse för tonåringar i åldern 13 till 17 år. Metoden bygger på utvecklingspsykologi och prioriterar förebyggande åtgärder, transparens och tidiga insatser. När vi utvecklade dessa principer gjorde vi en förhandsbedömning tillsammans med externa experter, däribland American Psychological Association (APA), som en del av vårt pågående arbete med att samla in feedback för att stärka vårt tillvägagångssätt.
Även om principerna i modellspecifikationerna fortfarande gäller både vuxna och tonåringar, klargör denna uppdatering hur dessa principer tillämpas i tonårskontexter, särskilt där säkerhetsaspekter för minderåriga kan vara mer framträdande.
U18 Principles är förankrade i fyra vägledande åtaganden:
- Prioritera ungdomars säkerhet, även om det kan stå i konflikt med andra mål
- Främja stöd i verkliga livet genom att uppmuntra till offline-relationer och tillförlitliga resurser
- Behandla tonåringar som tonåringar, varken nedlåtande eller som vuxna
- Var transparent genom att ställa tydliga förväntningar
I enlighet med vår Teen Safety Blueprint har dessa principer hittills varit vägledande för vårt arbete med tonåringssäkerhet, inklusive det innehållsskydd vi tillämpar för användare som uppger att de är under 18 år när de registrerar sig, samt genom föräldrainställningar. I dessa sammanhang har vi implementerat skyddsåtgärder för att styra modellen att vara extra försiktig när den diskuterar ämnen med ökad risk, inklusive självskada och självmord, romantiska eller sexualiserade rollspel, grafiskt eller explicit innehåll, farliga aktiviteter och substanser, kroppsbild och ätstörningar, och uppmaningar att hemlighålla riskfyllt beteende.
American Psychological Association, som granskade ett tidigt utkast till specifikationerna för U18-modellspecifikationerna och bidrog med viktiga insikter för långsiktig användning, är tydliga med vikten av att skydda tonåringar:
”APA rekommenderar AI-utvecklare att tillhandahålla utvecklingsmässigt lämpliga skyddsåtgärder för unga användare av deras produkter och att anta en mer skyddande hållning gentemot yngre användare. Barn och ungdomar kan ha nytta av AI-verktyg om de balanseras med mänskliga interaktioner, som enligt vetenskapen är avgörande för social, psykologisk, beteendemässig och till och med biologisk utveckling. Ungdomars erfarenheter av AI bör noggrant övervakas och diskuteras med vuxna som de litar på för att uppmuntra en kritisk bedömning av vad AI-botar erbjuder och för att främja ungdomars utveckling av självständigt tänkande och färdigheter.
Den här uppdateringen klargör också hur assistenten ska reagera när det uppstår säkerhetsproblem för ungdomar. Det innebär att tonåringar bör möta förstärkta säkerhetsåtgärder, säkrare alternativ och uppmuntran att söka pålitligt stöd offline när samtalen övergår till områden med högre risk. När det finns en överhängande risk uppmanas ungdomar att kontakta räddningstjänsten eller krisresurser.
I enlighet med övriga modellspecifikationer återspeglar U18 Principles vårt avsedda modellbeteende. Vi kommer att fortsätta att finjustera dem i takt med att vi införlivar ny forskning, råd från experter och användning i verkligheten.
Tillsammans med uppdateringen av modellspecifikationerna har vi infört en flerdimensionell strategi för att stärka säkerheten för tonåringar i ChatGPT, som omfattar produktskydd, familjestöd och expertrådgivning.
Sedan vi lanserade föräldrainställningar(öppnas i ett nytt fönster) har vi utökat skyddet till nya produkter, inklusive gruppchatt, webbläsaren ChatGPT Atlas och appen Sora. De här uppdateringarna hjälper föräldrar att skräddarsy sina tonåringars ChatGPT‑upplevelse i takt med att vi introducerar nya produkter och funktioner.
I enlighet med experternas rekommendationer uppmuntrar vi till regelbundna samtal mellan föräldrar och tonåringar om en sund och ansvarsfull användning av AI i familjen. För att stödja dessa samtal har vi lagt till nya expertutvärderade resurser till föräldraresurscentret(öppnas i ett nytt fönster), inklusive en familjeguide för att hjälpa tonåringar att använda AI ansvarsfullt(öppnas i ett nytt fönster) och tips till föräldrar(öppnas i ett nytt fönster) om hur de kan prata med sina barn om AI, som har granskats av ConnectSafely och medlemmar i vårt Expert Council on Well-Being och AI. Vi kommer att fortsätta lägga till fler resurser med tiden. Vi stöder också en sund användning direkt i produkten, med inbyggda påminnelser om att ta pauser under långa sessioner för att säkerställa att ChatGPT används på ett lämpligt och balanserat sätt.
Vårt arbete med tonåringars säkerhet styrs av ett nära samarbete med experter inom olika discipliner och områden. I oktober inrättade vi Expert Council on Well-Being och AI för att ge råd och definiera hur en sund interaktion med AI bör se ut för alla åldrar. Detta arbete har resulterat i riktlinjer för föräldrainställningar och föräldraaviseringar. Vi införlivar också klinisk expertis genom vårt Global Physician Network för att informera säkerhetsforskning och utvärdera modellbeteende, inklusive att förbättra hur ChatGPT känner igen nödsituationer och rekommenderar människor professionell hjälp när det är lämpligt. Vi byggde vidare på dessa grunder med GPT‑5.2, och vi har också utökat tillgången till stöd i verkliga livet genom att göra lokala hjälplinjer tillgängliga i ChatGPT och Sora genom vårt samarbete med ThroughLine(öppnas i ett nytt fönster).
Vi befinner oss i ett tidigt skede av lanseringen av en åldersberäkningsmodell(öppnas i ett nytt fönster) för ChatGPT:s konsumentabonnemang. Det hjälper oss att automatiskt tillämpa skyddsåtgärder för tonåringar när vi tror att ett konto tillhör en minderårig. Om vi är osäkra på en persons ålder eller har ofullständig information väljer vi det säkraste alternativet och visar upplevelsen för användare under 18 år, vilket ger vuxna möjlighet att verifiera sin ålder för att låsa upp vuxenfunktioner.
Att stärka säkerheten för tonåringar är ett pågående arbete, och vi kommer att fortsätta förbättra föräldrakontroller och modellkapaciteter, utöka resurserna för föräldrar och samarbeta med organisationer, forskare och expertpartner, inklusive Well-Being Council och Global Physician Network.
Vi är fast beslutna att erbjuda starkt skydd för tonåringar och att förbättra skyddet över tid för att bättre stötta tonåringar och familjer.
