Opdatering af vores model til beskyttelse af teenagere

Vi deler en opdatering af vores model, det skriftlige sæt regler, værdier og adfærdsmæssige forventninger, der vejleder, hvordan vi ønsker, at vores AI-modeller skal opføre sig, især i vanskelige eller kritiske situationer, med nye Under-18-principper (U18)⁠(åbner i et nyt vindue). Modeladfærd er afgørende for, hvordan folk interagerer med AI, og teenagere har forskellige udviklingsbehov end voksne.

U18-principperne vejleder til, hvordan ChatGPT skal give en sikker, alderssvarende oplevelse for teenagere i alderen 13 til 17 år. Baseret på udviklingsvidenskab prioriterer denne tilgang forebyggelse, transparens og tidlig indgriben. Under udviklingen af disse principper lavede vi en forhåndsvisning med eksterne eksperter, herunder American Psychological Association, som en del af vores løbende arbejde med at søge input til at styrke vores tilgang.

Mens principperne i modellen fortsat gælder for både voksne og teenagere, præciserer denne opdatering, hvordan disse principper anvendes i teenage-kontekster, især hvor sikkerhedshensyn for mindreårige kan være mere fremtrædende. 

U18-principperne er forankret i fire vejledende forpligtelser:

• Sæt teenagerens sikkerhed i første række, selv når det kan være i konflikt med andre mål
• Fremme understøttelse i den virkelige verden ved at opmuntre til offline-relationer og pålidelige ressourcer
• Behandl teenagere som teenagere, vær hverken nedladende over for dem eller behandl dem som voksne
• Vær transparent ved at sætte klare forventninger

I overensstemmelse med vores Teen Safety Blueprint⁠ har disse principper guidet vores arbejde med teenagersikkerhed indtil nu, herunder de indholdsbeskyttelser, vi anvender på brugere, der fortæller os, at de er under 18 ved tilmelde sig, og gennem forældrestyring. I disse kontekster har vi indført sikkerhedsforanstaltninger for at vejlede modellen til at være ekstra forsigtig, når der tales om højrisikoområder, herunder selvskade og selvmord, romantisk eller seksualiseret rollespil, grafisk eller eksplicit indhold, farlige aktiviteter og stoffer, kropsbillede og spiseforstyrrelser samt anmodninger om at holde hemmeligheder om usikker adfærd.

Den amerikanske psykologforening, som gennemgik et tidligt udkast til U18-modellen og gav vigtig langsigtet indsigt, er klar over vigtigheden af at beskytte teenagere:

Denne opdatering præciserer også, hvordan assistenten skal reagere, når der opstår sikkerhedsbekymringer for teenagere. Dette betyder, at teenagere bør møde stærkere sikkerhedsværn, sikrere alternativer og opmuntring til at søge betroet offline-understøttelse, når samtaler bevæger sig ind i højrisikoområder. Hvor der er en nært forestående risiko, opfordres unge til at kontakte nødtjenester eller krisehjælpsressourcer.

Ligesom resten af modelspecifikationen afspejler U18-principperne vores tilsigtede modeladfærd. Vi vil fortsætte med at finjustere dem, efterhånden som vi inddrager ny forskning, ekspertinput og praktisk anvendelse.

Sammen med opdateringen af modellen har vi en tilgang i flere lag til at styrke sikkerheden for unge⁠ på tværs af ChatGPT, der omfatter produktsikkerhedsforanstaltninger, familieunderstøttelse og ekspertvejledning.

Siden vi lancerede forældrestyring⁠(åbner i et nyt vindue), har vi udvidet beskyttelsen til nye produkter, herunder gruppechats, ChatGPT Atlas-browseren og Sora-appen. Disse opdateringer hjælper forældre med at tilpasse deres teenagers ChatGPT‑oplevelse i takt med, at vi introducerer nye produkter og funktioner.

I overensstemmelse med ekspertvejledning opfordrer vi til løbende samtaler mellem forældre og teenagere om sund og ansvarlig brug af AI i deres familie. For at understøtte disse samtaler har vi tilføjet nye ekspertvurderede ressourcer til forældrenes ressourcehub⁠(åbner i et nyt vindue), herunder en familievejledning til at hjælpe teenagere med at bruge AI ansvarligt⁠(åbner i et nyt vindue) og tips til forældre⁠(åbner i et nyt vindue) om, hvordan du kan tale med dine børn om AI, som er blevet gennemgået af ConnectSafely og medlemmer af vores Ekspertråd for trivsel og AI⁠. Vi vil fortsætte med at tilføje flere ressourcer over tid. Vi tilbyder også understøttelse af sund brug direkte i produktet med indbyggede pausepåmindelser⁠ under lange sessioner for at hjælpe med at holde tiden brugt med ChatGPT målrettet og afbalanceret.

Vores arbejde med sikkerhed for teenagere er styret af tæt samarbejde med eksperter på tværs af discipliner og ekspertise. I oktober oprettede vi et Ekspertråd for trivsel og AI⁠ til at rådgive og definere, hvordan sunde interaktioner med AI bør se ud for alle aldre. Dette arbejde har givet vejledning om forældrestyring og forældrenotifikationer. Vi integrerer også klinisk ekspertise gennem vores Global Physician Network⁠ til at informere sikkerhedsforskning og evaluere modeladfærd, herunder forbedre hvordan ChatGPT genkender lidelser og guider folk mod professionel hjælp, når det er passende. Vi byggede videre på disse fundamenter med GPT‑5.2⁠, og vi har også udvidet adgangen til understøttelse i den virkelige verden ved at fremhæve lokaliserede hjælpelinjer i ChatGPT og Sora gennem vores partnerskab med ThroughLine⁠(åbner i et nyt vindue).

Vi er i de tidlige stadier af at udrulle en aldersforudsigelsesmodel⁠(åbner i et nyt vindue) på ChatGPT‑planer. Dette vil hjælpe os med automatisk at anvende sikkerhedsforanstaltninger for teenagere, når vi tror, at en konto tilhører en mindreårig. Hvis vi ikke er sikre på en persons alder eller har ufuldstændige oplysninger, vil vi som standard vælge U18-oplevelsen og give voksne personer måder at verificere deres alder på.

At styrke teenagernes sikkerhed er et vedvarende arbejde, og vi fortsætter med at forbedre forældrestyring og modelkapaciteter, udvider ressourcerne til forældre og samarbejder med organisationer, forskere og ekspertpartnere, herunder Trivselsrådet og Global Physician Network. 

Vi er forpligtede til at skabe stærk beskyttelse for teenagere og forbedre dem over tid for bedre at understøtte teenagere og familier.