Vi deler en oppdatering av våre modellspesifikasjoner, det skriftlige settet med regler, verdier og atferdsforventninger som veileder hvordan vi ønsker at KI-modellene våre skal oppføre seg, spesielt i vanskelige eller kritiske situasjoner, med nye Under-18 (U18) Principles(åpnes i et nytt vindu). Modellatferd er avgjørende for hvordan folk interagerer med KI, og tenåringer har andre utviklingsbehov enn voksne.
U18 Principles veileder hvordan ChatGPT skal gi en trygg, alderstilpasset opplevelse for tenåringer i alderen 13 til 17 år. Forankret i utviklingsvitenskap prioriterer denne tilnærmingen forebygging, åpenhet og tidlig intervensjon. I utviklingen av disse prinsippene forhåndsvurderte vi dem med eksterne eksperter, inkludert American Psychological Association, som en del av vårt pågående arbeid for å innhente tilbakemeldinger for å styrke vår tilnærming.
Mens prinsippene i modellspesifikasjonene fortsatt gjelder for både voksne og tenåringsbrukere, tydeliggjør denne oppdateringen hvordan disse prinsippene anvendes i tenåringskontekster, spesielt der sikkerhetshensyn for mindreårige kan være mer fremtredende.
U18 Principles er forankret i fire veiledende forpliktelser:
- Prioriter tenåringssikkerhet, selv når det kan komme i konflikt med andre mål
- Frem promotering av støtte i den virkelige verden ved å oppmuntre til offline relasjoner og pålitelige ressurser
- Behandle tenåringer som tenåringer, verken vær nedlatende mot dem eller behandle dem som voksne
- Vær transparent ved å sette klare forventninger
I samsvar med vår Teen Safety Blueprint, har disse prinsippene veiledet vårt arbeid med tenåringssikkerhet til dags dato, inkludert innholdsbeskyttelsene vi anvender på brukere som forteller oss at de er under 18 år ved registrer deg, og gjennom foreldrekontroll. I disse kontekstene har vi implementert beskyttelsestiltak for å veilede modellen til å være ekstra forsiktig når den diskuterer områder med høyere risiko, inkludert selvskading og selvmord, romantisk eller seksualisert rollespill, grafisk eller eksplisitt innhold, farlige aktiviteter og stoffer, kroppsbilde og spiseforstyrrelser, og forespørsler om å holde hemmeligheter om utrygg atferd.
Den amerikanske psykologforeningen, som gjennomgikk et tidlig utkast av U18-modellspesifikasjonene og ga viktige innsikter for langsiktig bruk, er tydelig på viktigheten av å beskytte tenåringer:
APA oppfordrer KI-utviklere til å tilby utviklingsmessig passende forholdsregler for unge brukere av produktene sine og til å ta en mer beskyttende tilnærming for yngre brukere. Barn og ungdom kan dra nytte av KI-verktøy hvis de balanseres med menneskelige interaksjoner som vitenskapen viser er avgjørende for sosial, psykologisk, atferdsmessig og til og med biologisk utvikling. Ungdoms erfaringer med KI bør overvåkes nøye og diskuteres med betrodde voksne for å oppmuntre til kritisk vurdering av hva KI-boter tilbyr, og for å fremme utviklingen av selvstendig tenkning og ferdigheter hos unge.
Denne oppdateringen tydeliggjør også hvordan assistenten skal svare når sikkerhetsbekymringer oppstår for ungdommer. Dette betyr at tenåringer bør møte sterkere sikkerhetstiltak, tryggere alternativer og oppmuntring til å søke pålitelig offline støtte når samtaler beveger seg inn i områder med høyere risiko. Når det er overhengende risiko, oppfordres ungdommer til å kontakte nødetatene eller kriseressurser.
Som med resten av modellspesifikasjonene, reflekterer U18 Principles vår tiltenkte modellatferd. Vi vil fortsette å finjustere dem etter hvert som vi innlemmer ny forskning, inndata og bruk i den virkelige verden.
Sammen med oppdateringen av Model Spec har vi tatt en flerlagstilnærming for å styrke sikkerheten for tenåringer i ChatGPT, som omfatter produktsikring, familiestøtte og ekspertveiledning.
Siden vi lanserte foreldrekontroller(åpnes i et nytt vindu), har vi utvidet beskyttelsene til nye produkter, inkludert chatterom, ChatGPT Atlas-nettleseren og Sora-appen. Disse oppdateringene hjelper foreldre med å tilpasse tenåringens ChatGPT‑opplevelse når vi introduserer nye produkter og funksjoner.
I tråd med ekspertveiledning oppfordrer vi til regelmessige samtaler mellom foreldre og tenåringer om sunn og ansvarsfull bruk av KI i familien. For å støtte disse samtalene har vi lagt til nye ekspertvurderte ressurser i foreldreressurssenteret(åpnes i et nytt vindu), inkludert en familieveiledning for å hjelpe tenåringer med å bruke KI på en ansvarsfull måte(åpnes i et nytt vindu) og tips for foreldre(åpnes i et nytt vindu) om hvordan de kan snakke med barna sine om KI, som ble gjennomgått av ConnectSafely og medlemmer av vårt ekspertråd om velvære og KI. Vi vil fortsette å legge til flere ressurser over tid. Vi støtter også sunn bruk direkte i produktet, med innebygde påminnelser om å ta en pause under lange økter for å sikre at man bruker ChatGPT på en hensiktsmessig og balansert måte.
Vårt arbeid med sikkerhet for tenåringer er styrt av nært samarbeid med eksperter på tvers av disipliner og fagområder. I oktober etablerte vi et Ekspertråd for velvære og KI for å gi råd og definere hvordan sunne interaksjoner med KI bør se ut for alle aldre. Det arbeidet har gitt veiledning om foreldrekontroll og foreldrenotifikasjoner. Vi inkluderer også klinisk ekspertise gjennom vårt Global Physician Network for å informere sikkerhetsforskning og evaluere modellens oppførsel, inkludert forbedring av hvordan ChatGPT gjenkjenner nød og veileder folk mot profesjonell hjelp når det er passende. Vi bygde videre på disse grunnlagene med GPT‑5.2, og vi har også utvidet tilgangen til støtte i den virkelige verden ved å gjøre lokaliserte hjelpelinjer tilgjengelige i ChatGPT og Sora gjennom vårt samarbeid med ThroughLine(åpnes i et nytt vindu).
Vi er i de tidlige stadiene av å lansere en aldersprediksjonsmodell(åpnes i et nytt vindu) på ChatGPT‑forbrukerplaner. Dette vil hjelpe oss med å automatisk anvende beskyttelsestiltak for tenåringer når vi tror at en konto tilhører en mindreårig. Hvis vi er usikre på personens alder eller har ufullstendig informasjon, velger vi som standard det tryggeste alternativet og viser opplevelsen for brukere under 18 år, og gir voksne mulighet til å verifisere alderen sin for å låse opp funksjonene for voksne.
Å styrke sikkerheten for tenåringer er et pågående arbeid, og vi vil fortsette å forbedre foreldrekontrollene og modellkapasiteter, utvide ressurser for foreldre, og samarbeide med organisasjoner, forskere og ekspertpartnere, inkludert Well-Being Council og Global Physician Network.
Vi er forpliktet til å gi sterk beskyttelse for tenåringer og forbedre dem over tid for å bedre støtte tenåringer og familier.
