Jobben vår for å gjøre ChatGPT så nyttig som mulig er konstant og pågående. Vi har sett folk gå til den i de vanskeligste øyeblikkene. Derfor fortsetter vi å forbedre hvordan modellene våre gjenkjenner og svarer på tegn på mental og emosjonell nød, veiledet av ekspertinnspill.
Dette arbeidet har allerede vært på vei, men vi vil proaktivt forhåndsvise planene våre for de neste 120 dagene, så du trenger ikke å vente på lanseringer for å se hvor vi er på vei. Dette arbeidet fortsetter langt etter denne tidsperioden, men vi har en fokusert anstrengelse for å lansere så mange av disse forbedringene som mulig dette året.
Forrige uke delte vi fore fokusområder når det gjelder å hjelpe folk når de trenger det mest:
- Utvidelse av tiltak til flere personer i krise.
- Gjøre det enda enklere å kontakte nødtjenester og få hjelp fra eksperter.
- Muliggjøre tilkoblinger til betrodde kontakter.
- Styrke beskyttelse for tenåringer.
Noe av dette arbeidet kommer til å gå veldig raskt, mens andre deler kommer til å ta mer tid.
I dag deler vi hvordan vi samarbeider med eksperter for å veilede arbeidet vårt, benytter resonneringsmodellene våre for sensitive øyeblikk samt detaljer om ett av fokusområdene våre: Styrke beskyttelse for tenåringer.
AI er nytt og under utvikling, og vi vil sørge for at fremgangen vår veiledes av dyp ekspertise innen velvære og mental helse. Sammen gir ekspertrådet vårt om velvære og AI og det globale legenettverket vårt både dybden fra spesialisert medisinsk ekspertise og perspektivbredden som kreves for å informere tilnærmelsen vår. Vi deler mer om disse anstrengelsene i løpet av initiativet vårt på 120 dager.
Ekspertråd om velvære og AI
Tidligere i år begynte vi å sammenkalle et råd med eksperter innen ungdomsutvikling, mental helse og interaksjon mellom menneske og datamaskin. Rådets rolle er å forme en tydelig, bevisbasert visjon om hvordan AI kan støtte folks velvære og hjelpe dem med å trives.
Innspillene deres hjelper oss med å definere og måle velvære, angi prioriteter og utforme fremtidige sikkerhetsmekanismer – for eksempel fremtidig iterering av foreldrekontroll – med tanke på den nyeste forskningen. Selv om rådet gir råd om avgjørelser for produkt, forskning og retningslinjer, er OpenAI fremdeles ansvarlige for valgene vi tar.
Globalt legenettverk
Dette rådet jobber sammen med det globale legenettverket vårt – en bredere gruppe på mer enn 250 leger som har praktisert i 60 land – som vi har jobbet med det siste året om anstrengelser som evalueringer av helsereferansemålinger, som er utformet til å gi bedre målinger av funksjonaliteten til AI-systemer innen helse.
Av denne bredere gruppen har mer enn 90 leger fra 30 land – inkludert psykiatere, barneleger og allmennleger – allerede bidratt til forskningen vår om hvordan modellene våre skal oppføre seg i konteksten til mental helse. Innspillene deres informerer sikkerhetsforskning, modellopplæring og annen intervensjon direkte, noe som hjelper oss med å raskt ansette riktige spesialister når det er nødvendig.
Vi legger til enda flere leger og forskere i nettverket vårt, inkludert noen med dyp ekspertise innen områder som spiseforstyrrelser, stoffmisbruk og tenåringshelse.
Resonneringsmodellene våre – for eksempel GPT‑5‑thinking og o3 – er bygget for å bruke mer tid på å tenke lenger og resonnere gjennom kontekst før de svarer. Opplært med en metode vi kaller bevisst tilpasning viser testingen vår(åpnes i et nytt vindu) at resonneringsmodeller mer konsekvent følger og bruker sikkerhetsretningslinjer og er mer motstandsdyktige mot ondsinnede meldinger.
Vi har nylig introdusert en sanntidsruter som kan velge mellom effektive chatmodeller og resonneringsmodeller basert på samtalekontekst. Vi kommer snart til å begynne å rute noen sensitive samtaler – for eksempel når systemet oppdager tegn på akutt nød – til en resonneringsmodell, for eksempel GPT‑5‑thinking, slik at den kan gi nyttigere og mer gunstige svar, uavhengig av hvilken modell en person først valgte. Vi itererer denne tilnærmelsen på en gjennomtenkt måte.
Mange unge folk bruker allerede AI. De er blant de første «AI-innfødte» som vokser opp med disse verktøyene som en del av det daglige livet, i stor grad på samme måte som tidligere generasjoner gjorde med internett og smarttelefoner. Det skaper ekte muligheter for støtte, læring og kreativitet, men det betyr også at familier og tenåringer kan trenge støtte til å angi sunne veiledninger som passer det unike utviklingstrinnet til en tenåring.
Foreldrekontroll
Tidligere i år begynte vi å bygge flere måter familier kan bruke ChatGPT sammen på, og avgjøre hva som fungerer best i hjemmet deres. Innen neste måned kan foreldre
- knytte kontoen sin til tenåringens konto (minimumsalder på 13) gjennom en enkel e-postinvitasjon
- kontrollere hvordan ChatGPT svarer tenåringen med regler for alderspassende modellatferd, som er på som standard
- administrere hvilke funksjoner som skal deaktiveres, inkludert minne og chathistorikk
- motta varsler når systemet oppdager at tenåringen er i et øyeblikk med akutt nød Ekspertinnspill veileder denne funksjonen for å støtte tillitt mellom foreldre og tenåringer.
Disse kontrollene legger til funksjoner vi har rullet ut for alle brukere, inkludert påminnelser i apper under lange økter for å oppmuntre til pauser.
Disse trinnene er bare starten. Vi kommer til å fortsette å lære og styrke tilnærmelsen vår, veiledet av eksperter, med mål om å gjøre ChatGPT så nyttig som mulig. Vi ser frem til å dele fremdriften vår i løpet av de neste 120 dagene.
