Vårt arbete med att göra ChatGPT så hjälpsamt som möjligt är konstant och pågående. Vi har sett att folk använder den i de svåraste ögonblicken. Det är därför vi fortsätter att förbättra hur våra modeller känner igen och reagerar på tecken på psykisk och emotionell stress med hjälp av vägledning från experter.
Detta arbete pågår sedan länge, och vi vill proaktivt förhandsgranska våra planer för de kommande 120 dagarna, så att du inte behöver vänta på lanseringar för att se vart vi är på väg. Arbetet kommer att fortsätta långt efter denna tidsperiod. Vi gör en fokuserad insats för att lansera så många av dessa förbättringar som möjligt i år.
Förra veckan delade vi med oss av fyra fokusområden när det gäller att hjälpa människor när de behöver det som mest:
- Fler ingripande som omfattar fler människor i kris.
- Göra det ännu enklare att nå hjälptjänster i nödsituationer och få hjälp från experter.
- Etablera sätt att vända sig till betrodda kontaktpersoner.
- Stärkt skydd för tonåringar.
Vissa delar av det här arbetet kommer att genomföras mycket snabbt, medan andra kommer att ta längre tid.
Idag berättar vi mer om hur vi samarbetar med experter för att vägleda vårt arbete, utnyttjar våra resonemangsmodeller för känsliga stunder, och ger mer information om ett av våra fokusområden: Stärkt skydd för tonåringar.
AI är nytt och under utveckling, och vi vill se till att våra framsteg vägleds av djupgående expertis inom välbefinnande och psykisk hälsa. Tillsammans ger Expert Council on Well-Being and AI och Global Physician Network både den specialiserade medicinska expertisen och det breda perspektiv som behövs för att fatta beslut om vårt tillvägagångssätt. Vi kommer att berätta mer om dessa insatser under vårt 120-dagarsinitiativ.
Expert Council on Well-Being and AI
Tidigare i år började vi skapa ett expertråd inom ungdomsutveckling, psykisk hälsa och interaktion mellan människa och dator. Rådets roll är att utforma en tydlig, evidensbaserad vision för hur AI kan ge stöd för människors välbefinnande och hjälpa dem att må bättre.
Deras synpunkter kommer att hjälpa oss att definiera och mäta välbefinnande, prioritera och utforma framtida skyddsåtgärder – som framtida versioner av föräldrainställningar – med den senaste forskningen i åtanke. Medan rådet ger råd om beslut för våra produkter, vår research och våra policyer, förblir OpenAI ansvarigt för de val vi gör.
Global Physician Network
Rådet arbetar tillsammans med Global Physician Network – ett nätverk på över 250 läkare som har praktiserat i 60 länder. Vi har arbetat med dem under det senaste året i insatser som våra hälsoutvärderingar som är utformade för att bättre mäta AI-systems funktioner för hälso- och sjukvård.
I det här nätverket har mer än 90 läkare i 30 länder – inklusive psykiatriker, barnläkare och allmänläkare – redan bidragit till vår forskning om hur våra modeller bör bete sig i kontexter som rör psykisk hälsa. Deras synpunkter ligger till grund för vår säkerhetsforskning, modellträning och andra insatser, som hjälper oss att snabbt anlita rätt specialister när det behövs.
Vi utökar vårt nätverk med ännu fler läkare och forskare, inklusive dem med djup expertis inom områden som ätstörningar, substansmissbruk och ungdomars hälsa.
Våra resonemangsmodeller – som GPT‑5‑thinking och o3 – är byggda för att lägga mer tid på att tänka längre och resonera utifrån kontext innan de svarar. De har tränats med en metod vi kallar deliberative alignment, och våra tester visar(öppnas i ett nytt fönster) att resonemangsmodeller följer och tillämpar säkerhetsriktlinjer mer konsekvent och är mer motståndskraftiga mot s.k. adversarial prompting.
Vi introducerade nyligen en realtidsrouter som kan välja mellan effektiva chattmodeller och resonemangsmodeller baserat på samtalets kontext. Vi kommer snart att börja dirigera vissa känsliga samtal – som när vårt system upptäcker tecken på akut stress – till en resonemangsmodell, som GPT‑5‑thinking, så att den kan ge mer hjälpsamma och bättre svar, oavsett vilken modell en person först valde. Vi kommer att iterera den här metoden noggrant.
Många unga använder redan AI. De är de första AI-infödingarna som har vuxit upp med dessa verktyg som en del av vardagen, ungefär som tidigare generationer har gjort med internet och smartphones. Det skapar verkliga möjligheter till stöd, lärande och kreativitet, men det innebär också att familjer och tonåringar kan behöva stöd för att fastställa hälsosamma riktlinjer som passar en tonårings unika utveckling.
Föräldrainställningar
Tidigare i år började vi skapa fler sätt för familjer att använda ChatGPT tillsammans och bestämma vad som fungerar bäst i deras hem. Inom nästa månad kommer föräldrar att kunna:
- Länka sitt konto till tonåringens konto (från 13 år) via en enkel e-postinbjudan.
- Styra hur ChatGPT svarar med åldersanpassade beteenderegler för modeller, som är aktiverade som standard.
- Hantera vilka funktioner som ska inaktiveras, inklusive minne och chatthistorik.
- Få aviseringar när systemet upptäcker att tonåringen lider av akut stress. Synpunkter från experter skapar vägledning för den här funktionen för att skapa förtroende mellan föräldrar och tonåringar.
Dessa inställningar utökar de funktioner som vi har lanserat för alla användare, inklusive påminnelser i appen om att ta pauser under långa sessioner.
Dessa steg är bara början. Vi kommer att fortsätta att lära oss och stärka vårt tillvägagångssätt med vägledning från experter, med målet att göra ChatGPT till så hjälpsamt som möjligt. Vi ser fram emot att berätta om våra framsteg under de kommande 120 dagarna.
