Vi arbejder konstant og løbende på at gøre ChatGPT så nyttig som muligt. Vi har set folk bruge vores tjenester i de sværeste øjeblikke. Derfor fortsætter vi med at forbedre vores modellers evne til at genkende og reagere på tegn på psykiske og følelsesmæssige kriser, med hjælp fra eksperter.
Arbejdet har været i gang i et stykke tid, men vi vil gerne give et indblik i vores planer for de næste 120 dage, så du ikke behøver at vente på de kommende lanceringer for at se, hvor vi er på vej hen. Arbejdet vil fortsætte langt ud i fremtiden, men vi gør en målrettet indsats for at lancere så mange af forbedringerne som muligt allerede i år.
I sidste uge delte vi fire fokusområder, når det kommer til at hjælpe vores brugere, når de har mest brug for det:
- Udvidelse af beredskabet til mennesker i krise
- At gøre det nemmere at ringe efter krisehjælp og få hjælp fra eksperter
- At muliggøre forbindelse til betroede kontaktpersoner
- At styrke beskyttelsen for unge
Nogle af disse tiltag vil blive gennemført meget hurtigt, mens andre vil tage længere tid.
I dag fortæller vi om, hvordan vi arbejder sammen med eksperter for at vejlede vores arbejde, hvordan vi bruger vores ræsonneringsmodeller i følsomme situationer, samt flere detaljer om et af vores fokusområder: At styrke beskyttelsen for unge
AI er nyt og under udvikling, og vi ønsker at sikre, at vores fremskridt er baseret på grundig ekspertise inden for velvære og mental sundhed. Tilsammen leverer vores Ekspertråd for trivsel og AI og Globale netværk af læger både den grundige specialiserede viden og det brede perspektiv, der er nødvendigt for at tilpasse vores tilgang. Vi vil dele mere om disse tiltag i løbet af vores 120-dages initiativ.
Ekspertråd for trivsel og AI
Tidligere på året begyndte vi at samle et råd af eksperter inden for unges udvikling, mental sundhed og samspillet mellem mennesker og computere. Rådets rolle er at udforme en klar, evidensbaseret vision for, hvordan AI kan understøtte menneskers livskvalitet og hjælpe dem med at trives.
Deres input vil hjælpe os med at definere og måle trivsel, fastsætte prioriteter og udforme fremtidige sikkerhedsforanstaltninger – som f.eks. fremtidige versioner af forældrekontrol – med den nyeste forskning som rettesnor. Rådet vil rådgive os om vores produkter, forskning og politiske beslutninger, men OpenAI er fortsat ansvarlig for de valg, vi træffer.
Globalt netværk af læger
Rådet vil arbejde sammen med vores Globale netværk af læger – en bredere pulje af mere end 250 læger, der har praktiseret i 60 forskellige lande – som vi har samarbejdet med i det forløbne år i forbindelse med tiltag som vores health bench evaluations, der er designet til bedre at kunne måle AI-systemers evner inden for sundhedsområdet.
Ud af denne bredere gruppe har mere end 90 læger fra 30 lande – herunder psykiatere, børnelæger og alment praktiserende læger – allerede bidraget til vores forskning i, hvordan vores modeller bør opføre sig i forbindelse med mental sundhed. Deres input indgår direkte i vores sikkerhedsforskning, modeltræning og andre tiltag, hvilket hjælper os med hurtigt at inddrage de rette specialister, når der er behov for det.
Vi tilføjer endnu flere klinikere og forskere til vores netværk, herunder personer med indgående ekspertise inden for områder som spiseforstyrrelser, stofmisbrug og unges sundhed.
Vores ræsonneringsmodeller – som GPT‑5‑thinking og o3 – er udviklet til at bruge længere tid på at tænke og ræsonnere ud fra konteksten, inden de svarer. Vores tests viser(åbner i et nyt vindue), at modeller, der er trænet med en metode, vi kalder deliberative alignment, følger og anvender sikkerhedsmæssige retningslinjer mere konsekvent og er mere modstandsdygtige over for skadelige forespørgsler.
Vi introducerede for nylig en realtidsrouter, der kan vælge mellem effektive chatmodeller og ræsonneringsmodeller baseret på samtalens kontekst. Vi begynder snart at videresende følsomme samtaler – f.eks. når vores system registrerer tegn på akut krise – til en ræsonneringsmodel som GPT‑5‑thinking, så den kan give mere nyttige og gavnlige svar, uanset hvilken model brugeren først har valgt. Vi vil videreudvikle denne tilgang med omhu og omtanke.
Mange unge benytter sig allerede af AI. De er blandt de første “AI natives”, der er vokset op med AI-værktøjer som en del af deres dagligdag, ligesom tidligere generationer gjorde med internettet eller smartphones. Det skaber mulighed for støtte, læring og kreativitet, men det betyder også, at familier og unge kan have brug for hjælp til at fastlægge sunde retningslinjer, der passer til den unges udviklingsstadie.
Forældrekontrol
Tidligere i år begyndte vi at udvikle flere måder, hvorpå familier kan bruge ChatGPT sammen og beslutte, hvad der fungerer bedst i hjemmet. Inden for den næste måned vil forældre kunne:
- Forbinde deres konto med den unges konto (minimumsalder 13 år) via en simpel e-mailinvitation.
- Styre, hvordan ChatGPT reagerer på deres teenager med alderssvarende regler for modeladfærd, som er slået til som standard.
- Administrere, hvilke funktioner der skal deaktiveres, herunder hukommelse og chathistorik.
- Modtage en notifikation, når systemet registrerer, at den unge befinder sig i akut mistrivsel. Input fra eksperter vil være retningsgivende for funktionen, der skal understøtte tilliden mellem forældre og teenagere.
Kontrolfunktionerne supplerer de funktioner, vi har lanceret for alle brugere, herunder påmindelser i appen under lange sessioner for at tilskynde til pauser.
Disse tiltag er kun begyndelsen. Vi vil fortsat være i en læreproces og styrke vores tilgang under vejledning af eksperter, så vi kan gøre ChatGPT så nyttig som muligt. Vi ser frem til at dele vores fremskridt i løbet af de kommende 120 dage.
