Fremme af unges sikkerhed og muligheder gennem globalt lederskab

AI kan være et stærkt værktøj for unge. Det kan hjælpe studerende med at forstå et svært begreb, øve et nyt sprog, forberede sig til en jobsamtale, udforske kreative idéer eller lære en ny færdighed. Ligesom læsefærdighedsbevægelsen, der bredte sig over hele verden i midten af det 20. århundrede, krævede massedistribution af trykte tekster og adgang til uddannede lærere, vil adgang til sikker AI i dag åbne nye muligheder for personlig læring, hjælpe med at mindske barrierer for underforsynede grupper og øge arbejdsstyrkens parathed.

Fordi de potentielle fordele er så betydelige, er det afgørende, at unge kan få adgang til AI på måder, der er sikre, alderssvarende og understøtter en sund udvikling. Det ansvar bør ikke primært ligge hos forældre eller de unge selv. Virksomheder, herunder OpenAI, har et ansvar for som standard at bygge produkter med passende sikkerhedsforanstaltninger og samtidig give familier værktøjer og information til at vejlede, hvordan AI bruges.

Når statsledere samles til G7-ledertopmødet i Évian i Frankrig senere på måneden, vil emnet AI-sikkerhed for unge være et centralt fokus. OpenAI deltager for at drøfte øget samarbejde om unges sikkerhed, hvordan vi sammen kan hæve branchestandarderne, og OpenAIs nye opfordring til at etablere et internationalt institut for unges sikkerhed.

G7-ledertopmødet repræsenterer en sjælden mulighed for global koordinering om unges sikkerhed. Men et dedikeret institut ville give den kontinuitet og opfølgning, der er nødvendig ud over et enkelt topmøde, og hjælpe regeringer, forskere, civilsamfund og industrien med fortsat at arbejde sammen om at dele evidens, udvikle vejledning og hæve standarderne over tid.

Der er flere troværdige måder, dette kan gøres på: gennem et nyt internationalt institut eller ved at give et eksisterende eller nyoprettet nationalt AI-institut et globalt mandat til at dele forskning, evidens og vejledning med partnere over hele verden. Det vigtigste er den funktion, det opfylder. AI-sikkerhed for unge kræver vedvarende opmærksomhed, troværdig evidens og praktisk vejledning, der kan holde trit med teknologien.

Et sådant institut kan bygge videre på nye initiativer som Common Sense Medias Youth AI Safety Institute, støttet af OpenAI Foundation, samt praktiske samarbejder med undervisere, herunder OpenAIs arbejde med American Federation of Teachers⁠. Det bør også trække på implementeringer i den virkelige verden, såsom Estlands nationale udrulning af ChatGPT i skoler, hvor OpenAI samarbejder med forskere fra Stanford og Estland om at undersøge effekten og understøtte sikrere og mere effektiv brug i læring.

OpenAI ser frem til muligheden for at samarbejde med den franske regering, andre G7-regeringer og partnere på tværs af civilsamfund, akademia og industri om dette vigtige arbejde og om at hæve de globale standarder for unges sikkerhed.

Vi mener, at stærke rammer for AI-sikkerhed for unge, herunder enhver potentiel aftale indgået ved G7-samlinger, bør ledes af de principper, vi fremlægger her.

1. Virksomheder bør vide, hvornår en bruger er mindreårig, og anvende alderssvarende beskyttelse. Det betyder, at udbydere skal bruge metoder som effektiv, privatlivsbevarende aldersestimering til at skelne mindreårige fra voksne og som standard anvende beskyttende sikkerhedsforanstaltninger, når en brugers alder ikke kan fastslås. Uden dette fundament kan selv de mest velmenende beskyttelser af unge fejle i at nå de unge, de er beregnet til at beskytte.
2. Virksomheder bør regelmæssigt vurdere både risici og fordele for unge og tage skridt til at håndtere dem – før der sker skade. Det betyder, at udbydere skal gennemføre årlige risikovurderinger af unges sikkerhed og implementere forholdsmæssige sikkerhedsforanstaltninger baseret på de risici, de identificerer. Sådanne vurderinger bør tage højde for risici for unge baseret på deres udviklingsstadie, empirisk evidens fra faktisk brug og relevant forskning eller regulatorisk vejledning. Vurderinger bør ikke kun se på potentielle skader, men også på, om AI understøtter positive resultater som læring, kreativitet, færdighedsudvikling og adgang til muligheder.
3. Forældre og værger bør have tilgængelige, brugervenlige kontroller, der hjælper dem med at vejlede deres børns oplevelser og samtidig understøtter alderssvarende selvstændighed. Disse bør omfatte værktøjer til at administrere vigtige indstillinger, herunder hukommelse, databrug og tidsgrænser. Forældreværktøjer bør aktivt promoveres, så forældre ved, at de findes, og forstår, hvordan de bruges.
4. Familier fortjener klar og forståelig information om, hvordan virksomheder beskytter unge brugere, samt meningsfuld information om både fordelene og risiciene ved unges brug af AI. Virksomheder bør offentliggøre sikkerhedspolitikker, der forklarer, hvilke sikkerhedsforanstaltninger der er på plads for at beskytte unge, hvilke forældreværktøjer der er tilgængelige, og hvordan beskyttelser opdateres, efterhånden som risici udvikler sig. Denne gennemsigtighed opbygger tillid og hjælper forældre med at træffe informerede valg.
5. Virksomheder bør have klare protokoller på plads til at håndtere alvorlige sikkerhedssituationer, herunder selvskade, udnyttelse, grooming, seksuelt udnyttende indhold og andre højrisikointeraktioner. Disse bør omfatte support i tjenesten, henvisninger til relevante ressourcer og rettidige underretninger til forældre, når det er relevant. Virksomheder bør også designe deres systemer til at forhindre dem i at generere indhold, der er usikkert eller udviklingsmæssigt upassende for børn, herunder grafisk seksuelt eller voldeligt materiale.  
6. AI-systemer, der bruges af unge, bør designes til at understøtte læring, udvikling og relationer i den virkelige verden – ikke erstatte dem. AI bør fungere som et værktøj, der hjælper unge med at lære, skabe, opbygge færdigheder og forberede sig på fremtiden. Samtidig bør virksomheder fastsætte klare grænser på områder, hvor sund udvikling afhænger af menneskelig dømmekraft, relationer i den virkelige verden og professionel støtte.
7. Mindreåriges personlige oplysninger bør beskyttes. Det betyder at forbyde privatlivskrænkende, målrettet annoncering til unge og forhindre virksomheder i at sælge personlige oplysninger.
8. Rammer for unges sikkerhed bør fremme muligheder, dannelse og beskyttelse. Unge bør have adgang til AI-værktøjer, der understøtter læring, kreativitet, færdighedsudvikling og fremtidige muligheder, samtidig med at de udstyres med den viden og de kritiske tænkningsevner, der er nødvendige for at bruge AI sikkert og ansvarligt. Dette omfatter at fremme AI-dannelse og hjælpe unge med at forstå AI-systemers muligheder og begrænsninger, så de kan færdes trygt og ansvarligt i digitale rum.
9. Stærke ansvarlighedsmekanismer, herunder uafhængige revisioner, er afgørende for at sikre, at disse beskyttelser har reel betydning i praksis. Revisioner bør understøttes af et sæt fælles standarder, der muliggør interoperable revisioner på tværs af jurisdiktioner. Lovgivningsmæssige rammer bør omfatte tilsyns- og håndhævelsesforanstaltninger, der gør det muligt for regeringer at vurdere, om virksomheder effektivt implementerer sikkerhedsforanstaltninger for unge, afbøder identificerede risici og overholder forpligtelser vedrørende unges sikkerhed og privatliv.

Principperne afspejles i, hvordan vi bygger og driver ChatGPT, fra modeladfærd og produktdesign til ekspertinput og støtte i den virkelige verden. Vi har styrket sikkerhedsforanstaltningerne for brugere under 18, lanceret forældrekontrol⁠ med proaktive notifikationer og avancerede aldersforudsigelsessystemer⁠, så ChatGPT kan anvende stærkere beskyttelse, når nogen kan være under 18. Vores modelspecifikationer, som beskriver, hvordan vores modeller bør opføre sig, omfatter også særlige principper for brugere under 18⁠(åbner i et nyt vindue), der prioriterer teenageres sikkerhed, alderssvarende oplevelser, støtte i den virkelige verden og klare forventninger. I praksis betyder det stærkere værn omkring selvskade, farlige aktiviteter, grafisk indhold, kropsbillede og hemmeligholdelse samt opmuntring til at søge betroet offline støtte eller kriseressourcer, når det er nødvendigt. Når alderen er usikker, anvender vi som standard stærkere sikkerhedsforanstaltninger.

AI, der er designet med stærke sikkerhedsforanstaltninger og tilbydes med klar vejledning samt støtte fra familier og undervisere, kan hjælpe unge med sikkert at få gavn af værktøjer, der udvider læring, kreativitet og muligheder. AI kan hjælpe studerende med at forstå svære begreber, øve sprog, forbedre deres skrivning, lære at kode, organisere forskning, udforske kreative idéer og forberede sig på job, der allerede er under forandring. Gennem Education for Countries⁠ samarbejder OpenAI med regeringer og undervisere om forskningsdrevne udrulninger, lokaliserede læringsværktøjer og læreruddannelse, så indførelsen af AI bygger på evidens og reelle behov i klasseværelset. Dette arbejde understøtter allerede nationale uddannelsesindsatser med vores partnerlande, herunder Estland⁠, Grækenland⁠ og Singapore⁠.

Ud over deltagelsen i ledertopmødet bringer vi OpenAI Forum⁠(åbner i et nyt vindue) til Paris for at samle til en praktisk samtale om, hvordan regeringer, forskere, civilsamfund, undervisere og industri kan omsætte fælles mål for unges sikkerhed til konkrete sikkerhedsforanstaltninger, standarder og implementeringspraksisser. Frankrigs ambassadør for AI og digitale anliggender, Clara Chappaz, deltager sammen med OpenAIs Chief Global Affairs Officer Chris Lehane, ledere inden for unges sikkerhed fra iRaise/Everyone.AI og andre eksperter i en diskussion om, hvordan unge kan få gavn af AI, samtidig med at risici reduceres.