Fremmer sikkerhet og muligheter for unge gjennom globalt lederskap

KI kan være et kraftfullt verktøy for unge. Det kan hjelpe elever og studenter med å forstå et vanskelig begrep, øve på et nytt språk, forberede seg til et jobbintervju, utforske kreative ideer eller lære en ny ferdighet. På samme måte som lese- og skriveferdighetsbevegelsen som spredte seg over hele verden i midten av det 20. århundret, krevde massedistribusjon av trykt tekst og tilgang til utdannede lærere, vil tilgang til trygg KI i dag åpne nye muligheter for persontilpasset læring, bidra til å redusere barrierer for underbetjente grupper og øke arbeidslivsberedskapen.

Fordi de potensielle fordelene er så betydelige, er det avgjørende at unge kan få tilgang til KI på måter som er trygge, aldersriktige og støtter sunn utvikling. Dette ansvaret bør ikke først og fremst ligge hos foreldre eller de unge selv. Selskaper, inkludert OpenAI, har ansvar for å bygge produkter med egnede sikkerhetstiltak som standard, samtidig som familier får verktøy og informasjon til å veilede hvordan KI brukes.

Når statsledere samles på G7-toppmøtet i Évian i Frankrike senere denne måneden, vil temaet KI-sikkerhet for unge være et sentralt fokus. OpenAI vil delta for å diskutere økt samarbeid om sikkerhet for unge, hvordan vi kan samarbeide om å heve bransjestandarder, og OpenAI sitt nye initiativ for å etablere et internasjonalt institutt for sikkerhet for unge.

G7-toppmøtet gir en sjelden mulighet til global koordinering om sikkerhet for unge. Men et dedikert institutt vil gi kontinuiteten og oppfølgingen som trengs utover ett enkelt toppmøte, og hjelpe myndigheter, forskere, sivilsamfunn og næringsliv med å fortsette samarbeidet om å dele kunnskap, utvikle veiledning og heve standarder over tid.

Det finnes flere troverdige måter dette kan gjøres på: gjennom et nytt internasjonalt institutt, eller ved å gi et eksisterende eller nyopprettet nasjonalt KI-institutt et globalt mandat til å dele forskning, kunnskap og veiledning med partnere over hele verden. Det viktigste er hvilken funksjon det fyller. KI-sikkerhet for unge krever vedvarende oppmerksomhet, pålitelig kunnskap og praktisk veiledning som kan holde tritt med teknologien.

Et slikt institutt kan bygge videre på nye initiativer som Common Sense Medias Youth AI Safety Institute, støttet av OpenAI Foundation, samt praktiske samarbeid med lærere, inkludert OpenAIs arbeid med American Federation of Teachers⁠. Det bør også trekke på utrullinger i den virkelige verden, som Estlands nasjonale utrulling av ChatGPT i skoler, der OpenAI samarbeider med Stanford og estiske forskere for å studere virkningen og bidra til tryggere og mer effektiv bruk i læring.

OpenAI ønsker muligheten velkommen til å samarbeide med den franske regjeringen, andre G7-regjeringer og partnere i sivilsamfunnet, akademia og næringslivet om dette viktige arbeidet og om å heve globale standarder for sikkerhet for unge.

Vi mener sterke rammeverk for KI-sikkerhet for unge, inkludert en eventuell avtale som inngås på G7-samlinger, bør styres av prinsippene vi legger frem her.

1. Selskaper bør vite når en bruker er mindreårig, og bruke aldersriktige beskyttelsestiltak. Dette betyr å kreve at tilbydere bruker metoder som effektiv, personvernbevarende aldersestimering for å skille mindreårige fra voksne, og bruker beskyttende sikkerhetstiltak som standard når en brukers alder ikke kan fastslås. Uten dette grunnlaget kan selv de mest velmente beskyttelsene for unge mislykkes i å nå de unge de er ment å beskytte.
2. Selskaper bør jevnlig vurdere både risikoer og fordeler for unge og iverksette tiltak for å håndtere dem –før skade oppstår. Dette betyr å kreve at tilbydere gjennomfører årlige risikovurderinger for sikkerhet for unge og innfører forholdsmessige sikkerhetstiltak basert på risikoene de identifiserer. Slike vurderinger bør ta hensyn til risikoer for unge ut fra utviklingsstadiet deres, empirisk kunnskap fra faktisk bruk og relevant forskning eller regulatorisk veiledning. Vurderingene bør ikke bare vurdere mulige skader, men også om KI støtter positive resultater som læring, kreativitet, ferdighetsutvikling og tilgang til muligheter.
3. Foreldre og foresatte bør ha tilgjengelige, brukervennlige kontroller som hjelper dem med å veilede barnas opplevelser, samtidig som de støtter aldersriktig selvstendighet. Disse bør omfatte verktøy for å administrere viktige innstillinger, inkludert minne, databruk og tidsbegrensninger. Foreldreverktøy bør fremmes aktivt, slik at foreldre vet at de finnes og forstår hvordan de brukes. 
4. Familier fortjener klar og forståelig informasjon om hvordan selskaper beskytter unge brukere, og meningsfull informasjon om både fordelene og risikoene ved unges bruk av KI. Selskaper bør publisere sikkerhetspolicyer som forklarer hvilke sikkerhetstiltak som er på plass for å beskytte unge, hvilke foreldreverktøy som er tilgjengelige, og hvordan beskyttelsene oppdateres etter hvert som risikoene utvikler seg. Denne åpenheten bygger tillit og hjelper foreldre med å ta informerte valg.
5. Selskaper bør ha klare protokoller på plass for å håndtere alvorlige sikkerhetssituasjoner, inkludert selvskading, utnyttelse, grooming, seksuelt utnyttende innhold og andre høyrisikointeraksjoner. Disse bør omfatte støtte i tjenesten, henvisninger til egnede ressurser og rettidige varsler til foreldre når det er hensiktsmessig. Selskaper bør også utforme systemene sine slik at de hindres i å generere innhold som er utrygt eller utviklingsmessig upassende for barn, inkludert grafisk seksuelt eller voldelig materiale.  
6. KI-systemer som brukes av unge, bør utformes for å støtte læring, utvikling og relasjoner i den virkelige verden – ikke erstatte dem. KI bør fungere som et verktøy som hjelper unge med å lære, skape, bygge ferdigheter og forberede seg på fremtiden. Samtidig bør selskaper etablere klare grenser på områder der sunn utvikling avhenger av menneskelig dømmekraft, relasjoner i den virkelige verden og profesjonell støtte.
7. Personopplysningene til mindreårige bør beskyttes. Dette betyr å forby personverninngripende, målrettet annonsering mot unge og å hindre selskaper i å selge personopplysninger.
8. Rammeverk for sikkerhet for unge bør fremme muligheter, kompetanse og beskyttelse. Unge bør ha tilgang til KI-verktøy som støtter læring, kreativitet, ferdighetsutvikling og fremtidige muligheter, samtidig som de får kunnskapen og evnen til kritisk tenkning som trengs for å bruke KI trygt og ansvarlig. Dette inkluderer å fremme KI-kompetanse og hjelpe unge med å forstå mulighetene og begrensningene ved KI-systemer, slik at de kan delta trygt og ansvarlig i digitale rom.
9. Sterke ansvarlighetsmekanismer, inkludert uavhengige revisjoner, er avgjørende for å sikre at disse beskyttelsene har reell betydning i praksis. Revisjoner bør støttes av et sett felles standarder som muliggjør interoperable revisjoner på tvers av jurisdiksjoner. Lovgivningsrammeverk bør omfatte tilsyns- og håndhevingstiltak som gjør det mulig for myndigheter å vurdere om selskaper effektivt implementerer sikkerhetstiltak for unge, reduserer identifiserte risikoer og etterlever forpliktelser knyttet til sikkerhet for unge og personvern.

Prinsippene gjenspeiles i hvordan vi bygger og drifter ChatGPT, fra modellatferd og produktdesign til ekspertinnspill og støtte i den virkelige verden. Vi har styrket sikkerhetstiltakene for brukere under 18 år, lansert foreldrekontroll⁠ med proaktive varsler og avanserte systemer for aldersprediksjon⁠, slik at ChatGPT kan bruke sterkere beskyttelser når noen kan være under 18 år. Våre modellspesifikasjoner, som beskriver hvordan modellene våre bør oppføre seg, inneholder også dedikerte prinsipper for brukere under 18 år⁠(åpnes i et nytt vindu), med prioritet til sikkerhet for tenåringer, aldersriktige opplevelser, støtte i den virkelige verden og tydelige forventninger. I praksis betyr dette sterkere sikkerhetsmekanismer rundt selvskading, farlige aktiviteter, grafisk innhold, kroppsbilde og hemmelighold, sammen med oppmuntring til å søke betrodd støtte offline eller kriseressurser ved behov. Når alder er usikker, bruker vi sterkere sikkerhetstiltak som standard.

KI som er utformet med sterke sikkerhetstiltak og tilbys med tydelig veiledning og støtte fra familier og lærere, kan hjelpe unge med å dra trygg nytte av verktøy som utvider læring, kreativitet og muligheter. KI kan hjelpe elever og studenter med å forstå vanskelige begreper, øve på språk, forbedre skrivingen sin, lære å kode, organisere forskning, utforske kreative ideer og forberede seg på jobber som allerede er i endring. Gjennom Education for Countries⁠ samarbeider OpenAI med myndigheter og lærere om forskningsdrevne utrullinger, lokaliserte læringsverktøy og læreropplæring, slik at innføringen av KI bygger på kunnskap og reelle behov i klasserommet. Dette arbeidet støtter allerede nasjonale utdanningsinnsatser med partnerlandene våre, inkludert Estland⁠, Hellas⁠ og Singapore⁠.

I tillegg til deltakelse på toppmøtet vil vi bringe OpenAI Forum⁠(åpnes i et nytt vindu) til Paris for å samle til en praktisk samtale om hvordan myndigheter, forskere, sivilsamfunn, lærere og næringsliv kan gjøre felles mål for sikkerhet for unge om til konkrete sikkerhetstiltak, standarder og implementeringspraksis. Frankrikes ambassadør for KI og digitale saker, Clara Chappaz, vil delta sammen med OpenAIs Chief Global Affairs Officer Chris Lehane, ledere innen sikkerhet for unge fra iRaise/Everyone.AI og andre eksperter i en diskusjon om hvordan unge kan dra nytte av KI samtidig som risikoene reduseres.