Noen av prinsippene våre er i konflikt med hverandre, og vi ønsker å forklare hvordan vi tar beslutninger i situasjoner der det oppstår spenninger mellom sikkerheten, friheten og personvernet til tenåringer.
Det er svært viktig for oss, både for oss og for samfunnet i sin helhet, å sikre at personvernet ivaretas ved bruk av KI. Folk snakker med KI om stadig mer personlige temaer. Det skiller seg fra tidligere generasjoner av teknologi, og vi mener det kan være blant de mest personlige samtalene du noen gang vil ha. Hvis du snakker med en lege om sykehistorikken din, eller med en advokat om en juridisk situasjon, mener vi at det er i samfunnets interesse at slik informasjon er beskyttet og får et høyere sikkerhetsnivå. Vi mener at det samme sikkerhetsnivået bør gjelde for samtaler med KI, siden folk bruker det stadig mer til å diskutere sensitive temaer og personlige bekymringer. Vi fremmer dette synet overfor beslutningstakere.
Vi utvikler avanserte sikkerhetsfunksjoner som sikrer at dataene dine forblir private – også for ansatte i OpenAI. Som ved annen beskyttelse vil det finnes visse unntak. Automatiserte systemer vil for eksempel overvåke for å oppdage potensielt alvorlig misbruk, og de mest kritiske risikoene – som trusler mot en annen persons liv, planer om å skade andre eller forvolde samfunnsmessig skade, for eksempel et massivt dataangrep – kan eskaleres for å bli vurdert av mennesker.
Det andre prinsippet handler om frihet. Vi vil at brukerne skal kunne bruke verktøyene våre som de vil, innenfor svært brede sikkerhetsrammer. Vi har jobbet med å gi brukerne mer frihet over tid, etter hvert som modellene våre blir lettere å styre. For eksempel vil den standard atferden til modellen vår ikke føre til noen flørting – men en voksen bruker som ber om flørting, bør kunne få det. Et mer krevende eksempel: Modellen skal som standard ikke gi instruksjoner om hvordan man kan ta sitt eget liv. Men hvis en voksen bruker ber om hjelp til å skrive en fiktiv historie der en karakter begår selvmord, bør modellen kunne hjelpe med denne forespørselen. «Behandle voksne brukere som voksne» er hva vi kaller dette internt. Målet er å gi mest mulig frihet uten at det skader andre eller begrenser friheten til en annen person.
Det tredje prinsippet dreier seg om å beskytte tenåringer. Vi prioriterer sikkerhet høyere enn personvern og frihet når det gjelder tenåringer. Dette er en ny og kraftig teknologi, og vi mener mindreårige trenger betydelig beskyttelse.
Først må vi skille mellom brukere under 18 år og de som er eldre (ChatGPT er ment for brukere fra 13 år og oppover). Vi bygger et system for aldersprediksjon som skal anslå alder basert på hvordan folk bruker ChatGPT. Hvis vi er i tvil, velger vi det tryggeste alternativet og viser versjonen for brukere under 18. I enkelte tilfeller eller land kan vi også be om ID. Vi vet at dette innebærer et visst kompromiss når det gjelder personvernet til voksne, men mener det er en rimelig avveining.
Vi kommer til å bruke egne regler for tenåringer som bruker tjenestene våre. Som nevnt vil ChatGPT for eksempel trenes til å unngå flørting, selv om brukeren ber om det, og vil ikke snakke om selvmord eller selvskading – selv ikke om brukeren hevder det er til en skriveoppgave. Hvis en bruker under 18 år har selvmordstanker, vil vi dessuten forsøke å kontakte foreldrene. Hvis det ikke lykkes, kontakter vi nødetatene ved fare for umiddelbar skade. Vi har i dag delt mer informasjon om hvordan vi bygger aldersprediksjonssystemet og innfører nye foreldrekontroller for å få dette til å fungere.
Vi innser at disse prinsippene kommer i konflikt med hverandre, og at ikke alle vil være enige i hvordan vi balanserer disse konfliktene. Dette er vanskelige avgjørelser, men etter samtaler med eksperter mener vi dette er til det beste og ønsker å være åpne om intensjonene våre.
