Ibland uppstår konflikt mellan våra principer och vi vill förklara de beslut vi har fattat när det gäller tonåringars trygghet, frihet och integritet.
Det är oerhört viktigt för oss, och för samhället, att rätten till integritet vid användning av AI upprätthålls. Människor pratar med AI om allt mer personliga saker. Det skiljer sig från tidigare generationers teknik och vi tror att den här typen av konto kommer att vara ett av dina integritetsmässigt mest känsliga konton. När du pratar med en läkare om din sjukdomshistoria eller med en advokat om ett rättsligt ärende, har det beslutats att det ligger i samhällets intresse att sådan information särbehandlas och ges en högre skyddsnivå. Vi anser att samma skyddsnivå måste gälla samtal med AI, som människor i allt större utsträckning delar känsliga frågor och personliga problem med. Vi försöker få beslutsfattare att inse detta.
Vi utvecklar avancerade säkerhetsfunktioner som ska säkerställa att dina data förblir sekretessbelagda, även för OpenAI:s anställda. Precis som med sekretess inom andra områden kommer vissa undantag att gälla. Till exempel kommer automatiserade system att söka efter potentiellt allvarligt missbruk, och de största riskerna – hot mot någons liv, planer på att skada andra eller samhället, exempelvis genom en storskalig cybersäkerhetsincident – kan komma att skickas in för mänsklig granskning.
Den andra principen handlar om frihet. Vi vill att användare ska kunna använda våra verktyg som de behagar, inom väldigt breda säkerhetsbegränsningar. Vi har jobbat på att ge användare mer frihet över tid, i takt med att vi får bättre kontroll över våra modeller. Vår modells standardbeteende kommer exempelvis inte att leda till överdrivet flörtande, men om en vuxen användare ber om det, bör de kunna få det. För att ta ett helt annat exempel bör modellen som standard inte ge instruktioner om hur man begår självmord, men om en vuxen användare ber om hjälp med att skriva en fiktiv berättelse där självmord förekommer, så ska modellen kunna hjälpa till med det. ”Behandla vuxna användare som vuxna” är den typ av formulering vi använder internt, och det handlar om att ge så mycket frihet som möjligt utan att det orsakar skada eller undergräver någon annans frihet.
Den tredje principen handlar om att skydda tonåringar. För tonåringar prioriterar vi säkerhet framför integritet och frihet. Detta är en ny och kraftfull teknik, och vi anser att minderåriga i stor utsträckning behöver skyddas.
För det första måste vi dela in användare i de som är under 18 år och de som inte är det (ChatGPT är avsett att användas av personer som är minst 13 år gamla). Vi utvecklar ett system för åldersförutsägelse som ska uppskatta användares ålder baserat på hur de använder ChatGPT. Om tvekan uppstår tar vi det säkra före det osäkra och använder upplevelsen för personer under 18 år som standard. I vissa fall, eller i vissa länder, kan vi också be om en ID-handling. Vi är medvetna om att detta utgör en kompromiss med integriteten för vuxna, men anser fördelarna väger tyngre än nackdelarna.
Andra regler gäller för tonåringar som använder våra tjänster. ChatGPT kommer till exempel att tränas för att inte flörta överdrivet mycket även om användaren ber om det, eller diskutera självmord eller självskadebeteende även om det gäller kreativt skrivande. Och om en person under 18 år har självmordstankar kommer vi att försöka ta kontakt med användarens föräldrar. Om detta misslyckas kontaktar vi myndigheterna vid överhängande fara. Idag berättar vi mer om hur vi utvecklar system för åldersförutsägelse och nya föräldrainställningar för att allt detta ska fungera.
Vi inser att dessa principer står i konflikt med varandra och att inte alla kommer att hålla med om hur vi hanterar den konflikten. Det är svåra beslut att fatta, men efter samtal med experter har vi kommit fram till att detta är det bästa tillvägagångssättet och vill dela våra avsikter öppet.
