Nogle af vores principper er i konflikt, og vi vil gerne forklare de beslutninger, vi træffer omkring et tilfælde med spændinger mellem teenageres sikkerhed, frihed og privatliv.
Det er meget vigtigt for os og for samfundet, at retten til privatlivets fred i forbindelse med brugen af AI beskyttes. Folk taler med AI om mere og mere personlige emner; det er anderledes end tidligere generationer af teknologi, og vi mener, at de kan være en af de mest personligt følsomme konti, du nogensinde vil have. Hvis du taler med en læge om din sygehistorie eller en advokat om en juridisk situation, har vi besluttet, at det er i samfundets bedste interesse, at disse oplysninger er fortrolige og sikres med et højere beskyttelsesniveau. Vi mener, at det samme beskyttelsesniveau skal gælde for samtaler med AI, som folk i stigende grad henvender sig til med følsomme spørgsmål og private anliggender. Sammen med beslutningstagerne er vi fortalere for dette.
Vi udvikler avancerede sikkerhedsfunktioner for at sikre, at dine data er private, også fra OpenAI-medarbejdere. Som med privilegier i andre kategorier vil der være visse undtagelser: For eksempel vil automatiserede systemer overvåge potentielt alvorligt misbrug, og de mest kritiske risici – trusler mod en persons liv, planer om at skade andre eller samfundet, som en potentiel massiv cybersikkerhedshændelse – kan eskaleres til menneskelig gennemgang.
Det andet princip handler om frihed. Vi ønsker, at brugerne skal kunne bruge vores værktøjer på den måde, de ønsker, inden for meget brede sikkerhedsmæssige grænser. Vi har arbejdet på at øge brugerfriheden, efterhånden som vores modeller bliver mere styrbare. For eksempel vil standardadfærden i vores model ikke føre til meget flirtende snak, men hvis en voksen bruger beder om det, bør de få det. Et vanskeligere eksempel kan være, at modellen som standard ikke giver instruktioner om, hvordan man begår selvmord, men hvis en voksen bruger beder om hjælp til at skrive en fiktiv historie, der skildrer et selvmord, skal modellen hjælpe med denne anmodning. "Behandl vores voksne brugere som voksne". Sådan taler vi om dette internt. At strække friheden så langt som muligt uden at forårsage skade eller underminere andres frihed.
Det tredje princip handler om at beskytte teenagere. Vi prioriterer sikkerhed frem for privatliv og frihed for teenagere; dette er en ny og kraftfuld teknologi, og vi mener, at mindreårige har brug for betydelig beskyttelse.
Først må vi adskille brugere, der er under 18 år, fra dem, der ikke er det (ChatGPT er beregnet til personer fra 13 år og derover). Vi bygger et aldersforudsigelsessystem til at estimere alder baseret på, hvordan folk bruger ChatGPT. Hvis der er tvivl, får brugeren vores standard under-18-oplevelse. I nogle tilfælde eller lande kan vi også bede om et id. Vi ved, at dette kompromitterer privatlivets fred for voksne, men vi mener, at det er det værd.
Vi anvender andre regler for teenagere, der bruger vores tjenester. For eksempel vil ChatGPT blive trænet til ikke at flirte, hvis den bliver bedt om, og til ikke at deltage i samtaler om selvmord eller selvskade, end ikke til skønlitterær tekstforfatning. Og hvis en bruger under 18 år har selvmordstanker, vil vi forsøge at kontakte brugerens forældre, og hvis det ikke er muligt, vil vi kontakte myndighederne i tilfælde af overhængende fare. I dag fortalte vi mere om, hvordan vi opbygger aldersforudsigelsessystemet og ny forældrestyring, for at alt dette kan fungere.
Vi er klar over, at disse principper er i konflikt, og at ikke alle vil være enige i, hvordan vi løser denne konflikt. Det er vanskelige beslutninger, men efter at have talt med eksperter, mener vi, at det er det bedste, og vi ønsker at være åbne om vores hensigter.
