Sådan indbygger vi sikkerhed, it-sikkerhed og privatliv i dots

Dots er altid aktive agenter, der påtager sig løbende ansvar, så du får mere tid og overskud til det, der betyder noget for dig. Hver dot har sin egen computer og arbejder på tværs af de apps, du vælger at tilslutte. Du giver dine dots mål og bestemmer, hvad de må gøre på egen hånd. De kan arbejde sig gennem trinnene, tilpasse sig ændringer og fortsætte arbejdet mellem samtaler. De kan for eksempel følge udviklingen i en nyhedshistorie og lave et udkast til et nyhedsbrev eller hjælpe med at opdatere et projekt, efterhånden som der kommer nye oplysninger. De viser dig resultaterne til gennemgang og spørger dig, når en beslutning kræver din vurdering.

Når du giver dots det ansvar, betror du dem også flere af dine oplysninger og mere af dit arbejde. Du bør vide, hvad hver dot har adgang til, hvordan den bruger adgangen, og hvornår den skal inddrage dig. De spørgsmål er vigtige, fordi en agents fejl kan have konsekvenser uden for samtalen: Hvis den misforstår en anmodning, kan den komme til at ændre den forkerte fil eller dele oplysninger, som du ville holde private.

Vi indbygger beskyttelse i alle dele af det arbejde. Vi starter med GPT‑6 Astra, som vi træner til at forstå din hensigt og følge sikkerhedsregler. Derefter tilføjer vi sikkerhedsforanstaltninger omkring de oplysninger, dots bruger, de miljøer, de arbejder i, og de handlinger, de planlægger at udføre. Et beskyttet arbejdsområde i skyen hjælper med at begrænse følgerne af fejl, sikre loginforløb hjælper med at beskytte følsomme loginoplysninger, og særskilte handlingskontroller hjælper med at fange trin, der falder uden for dine instruktioner eller sikkerhedskravene. Du vælger, hvad der skal tilsluttes, angiver dine præferencer og følger arbejdet eller ændrer retning undervejs.

Dots kan stadig begå fejl, og vi vil fortsætte med at forbedre beskyttelsen, efterhånden som vi lærer af brugen i praksis. Her forklarer vi, hvordan sikkerhedsforanstaltningerne spiller sammen, hvad du selv styrer, og hvor der stadig er begrænsninger, så du kan træffe informerede beslutninger om det arbejde, du overlader til dots.

Dots er drevet af GPT‑6 Astra, vores mest kompetente model og den, der er bedst afstemt med menneskelige hensigter og værdier. Astra er særligt god til at forstå dit mål, holde sig inden for rammerne af din anmodning og stille målrettede spørgsmål, når svarene kan ændre, hvad den bør gøre. De evner hjælper dots med at arbejde på opgaver over tid uden at miste din hensigt af syne.

Vi har trænet Astra til at afvise skadelige anmodninger, herunder anmodninger om misbrug inden for biologi eller cybersikkerhed. Vi tester, hvordan dots håndterer skiftende instruktioner, tvetydige anmodninger og forsøg på at få dem til at overskride de tilladelser, du har givet. Menneskelig og automatiseret red-teaming hjælper os med at finde svagheder, forbedre modellen og systemerne omkring den og teste ændringerne igen.

Vi supplerer modellens sikkerhedsforanstaltninger med ChatGPT's it-sikkerhed og yderligere foranstaltninger til agenter, der kan fortsætte med at arbejde på dine vegne.

ChatGPT's indbyggede beskyttelse omfatter kryptering af dit indhold, både når det er lagret, og når det overføres mellem dig, OpenAI og vores tjenesteudbydere, samt adgangskontrol, der hjælper med at beskytte lagrede oplysninger. Vores kontosikkerhedssystemer holder også øje med mistænkelig brug af din OpenAI-konto og kan kræve, at du logger ind igen, hvis en session ser ud til at være kompromitteret.

Agenter skal også beskyttes mod de oplysninger, de møder under arbejdet. En webside, e-mail eller et dokument kan indeholde ondsindede instruktioner, der forsøger at få dem til at ændre kurs eller dele private oplysninger – et problem, der kaldes prompt injection. Vi kombinerer modellens sikkerhedsforanstaltninger med værktøjsbegrænsninger, kontrol før handlinger og overvågning for at hjælpe med at forhindre, at den slags indhold fører til en uønsket handling.

Vi overvåger også dots, mens de planlægger og udfører handlinger, for at opdage potentielt skadelig adfærd, såsom at handle uden for dine instruktioner eller forsøge at omgå sikkerhedsforanstaltninger. Hvis sikkerhedsovervågningen registrerer et muligt problem i en dots igangværende arbejde, kan den sætte arbejdet på pause og vise dig en advarsel, som du skal tage stilling til. Denne overvågning er indbygget og hjælper med at opdage problemer undervejs i en opgave. Den supplerer den beskyttelse, der begrænser, hvad dots har adgang til og kan gøre.

Hver dot har sin egen computer i skyen, hvor den kan browse, analysere oplysninger, oprette filer og køre værktøjer. Dots kan fortsætte arbejdet i disse arbejdsområder, selv når du ikke deltager aktivt.

Du vælger, hvilke konti dots må bruge, enten ved at tilslutte apps inden for de tilladelser, du har givet ChatGPT, eller ved at logge ind på et website i en dots browser med sikkert login, hvor det understøttes. Du kan også vælge at tilslutte din egen computer for at give dots flere måder at hjælpe på – for eksempel ved at analysere et regneark, der er gemt på dit skrivebord, eller bruge kodeværktøjer, der er installeret på din enhed.

I hver dots beskyttede arbejdsområde begrænser sandboxing, hvilken kode og hvilke værktøjer den har adgang til. Det hjælper med at begrænse følgerne af skadelig kode eller en forkert kommando. Vi isolerer også brugernes skymiljøer fra hinanden og vedligeholder det underliggende Linux-operativsystem og Chrome-browseren.

Dots kører kode i miljøer, der er adskilt fra de systemer, som koordinerer deres arbejde og håndhæver centrale sikkerhedsforanstaltninger. De kan oprette filer og køre værktøjer der, men de kan ikke bruge adgangen til at ændre disse sikkerhedssystemer eller slå obligatoriske kontroller fra. Denne adskillelse hjælper med at holde sikkerhedsforanstaltningerne intakte, selv hvis en dot begår en fejl.

Handlingsreglerne nedenfor bestemmer, hvad dots må gøre med deres adgang.

Sikkert login lader dots arbejde på konti, uden at adgangskoder indgår i samtalen. Ved understøttede login sættes modellen på pause, mens du udfylder en sikker loginformular. Den sender dine loginoplysninger direkte til browsermiljøet og indsender dem, uden at de bliver tilgængelige i modellens kontekst. Derefter genoptager den pågældende dot arbejdet på den konto, du er logget ind på. Ved at holde adgangskoden ude af samtalen reduceres risikoen for, at den dukker op i et svar eller bliver delt ved en fejl.

Understøttede forløb med gemte adgangskoder opretholder denne adskillelse gennem en dedikeret, krypteret tjeneste til loginoplysninger. Tjenesten leverer adgangskoden ved login uden at sende den til modellen. På den måde kan dots arbejde på konti, du har givet adgang til, mens adgangskoderne forbliver uden for modellens kontekst. Denne beskyttelse gælder specifikt for sikkert login og forløb med gemte adgangskoder. En hemmelig oplysning, som indsættes separat i en læsbar besked eller et dokument, kan stadig være synlig for modellen.

Du styrer, hvilke apps dots må bruge, via dine eksisterende forbindelser og tilladelser i ChatGPT, som deles på tværs af ChatGPT, ChatGPT Work og Codex. I afsnittet Plugins under Indstillinger kan du gennemgå tilsluttede konti og ændre, hvad dots har adgang til fremover. Hvis du afbryder forbindelsen til en app, stopper delingen af nye oplysninger via den forbindelse. Men oplysninger, som en dot allerede har fået, forbliver i dens egen kontekst. Disse tilladelser styrer adgangen til dine apps. De tilsidesætter ikke obligatoriske sikkerhedskrav.

Hvis du vil have dots til at arbejde med lokale filer eller værktøjer, kan du også vælge at tilslutte din computer. Forbindelsen er fortsat underlagt den lokale sandbox og de relevante handlingskontroller. Brug af computerens mikrofon eller kamera kræver også enhedstilladelser, som du kan vælge at give ChatGPT.

Aktivitetsvisning i desktopappen lader dig følge og styre igangværende arbejde. Den viser igangværende og uddelegerede opgaver og deres status. Du kan tilføje kontekst, rette en misforståelse, ændre retning eller bede en dot om at stoppe.

Dots opbygger kontekst over tid, så deres hjælp bliver mere nyttig. Når de uddelegerer arbejde, får de andre agenter instruktion om at bevare de oplysninger, der er nødvendige for opgaven, og undgå at gemme unødvendige følsomme detaljer. Hver dot har sin egen kontekst, som du kan nulstille når som helst.

For arbejdsområder i ChatGPT Business, Enterprise og Edu bruger vi som standard ikke dine data til at træne vores modeller. Med personlige ChatGPT‑abonnementer styrer du via indstillingen »Gør modellen bedre for alle«, om dine dots' samtaler og det arbejde, de udfører, bruges til at forbedre vores modeller. Når modeltræning er aktiveret, kan det omfatte handlinger, som dots udfører, og automatiseringer, som du opretter, efter at vi har arbejdet på at fjerne personidentificerende oplysninger. Du kan læse mere om, hvordan dine data bruges, i denne artikel⁠(åbner i et nyt vindue) i vores hjælpecenter.

Ud over det arbejde, du beder dem om, kan dots starte researchopgaver i baggrunden for at finde andre måder at hjælpe på – for eksempel ved at opdage en ændring i dine rejseplaner. Det kalder vi proaktiv research.

Disse opgaver kører i hver dots skymiljø. De bruger værktøjer med skrivebeskyttet adgang til at indsamle oplysninger fra tilsluttede kilder, som de har adgang til, og gemmer derefter private noter til den pågældende dot. Vi håndhæver disse begrænsninger i kode: Researchopgaverne kan ikke direkte sende beskeder til andre, ændre indhold i tilsluttede apps eller styre en browser eller et skrivebord. Dots kan bruge resultaterne til at beslutte, hvordan de kan hjælpe, men enhver opfølgende handling skal følge de sædvanlige regler og kontroller.

Vi træner ikke vores modeller direkte på disse baggrundsresearchtråde eller de noter, de producerer. Men en dot kan modtage noter fra sin researchopgave i baggrunden eller læse dele af sine researchtråde. Oplysninger, der på denne måde hentes ind i en samtale eller opgave, som må bruges til modeltræning, kan indgå i træningen afhængigt af dine indstillinger. En researchopgave i baggrunden kan for eksempel indsamle oplysninger om flere destinationer til en kommende rejse til Europa. Den researchtråd og dens noter bruges ikke direkte til træning. Når du senere beder din dot om hjælp til at planlægge en rejse til Lissabon, læser den måske en note om Lissabon fra sin researchopgave i baggrunden. Den note bliver en del af konteksten i samtalen om rejseplanlægning og kan derefter bruges til træning afhængigt af dine indstillinger. Resten af baggrundsresearchen bruges ikke til træning, medmindre den også hentes ind i en samtale eller opgave, der må bruges til træning.

Dots følger indbyggede sikkerhedsrammer, der er udformet til at forebygge skade og lade dig beholde kontrollen over beslutninger med væsentlige konsekvenser. Deres sikkerhedsregler kræver, at de afviser skadelige anmodninger, herunder om misbrug inden for biologi eller cybersikkerhed. For opgaver, de kan hjælpe med, fastlægger handlingsregler, hvornår de må fortsætte, hvornår de skal bede om bekræftelse, og hvornår de skal overlade et trin til dig.

Inden for disse rammer kan dots læse oplysninger, de har tilladelse til at tilgå, analysere dem og udarbejde udkast i dine samtaler. Før de sender en besked eller deler en fil, er de trænet til at bede om en tilladelse, der dækker oplysningerne og modtagertypen – jo mere følsomme dataene er, desto mere præcist skal modtagerne angives. Helbredsoplysninger vil for eksempel altid kræve, at brugeren angiver en navngiven modtager (»del min sygehistorie med læge Thompson«). Mindre følsomme personoplysninger, såsom en e-mailadresse eller et telefonnummer, vil som standard kræve, at brugeren angiver kategorier af modtagere (»et hvilket som helst flyselskab«). Brugeren kan udvide reglerne for mindre følsomme personoplysninger yderligere (»del via enhver onlineformular«) ved at oprette en tilpasset regel – læs mere om funktionen i næste afsnit. Tilladelsen forbliver knyttet til dine instruktioner for opgaven. Den udvides ikke, når arbejdet fortsættes senere eller uddelegeres.

Dots kan foretage køb med kort, du allerede har gemt på en forhandlers website. Disse køb kræver din godkendelse.

Nogle handlinger kræver din bekræftelse hver gang. Det gælder blandt andet permanent sletning af data, installation eller kørsel af software fra en ukendt kilde og tildeling af ny adgang med sikkerhedsmæssig betydning. Disse krav giver dig mulighed for at gennemgå ændringer, der kan være svære at fortryde eller give nogen ny adgang.

Ved andre følsomme trin, såsom at ændre en adgangskode eller overføre penge mellem finansielle konti, kan dots hjælpe med resten af opgaven, men skal overlade de følsomme trin til dig.

Tilpassede regler lader dig forme den hjælp, dots giver, inden for de indbyggede sikkerhedsrammer – for eksempel ved at instruere dem i aldrig at sende e-mails. Du kan også give instruktioner til en bestemt opgave, såsom at bede en dot om at fortælle en kollega, at du er væk, uden at dele den personlige årsag. Disse instruktioner gælder fortsat, når den pågældende dot uddelegerer arbejde eller arbejder i baggrunden.

Dots kan hjælpe dig med at skrive tilpassede regler, men de skal have din godkendelse for at ændre dem. Disse præferencer gælder inden for de indbyggede sikkerhedsrammer og kan ikke fjerne krav om bekræftelse, overdragelse til dig eller grundlæggende sikkerhed.

Før dots udfører handlinger såsom at sende e-mails eller ændre filer, kontrollerer et særskilt sikkerhedssystem kaldet Automatisk gennemgang de planlagte trin op imod dine instruktioner, tilpassede regler og sikkerhedskrav. Ved en e-mail kontrollerer systemet modtageren og beskeden for at hjælpe med at opdage en forkert adresse eller oplysninger, du ikke havde til hensigt at dele.

Hvis Automatisk gennemgang tillader et trin, udfører den dot, der foreslog det, trinnet med det relevante computer- eller appværktøj og bruger derefter resultatet til at fortsætte din opgave. Den kan bruge en godkendelse, du allerede har givet, når godkendelsen dækker handlingen, og reglerne ikke kræver en ny bekræftelse.

Hvis Automatisk gennemgang blokerer et trin, forhindrer systemet handlingen i at blive udført og fortæller den pågældende dot hvorfor. Den pågældende dot kan bede om flere oplysninger eller din godkendelse, hvis det kan ophæve blokeringen, og derefter sende trinnet til gennemgang igen. Afhængigt af årsagen kan den i stedet prøve et tilladt alternativ, overlade et følsomt trin til dig eller stoppe. Din godkendelse kan ikke tilsidesætte grundlæggende sikkerhedskrav.

De mekanismer, der håndhæver Automatisk gennemgang, holdes uden for de miljøer, dots kan ændre, så de ikke kan ændre eller slå en obligatorisk kontrol fra. Almindelige trin, der kun læser data, følger stadig apptilladelser, værktøjsbegrænsninger og andre sikkerhedsforanstaltninger, men kræver ikke denne ekstra gennemgang.

For at betro dots løbende arbejde skal du vide, hvordan de følger dine instruktioner og reagerer, når der sker noget uventet. Astra hjælper dem med at forstå din hensigt, mens beskyttelsen omkring deres data, arbejdsområder, loginoplysninger og handlinger hjælper med at begrænse skader fra fejl eller ondsindet indhold. Tilsammen giver disse sikkerhedsforanstaltninger dots plads til at udføre nyttigt arbejde og mindsker samtidig risikoen for, at en fejl fører til en uønsket handling eller videregivelse af oplysninger.

Du vælger, hvad dots må oprette forbindelse til, og hvordan de skal hjælpe. Du kan følge deres fremskridt eller ændre retning, når dine behov ændrer sig. Godkendelser og overdragelser til dig sikrer, at du træffer de vigtigste beslutninger. Dots kan stadig begå fejl, så vi vil fortsætte med at teste og forbedre deres beskyttelse, efterhånden som vi lærer af brugen i praksis. Vores mål er at gøre det lettere at overlade arbejde til dots og vende tilbage til nyttige fremskridt, mens dine præferencer styrer opgaven, og vigtige beslutninger stadig ligger hos dig.

Læs vores systemkort⁠(åbner i et nyt vindue) for at få flere oplysninger om vores sikkerhedsforanstaltninger, sikkerhedsevalueringer og resterende begrænsninger.

Læs om sikkerhedsgrundlaget for ChatGPT i Sikkerhed og privatliv hos OpenAI. Få et nærmere indblik i en af vores websikkerhedsforanstaltninger i Sådan beskytter vi dine data, når en AI-agent klikker på et link.