Slik bygger vi trygghet, sikkerhet og personvern inn i dots

Dots er agenter som alltid er aktive og tar ansvar for løpende oppgaver, slik at du får mer tid og overskudd til det som betyr noe for deg. Hver dot har sin egen datamaskin og jobber på tvers av appene du velger å koble til. Du gir dotene mål og definerer hva de kan gjøre på egen hånd. De kan jobbe seg gjennom trinnene, tilpasse seg endringer og fortsette arbeidet mellom samtalene. De kan følge en nyhetssak og lage et utkast til et nyhetsbrev, eller hjelpe med å oppdatere et prosjekt etter hvert som ny informasjon kommer inn. De legger frem resultatene for deg til gjennomgang og spør deg når en beslutning krever din vurdering.

Å gi dotene dette ansvaret innebærer å betro dem mer av informasjonen og arbeidet ditt. Du bør forstå hva hver dot har tilgang til, hvordan den bruker tilgangen, og når den må involvere deg. Disse spørsmålene er viktige fordi en agents feil kan få konsekvenser utover samtalen. Hvis den misforstår en forespørsel, kan den endre feil fil eller dele informasjon du ønsket å holde privat.

Vi bygger inn beskyttelse i alle deler av dette arbeidet. Vi starter med GPT‑6 Astra, som vi trener til å forstå hensikten din og følge sikkerhetsregler. Deretter legger vi til beskyttelsestiltak rundt informasjonen dotene bruker, miljøene de jobber i, og handlingene de planlegger å utføre. Et beskyttet arbeidsområde i skyen bidrar til å begrense konsekvensene av feil. Sikre påloggingsprosesser bidrar til å beskytte sensitiv påloggingsinformasjon, og separate handlingskontroller bidrar til å fange opp trinn som bryter med instruksjonene dine eller sikkerhetskravene. Du velger hva som skal kobles til, angir preferanser og følger eller justerer arbeidet underveis.

Dots kan fortsatt gjøre feil, og vi fortsetter å forbedre beskyttelsen etter hvert som vi lærer av faktisk bruk. Her forklarer vi hvordan beskyttelsestiltakene virker sammen, hva du styrer, og hvilke begrensninger som fortsatt finnes – slik at du kan ta informerte valg om arbeidet du overlater til dots.

Dots drives av GPT‑6 Astra, vår mest kapable modell og den som best følger menneskelige intensjoner og verdier. Astra er svært god til å forstå målet ditt, holde seg innenfor rammene av forespørselen og stille målrettede spørsmål når svarene kan endre hva den bør gjøre. Disse evnene hjelper dotene med å følge opp oppgaver over tid uten å miste av syne hva du ønsket.

Vi har trent Astra til å avvise skadelige forespørsler, blant annet forespørsler som innebærer misbruk innen biologi eller cybersikkerhet. Vi tester hvordan dots håndterer endrede instruksjoner, tvetydige forespørsler og forsøk på å få dem til å gå utover tillatelsene dine. Menneskelig og automatisert red teaming hjelper oss med å finne svakheter, forbedre modellen og systemene rundt den, og teste endringene på nytt.

Vi bygger videre på modellens beskyttelsestiltak med sikkerheten i ChatGPT og ytterligere tiltak for agenter som kan fortsette å jobbe på dine vegne.

Den innebygde beskyttelsen i ChatGPT omfatter kryptering av innholdet ditt både når det lagres og når det overføres mellom deg, OpenAI og tjenesteleverandørene våre, samt tilgangskontroller som bidrar til å beskytte lagret informasjon. Systemene våre for kontosikkerhet ser også etter mistenkelig bruk av OpenAI-kontoen din og kan kreve ny pålogging hvis en økt ser ut til å være kompromittert.

Agenter trenger også beskyttelse mot informasjonen de møter mens de jobber. En nettside, e-post eller et dokument kan inneholde ondsinnede instruksjoner som forsøker å avlede dem eller få dem til å dele privat informasjon – et problem som kalles promptinjeksjon. Vi kombinerer modellens beskyttelsestiltak med verktøybegrensninger, kontroller før handlinger og overvåking for å bidra til at slikt innhold ikke fører til en uønsket handling.

Vi overvåker også dots mens de planlegger og utfører handlinger, og ser etter potensielt skadelig atferd, som å handle i strid med instruksjonene dine eller forsøke å omgå beskyttelsestiltak. Hvis sikkerhetsovervåkingen oppdager noe bekymringsfullt i arbeidet til en dot, kan den sette arbeidet på pause og vise deg en advarsel du må se gjennom. Denne overvåkingen er innebygd og bidrar til å oppdage problemer underveis i en oppgave, sammen med beskyttelsestiltakene som begrenser hva dots har tilgang til og kan gjøre.

Hver dot har sin egen datamaskin i skyen, der den kan surfe på nettet, analysere informasjon, opprette filer og kjøre verktøy. Dots kan fortsette arbeidet i disse arbeidsområdene, selv når du ikke deltar aktivt.

Du velger hvilke kontoer dots kan bruke, enten ved å koble til apper innenfor tillatelsene du har gitt ChatGPT, eller ved å logge på et nettsted i nettleseren til en dot, med sikker pålogging der det støttes. Du kan også velge å koble til din egen datamaskin for å gi dotene flere måter å hjelpe på – for eksempel ved å analysere et regneark som er lagret på skrivebordet, eller bruke kodeverktøy som er installert på enheten din.

I det beskyttede arbeidsområdet til hver dot begrenser en sandkasse hvilken kode og hvilke verktøy doten har tilgang til. Det bidrar til å begrense konsekvensene av skadelig kode eller en feil kommando. Vi isolerer også brukernes skymiljøer fra hverandre og vedlikeholder det underliggende Linux-operativsystemet og Chrome-nettleseren.

Dots kjører kode i miljøer som er atskilt fra systemene som koordinerer arbeidet og håndhever sentrale beskyttelsestiltak. De kan opprette filer og kjøre verktøy der, men de kan ikke bruke denne tilgangen til å endre sikkerhetssystemene eller slå av påkrevde kontroller. Dette skillet bidrar til å opprettholde beskyttelsen selv om en dot gjør en feil.

Handlingsreglene som er beskrevet nedenfor, styrer hva dots kan gjøre med tilgangen sin.

Sikker pålogging lar dots jobbe i kontoer uten at passord kommer inn i samtalen. For pålogginger som støttes, settes modellen på pause mens du fyller ut et sikkert påloggingsskjema. Skjemaet sender påloggingsinformasjonen direkte til nettlesermiljøet og bruker den til pålogging uten å eksponere den i modellens kontekst. Doten fortsetter deretter arbeidet i kontoen du er logget på. Ved å holde passordet utenfor samtalen reduseres risikoen for at det dukker opp i et svar eller deles ved en feil.

Støttede påloggingsprosesser med lagrede passord opprettholder dette skillet gjennom en egen kryptert tjeneste for påloggingsinformasjon. Tjenesten leverer passordet til pålogging uten å sende det til modellen. Dermed kan dots jobbe i kontoer du har godkjent, mens passordene holdes utenfor modellens kontekst. Disse beskyttelsestiltakene gjelder spesifikt for sikker pålogging og prosesser med lagrede passord. En hemmelighet som legges inn separat i en lesbar melding eller et dokument, kan fortsatt være synlig for modellen.

Du styrer hvilke apper dots kan bruke, gjennom de eksisterende tilkoblingene og tillatelsene dine i ChatGPT. Disse deles på tvers av ChatGPT, ChatGPT Work og Codex. Under Programtillegg i Innstillinger kan du se gjennom tilkoblede kontoer og endre hva dots skal ha tilgang til fremover. Når du kobler fra en app, stoppes deling av ny informasjon gjennom den tilkoblingen. Informasjon en dot allerede har fått, blir imidlertid værende i dotens egen kontekst. Disse tillatelsene styrer tilgangen til appene dine. De overstyrer ikke obligatoriske sikkerhetskrav.

Hvis du vil at dots skal jobbe med lokale filer eller verktøy, kan du også velge å koble til datamaskinen din. Tilkoblingen er fortsatt underlagt den lokale sandkassen og gjeldende handlingskontroller. Bruk av datamaskinens mikrofon eller kamera krever også enhetstillatelser, som du kan velge å gi ChatGPT.

Aktivitetsvisning i skrivebordsappen lar deg følge og styre pågående arbeid. Den viser pågående og delegerte oppgaver og statusen deres. Du kan legge til kontekst, rette opp en misforståelse, endre retning eller be en dot om å stoppe.

Dots bygger opp kontekst over tid for å kunne gi mer nyttig hjelp. Når de delegerer arbeid, får de andre agentene beskjed om å beholde informasjonen som trengs for oppgaven, og unngå å beholde unødvendige sensitive detaljer. Hver dot har sin egen kontekst, som du kan nullstille når som helst.

For arbeidsområder i ChatGPT Business, Enterprise og Edu bruker vi som standard ikke dataene dine til å trene modellene våre. Med personlige ChatGPT‑abonnementer styrer du om samtalene med dotene dine og arbeidet de utfører, brukes til å forbedre modellene våre. Det gjør du med innstillingen «Forbedre modellen for alle». Når modelltrening er aktivert, kan dette omfatte handlinger dotene utfører, og automatiseringer du setter opp, etter at vi har arbeidet med å fjerne personidentifiserende opplysninger. Du kan lese mer om hvordan dataene dine brukes, i denne artikkelen⁠(åpnes i et nytt vindu) i hjelpesenteret vårt.

Ved siden av arbeidet du ber dem om å gjøre, kan dots starte undersøkelser i bakgrunnen for å finne andre måter å hjelpe på – for eksempel ved å oppdage en endring i reiseplanene dine. Vi kaller dette proaktive undersøkelser.

Disse oppgavene kjøres i skymiljøet til hver dot. De bruker verktøy med kun lesetilgang til å hente informasjon fra tilkoblede kilder de har tilgang til, og lagrer deretter private notater til doten. Vi håndhever disse begrensningene i kode: Undersøkelsesoppgavene kan ikke sende meldinger direkte til andre, endre innhold i tilkoblede apper eller styre en nettleser eller et skrivebord. Dots kan bruke funnene til å avgjøre hvordan de kan hjelpe, men alle oppfølgingshandlinger må følge de vanlige reglene og kontrollene.

Vi trener ikke modellene våre direkte på trådene fra disse bakgrunnsundersøkelsene eller notatene de produserer. En dot kan imidlertid motta notater fra bakgrunnsundersøkelsen sin eller lese deler av undersøkelsestrådene. Informasjon som på denne måten tas inn i en samtale eller oppgave som kan brukes til modelltrening, kan bli brukt til det, avhengig av innstillingene dine. En bakgrunnsundersøkelse kan for eksempel samle informasjon om flere reisemål for en kommende tur til Europa. Denne undersøkelsestråden og notatene fra den brukes ikke direkte til trening. Når du senere ber doten din om hjelp til å planlegge en tur til Lisboa, kan den lese et notat om Lisboa fra bakgrunnsundersøkelsen sin. Notatet blir en del av konteksten i samtalen om reiseplanlegging og kan da brukes til trening, avhengig av innstillingene dine. Resten av bakgrunnsundersøkelsen brukes ikke til trening med mindre den også tas inn i en samtale eller oppgave som kan brukes til trening.

Dots følger innebygde sikkerhetsrammer som er utformet for å forhindre skade og la viktige beslutninger forbli hos deg. Sikkerhetsreglene krever at de avviser skadelige forespørsler, blant annet forespørsler som innebærer misbruk innen biologi eller cybersikkerhet. For oppgaver de kan hjelpe med, definerer handlingsreglene når de kan fortsette, når de må be om bekreftelse, og når de må overlate et trinn til deg.

Innenfor disse rammene kan dots lese informasjon de har tillatelse til å få tilgang til, analysere den og lage utkast i samtalene dine. For å sende en melding eller dele en fil er de opplært til å be om tillatelse som dekker både informasjonen og mottakertypen. Jo mer sensitive dataene er, desto mer presist må mottakerne angis. Helsedata vil for eksempel alltid kreve at brukeren navngir en mottaker («del sykehistorien min med Dr. Thompson»). Mindre sensitive personopplysninger, som en e-postadresse eller et telefonnummer, vil som standard kreve at brukeren angir kategorier av mottakere («et hvilket som helst flyselskap»). Brukeren kan utvide reglene for mindre sensitive personopplysninger ytterligere («del med et hvilket som helst nettskjema») ved å opprette en egendefinert regel. Se neste del for mer informasjon om denne funksjonen. Tillatelsen forblir knyttet til instruksjonene dine for oppgaven. Den utvides ikke når arbeidet fortsetter senere eller delegeres.

Dots kan foreta kjøp med kort du allerede har lagret på en forhandlers nettsted. Disse kjøpene krever din godkjenning.

Noen handlinger krever bekreftelse fra deg hver gang, blant annet permanent sletting av data, installasjon eller kjøring av programvare fra en ukjent kilde, eller tildeling av ny tilgang som kan påvirke sikkerheten. Disse kravene gir deg mulighet til å vurdere endringer som kan være vanskelige å angre, eller som gir noen ny tilgang.

For andre sensitive trinn, som å endre et passord eller overføre penger mellom finansielle kontoer, kan dots hjelpe med resten av oppgaven, men må overlate de sensitive trinnene til deg.

Med Egendefinerte regler kan du forme hvordan dots hjelper deg innenfor den innebygde beskyttelsen – for eksempel ved å si at de aldri skal sende e-post. Du kan også gi instruksjoner for en bestemt oppgave, som å be en dot fortelle en kollega at du er borte, uten å dele den personlige årsaken. Disse instruksjonene gjelder fortsatt når doten delegerer arbeid eller jobber i bakgrunnen.

Dots kan hjelpe deg med å skrive egendefinerte regler, men trenger din godkjenning for å endre dem. Disse preferansene gjelder innenfor de innebygde sikkerhetsrammene og kan ikke fjerne krav om bekreftelse, krav om å overlate trinn til deg eller grunnleggende sikkerhetskrav.

Før dots utfører handlinger som å sende e-post eller endre filer, kontrollerer et separat sikkerhetssystem kalt Automatisk gjennomgang de planlagte trinnene opp mot instruksjonene dine, egendefinerte regler og sikkerhetskrav. For en e-post kontrollerer det mottakeren og meldingen for å bidra til å fange opp feil adresse eller informasjon du ikke mente å dele.

Hvis Automatisk gjennomgang tillater et trinn, utfører doten som foreslo det, trinnet med riktig datamaskin- eller appverktøy. Deretter bruker den resultatet til å fortsette oppgaven din. Systemet kan basere seg på en godkjenning du allerede har gitt, når den dekker handlingen og reglene ikke krever en ny bekreftelse.

Hvis Automatisk gjennomgang blokkerer et trinn, hindrer systemet at handlingen utføres, og forteller doten hvorfor. Doten kan be om mer informasjon eller om din godkjenning hvis det kan løse årsaken til blokkeringen, og deretter sende inn trinnet til ny vurdering. Avhengig av årsaken kan den i stedet prøve et tillatt alternativ, overlate et sensitivt trinn til deg eller stoppe. Godkjenningen din kan ikke overstyre grunnleggende sikkerhetskrav.

Vi holder kontrollmekanismene som håndhever Automatisk gjennomgang, utenfor miljøene dots kan endre, slik at de ikke kan endre eller slå av en påkrevd kontroll. Vanlige trinn som bare leser informasjon, følger fortsatt apptillatelser, verktøybegrensninger og andre beskyttelsestiltak, men trenger ikke denne ekstra gjennomgangen.

Å betro dots løpende arbeid forutsetter at du vet hvordan de vil følge instruksjonene dine og reagere når noe uventet skjer. Astra hjelper dem med å forstå hensikten din, mens beskyttelsestiltak rundt data, arbeidsområder, påloggingsinformasjon og handlinger bidrar til å begrense skaden fra feil eller ondsinnet innhold. Sammen gir disse beskyttelsestiltakene dots rom til å gjøre nyttig arbeid, samtidig som de reduserer risikoen for at en feil fører til en uønsket handling eller deling av informasjon.

Du velger hva dots kan koble seg til, og hvordan de hjelper deg. Du kan følge fremdriften eller endre retning når behovene dine endrer seg. Krav om godkjenning og om å overlate visse trinn til deg sørger for at du tar de viktigste beslutningene. Dots kan fortsatt gjøre feil, så vi fortsetter å teste og forbedre beskyttelsen etter hvert som vi lærer av faktisk bruk. Målet vårt er å gjøre det enklere å overlate arbeid til dots og komme tilbake til nyttig fremdrift, med dine preferanser som føringer for oppgaven og viktige beslutninger fortsatt i dine hender.

Les systemkortet⁠(åpnes i et nytt vindu) for mer informasjon om beskyttelsestiltakene våre, sikkerhetsevalueringene og begrensningene som gjenstår.

Les om sikkerhetsgrunnlaget bak ChatGPT i Sikkerhet og personvern hos OpenAI. For å se nærmere på ett av tiltakene for nettsikkerhet, les Slik holder vi dataene dine trygge når en KI-agent klikker på en lenke.