Så bygger vi in säkerhet, informationssäkerhet och integritet i dots

Dots är ständigt aktiva agenter som tar ett löpande ansvar, så att du får mer tid och fokus för det som är viktigt för dig. Varje dot har en egen dator och arbetar i de appar du väljer att ansluta. Du ger dina dots mål och bestämmer vad de får göra på egen hand. De kan arbeta sig igenom stegen, anpassa sig när något förändras och fortsätta framåt mellan samtalen. De kan följa ett nyhetsförlopp och ta fram ett utkast till ett nyhetsbrev, eller hjälpa till att uppdatera ett projekt när ny information kommer in. De återkommer med resultat som du får granska och vänder sig till dig när ett beslut kräver ditt omdöme.

Att ge dots det ansvaret innebär att du anförtror dem mer av din information och ditt arbete. Du ska kunna förstå vad varje dot har åtkomst till, hur den använder åtkomsten och när den behöver involvera dig. Det här är viktiga frågor, eftersom en agents misstag kan få konsekvenser utanför samtalet: om den missförstår en begäran kan den ändra fel fil eller dela information som du ville hålla privat.

Vi bygger in skydd i varje del av arbetet. Vi börjar med GPT‑6 Astra, som vi tränar för att förstå din avsikt och följa säkerhetsregler. Sedan lägger vi till skydd kring informationen som dots använder, miljöerna de arbetar i och åtgärderna de planerar att utföra. En skyddad arbetsyta i molnet hjälper till att begränsa följderna av misstag, säkra inloggningsflöden bidrar till att skydda känsliga inloggningsuppgifter och separata åtgärdskontroller hjälper till att fånga upp steg som bryter mot dina instruktioner eller säkerhetskraven. Du väljer vad du vill ansluta, anger dina preferenser och följer eller styr om arbetet under tiden.

Dots kan fortfarande göra misstag, och vi fortsätter att förbättra skydden utifrån det vi lär oss av verklig användning. Här förklarar vi hur skyddsåtgärderna samverkar, vad du styr över och vilka begränsningar som finns kvar, så att du kan fatta välgrundade beslut om vilket arbete du anförtror dots.

Dots drivs av GPT‑6 Astra, vår mest kapabla modell och den som bäst följer mänskliga avsikter och värderingar. Astra är särskilt bra på att förstå ditt mål, hålla sig inom ramen för din begäran och ställa riktade frågor när svaren kan påverka vad den bör göra. De här förmågorna hjälper dots att arbeta med uppgifter över tid utan att tappa bort din ursprungliga avsikt.

Vi har tränat Astra att avvisa skadliga förfrågningar, bland annat sådana som rör missbruk inom biologi eller cybersäkerhet. Vi testar hur dots hanterar ändrade instruktioner, tvetydiga förfrågningar och försök att få dem att överskrida de behörigheter du har gett dem. Manuell och automatiserad red teaming hjälper oss att hitta svagheter, förbättra modellen och systemen runt den och sedan testa ändringarna på nytt.

Vi kompletterar modellens skydd med ChatGPT:s säkerhetsskydd och ytterligare åtgärder för agenter som kan fortsätta arbeta för din räkning.

ChatGPT:s inbyggda skydd omfattar kryptering av ditt innehåll både när det lagras och när det överförs mellan dig, OpenAI och våra tjänsteleverantörer, samt åtkomstkontroller som hjälper till att skydda lagrad information. Våra system för kontosäkerhet söker också efter misstänkt användning av ditt OpenAI-konto och kan kräva att du loggar in på nytt om en session verkar ha kapats.

Agenter behöver också skydd mot informationen de stöter på i sitt arbete. En webbsida, ett mejl eller ett dokument kan innehålla skadliga instruktioner som försöker styra om dem eller få dem att dela privat information – ett problem som kallas promptinjektion. Vi kombinerar modellskydd med verktygsbegränsningar, kontroller före åtgärder och övervakning för att bidra till att sådant innehåll inte leder till oönskade åtgärder.

Vi övervakar också dots när de planerar och utför åtgärder för att upptäcka potentiellt skadligt beteende, som att agera utanför dina instruktioner eller försöka kringgå skyddsåtgärder. Om säkerhetsövervakningen upptäcker en risk i en dots pågående arbete kan den pausa arbetet och visa en varning som du får granska. Övervakningen är inbyggd och hjälper till att upptäcka risker under arbetets gång, vid sidan av de skydd som begränsar vad dots kan komma åt och göra.

Varje dot har en egen molndator där den kan surfa, analysera information, skapa filer och köra verktyg. Dots kan fortsätta arbeta i de här arbetsytorna även när du inte deltar aktivt.

Du väljer vilka konton dots får använda, antingen genom att ansluta appar inom ramen för de behörigheter du har gett ChatGPT eller genom att logga in på en webbplats i en dots webbläsare, med säker inloggning där det stöds. Du kan också ansluta din egen dator för att ge dots fler sätt att hjälpa till, till exempel genom att analysera ett kalkylblad på skrivbordet eller använda kodningsverktyg som är installerade på din enhet.

I varje dots skyddade arbetsyta begränsar en sandlåda vilken kod och vilka verktyg dotten kan komma åt. Det hjälper till att begränsa följderna av skadlig kod eller ett felaktigt kommando. Vi isolerar också användarnas molnmiljöer från varandra och underhåller det underliggande operativsystemet Linux och webbläsaren Chrome.

Dots kör kod i miljöer som är åtskilda från de system som samordnar deras arbete och upprätthåller viktiga skyddsåtgärder. De kan skapa filer och köra verktyg där, men kan inte använda den åtkomsten för att ändra säkerhetssystemen eller stänga av obligatoriska kontroller. Den här åtskillnaden bidrar till att skydden finns kvar även om en dot gör ett misstag.

Åtgärdsreglerna som beskrivs nedan styr vad dots får göra med sin åtkomst.

Med säker inloggning kan dots arbeta i konton utan att lösenorden hamnar i samtalet. Vid inloggningar som stöds pausas modellen medan du fyller i ett säkert inloggningsformulär. Formuläret skickar dina inloggningsuppgifter direkt till webbläsarmiljön och använder dem för inloggning utan att exponera dem i modellens kontext. Dotten återupptar sedan arbetet i det inloggade kontot. Att hålla lösenordet utanför samtalet minskar risken för att det dyker upp i ett svar eller delas av misstag.

De flöden för sparade lösenord som stöds bibehåller den här åtskillnaden genom en särskild krypterad tjänst för inloggningsuppgifter. Tjänsten tillhandahåller lösenordet vid inloggning utan att skicka det till modellen. På så sätt kan dots arbeta i konton som du har godkänt, medan lösenorden hålls utanför modellens kontext. De här skydden gäller specifikt för säker inloggning och flöden för sparade lösenord. En hemlig uppgift som läggs separat i ett läsbart meddelande eller dokument kan fortfarande vara synlig för modellen.

Du hanterar vilka appar dots får använda via dina befintliga anslutningar och behörigheter i ChatGPT, som delas mellan ChatGPT, ChatGPT Work och Codex. Under Inställningar > Insticksprogram kan du granska anslutna konton och ändra vad dots ska ha åtkomst till framöver. Om du kopplar från en app delas ingen ny information via den anslutningen. Information som en dot redan har tagit del av finns däremot kvar i dess egen kontext. De här behörigheterna styr åtkomsten till dina appar. De åsidosätter inte obligatoriska säkerhetskrav.

Om du vill att dots ska arbeta med lokala filer eller verktyg kan du också välja att ansluta din dator. Den anslutningen omfattas fortfarande av den lokala sandlådans begränsningar och tillämpliga åtgärdskontroller. För att använda datorns mikrofon eller kamera krävs också enhetsbehörigheter, som du kan välja att ge ChatGPT.

Med aktivitetsvyn i skrivbordsappen kan du följa och vägleda pågående arbete. Den visar pågående och delegerade uppgifter och deras status. Du kan lägga till kontext, rätta ett missförstånd, ändra inriktning eller be en dot att avbryta.

Dots bygger upp kontext över tid för att kunna ge mer användbar hjälp. När de delegerar arbete instrueras de andra agenterna att behålla den information som behövs för uppgiften och undvika att spara onödiga känsliga uppgifter. Varje dot har en egen kontext som du kan återställa när som helst.

För arbetsytor i ChatGPT Business, Enterprise och Edu använder vi som standard inte dina data för att träna våra modeller. För personliga ChatGPT‑abonnemang styr du om samtalen med dina dots och arbetet de utför ska användas för att förbättra våra modeller, via inställningen ”Förbättra modellen för alla”. När modellträning är aktiverad kan detta omfatta åtgärder som dots utför och automatiseringar som du ställer in, efter att vi har arbetat med att ta bort personidentifierande uppgifter. Du kan läsa mer om hur dina data används i den här artikeln⁠(öppnas i ett nytt fönster) i vårt hjälpcenter.

Utöver det arbete du ber dem utföra kan dots starta researchuppgifter i bakgrunden för att hitta andra sätt att hjälpa till, till exempel genom att uppmärksamma en ändring i dina resplaner. Vi kallar det proaktiv research.

De här uppgifterna körs i varje dots molnmiljö. De använder verktyg med enbart läsåtkomst för att samla information från tillåtna anslutna källor och sparar sedan privata anteckningar åt dotten. Vi upprätthåller begränsningarna i kod: researchuppgifterna kan inte direkt skicka meddelanden till andra, ändra innehåll i anslutna appar eller styra en webbläsare eller ett skrivbord. Dots kan använda resultaten för att avgöra hur de kan hjälpa till, men alla uppföljande åtgärder måste följa de vanliga reglerna och kontrollerna.

Vi tränar inte våra modeller direkt på de här bakgrundstrådarna för research eller anteckningarna de ger upphov till. En dot kan däremot ta emot anteckningar från sin researchuppgift i bakgrunden eller läsa delar av sina researchtrådar. Information som på det här sättet förs in i ett samtal eller en uppgift som får användas för träning kan användas för modellträning, beroende på dina inställningar. En researchuppgift i bakgrunden kan till exempel samla information om flera resmål inför en kommande Europaresa. Den researchtråden och dess anteckningar används inte direkt för träning. När du senare ber din dot att hjälpa dig planera en resa till Lissabon kan den läsa en anteckning om Lissabon från sin researchuppgift i bakgrunden. Anteckningen blir då en del av kontexten i samtalet om reseplanering och kan därefter användas för träning, beroende på dina inställningar. Resten av bakgrundsresearchen används inte för träning, om den inte också förs in i ett samtal eller en uppgift som får användas för träning.

Dots följer inbyggda skyddsregler som är utformade för att förebygga skada och låta dig behålla kontrollen över beslut med betydande konsekvenser. Deras säkerhetsregler kräver att de avvisar skadliga förfrågningar, bland annat sådana som rör missbruk inom biologi eller cybersäkerhet. För uppgifter som de kan hjälpa till med anger åtgärdsreglerna när de får fortsätta, när de måste be om bekräftelse och när de måste lämna tillbaka ett steg till dig.

Inom de här gränserna kan dots läsa information som de har behörighet att komma åt, analysera den och ta fram utkast i dina samtal. För att skicka ett meddelande eller dela en fil har de tränats att be om ett godkännande som omfattar både informationen och typen av mottagare. Ju känsligare uppgifterna är, desto mer specifikt måste mottagarna anges. För hälsouppgifter krävs till exempel alltid att användaren anger en namngiven mottagare (”dela min sjukdomshistoria med dr Thompson”). För mindre känsliga personuppgifter, som en e-postadress eller ett telefonnummer, krävs som standard att användaren anger kategorier av mottagare (”vilket flygbolag som helst”). Användaren kan tillåta ännu bredare delning av mindre känsliga personuppgifter (”dela med vilket webbformulär som helst”) genom att skapa en anpassad regel. Läs mer om funktionen i nästa avsnitt. Godkännandet är knutet till dina instruktioner för uppgiften. Det utökas inte om arbetet återupptas senare eller delegeras.

Dots kan göra köp med kort som du redan har sparat på en handlares webbplats. De köpen kräver ditt godkännande.

Vissa åtgärder kräver din bekräftelse varje gång, till exempel att radera data permanent, installera eller köra programvara från en okänd källa eller bevilja ny säkerhetskänslig åtkomst. De här kraven ger dig möjlighet att granska ändringar som kan vara svåra att ångra eller som ger någon ny åtkomst.

För andra känsliga steg, som att ändra ett lösenord eller överföra pengar mellan finansiella konton, kan dots hjälpa till med den omgivande uppgiften men måste lämna tillbaka själva de känsliga stegen till dig.

Med anpassade regler kan du styra hur dots hjälper till inom ramen för de inbyggda skydden, till exempel genom att säga åt dem att aldrig skicka mejl. Du kan också ge instruktioner för en viss uppgift, till exempel be en dot att meddela en kollega att du är borta utan att berätta den personliga orsaken. Instruktionerna fortsätter att gälla när dotten delegerar arbete eller arbetar i bakgrunden.

Dots kan hjälpa dig att skriva anpassade regler, men behöver ditt godkännande för att ändra dem. De här preferenserna gäller inom de inbyggda skyddsreglerna och kan inte ta bort obligatoriska bekräftelser, överlämningar till dig eller grundläggande säkerhetskrav.

Innan dots utför åtgärder som att skicka mejl eller ändra filer kontrollerar ett separat säkerhetssystem, Automatisk granskning, de planerade stegen mot dina instruktioner, anpassade regler och säkerhetskrav. För ett mejl kontrolleras mottagaren och meddelandet för att fånga upp felaktiga adresser eller information som du inte avsåg att dela.

Om Automatisk granskning tillåter ett steg utförs det av den dot som föreslog det, med lämpligt dator- eller appverktyg. Dotten använder sedan resultatet för att fortsätta med din uppgift. Den kan utgå från ett godkännande som du redan har gett, om det omfattar åtgärden och reglerna inte kräver en ny bekräftelse.

Om Automatisk granskning blockerar ett steg hindrar systemet åtgärden från att utföras och meddelar orsaken till dotten. Dotten kan be om mer information eller ditt godkännande om det skulle kunna häva blockeringen och sedan skicka in steget för granskning igen. Beroende på orsaken kan den i stället pröva ett tillåtet alternativ, lämna tillbaka ett känsligt steg till dig eller avbryta. Ditt godkännande kan inte åsidosätta grundläggande säkerhetskrav.

De kontroller som upprätthåller Automatisk granskning ligger utanför de miljöer som dots kan ändra. Därför kan de inte ändra eller stänga av en obligatorisk kontroll. Vanliga steg som bara läser information omfattas fortfarande av appbehörigheter, verktygsbegränsningar och andra skydd, men behöver inte den här extra granskningen.

För att anförtro dots löpande arbete behöver du veta hur de följer dina instruktioner och agerar när något oväntat händer. Astra hjälper dem att förstå din avsikt, medan skydd kring deras data, arbetsytor, inloggningsuppgifter och åtgärder bidrar till att begränsa skador från misstag eller skadligt innehåll. Tillsammans ger skyddsåtgärderna dots utrymme att göra nytta, samtidigt som de minskar risken för att ett fel leder till en oönskad åtgärd eller att information röjs.

Du väljer vad dots får ansluta till och hur de hjälper till, och du kan följa arbetets framsteg eller ändra inriktning när dina behov förändras. Genom krav på godkännanden och överlämningar behåller du kontrollen över viktiga beslut. Dots kan fortfarande göra misstag, så vi fortsätter att testa och förbättra skydden utifrån det vi lär oss av verklig användning. Vårt mål är att göra det enklare att lämna över arbete till dots och komma tillbaka till konkreta framsteg, med dina preferenser som vägledning och de viktiga besluten kvar hos dig.

Läs systemkortet⁠(öppnas i ett nytt fönster) för mer information om våra skyddsåtgärder, säkerhetsutvärderingar och kvarstående begränsningar.

Läs om säkerhetsgrunderna bakom ChatGPT i Säkerhet och integritet hos OpenAI. För en närmare titt på ett av webbsäkerhetsskydden, se Så skyddas dina data när en AI-agent klickar på en länk.