Jak u dotů zajišťujeme bezpečnost, zabezpečení a soukromí

Doty jsou neustále aktivní agenti, kteří přebírají dlouhodobou odpovědnost za úkoly. Vy tak máte více času a pozornosti na věci, na kterých vám záleží. Každý dot má vlastní počítač a pracuje napříč aplikacemi, které se rozhodnete připojit. Dotům zadáváte cíle a určujete, co mohou dělat samostatně. Mohou postupovat krok za krokem, přizpůsobovat se změnám a pokračovat v práci i mezi konverzacemi. Mohou sledovat vývoj události a připravit návrh newsletteru nebo pomáhat s aktualizací projektu podle nových informací. Výsledky vám předloží ke kontrole a obrátí se na vás, když je potřeba váš úsudek.

Svěřit dotům tuto odpovědnost znamená svěřit jim i více svých informací a práce. Měli byste vědět, k čemu má každý dot přístup, jak ho využívá a kdy potřebuje zapojit vás. Na těchto otázkách záleží, protože chyby agenta mohou mít následky i mimo konverzaci: nepochopení požadavku může vést ke změně nesprávného souboru nebo ke sdílení informací, které jste si chtěli nechat pro sebe.

Pro každou část této práce vytváříme ochranné mechanismy. Základem je GPT‑6 Astra, který trénujeme tak, aby rozuměl vašim záměrům a dodržoval bezpečnostní pravidla. K tomu přidáváme ochranná opatření pro informace, které doty používají, prostředí, ve kterých pracují, a akce, které plánují provést. Chráněný cloudový pracovní prostor pomáhá omezit dopady chyb, zabezpečené přihlašování pomáhá chránit citlivé přihlašovací údaje a samostatné kontroly akcí pomáhají zachytit kroky, které neodpovídají vašim pokynům nebo bezpečnostním požadavkům. Vy si vybíráte, co připojíte, nastavujete preference a průběžně sledujete nebo měníte směr práce.

Doty přesto mohou chybovat a my budeme tyto ochranné mechanismy dál zlepšovat na základě zkušeností z reálného používání. Zde vysvětlujeme, jak ochranné mechanismy spolupracují, co máte pod kontrolou a kde stále mají své limity. Díky tomu se můžete informovaně rozhodovat, jakou práci dotům svěříte.

Doty pohání GPT‑6 Astra, náš nejschopnější model, který je také nejlépe sladěný s lidskými záměry a hodnotami. Astra vyniká v porozumění vašemu cíli, dodržování rozsahu vašeho požadavku a kladení cílených otázek, pokud odpovědi mohou ovlivnit další postup. Díky těmto schopnostem mohou doty dlouhodobě pracovat na úkolech, aniž by ztrácely ze zřetele váš záměr.

Model Astra jsme vytrénovali tak, aby odmítal škodlivé požadavky, včetně požadavků na zneužití v oblasti biologie nebo kybernetické bezpečnosti. Testujeme, jak doty reagují na měnící se pokyny, nejednoznačné požadavky a pokusy přimět je k překročení vámi udělených oprávnění. Red-teaming prováděný lidmi i automatizovaně nám pomáhá odhalovat slabiny, zlepšovat model i související systémy a tyto změny znovu testovat.

Tyto ochranné mechanismy modelu doplňujeme zabezpečením ChatGPT a dalšími opatřeními pro agenty, kteří mohou průběžně pracovat vaším jménem.

Integrovaná ochrana ChatGPT zahrnuje šifrování vašeho obsahu při uložení i při přenosu mezi vámi, OpenAI a našimi poskytovateli služeb. Součástí je také řízení přístupu, které pomáhá chránit uložené informace. Naše systémy zabezpečení účtů také sledují podezřelé používání vašeho účtu OpenAI a mohou vyžadovat nové přihlášení, pokud relace vykazuje známky napadení.

Agenti potřebují ochranu také před informacemi, na které při práci narazí. Webová stránka, e-mail nebo dokument mohou obsahovat škodlivé pokyny, které se snaží změnit jejich postup nebo je přimět ke sdílení soukromých informací. Tento problém se nazývá injektáž promptů. Kombinujeme ochranné mechanismy modelu s omezeními nástrojů, kontrolami před provedením akcí a monitorováním, abychom pomohli zabránit tomu, že takový obsah povede k nežádoucí akci.

Doty sledujeme také při plánování a provádění akcí. Hledáme potenciálně škodlivé chování, například jednání v rozporu s vašimi pokyny nebo pokusy obejít ochranné mechanismy. Pokud bezpečnostní monitorování odhalí problém v probíhající práci dotu, může ji pozastavit a zobrazit vám upozornění k posouzení. Toto monitorování je integrovanou součástí systému a pomáhá odhalovat problémy v průběhu úkolu. Doplňuje ochranné mechanismy, které omezují přístup a činnost dotů.

Každý dot má vlastní cloudový počítač, kde může procházet web, analyzovat informace, vytvářet soubory a spouštět nástroje. Doty mohou v těchto pracovních prostorech pokračovat v práci, i když se jí aktivně neúčastníte.

Vy rozhodujete, které účty mohou doty používat: buď připojíte aplikace v rámci oprávnění udělených ChatGPT, nebo se přihlásíte na webu v prohlížeči dotu, a to zabezpečeným přihlášením, pokud je podporováno. Můžete připojit i svůj osobní počítač a dát tak dotům více možností, jak vám pomoci – například analyzovat tabulku uloženou na ploše nebo používat programovací nástroje nainstalované ve vašem zařízení.

Sandbox v chráněném pracovním prostoru každého dotu omezuje, ke kterému kódu a nástrojům má dot přístup. Pomáhá tak omezit dopady škodlivého kódu nebo chybného příkazu. Cloudová prostředí jednotlivých uživatelů také vzájemně izolujeme a zajišťujeme údržbu operačního systému Linux a prohlížeče Chrome, na kterých jsou postavena.

Doty spouštějí kód v prostředích oddělených od systémů, které koordinují jejich práci a vynucují klíčové ochranné mechanismy. Mohou v nich vytvářet soubory a spouštět nástroje, ale tento přístup nemohou využít ke změně bezpečnostních systémů ani k vypnutí povinných kontrol. Toto oddělení pomáhá udržet ochranné mechanismy v platnosti, i když dot udělá chybu.

Níže popsaná pravidla pro provádění akcí určují, jak doty mohou svůj přístup využívat.

Zabezpečené přihlášení umožňuje dotům pracovat v účtech, aniž by se hesla dostala do konverzace. U podporovaných přihlášení se model pozastaví, zatímco vy vyplníte zabezpečený přihlašovací formulář. Ten předá vaše přihlašovací údaje přímo do prostředí prohlížeče a odešle je, aniž by se dostaly do kontextu modelu. Dot pak pokračuje v práci v přihlášeném účtu. Díky tomu, že heslo zůstává mimo konverzaci, se snižuje riziko, že se objeví v odpovědi nebo bude omylem sdíleno.

Podporované postupy přihlašování s uloženými hesly zachovávají toto oddělení pomocí vyhrazené šifrované služby pro přihlašovací údaje. Služba poskytne heslo pro přihlášení, aniž by ho předala modelu. Doty tak mohou pracovat v účtech, ke kterým jste udělili přístup, zatímco hesla zůstávají mimo kontext modelu. Tato ochrana se vztahuje pouze na zabezpečené přihlašování a postupy s uloženými hesly. Tajný údaj uvedený jinde v čitelné zprávě nebo dokumentu může být pro model stále viditelný.

Aplikace, které mohou doty používat, spravujete prostřednictvím stávajících připojení a oprávnění v ChatGPT. Ta jsou sdílená mezi ChatGPT, ChatGPT Work a Codex. V části Pluginy v Nastavení můžete zkontrolovat připojené účty a změnit, k čemu budou mít doty přístup do budoucna. Odpojením aplikace se zastaví sdílení nových informací prostřednictvím daného připojení. Informace, které už dot získal, však zůstávají v jeho kontextu. Tato oprávnění řídí přístup k vašim aplikacím. Neruší však závazné bezpečnostní požadavky.

Pokud chcete, aby doty pracovaly s místními soubory nebo nástroji, můžete připojit i svůj počítač. Toto připojení nadále podléhá omezením místního sandboxu a příslušným kontrolám akcí. Používání mikrofonu nebo kamery počítače vyžaduje také oprávnění zařízení, která se můžete rozhodnout udělit ChatGPT.

Přehled aktivity v desktopové aplikaci vám umožňuje sledovat a řídit probíhající práci. Zobrazuje probíhající i delegované úkoly a jejich stav. Můžete doplnit kontext, napravit nedorozumění, změnit směr nebo požádat dot, aby se zastavil.

Doty si postupně vytvářejí kontext, aby vám mohly lépe pomáhat. Když delegují práci, ostatní agenti dostávají pokyn uchovávat informace potřebné pro úkol a neuchovávat zbytečné citlivé údaje. Každý dot má vlastní kontext, který můžete kdykoli vymazat.

V pracovních prostorech ChatGPT Business, Enterprise a Edu vaše data ve výchozím nastavení nepoužíváme k trénování našich modelů. U osobních tarifů ChatGPT rozhodujete prostřednictvím nastavení „Zlepšovat model pro všechny“, zda se konverzace vašich dotů a práce, kterou vykonávají, používají ke zlepšování našich modelů. Pokud je trénování modelů povoleno, mohou se k němu využívat i akce dotů a automatizace, které nastavíte. Nejprve se přitom snažíme odstranit údaje umožňující osobní identifikaci. Více o tom, jak se vaše data používají, si můžete přečíst v tomto článku⁠(otevře se v novém okně) v našem centru nápovědy.

Vedle práce, kterou jim zadáte, mohou doty spouštět rešerše na pozadí a hledat další příležitosti, jak pomoci – například si všimnout změny ve vašich cestovních plánech. Říkáme tomu proaktivní rešerše.

Tyto úkoly běží v cloudovém prostředí každého dotu. Pomocí nástrojů určených jen pro čtení shromažďují informace z povolených připojených zdrojů a poté pro daný dot ukládají soukromé poznámky. Tato omezení vynucujeme přímo v kódu: rešeršní úkoly nemohou přímo odesílat zprávy jiným lidem, měnit obsah v připojených aplikacích ani ovládat prohlížeč či plochu. Doty mohou zjištění využít k rozhodnutí, jak pomoci, ale každá následná akce musí dodržovat obvyklá pravidla a projít příslušnými kontrolami.

Na vláknech těchto rešerší na pozadí ani na poznámkách, které vytvářejí, naše modely přímo netrénujeme. Dot však může z rešeršního úkolu na pozadí obdržet poznámky nebo si přečíst části jeho vláken. Informace takto vložené do konverzace nebo úkolu, které lze využít k trénování, mohou být podle vašeho nastavení použity k trénování modelů. Rešeršní úkol na pozadí může například shromáždit informace o několika destinacích pro nadcházející cestu do Evropy. Vlákno této rešerše ani její poznámky se přímo k trénování nepoužívají. Když později požádáte svůj dot o pomoc s plánováním cesty do Lisabonu, může si přečíst poznámku o Lisabonu z rešeršního úkolu na pozadí. Tato poznámka se stane součástí kontextu konverzace o plánování cesty a podle vašeho nastavení pak může být použita k trénování. Zbytek rešerše na pozadí se k trénování nepoužije, pokud se také nestane součástí konverzace nebo úkolu, které lze k trénování využít.

Doty dodržují integrovaná ochranná pravidla, jejichž cílem je předcházet škodám a ponechat závažná rozhodnutí na vás. Jejich bezpečnostní pravidla vyžadují odmítání škodlivých požadavků, včetně zneužití v oblasti biologie nebo kybernetické bezpečnosti. U úkolů, se kterými mohou pomoci, pravidla pro provádění akcí určují, kdy mohou pokračovat, kdy musí požádat o potvrzení a kdy musí předat krok zpět vám.

V těchto mezích mohou doty číst informace, ke kterým mají povolený přístup, analyzovat je a připravovat návrhy ve vašich konverzacích. Učíme je, aby si pro odeslání zprávy nebo sdílení souboru vyžádaly souhlas, který se vztahuje na dané informace i typ příjemce. Čím citlivější údaje, tím konkrétněji musí být příjemci určeni. Například u zdravotních údajů musí uživatel vždy uvést konkrétního příjemce jménem („sdílej mou anamnézu s doktorem Thompsonem“). U méně citlivých osobních údajů, jako je e-mailová adresa nebo telefonní číslo, musí uživatel ve výchozím nastavení určit kategorie příjemců („jakákoli letecká společnost“). Uživatel může pravidla pro méně citlivé osobní údaje dále rozšířit („sdílej v libovolném online formuláři“) vytvořením vlastního pravidla. Více o této funkci najdete v další části. Tento souhlas zůstává vázán na vaše pokyny k danému úkolu. Pozdější pokračování v práci ani její delegování jeho rozsah nerozšiřují.

Doty mohou nakupovat pomocí karet, které už máte uložené na webu obchodníka. Tyto nákupy vyžadují vaše schválení.

Některé akce vyžadují vaše potvrzení pokaždé. Patří mezi ně trvalé smazání dat, instalace nebo spuštění softwaru z nerozpoznaného zdroje či udělení nového přístupu s dopadem na zabezpečení. Díky těmto požadavkům můžete posoudit změny, které by se obtížně vracely zpět nebo by někomu nově poskytly přístup.

U jiných citlivých kroků, například změny hesla nebo převodu peněz mezi finančními účty, mohou doty pomoci se související prací, ale samotné citlivé kroky musí nechat na vás.

Vlastní pravidla vám umožňují v rámci integrovaných ochranných mechanismů určit, jak vám doty budou pomáhat – například jim můžete zakázat odesílat e-maily. Můžete také zadat pokyny pro konkrétní úkol, například požádat dot, aby kolegovi sdělil, že jste pryč, ale neuvedl osobní důvod. Tyto pokyny platí i tehdy, když dot deleguje práci nebo pracuje na pozadí.

Doty vám mohou pomoci sepsat vlastní pravidla, ale k jejich změně potřebují vaše schválení. Tyto preference fungují v rámci integrovaných ochranných pravidel a nemohou zrušit povinné potvrzování, předávání kroků uživateli ani základní bezpečnostní požadavky.

Než doty provedou akce, jako je odeslání e-mailů nebo změna souborů, samostatný bezpečnostní systém nazvaný Automatická kontrola prověří, zda plánované kroky odpovídají vašim pokynům, vlastním pravidlům a bezpečnostním požadavkům. U e-mailu kontroluje příjemce a obsah zprávy, aby pomohl zachytit nesprávnou adresu nebo informace, které jste nechtěli sdílet.

Pokud Automatická kontrola krok povolí, dot, který ho navrhl, ho provede pomocí příslušného nástroje pro počítač nebo aplikaci a výsledek pak využije k pokračování v úkolu. Může vycházet ze souhlasu, který jste už udělili, pokud se na danou akci vztahuje a pravidla nevyžadují nové potvrzení.

Pokud Automatická kontrola krok zablokuje, zabrání provedení akce a sdělí dotu důvod. Dot může požádat o další informace nebo o vaše schválení, pokud by to mohlo blokaci vyřešit, a poté krok znovu předložit ke kontrole. Podle důvodu blokace může místo toho zkusit povolenou alternativu, předat citlivý krok zpět vám nebo se zastavit. Vaše schválení nemůže obejít základní bezpečnostní požadavky.

Mechanismy, které vynucují Automatickou kontrolu, udržujeme mimo prostředí, jež mohou doty měnit. Doty proto nemohou povinnou kontrolu změnit ani vypnout. Běžné kroky určené jen ke čtení nadále podléhají oprávněním aplikací, omezením nástrojů a dalším ochranným mechanismům, ale tuto dodatečnou kontrolu nepotřebují.

Abyste mohli dotům svěřit dlouhodobou práci, potřebujete vědět, jak budou dodržovat vaše pokyny a reagovat na nečekané situace. Astra jim pomáhá porozumět vašemu záměru. Ochrana jejich dat, pracovních prostorů, přihlašovacích údajů a akcí pak pomáhá omezovat škody způsobené chybami nebo škodlivým obsahem. Společně tyto mechanismy dávají dotům prostor k užitečné práci a zároveň snižují pravděpodobnost, že chyba povede k nežádoucí akci nebo vyzrazení informací.

Vy rozhodujete, k čemu se doty mohou připojit a jak vám budou pomáhat. Můžete sledovat jejich postup nebo měnit směr podle svých aktuálních potřeb. Díky schvalování a předávání kroků zpět vám zůstávají klíčová rozhodnutí ve vašich rukou. Doty stále mohou chybovat, proto budeme jejich ochranné mechanismy dál testovat a zlepšovat na základě zkušeností z reálného používání. Naším cílem je usnadnit vám předání práce dotům tak, abyste se mohli vrátit k užitečným výsledkům. Průběh úkolu přitom mají určovat vaše preference a důležitá rozhodnutí zůstat ve vašich rukou.

Podrobnosti o našich ochranných mechanismech, hodnoceních bezpečnosti a přetrvávajících omezeních najdete v kartě systému⁠(otevře se v novém okně).

O základech zabezpečení ChatGPT se dočtete v článku Zabezpečení a soukromí v OpenAI. Jeden z mechanismů webové ochrany podrobněji představuje článek Jak chráníme vaše data, když AI agent klikne na odkaz.