Ako zaisťujeme bezpečnosť, zabezpečenie a súkromie pri agentoch dots

Dots sú nepretržite aktívni agenti, ktorí preberajú dlhodobú zodpovednosť za úlohy, aby ste mali viac času a pozornosti na to, na čom vám záleží. Každý agent dot má vlastný počítač a pracuje v aplikáciách, ktoré sa rozhodnete pripojiť. Agentom dots určujete ciele aj to, čo môžu robiť samostatne. Dokážu postupovať po jednotlivých krokoch, prispôsobovať sa zmenám a pokračovať v práci aj medzi konverzáciami. Môžu napríklad sledovať vývoj udalostí a pripraviť návrh bulletinu alebo pomáhať aktualizovať projekt podľa nových informácií. Výsledky vám predložia na kontrolu a pri rozhodnutiach, ktoré si vyžadujú váš úsudok, sa obrátia na vás.

Zveriť agentom dots takúto zodpovednosť znamená zveriť im aj viac svojich informácií a práce. Mali by ste rozumieť tomu, k čomu má každý agent dot prístup, ako ho využíva a kedy vás musí zapojiť. Tieto otázky sú dôležité, pretože chyby agenta môžu mať následky aj mimo konverzácie: ak nesprávne pochopí požiadavku, môže zmeniť nesprávny súbor alebo zdieľať informácie, ktoré ste si chceli ponechať v súkromí.

Ochranné opatrenia zavádzame do každej časti tejto práce. Začíname modelom GPT‑6 Astra, ktorý trénujeme tak, aby chápal váš zámer a dodržiaval bezpečnostné pravidlá. Následne pridávame ochranné opatrenia pre informácie, ktoré agenti dots využívajú, prostredia, v ktorých pracujú, a akcie, ktoré plánujú vykonať. Chránený cloudový pracovný priestor pomáha obmedziť dosah chýb, zabezpečené postupy prihlasovania chránia citlivé prihlasovacie údaje a samostatné kontroly akcií pomáhajú zachytiť kroky, ktoré prekračujú vaše pokyny alebo bezpečnostné požiadavky. Vy si vyberáte, čo pripojíte, nastavujete preferencie a priebežne sledujete alebo usmerňujete prácu.

Agenti dots môžu stále robiť chyby. Tieto ochranné opatrenia budeme naďalej zlepšovať na základe skúseností z reálneho používania. Tu vysvetľujeme, ako ochranné opatrenia spolupracujú, čo máte pod kontrolou a aké obmedzenia pretrvávajú, aby ste sa mohli informovane rozhodovať o práci, ktorú zveríte agentom dots.

Agentov dots poháňa GPT‑6 Astra, náš najschopnejší model, ktorý je zároveň najlepšie zosúladený s ľudskými zámermi a hodnotami. Astra vyniká v chápaní vášho cieľa, dodržiavaní rozsahu požiadavky a kladení cielených otázok vtedy, keď by odpovede mohli zmeniť ďalší postup. Vďaka týmto schopnostiam môžu agenti dots dlhodobo pracovať na úlohách bez toho, aby sa odklonili od vášho zámeru.

Model Astra sme natrénovali tak, aby odmietal škodlivé požiadavky vrátane požiadaviek na zneužitie v oblasti biológie či kybernetickej bezpečnosti. Testujeme, ako agenti dots zvládajú meniace sa pokyny, nejednoznačné požiadavky a pokusy prinútiť ich prekročiť vami udelené povolenia. Manuálny aj automatizovaný red teaming nám pomáha nachádzať slabiny, zlepšovať model aj súvisiace systémy a následne tieto zmeny opäť testovať.

Tieto ochranné mechanizmy modelu dopĺňame zabezpečením ChatGPT a ďalšími opatreniami pre agentov, ktorí môžu vo vašom mene priebežne pracovať.

Zabudovaná ochrana ChatGPT zahŕňa šifrovanie vášho obsahu pri ukladaní aj pri prenose medzi vami, OpenAI a našimi poskytovateľmi služieb, ako aj riadenie prístupu, ktoré pomáha chrániť uložené informácie. Naše systémy zabezpečenia účtov sledujú aj podozrivé používanie vášho účtu OpenAI a pri podozrení na narušenie relácie môžu vyžadovať opätovné prihlásenie.

Agenti potrebujú ochranu aj pred informáciami, s ktorými sa stretávajú pri práci. Webová stránka, e-mail či dokument môžu obsahovať škodlivé pokyny, ktorých cieľom je odkloniť agentov od úlohy alebo ich prinútiť zdieľať súkromné informácie. Tento problém sa nazýva vkladanie falošných príkazov. Ochranné mechanizmy modelu kombinujeme s obmedzeniami nástrojov, kontrolami pred vykonaním akcií a monitorovaním, aby sme zabránili tomu, že takýto obsah povedie k nežiaducej akcii.

Agentov dots monitorujeme aj pri plánovaní a vykonávaní akcií. Sledujeme potenciálne škodlivé správanie, napríklad konanie nad rámec vašich pokynov alebo pokusy obísť ochranné opatrenia. Ak bezpečnostné monitorovanie odhalí problém v prebiehajúcej práci agenta dot, môže ju pozastaviť a zobraziť vám upozornenie na posúdenie. Toto monitorovanie je zabudované a pomáha odhaľovať problémy počas práce na úlohe. Dopĺňa tak ochranné opatrenia, ktoré obmedzujú prístup agentov dots a ich možnosti konať.

Každý agent dot má vlastný cloudový počítač, na ktorom môže prehliadať web, analyzovať informácie, vytvárať súbory a spúšťať nástroje. Agenti dots môžu v týchto pracovných priestoroch pokračovať v práci, aj keď sa do nej aktívne nezapájate.

Vy si vyberáte, ktoré účty môžu agenti dots používať. Môžete pripojiť aplikácie v rámci povolení udelených ChatGPT alebo sa prihlásiť na webovej stránke v prehliadači agenta dot, a tam, kde je to podporované, využiť zabezpečené prihlásenie. Môžete pripojiť aj svoj osobný počítač a umožniť tak agentom dots pomáhať ďalšími spôsobmi, napríklad analyzovať tabuľku uloženú na pracovnej ploche alebo používať programátorské nástroje nainštalované vo vašom zariadení.

V chránenom pracovnom priestore každého agenta dot izolácia v sandboxe obmedzuje prístup ku kódu a nástrojom, čím pomáha obmedziť dosah škodlivého kódu či chybného príkazu. Cloudové prostredia jednotlivých používateľov tiež navzájom izolujeme a zabezpečujeme údržbu operačného systému Linux a prehliadača Chrome, na ktorých sú postavené.

Agenti dots spúšťajú kód v prostrediach oddelených od systémov, ktoré koordinujú ich prácu a vynucujú kľúčové ochranné opatrenia. Môžu tam vytvárať súbory a spúšťať nástroje, ale tento prístup nemôžu využiť na zmenu bezpečnostných systémov ani na vypnutie povinných kontrol. Toto oddelenie pomáha zachovať ochranné opatrenia aj v prípade, že agent dot urobí chybu.

Pravidlá pre vykonávanie akcií opísané nižšie určujú, čo môžu agenti dots s udeleným prístupom robiť.

Zabezpečené prihlásenie umožňuje agentom dots pracovať v účtoch bez toho, aby sa heslá dostali do konverzácie. Pri podporovaných spôsoboch prihlásenia sa model pozastaví, kým vyplníte zabezpečený prihlasovací formulár. Ten odošle vaše prihlasovacie údaje priamo do prostredia prehliadača a použije ich na prihlásenie bez toho, aby sa dostali do kontextu modelu. Agent dot potom pokračuje v práci v prihlásenom účte. Tým, že heslo zostáva mimo konverzácie, sa znižuje riziko, že sa objaví v odpovedi alebo bude omylom zdieľané.

Podporované postupy prihlasovania s uloženým heslom zachovávajú toto oddelenie pomocou vyhradenej šifrovanej služby na správu prihlasovacích údajov. Služba poskytne heslo na prihlásenie bez toho, aby ho odovzdala modelu. Agenti dots tak môžu pracovať v účtoch, ku ktorým ste im povolili prístup, zatiaľ čo heslá zostávajú mimo kontextu modelu. Tieto ochranné opatrenia sa vzťahujú konkrétne na zabezpečené prihlasovanie a prihlasovanie s uloženým heslom. Tajný údaj, ktorý osobitne vložíte do čitateľnej správy alebo dokumentu, môže byť modelu naďalej prístupný.

To, ktoré aplikácie môžu agenti dots používať, spravujete cez existujúce pripojenia a povolenia ChatGPT, ktoré sú spoločné pre ChatGPT, ChatGPT Work a Codex. V sekcii Doplnky v Nastaveniach si môžete prezrieť pripojené účty a zmeniť, k čomu budú mať agenti dots prístup v budúcnosti. Odpojením aplikácie sa zastaví zdieľanie nových informácií cez dané pripojenie. Informácie, ktoré už agent dot získal, však zostanú v jeho kontexte. Tieto povolenia určujú prístup k vašim aplikáciám, ale nemôžu zrušiť povinné bezpečnostné požiadavky.

Ak chcete, aby agenti dots pracovali s miestnymi súbormi alebo nástrojmi, môžete pripojiť aj svoj počítač. Na toto pripojenie sa naďalej vzťahujú obmedzenia lokálneho sandboxu a príslušné kontroly akcií. Používanie mikrofónu alebo kamery počítača si vyžaduje aj povolenia zariadenia, ktoré sa môžete rozhodnúť udeliť ChatGPT.

Zobrazenie aktivity v počítačovej aplikácii vám umožňuje sledovať a usmerňovať prebiehajúcu prácu. Zobrazuje prebiehajúce aj delegované úlohy a ich stav. Môžete doplniť kontext, napraviť nedorozumenie, zmeniť smer alebo požiadať agenta dot, aby prestal.

Agenti dots si postupne vytvárajú kontext, aby vám dokázali pomáhať užitočnejšie. Keď delegujú prácu, ostatní agenti dostávajú pokyny uchovávať informácie potrebné na úlohu a neuchovávať zbytočné citlivé podrobnosti. Každý agent dot má vlastný kontext, ktorý môžete kedykoľvek vymazať a začať odznova.

V pracovných priestoroch ChatGPT Business, Enterprise a Edu vaše údaje predvolene nepoužívame na trénovanie našich modelov. Pri osobných plánoch ChatGPT rozhodujete prostredníctvom nastavenia „Zlepšovať model pre všetkých“ o tom, či sa konverzácie vašich agentov dots a práca, ktorú vykonávajú, použijú na zlepšovanie našich modelov. Ak je trénovanie modelov zapnuté, môže to zahŕňať aj akcie vykonané agentmi dots a automatizácie, ktoré nastavíte, po tom, ako sa z týchto údajov pokúsime odstrániť osobné identifikátory. Viac o tom, ako sa vaše údaje používajú, si môžete prečítať v tomto článku⁠(otvorí sa v novom okne) v našom centre pomoci.

Popri práci, ktorú im zadáte, môžu agenti dots spúšťať prieskumné úlohy na pozadí a hľadať ďalšie možnosti pomoci – napríklad si všimnúť zmenu vo vašich cestovných plánoch. Nazývame to proaktívny prieskum.

Tieto úlohy bežia v cloudovom prostredí každého agenta dot. Pomocou nástrojov určených len na čítanie zhromažďujú informácie z povolených pripojených zdrojov a potom ukladajú súkromné poznámky pre daného agenta dot. Tieto obmedzenia vynucujeme v kóde: prieskumné úlohy nemôžu priamo posielať správy iným ľuďom, meniť obsah v pripojených aplikáciách ani ovládať prehliadač či pracovnú plochu. Agenti dots sa môžu na základe zistení rozhodnúť, ako pomôcť, no každá nadväzujúca akcia musí podliehať bežným pravidlám a kontrolám.

Naše modely netrénujeme priamo na vláknach prieskumu na pozadí ani na poznámkach, ktoré pri ňom vzniknú. Agent dot však môže dostať poznámky zo svojej prieskumnej úlohy na pozadí alebo si prečítať časti jej vlákien. Informácie, ktoré sa takto dostanú do konverzácie alebo úlohy, ktorú možno použiť na trénovanie, sa môžu v závislosti od vašich nastavení použiť na trénovanie modelov. Prieskumná úloha na pozadí môže napríklad zhromaždiť informácie o viacerých destináciách pre nadchádzajúcu cestu do Európy. Toto prieskumné vlákno ani jeho poznámky sa priamo na trénovanie nepoužijú. Keď neskôr požiadate svojho agenta dot o pomoc s plánovaním cesty do Lisabonu, môže si prečítať poznámku o Lisabone zo svojej prieskumnej úlohy na pozadí. Táto poznámka sa stane súčasťou kontextu vašej konverzácie o plánovaní cesty a potom sa môže v závislosti od vašich nastavení použiť na trénovanie. Zvyšok prieskumu na pozadí sa na trénovanie nepoužije, pokiaľ sa tiež nedostane do konverzácie alebo úlohy, ktorú možno použiť na trénovanie.

Agenti dots dodržiavajú zabudované ochranné pravidlá, ktorých cieľom je predchádzať ujme a ponechať rozhodnutia so závažnými dôsledkami vo vašich rukách. Ich bezpečnostné pravidlá vyžadujú, aby odmietali škodlivé požiadavky vrátane zneužitia v oblasti biológie či kybernetickej bezpečnosti. Pri úlohách, s ktorými môžu pomôcť, pravidlá pre vykonávanie akcií určujú, kedy môžu pokračovať, kedy si musia vyžiadať potvrdenie a kedy musia krok prenechať vám.

V rámci týchto hraníc môžu agenti dots čítať informácie, ku ktorým majú povolený prístup, analyzovať ich a pripravovať návrhy vo vašich konverzáciách. Sú trénovaní tak, aby si pred odoslaním správy či zdieľaním súboru vyžiadali súhlas, ktorý sa vzťahuje na dané informácie aj typ príjemcu. Čím sú údaje citlivejšie, tým konkrétnejšie musí byť príjemca určený. Napríklad pri zdravotných údajoch musí používateľ vždy uviesť konkrétneho príjemcu menom („zdieľaj moju zdravotnú anamnézu s doktorom Thompsonom“). Pri menej citlivých osobných údajoch, ako je e-mailová adresa alebo telefónne číslo, musí používateľ predvolene určiť kategórie príjemcov („akákoľvek letecká spoločnosť“). Používateľ môže pravidlá pre menej citlivé osobné údaje ďalej rozšíriť („zdieľaj v ľubovoľnom online formulári“) vytvorením vlastného pravidla. Viac podrobností o tejto funkcii nájdete v nasledujúcej časti. Tento súhlas zostáva viazaný na vaše pokyny k úlohe. Pokračovanie v práci neskôr ani jej delegovanie ho nerozširujú.

Agenti dots môžu nakupovať pomocou kariet, ktoré už máte uložené na webovej stránke obchodníka. Tieto nákupy si vyžadujú vaše schválenie.

Niektoré akcie si vyžadujú vaše potvrdenie zakaždým, napríklad trvalé vymazanie údajov, inštalácia alebo spustenie softvéru z nerozpoznaného zdroja či udelenie nového prístupu citlivého z hľadiska bezpečnosti. Vďaka týmto požiadavkám máte možnosť posúdiť zmeny, ktoré by sa ťažko vracali späť alebo by niekomu udelili nový prístup.

Pri iných citlivých krokoch, napríklad pri zmene hesla alebo prevode peňazí medzi finančnými účtami, môžu agenti dots pomáhať so súvisiacou úlohou, ale samotné citlivé kroky musia prenechať vám.

Vlastné pravidlá vám umožňujú určiť, ako majú agenti dots pomáhať v rámci zabudovaných ochranných opatrení – napríklad im môžete prikázať, aby nikdy neposielali e-maily. Môžete zadať aj pokyny ku konkrétnej úlohe, napríklad požiadať agenta dot, aby kolegovi oznámil vašu neprítomnosť bez uvedenia osobného dôvodu. Tieto pokyny naďalej platia aj vtedy, keď agent dot deleguje prácu alebo pracuje na pozadí.

Agenti dots vám môžu pomôcť napísať vlastné pravidlá, no na ich zmenu potrebujú vaše schválenie. Tieto preferencie platia v rámci zabudovaných ochranných pravidiel a nemôžu zrušiť povinné potvrdenia, prenechanie krokov vám ani základné bezpečnostné požiadavky.

Skôr než agenti dots vykonajú akcie, ako je odoslanie e-mailov či úprava súborov, samostatný bezpečnostný systém s názvom Automatická kontrola preverí súlad plánovaných krokov s vašimi pokynmi, vlastnými pravidlami a bezpečnostnými požiadavkami. Pri e-maile kontroluje príjemcu a správu, aby pomohol zachytiť nesprávnu adresu alebo informácie, ktoré ste nechceli zdieľať.

Ak Automatická kontrola krok povolí, agent dot, ktorý ho navrhol, ho vykoná pomocou príslušného počítača alebo nástroja aplikácie a výsledok potom použije na pokračovanie v úlohe. Môže sa oprieť o váš predchádzajúci súhlas, ak sa vzťahuje na danú akciu a pravidlá nevyžadujú nové potvrdenie.

Ak Automatická kontrola krok zablokuje, zabráni vykonaniu akcie a oznámi agentovi dot dôvod. Agent dot si môže vyžiadať ďalšie informácie alebo vaše schválenie, ak by to mohlo odstrániť dôvod zablokovania, a potom krok opäť predložiť na kontrolu. V závislosti od dôvodu môže namiesto toho skúsiť povolenú alternatívu, prenechať citlivý krok vám alebo sa zastaviť. Vaše schválenie nemôže zrušiť základné bezpečnostné požiadavky.

Mechanizmy vynucujúce Automatickú kontrolu uchovávame mimo prostredí, ktoré môžu agenti dots meniť, aby nemohli povinnú kontrolu zmeniť ani vypnúť. Bežné kroky určené len na čítanie naďalej podliehajú povoleniam aplikácií, obmedzeniam nástrojov a ďalším ochranným opatreniam, no túto dodatočnú kontrolu nepotrebujú.

Aby ste agentom dots mohli s dôverou zveriť dlhodobú prácu, potrebujete vedieť, ako budú dodržiavať vaše pokyny a reagovať, keď sa stane niečo nečakané. Astra im pomáha pochopiť váš zámer, zatiaľ čo ochranné opatrenia pre ich údaje, pracovné priestory, prihlasovacie údaje a akcie pomáhajú obmedziť škody spôsobené chybami či škodlivým obsahom. Tieto opatrenia spoločne poskytujú agentom dots priestor na užitočnú prácu a zároveň znižujú pravdepodobnosť, že chyba povedie k nežiaducej akcii alebo prezradeniu informácií.

Vy si vyberáte, k čomu sa agenti dots môžu pripojiť a ako vám budú pomáhať. Môžete sledovať ich postup alebo meniť smer podľa toho, ako sa menia vaše potreby. Vďaka schvaľovaniu a prenechávaniu krokov vám zostávajú kľúčové rozhodnutia vo vašich rukách. Agenti dots môžu stále robiť chyby, preto budeme ich ochranné opatrenia naďalej testovať a zlepšovať na základe skúseností z reálneho používania. Naším cieľom je uľahčiť vám zverenie práce agentom dots tak, aby ste sa mohli vrátiť k užitočným výsledkom. Prácu pritom majú usmerňovať vaše preferencie a dôležité rozhodnutia majú zostať vo vašich rukách.

Podrobnosti o našich ochranných opatreniach, hodnoteniach bezpečnosti a pretrvávajúcich obmedzeniach nájdete v systémovej karte⁠(otvorí sa v novom okne).

Základom zabezpečenia ChatGPT sa venuje článok Zabezpečenie a súkromie v OpenAI. Podrobnejší pohľad na jedno z opatrení na zabezpečenie webu nájdete v článku Ako chránime vaše údaje, keď agent AI klikne na odkaz.