Kako v agente dot vgrajujemo varnost, zaščito in zasebnost

Agenti dot so stalno aktivni agenti, ki prevzamejo dolgotrajnejše zadolžitve, da lahko več časa in pozornosti namenite stvarem, ki so vam pomembne. Vsak agent dot ima svoj računalnik in dela v aplikacijah, ki jih izberete za povezavo. Agentom dot določite cilje in opredelite, kaj lahko naredijo samostojno. Lahko izvajajo posamezne korake, se prilagajajo spremembam in nadaljujejo delo med pogovori. Lahko na primer spremljajo razvoj dogodkov in pripravijo osnutek novičnika ali pomagajo posodabljati projekt ob novih informacijah. Rezultate vam predložijo v pregled, pri odločitvah, ki zahtevajo vašo presojo, pa se obrnejo na vas.

Ko agentom dot predate takšno odgovornost, jim zaupate tudi več svojih podatkov in dela. Pomembno je, da razumete, do česa lahko posamezen agent dot dostopa, kako ta dostop uporablja in kdaj mora vključiti vas. Ta vprašanja so pomembna, saj imajo lahko agentove napake posledice tudi zunaj pogovora: zaradi napačno razumljene zahteve lahko spremeni napačno datoteko ali deli podatke, ki ste jih želeli ohraniti zasebne.

Zaščitne ukrepe vgrajujemo v vsak del tega dela. Začnemo z modelom GPT‑6 Astra, ki ga učimo razumeti vaše namere in upoštevati varnostna pravila. Nato dodamo varovala za podatke, ki jih agenti dot uporabljajo, okolja, v katerih delajo, in dejanja, ki jih nameravajo izvesti. Zaščiten delovni prostor v oblaku pomaga omejiti posledice napak, postopki varne prijave pomagajo zaščititi občutljive poverilnice, ločena preverjanja dejanj pa pomagajo zaznati korake, ki niso skladni z vašimi navodili ali varnostnimi zahtevami. Sami izberete, kaj boste povezali, določite nastavitve po svojih željah ter spremljate ali preusmerjate delo med izvajanjem.

Agenti dot lahko še vedno delajo napake, zato bomo te zaščitne ukrepe še naprej izboljševali na podlagi izkušenj iz dejanske uporabe. V nadaljevanju pojasnjujemo, kako varovala delujejo skupaj, kaj lahko nadzorujete in kje ostajajo omejitve, da se boste lahko premišljeno odločali o delu, ki ga zaupate agentom dot.

Agente dot poganja GPT‑6 Astra, naš najzmogljivejši model, ki je tudi najbolje usklajen s človeškimi namerami in vrednotami. Astra odlično razume vaš cilj, ostaja v okviru vaše zahteve in postavlja usmerjena vprašanja, kadar bi odgovori lahko vplivali na to, kaj naj naredi. Te zmožnosti pomagajo agentom dot dolgoročno izvajati naloge, ne da bi pri tem izgubili izpred oči vaše namere.

Model Astra smo naučili zavračati škodljive zahteve, vključno z zahtevami, ki vključujejo zlorabe na področju biologije ali kibernetske varnosti. Preizkušamo, kako se agenti dot odzivajo na spreminjajoča se navodila, dvoumne zahteve in poskuse, da bi jih pripravili do prekoračitve vaših dovoljenj. Simulirano iskanje šibkih točk v nadzorovanem okolju, ki ga izvajajo ljudje in avtomatizirani sistemi, nam pomaga odkrivati slabosti, izboljševati model in podporne sisteme ter nato te spremembe znova preizkusiti.

Ta varovala modela nadgrajujemo z varnostnimi ukrepi storitve ChatGPT in dodatnimi ukrepi za agente, ki lahko neprekinjeno delajo v vašem imenu.

Vgrajena zaščita storitve ChatGPT vključuje šifriranje vaše vsebine med shranjevanjem in prenosom med vami, družbo OpenAI in našimi ponudniki storitev ter nadzor dostopa, ki pomaga zaščititi shranjene podatke. Naši sistemi za varnost računov iščejo tudi znake sumljive uporabe vašega računa OpenAI in lahko zahtevajo ponovno prijavo, če se zdi, da je seja ogrožena.

Agenti potrebujejo tudi zaščito pred informacijami, na katere naletijo med delom. Spletna stran, e-poštno sporočilo ali dokument lahko vsebuje zlonamerna navodila, ki poskušajo preusmeriti agente ali jih pripraviti do razkritja zasebnih podatkov. Temu pravimo vstavljanje zavajajočega poziva. Varovala modela združujemo z omejitvami orodij, preverjanji pred dejanji in spremljanjem, da bi preprečili, da takšna vsebina sproži neželeno dejanje.

Agente dot spremljamo tudi med načrtovanjem in izvajanjem dejanj ter iščemo morebitno škodljivo vedenje, na primer ravnanje v nasprotju z vašimi navodili ali poskuse izogibanja varovalom. Če sistem za varnostno spremljanje pri tekočem delu agenta dot zazna tveganje, lahko delo začasno ustavi in vam prikaže opozorilo, ki ga morate pregledati. To spremljanje je vgrajeno in pomaga zaznavati tveganja med izvajanjem naloge, dopolnjuje pa zaščitne ukrepe, ki omejujejo dostop in dejanja agentov dot.

Vsak agent dot ima svoj računalnik v oblaku, kjer lahko brska po spletu, analizira podatke, ustvarja datoteke in zaganja orodja. Agenti dot lahko v teh delovnih prostorih nadaljujejo delo tudi takrat, ko sami ne sodelujete aktivno.

Sami izberete, katere račune lahko agenti dot uporabljajo: povežete lahko aplikacije v okviru dovoljenj, ki ste jih dodelili storitvi ChatGPT, ali se prijavite na spletno mesto v brskalniku agenta dot, pri čemer uporabite varno prijavo, kjer je podprta. Povežete lahko tudi svoj osebni računalnik in tako agentom dot omogočite dodatne načine pomoči, na primer analizo preglednice, shranjene na namizju, ali uporabo programerskih orodij, nameščenih v vaši napravi.

V zaščitenem delovnem prostoru vsakega agenta dot peskovnik omejuje, do katere kode in orodij lahko agent dostopa, ter tako pomaga omejiti posledice škodljive kode ali napačnega ukaza. Oblačna okolja uporabnikov tudi ločujemo med seboj ter vzdržujemo osnovni operacijski sistem Linux in brskalnik Chrome.

Agenti dot izvajajo kodo v okoljih, ki so ločena od sistemov za usklajevanje njihovega dela in uveljavljanje ključnih varoval. Tam lahko ustvarjajo datoteke in zaganjajo orodja, vendar tega dostopa ne morejo uporabiti za spreminjanje varnostnih sistemov ali izklop obveznih preverjanj. Ta ločitev pomaga ohraniti varovala tudi takrat, ko agent dot naredi napako.

Spodaj opisana pravila za dejanja določajo, kaj lahko agenti dot počnejo z dodeljenim dostopom.

Varna prijava omogoča agentom dot delo v računih, ne da bi bila gesla vključena v pogovor. Pri podprtih prijavah se delovanje modela začasno ustavi, medtem ko izpolnite varen prijavni obrazec. Ta vaše poverilnice pošlje neposredno v okolje brskalnika in jih odda, ne da bi jih vključil v kontekst modela. Agent dot nato nadaljuje delo v računu, v katerega ste se prijavili. Če geslo ostane zunaj pogovora, je manjše tveganje, da bi se pojavilo v odgovoru ali bilo pomotoma razkrito.

Podprti postopki s shranjenimi gesli ohranjajo to ločitev z namensko šifrirano storitvijo za poverilnice. Storitev zagotovi geslo za prijavo, ne da bi ga posredovala modelu. Tako lahko agenti dot delajo v računih, za katere ste jim odobrili dostop, gesla pa ostanejo zunaj konteksta modela. Ti zaščitni ukrepi veljajo posebej za postopke varne prijave in uporabe shranjenih gesel. Zaupen podatek, ki ga ločeno vnesete v berljivo sporočilo ali dokument, je lahko modelu še vedno viden.

Katere aplikacije lahko agenti dot uporabljajo, upravljate z obstoječimi povezavami in dovoljenji v storitvi ChatGPT, ki so skupna storitvam ChatGPT, ChatGPT Work in Codex. V razdelku Vtičniki v nastavitvah lahko pregledate povezane račune in spremenite, do česa bodo agenti dot lahko dostopali v prihodnje. Če prekinete povezavo z aplikacijo, se prek te povezave ne bodo več delili novi podatki. Podatki, s katerimi se je agent dot že seznanil, pa ostanejo v njegovem kontekstu. Ta dovoljenja urejajo dostop do vaših aplikacij, ne morejo pa razveljaviti obveznih varnostnih zahtev.

Če želite, da agenti dot delajo z lokalnimi datotekami ali orodji, lahko povežete tudi svoj računalnik. Za to povezavo še vedno veljajo omejitve lokalnega peskovnika in ustrezna preverjanja dejanj. Za uporabo mikrofona ali kamere računalnika so potrebna tudi dovoljenja naprave, ki jih lahko dodelite storitvi ChatGPT.

Prikaz dejavnosti v namizni aplikaciji vam omogoča spremljanje in usmerjanje tekočega dela. Prikazuje tekoče in drugim agentom dodeljene naloge ter njihovo stanje. Dodate lahko kontekst, razjasnite nesporazum, spremenite smer dela ali agentu dot naročite, naj se ustavi.

Agenti dot sčasoma dopolnjujejo svoj kontekst, da bi bila njihova pomoč koristnejša. Ko delo dodelijo drugim agentom, ti dobijo navodilo, naj ohranijo podatke, potrebne za nalogo, in ne hranijo nepotrebnih občutljivih podrobnosti. Vsak agent dot ima svoj kontekst, ki ga lahko kadar koli ponastavite.

V delovnih prostorih ChatGPT Business, Enterprise in Edu vaših podatkov privzeto ne uporabljamo za učenje svojih modelov. Pri osebnih paketih ChatGPT z nastavitvijo »Izboljšaj model za vse« sami določate, ali se pogovori vaših agentov dot in delo, ki ga opravijo, uporabljajo za izboljševanje naših modelov. Ko je učenje modelov omogočeno, lahko to vključuje dejanja agentov dot in avtomatizacije, ki jih nastavite, potem ko poskusimo odstraniti osebne identifikatorje. Več o tem, kako uporabljamo vaše podatke, lahko preberete v tem članku⁠(odpre se v novem oknu) v našem centru za pomoč.

Poleg dela, ki jim ga naročite, lahko agenti dot v ozadju zaženejo raziskovalna opravila in poiščejo dodatne načine za pomoč – na primer zaznajo spremembo v vaših potovalnih načrtih. Temu pravimo proaktivno raziskovanje.

Ta opravila potekajo v oblačnem okolju vsakega agenta dot. Z orodji, ki omogočajo samo branje, zbirajo informacije iz dovoljenih povezanih virov, nato pa shranijo zasebne zapiske za tega agenta dot. Te omejitve uveljavljamo v kodi: raziskovalna opravila ne morejo neposredno pošiljati sporočil drugim osebam, spreminjati vsebine v povezanih aplikacijah ali upravljati brskalnika oziroma namizja. Agenti dot lahko na podlagi ugotovitev presodijo, kako pomagati, vendar mora vsako nadaljnje dejanje upoštevati običajna pravila in preverjanja.

Svojih modelov ne učimo neposredno na teh raziskovalnih nitih v ozadju ali zapiskih, ki pri tem nastanejo. Vendar lahko agent dot prejme zapiske iz svojega raziskovalnega opravila v ozadju ali prebere dele svojih raziskovalnih niti. Informacije, ki se tako vključijo v pogovor ali nalogo, primerno za učenje, se lahko glede na vaše nastavitve uporabijo za učenje modelov. Raziskovalno opravilo v ozadju lahko na primer zbere informacije o več destinacijah za prihajajoče potovanje po Evropi. Ta raziskovalna nit in njeni zapiski se ne uporabljajo neposredno za učenje. Pozneje, ko svojega agenta dot prosite za pomoč pri načrtovanju potovanja v Lizbono, lahko prebere zapisek o Lizboni iz svojega raziskovalnega opravila v ozadju. Ta zapisek postane del konteksta vašega pogovora o načrtovanju potovanja in se lahko nato glede na vaše nastavitve uporabi za učenje. Preostale raziskave v ozadju se ne uporabljajo za učenje, razen če se tudi te vključijo v pogovor ali nalogo, primerno za učenje.

Agenti dot upoštevajo vgrajena varovala, namenjena preprečevanju škode in ohranjanju pomembnih odločitev v vaših rokah. Njihova varnostna pravila zahtevajo, da zavrnejo škodljive zahteve, vključno z zlorabami na področju biologije ali kibernetske varnosti. Pri nalogah, s katerimi lahko pomagajo, pravila za dejanja določajo, kdaj smejo nadaljevati, kdaj morajo zaprositi za potrditev in kdaj morajo korak prepustiti vam.

V teh mejah lahko agenti dot berejo informacije, do katerih imajo dovoljen dostop, jih analizirajo in v vaših pogovorih pripravljajo osnutke. Za pošiljanje sporočil ali deljenje datotek so naučeni pridobiti dovoljenje, ki zajema podatke in vrsto prejemnika. Občutljivejši podatki zahtevajo natančnejšo opredelitev prejemnikov. Pri zdravstvenih podatkih mora na primer uporabnik vedno navesti prejemnika po imenu (»deli mojo zdravstveno zgodovino z dr. Thompsonom«). Pri manj občutljivih osebnih podatkih, kot sta e-poštni naslov ali telefonska številka, mora uporabnik privzeto navesti skupine prejemnikov (»katera koli letalska družba«). Uporabnik lahko pravila za manj občutljive osebne podatke še razširi (»deli prek katerega koli spletnega obrazca«), tako da ustvari pravilo po meri. Več o tej funkciji je v naslednjem razdelku. To dovoljenje ostane vezano na vaša navodila za nalogo; poznejše nadaljevanje ali dodelitev dela drugim agentom ga ne razširita.

Agenti dot lahko opravljajo nakupe s karticami, ki ste jih že shranili na spletnem mestu trgovca. Za te nakupe je potrebna vaša odobritev.

Nekatera dejanja zahtevajo vašo potrditev vsakič, med drugim trajno brisanje podatkov, nameščanje ali zagon programske opreme iz neprepoznanega vira ali dodelitev novega dostopa, pomembnega za varnost. Te zahteve vam omogočajo pregled sprememb, ki bi jih bilo težko razveljaviti ali bi komu omogočile nov dostop.

Pri drugih občutljivih korakih, kot sta sprememba gesla ali prenos denarja med finančnimi računi, lahko agenti dot pomagajo pri preostalem delu naloge, same občutljive korake pa morajo prepustiti vam.

Pravila po meri vam omogočajo, da v okviru vgrajenih zaščitnih ukrepov oblikujete način pomoči agentov dot – na primer tako, da jim naročite, naj nikoli ne pošiljajo e-pošte. Podate lahko tudi navodila za posamezno nalogo, na primer agentu dot naročite, naj sodelavcu sporoči, da ste odsotni, ne da bi razkril osebni razlog. Ta navodila veljajo tudi, ko agent dot delo dodeli drugim agentom ali dela v ozadju.

Agenti dot vam lahko pomagajo napisati Pravila po meri, za njihovo spreminjanje pa potrebujejo vašo odobritev. Te nastavitve delujejo v okviru vgrajenih varoval in ne morejo odpraviti obveznih potrditev, predaje korakov vam ali temeljnih varnostnih zahtev.

Preden agenti dot izvedejo dejanja, kot sta pošiljanje e-pošte ali spreminjanje datotek, ločen varnostni sistem, imenovan Samodejni pregled, preveri skladnost načrtovanih korakov z vašimi navodili, Pravili po meri in varnostnimi zahtevami. Pri e-pošti preveri prejemnika in sporočilo ter tako pomaga zaznati napačen naslov ali podatke, ki jih niste nameravali deliti.

Če Samodejni pregled dovoli korak, ga agent dot, ki ga je predlagal, izvede z ustreznim računalniškim orodjem ali orodjem aplikacije, nato pa na podlagi rezultata nadaljuje vašo nalogo. Upošteva lahko vašo že podano odobritev, če ta zajema dejanje in pravila ne zahtevajo nove potrditve.

Če Samodejni pregled blokira korak, prepreči izvedbo dejanja in agentu dot pojasni razlog. Agent dot lahko zaprosi za dodatne informacije ali vašo odobritev, če bi s tem lahko odpravil razlog za blokado, nato pa korak znova predloži v pregled. Glede na razlog lahko namesto tega poskusi dovoljeno alternativo, občutljiv korak prepusti vam ali se ustavi. Vaša odobritev ne more razveljaviti temeljnih varnostnih zahtev.

Mehanizme, ki zagotavljajo izvajanje Samodejnega pregleda, hranimo zunaj okolij, ki jih agenti dot lahko spreminjajo, zato obveznega preverjanja ne morejo spremeniti ali izklopiti. Za običajne korake, ki vključujejo samo branje, še vedno veljajo dovoljenja aplikacij, omejitve orodij in druga varovala, vendar tega dodatnega pregleda ne potrebujejo.

Da bi agentom dot zaupali dolgotrajnejše delo, morate vedeti, kako bodo upoštevali vaša navodila in se odzvali, ko se zgodi kaj nepričakovanega. Astra jim pomaga razumeti vaše namere, zaščita njihovih podatkov, delovnih prostorov, poverilnic in dejanj pa pomaga omejiti škodo zaradi napak ali zlonamerne vsebine. Ta varovala skupaj agentom dot omogočajo koristno delo, hkrati pa zmanjšujejo možnost, da bi napaka privedla do neželenega dejanja ali razkritja podatkov.

Sami izberete, s čim se agenti dot lahko povežejo in kako vam pomagajo. Spremljate lahko njihov napredek ali preusmerite delo, ko se vaše potrebe spremenijo. Odobritve in predaja korakov vam zagotavljajo, da ključne odločitve ostanejo v vaših rokah. Agenti dot lahko še vedno delajo napake, zato bomo njihovo zaščito še naprej preizkušali in izboljševali na podlagi izkušenj iz dejanske uporabe. Naš cilj je, da bi delo lažje prepustili agentom dot in vas ob vrnitvi pričakal koristen napredek, pri čemer bi nalogo usmerjale vaše želje, pomembne odločitve pa bi ostale v vaših rokah.

Za več podrobnosti o naših varovalih, varnostnih ocenah in preostalih omejitvah preberite sistemski dokument⁠(odpre se v novem oknu).

Več o varnostnih temeljih storitve ChatGPT najdete v prispevku Varnost in zasebnost pri OpenAI. Za podrobnejši vpogled v enega od ukrepov spletne zaščite preberite prispevek Kako zaščitimo vaše podatke, ko agent UI klikne povezavo.