Kako ugrađujemo sigurnost, zaštitu i privatnost u dotove

Dotovi su stalno aktivni agenti koji preuzimaju dugoročne obaveze, ostavljajući vam više vremena i pažnje za ono do čega vam je stalo. Svaki dot ima vlastiti računar i radi u aplikacijama koje odlučite povezati. Dotovima zadajete ciljeve i određujete šta mogu raditi samostalno. Mogu prolaziti kroz korake, prilagođavati se promjenama i nastaviti napredovati između razgovora. Mogu pratiti razvoj neke priče i pripremiti nacrt biltena ili pomoći u ažuriranju projekta kako stižu nove informacije — donoseći vam rezultate na pregled i obraćajući vam se za odluke koje zahtijevaju vašu procjenu.

Dati dotovima takvu odgovornost znači povjeriti im više svojih informacija i posla. Trebate razumjeti čemu svaki dot može pristupiti, kako koristi taj pristup i kada treba uključiti vas. Ta pitanja su važna jer greške agenta mogu imati posljedice i izvan razgovora: pogrešno shvaćen zahtjev mogao bi ga navesti da izmijeni pogrešnu datoteku ili podijeli informacije koje ste željeli zadržati za sebe.

U svaki dio tog rada ugrađujemo zaštitne mjere. Polazimo od modela GPT‑6 Astra, koji treniramo da razumije vašu namjeru i poštuje sigurnosna pravila, a zatim dodajemo zaštitne mjere za informacije koje dotovi koriste, okruženja u kojima rade i radnje koje planiraju poduzeti. Zaštićen radni prostor u oblaku pomaže ograničiti posljedice grešaka, sigurni postupci prijave pomažu zaštititi osjetljive pristupne podatke, a zasebne provjere radnji pomažu uočiti korake koji nisu u skladu s vašim uputama ili sigurnosnim zahtjevima. Vi birate šta ćete povezati, postavljate svoje preference i pratite ili preusmjeravate rad kako napreduje.

Dotovi i dalje mogu pogriješiti, a mi ćemo nastaviti unapređivati ove zaštitne mjere na osnovu iskustava iz stvarne upotrebe. Ovdje objašnjavamo kako zaštitne mjere djeluju zajedno, čime vi upravljate i koja ograničenja ostaju — kako biste mogli donositi informisane odluke o poslu koji povjeravate dotovima.

Dotove pokreće GPT‑6 Astra, naš najsposobniji model, najusklađeniji s ljudskim namjerama i vrijednostima. Astra se ističe u razumijevanju vašeg cilja, zadržavanju u okvirima vašeg zahtjeva i postavljanju ciljanih pitanja kada bi odgovori mogli promijeniti ono što treba uraditi. Ove sposobnosti pomažu dotovima da prate zadatke tokom vremena, ne gubeći iz vida vašu namjeru.

Model Astra trenirali smo da odbija štetne zahtjeve, uključujući zahtjeve koji podrazumijevaju zloupotrebe u biologiji ili kibernetičkoj sigurnosti. Testiramo kako dotovi postupaju kada se upute mijenjaju, kada su zahtjevi nejasni i kada ih neko pokušava navesti da prekorače dozvole koje ste dali. Red teaming koji provode ljudi i automatizirani sistemi pomaže nam da pronađemo slabosti, unaprijedimo model i sisteme oko njega te ponovo testiramo te izmjene.

Te zaštitne mjere modela nadograđujemo sigurnosnim mjerama ChatGPT‑a i dodatnim mjerama za agente koji mogu nastaviti raditi u vaše ime.

Ugrađene zaštitne mjere ChatGPT‑a uključuju šifriranje vašeg sadržaja tokom pohrane i prijenosa između vas, kompanije OpenAI i naših pružalaca usluga, kao i kontrole pristupa koje pomažu zaštititi pohranjene informacije. Naši sistemi za sigurnost računa također traže znakove sumnjive upotrebe vašeg OpenAI računa i mogu zahtijevati ponovnu prijavu ako se čini da je sesija kompromitovana.

Agentima je potrebna i zaštita od informacija na koje nailaze dok obavljaju svoje zadatke. Web-stranica, e-poruka ili dokument mogu sadržavati zlonamjerne upute koje ih pokušavaju preusmjeriti ili navesti da podijele privatne informacije — problem koji se naziva ubrizgavanje upita. Zaštitne mjere modela kombinujemo s ograničenjima alata, provjerama prije izvršavanja radnji i nadzorom kako bismo spriječili da takav sadržaj dovede do neželjene radnje.

Dotove pratimo i dok planiraju i izvršavaju radnje, tražeći potencijalno štetno ponašanje, poput djelovanja izvan vaših uputa ili pokušaja zaobilaženja zaštitnih mjera. Ako sigurnosni nadzor uoči mogući problem u dotovom tekućem radu, može pauzirati taj rad i prikazati vam upozorenje koje trebate pregledati. Ovaj ugrađeni nadzor pomaže otkriti moguće probleme tokom izvršavanja zadatka, uz zaštitne mjere koje ograničavaju čemu dotovi mogu pristupiti i šta mogu raditi.

Svaki dot ima vlastiti računar u oblaku, na kojem može pregledavati web, analizirati informacije, kreirati datoteke i pokretati alate. Dotovi mogu nastaviti napredovati u tim radnim prostorima čak i kada niste aktivno uključeni.

Vi birate koje račune dotovi mogu koristiti, bilo povezivanjem aplikacija u okviru dozvola koje ste dali ChatGPT‑u ili prijavom na web-stranicu u dotovom pregledniku, uz sigurnu prijavu tamo gdje je podržana. Možete povezati i svoj lični računar kako biste dotovima omogućili da vam pomognu na više načina — naprimjer, analizom proračunske tablice sačuvane na radnoj površini ili korištenjem alata za programiranje instaliranih na vašem uređaju.

Unutar zaštićenog radnog prostora svakog dota, izolovano izvršavanje ograničava kod i alate kojima taj dot može pristupiti, čime pomaže ograničiti posljedice štetnog koda ili pogrešne naredbe. Također međusobno izolujemo okruženja korisnika u oblaku i održavamo operativni sistem Linux i preglednik Chrome na kojima se zasnivaju.

Dotovi izvršavaju kod u okruženjima odvojenim od sistema koji koordiniraju njihov rad i provode ključne zaštitne mjere. Tamo mogu kreirati datoteke i pokretati alate, ali taj pristup ne mogu koristiti za mijenjanje sigurnosnih sistema ili isključivanje obaveznih provjera. Ovo razdvajanje pomaže da zaštitne mjere ostanu na snazi čak i ako dot pogriješi.

Pravila za radnje opisana u nastavku određuju šta dotovi mogu raditi s pristupom koji imaju.

Sigurna prijava omogućava dotovima da rade na računima, a da lozinke ne ulaze u razgovor. Za podržane prijave, model se pauzira dok popunjavate siguran obrazac za prijavu. Obrazac šalje vaše pristupne podatke direktno u okruženje preglednika i podnosi ih za prijavu bez otkrivanja tih podataka u kontekstu modela. Dot zatim nastavlja rad na računu na koji ste se prijavili. Time što lozinka ostaje izvan razgovora smanjuje se rizik da se pojavi u odgovoru ili da bude podijeljena greškom.

Podržani postupci prijave sa sačuvanim lozinkama održavaju tu odvojenost putem namjenske šifrirane usluge za pristupne podatke. Usluga dostavlja lozinku za prijavu bez prosljeđivanja modelu, tako da dotovi mogu raditi na računima za koje ste dali odobrenje, dok lozinke ostaju izvan konteksta modela. Ove zaštitne mjere odnose se samo na sigurnu prijavu i postupke sa sačuvanim lozinkama; tajni podatak zasebno unesen u čitljivu poruku ili dokument i dalje može biti vidljiv modelu.

Aplikacijama koje dotovi mogu koristiti upravljate putem postojećih veza i dozvola u ChatGPT‑u, koje su zajedničke za ChatGPT, ChatGPT Work i Codex. U odjeljku Dodaci u Postavkama možete pregledati povezane račune i promijeniti čemu dotovi mogu pristupati ubuduće. Prekidom veze s aplikacijom zaustavlja se dijeljenje novih informacija putem te veze. Međutim, informacije koje je dot već saznao ostaju u njegovom kontekstu. Ove dozvole uređuju pristup vašim aplikacijama; ne poništavaju obavezne sigurnosne zahtjeve.

Ako želite da dotovi rade s lokalnim datotekama ili alatima, možete povezati i svoj računar. Na tu vezu i dalje se primjenjuju ograničenja lokalnog izolovanog okruženja i odgovarajuće provjere radnji. Za korištenje mikrofona ili kamere vašeg računara potrebne su i dozvole uređaja, koje možete dati ChatGPT‑u.

Prikaz aktivnosti u aplikaciji za računar omogućava vam da pratite i usmjeravate tekući rad. Prikazuje zadatke u toku i delegirane zadatke te njihov status. Možete dodati kontekst, ispraviti nesporazum, promijeniti smjer ili zatražiti od dota da stane.

Dotovi s vremenom nadograđuju kontekst kako bi njihova pomoć bila korisnija. Kada delegiraju posao, drugi agenti dobijaju uputu da zadrže informacije potrebne za zadatak i izbjegavaju zadržavanje nepotrebnih osjetljivih detalja. Svaki dot ima vlastiti kontekst koji možete resetovati u bilo kojem trenutku.

Za radne prostore ChatGPT Business, Enterprise i Edu vaše podatke prema zadanim postavkama ne koristimo za treniranje naših modela. Na ličnim ChatGPT planovima vi odlučujete hoće li se razgovori vaših dotova i posao koji obavljaju koristiti za unapređenje naših modela, putem postavke „Poboljšaj model za sve“. Kada je treniranje modela omogućeno, to može uključivati radnje koje dotovi poduzimaju i automatizacije koje postavite, nakon što poduzmemo korake za uklanjanje ličnih identifikatora. Više o tome kako se koriste vaši podaci možete pročitati u ovom članku⁠(otvara se u novom prozoru) u našem centru za pomoć.

Uz posao koji im zadate, dotovi mogu pokretati istraživačke zadatke u pozadini kako bi pronašli druge načine da pomognu — naprimjer, uočavanjem promjene u vašim planovima putovanja. To nazivamo proaktivnim istraživanjem.

Ti zadaci se izvršavaju u okruženju svakog dota u oblaku. Koriste alate koji omogućavaju samo čitanje da prikupe informacije iz dozvoljenih povezanih izvora, a zatim čuvaju privatne bilješke za tog dota. Ova ograničenja provodimo u kodu: istraživački zadaci ne mogu direktno slati poruke drugim ljudima, mijenjati sadržaj u povezanim aplikacijama niti upravljati preglednikom ili radnom površinom. Dotovi mogu koristiti nalaze da odluče kako pomoći, ali svaka naredna radnja mora biti u skladu s uobičajenim pravilima i provjerama.

Naše modele ne treniramo direktno na tim nitima pozadinskog istraživanja niti na bilješkama koje iz njih nastaju. Međutim, dot može primiti bilješke iz svog pozadinskog istraživačkog zadatka ili pročitati dijelove svojih istraživačkih niti. Informacije koje se na taj način unesu u razgovor ili zadatak koji ispunjava uslove za treniranje modela mogu se koristiti u tu svrhu, zavisno od vaših postavki. Naprimjer, pozadinski istraživački zadatak može prikupiti informacije o nekoliko odredišta za predstojeće putovanje u Evropu. Ta istraživačka nit i njene bilješke ne koriste se direktno za treniranje. Kasnije, kada zatražite od svog dota pomoć u planiranju putovanja u Lisabon, može pročitati bilješku o Lisabonu iz svog pozadinskog istraživačkog zadatka. Ta bilješka postaje dio konteksta vašeg razgovora o planiranju putovanja i tada se može koristiti za treniranje, zavisno od vaših postavki. Preostalo pozadinsko istraživanje ne koristi se za treniranje osim ako se i ono unese u razgovor ili zadatak koji ispunjava uslove za to.

Dotovi poštuju ugrađena zaštitna ograničenja osmišljena da spriječe štetu i zadrže odluke sa značajnim posljedicama u vašim rukama. Njihova sigurnosna pravila nalažu im da odbijaju štetne zahtjeve, uključujući zloupotrebe u biologiji ili kibernetičkoj sigurnosti. Za zadatke u kojima mogu pomoći, pravila za radnje određuju kada mogu nastaviti, kada moraju tražiti potvrdu i kada korak moraju prepustiti vama.

Unutar tih granica dotovi mogu čitati informacije kojima imaju dozvolu pristupiti, analizirati ih i pripremati nacrte u vašim razgovorima. Za slanje poruke ili dijeljenje datoteke naučeni su da traže odobrenje koje obuhvata informacije i vrstu primaoca — što su podaci osjetljiviji, primaoci moraju biti preciznije određeni. Naprimjer, za zdravstvene podatke korisnik će uvijek morati navesti primaoca po imenu („podijeli moju medicinsku historiju s dr. Thompsonom“). Za manje osjetljive lične podatke, poput adrese e-pošte ili broja telefona, prema zadanim postavkama korisnik će morati navesti kategorije primalaca („bilo koja aviokompanija“). Korisnik može dodatno proširiti pravila za manje osjetljive lične podatke („podijeli putem bilo kojeg online obrasca“) kreiranjem Prilagođenog pravila — više detalja o ovoj funkciji potražite u sljedećem odjeljku. To odobrenje ostaje vezano za vaše upute za zadatak; kasniji nastavak ili delegiranje posla ne proširuju ga.

Dotovi mogu obavljati kupovine koristeći kartice koje ste već sačuvali na web-stranici trgovca. Za te kupovine potrebno je vaše odobrenje.

Neke radnje zahtijevaju vašu potvrdu svaki put, uključujući trajno brisanje podataka, instaliranje ili pokretanje softvera iz neprepoznatog izvora ili dodjeljivanje novog pristupa koji je osjetljiv sa sigurnosnog aspekta. Ovi zahtjevi daju vam priliku da pregledate izmjene koje bi moglo biti teško poništiti ili kojima biste nekome dodijelili novi pristup.

Kod drugih osjetljivih koraka, uključujući promjenu lozinke ili prijenos novca između finansijskih računa, dotovi mogu pomoći s ostatkom zadatka, ali te osjetljive korake moraju prepustiti vama.

Prilagođena pravila omogućavaju vam da odredite kako će dotovi pomagati u okviru ugrađenih zaštitnih mjera — naprimjer, tako što ćete im reći da nikada ne šalju e-poruke. Možete dati i upute za konkretan zadatak, poput zahtjeva da dot obavijesti kolegu da ste odsutni, a da ne otkrije lični razlog. Te upute nastavljaju važiti i kada dot delegira posao ili radi u pozadini.

Dotovi vam mogu pomoći da napišete Prilagođena pravila, ali im je za njihovu izmjenu potrebno vaše odobrenje. Ove preference djeluju unutar ugrađenih zaštitnih ograničenja i ne mogu ukinuti obavezne potvrde, prepuštanje koraka vama niti osnovne sigurnosne zahtjeve.

Prije nego što dotovi poduzmu radnje poput slanja e-poruka ili mijenjanja datoteka, zaseban sigurnosni sistem nazvan Automatska provjera provjerava jesu li planirani koraci u skladu s vašim uputama, Prilagođenim pravilima i sigurnosnim zahtjevima. Za e-poruku provjerava primaoca i poruku kako bi pomogao uočiti pogrešnu adresu ili informacije koje niste namjeravali podijeliti.

Ako Automatska provjera dozvoli korak, dot koji ga je predložio izvršava ga pomoću odgovarajućeg alata na računaru ili u aplikaciji, a zatim koristi rezultat za nastavak vašeg zadatka. Može se osloniti na odobrenje koje ste već dali ako ono obuhvata tu radnju i pravila ne zahtijevaju novu potvrdu.

Ako Automatska provjera blokira korak, sprečava izvršavanje radnje i dotu objašnjava zašto. Taj dot može zatražiti dodatne informacije ili vaše odobrenje ako bi se time mogla ukloniti blokada, a zatim ponovo poslati korak na provjeru. Zavisno od razloga, umjesto toga može pokušati dozvoljenu alternativu, prepustiti osjetljivi korak vama ili stati. Vaše odobrenje ne može poništiti osnovne sigurnosne zahtjeve.

Kontrole koje osiguravaju provođenje Automatske provjere držimo izvan okruženja koja dotovi mogu mijenjati, tako da ne mogu izmijeniti ili isključiti obaveznu provjeru. Uobičajeni koraci koji uključuju samo čitanje i dalje podliježu dozvolama aplikacija, ograničenjima alata i drugim zaštitnim mjerama, ali ne zahtijevaju ovu dodatnu provjeru.

Povjeriti dotovima dugoročan rad znači znati kako će slijediti vaše upute i reagovati kada se dogodi nešto neočekivano. Astra im pomaže razumjeti vašu namjeru, dok zaštitne mjere za njihove podatke, radne prostore, pristupne podatke i radnje pomažu ograničiti štetu od grešaka ili zlonamjernog sadržaja. Zajedno, ove zaštitne mjere daju dotovima prostor da obavljaju koristan posao, a istovremeno smanjuju mogućnost da greška dovede do neželjene radnje ili otkrivanja informacija.

Vi birate s čime se dotovi mogu povezati i kako će pomagati, a njihov napredak možete pratiti ili promijeniti smjer rada kako se vaše potrebe mijenjaju. Odobrenja i prepuštanje koraka vama zadržavaju ključne odluke u vašim rukama. Dotovi i dalje mogu pogriješiti, pa ćemo nastaviti testirati i unapređivati njihove zaštitne mjere na osnovu iskustava iz stvarne upotrebe. Naš cilj je da vam olakšamo da posao prepustite dotovima i po povratku zateknete koristan napredak, pri čemu vaše preference usmjeravaju zadatak, a važne odluke ostaju u vašim rukama.

Pročitajte karticu sistema⁠(otvara se u novom prozoru) za više detalja o našim zaštitnim mjerama, sigurnosnim procjenama i preostalim ograničenjima.

Više o sigurnosnim osnovama ChatGPT‑a potražite u članku Sigurnost i privatnost u kompaniji OpenAI. Za detaljniji pogled na jednu od mjera zaštite na webu pogledajte članak Kako štitimo vaše podatke kada AI agent klikne na link.