Dotovi su stalno aktivni agenti koji dugoročno preuzimaju odgovornost za zadatke, ostavljajući vam više vremena i pažnje za ono do čega vam je stalo. Svaki dot ima vlastito računalo i radi u aplikacijama koje odlučite povezati. Dotovima zadajete ciljeve i određujete što mogu raditi samostalno. Mogu izvršavati korake, prilagođavati se promjenama i nastaviti napredovati između razgovora. Mogu pratiti razvoj neke priče i pripremiti nacrt biltena ili pomoći u ažuriranju projekta kako pristižu nove informacije – dajući vam rezultate na pregled i obraćajući vam se za odluke koje zahtijevaju vašu prosudbu.
Kad dotovima dajete takvu odgovornost, povjeravate im više svojih informacija i posla. Trebali biste razumjeti čemu svaki dot može pristupiti, kako se tim pristupom služi i kada vas treba uključiti. Ta su pitanja važna jer pogreške agenta mogu imati posljedice izvan razgovora: zbog pogrešnog razumijevanja zahtjeva mogao bi izmijeniti pogrešnu datoteku ili podijeliti informacije koje ste željeli zadržati za sebe.
U svaki dio tog rada ugrađujemo zaštitne mjere. Polazimo od modela GPT‑6 Astra, koji treniramo da razumije vaše namjere i slijedi sigurnosna pravila, a zatim dodajemo zaštitne mjere za informacije kojima se dotovi služe, okruženja u kojima rade i radnje koje planiraju poduzeti. Zaštićeni radni prostor u oblaku pomaže ograničiti posljedice pogrešaka, sigurni postupci prijave pomažu zaštititi osjetljive vjerodajnice, a zasebne provjere radnji pomažu prepoznati korake koji odstupaju od vaših uputa ili sigurnosnih zahtjeva. Vi birate što ćete povezati, postavljate preferencije te pratite ili preusmjeravate rad dok traje.
Dotovi i dalje mogu pogriješiti, a mi ćemo nastaviti poboljšavati ove zaštitne mjere na temelju iskustava iz stvarne upotrebe. Ovdje objašnjavamo kako zaštitne mjere djeluju zajedno, nad čime imate kontrolu i koja ograničenja još postoje – kako biste mogli donositi informirane odluke o poslu koji povjeravate dotovima.
Dotove pokreće GPT‑6 Astra, naš najsposobniji model, ujedno i najbolje usklađen s ljudskim namjerama i vrijednostima. Astra se ističe u razumijevanju vašeg cilja, zadržavanju unutar okvira vašeg zahtjeva i postavljanju ciljanih pitanja kada bi odgovori mogli promijeniti ono što treba učiniti. Te sposobnosti pomažu dotovima da dugoročno rade na zadacima ne gubeći iz vida vašu namjeru.
Astru smo trenirali da odbija štetne zahtjeve, uključujući one koji se odnose na zloupotrebe u području biologije ili kibernetičke sigurnosti. Testiramo kako dotovi reagiraju na promjene uputa, dvosmislene zahtjeve i pokušaje da ih se navede da prekorače vaša dopuštenja. Ručno i automatizirano red-team testiranje pomažu nam pronaći slabosti, poboljšati model i sustave koji ga okružuju te ponovno testirati te promjene.
Te zaštitne mjere modela nadograđujemo sigurnosnim mehanizmima ChatGPT‑ja i dodatnim mjerama za agente koji mogu kontinuirano raditi u vaše ime.
Ugrađene zaštitne mjere ChatGPT‑ja uključuju šifriranje vašeg sadržaja tijekom pohrane i prijenosa između vas, OpenAI-ja i naših pružatelja usluga, kao i kontrole pristupa koje pomažu zaštititi pohranjene informacije. Naši sustavi za sigurnost računa također traže znakove sumnjive upotrebe vašeg OpenAI računa i mogu zahtijevati ponovnu prijavu ako se čini da je sesija ugrožena.
Agentima je potrebna i zaštita od informacija na koje nailaze tijekom rada. Web-stranica, e-poruka ili dokument mogu sadržavati zlonamjerne upute kojima ih se pokušava preusmjeriti ili navesti na dijeljenje privatnih informacija – taj se problem naziva ubrizgavanje upita. Zaštitne mjere modela kombiniramo s ograničenjima alata, provjerama prije radnji i nadzorom kako bismo spriječili da takav sadržaj dovede do neželjene radnje.
Dotove nadziremo i dok planiraju i izvršavaju radnje, tražeći potencijalno štetno ponašanje, poput postupanja izvan vaših uputa ili pokušaja zaobilaženja zaštitnih mjera. Ako sigurnosni nadzor prepozna problem u trenutačnom radu dota, može privremeno zaustaviti taj rad i prikazati vam upozorenje koje trebate pregledati. Taj je nadzor ugrađen u sustav i pomaže otkriti probleme tijekom izvršavanja zadatka, uz zaštitne mjere koje ograničavaju čemu dotovi mogu pristupiti i što mogu učiniti.
Svaki dot ima vlastito računalo u oblaku na kojem može pregledavati web, analizirati informacije, stvarati datoteke i pokretati alate. Dotovi mogu nastaviti napredovati u tim radnim prostorima čak i kada niste aktivno uključeni.
Vi birate kojim se računima dotovi mogu služiti: povezivanjem aplikacija u okviru dopuštenja koja ste dali ChatGPT‑ju ili prijavom na web-mjesto u pregledniku dota, uz sigurnu prijavu ondje gdje je podržana. Možete povezati i svoje osobno računalo kako biste dotovima omogućili više načina da vam pomognu – primjerice, analizom proračunske tablice spremljene na radnoj površini ili upotrebom alata za programiranje instaliranih na vašem uređaju.
Unutar zaštićenog radnog prostora svakog dota izolirano izvršno okruženje ograničava pristup njegovu kodu i alatima te tako pomaže ograničiti posljedice štetnog koda ili pogrešne naredbe. Također međusobno odvajamo okruženja korisnika u oblaku te održavamo operacijski sustav Linux i preglednik Chrome na kojima se temelje.
Dotovi izvršavaju kod u okruženjima odvojenima od sustava koji koordiniraju njihov rad i provode ključne zaštitne mjere. Ondje mogu stvarati datoteke i pokretati alate, ali taj pristup ne mogu iskoristiti za izmjenu sigurnosnih sustava ili isključivanje obveznih provjera. To odvajanje pomaže održati zaštitne mjere na snazi čak i ako dot pogriješi.
Pravila za radnje opisana u nastavku određuju što dotovi mogu učiniti s pristupom koji imaju.
Radni prostor svakog dota u oblaku objedinjuje njegovo računalo i alate kojima se može služiti. Vi birate koje ćete aplikacije povezati i hoćete li povezati svoje osobno računalo. Automatska provjera prije izvršavanja provjerava radnje za koje je potreban pregled. Ako blokira neki korak, dotu objašnjava zašto kako bi mogao odlučiti što učiniti dalje.
Sigurna prijava omogućuje dotovima rad na računima bez unošenja lozinki u razgovor. Pri podržanim prijavama model se privremeno zaustavlja dok ispunjavate siguran obrazac za prijavu. Taj obrazac šalje vaše vjerodajnice izravno u okruženje preglednika i predaje ih bez izlaganja kontekstu modela. Dot zatim nastavlja rad na računu na koji ste se prijavili. Zadržavanjem lozinke izvan razgovora smanjuje se rizik da se pojavi u odgovoru ili bude podijeljena zabunom.
Podržani postupci sa spremljenim lozinkama održavaju to odvajanje putem namjenske šifrirane usluge za vjerodajnice. Ta usluga dostavlja lozinku za prijavu bez prosljeđivanja modelu, pa dotovi mogu raditi na računima za koje ste dali ovlaštenje, dok lozinke ostaju izvan konteksta modela. Ove zaštitne mjere odnose se isključivo na sigurnu prijavu i postupke sa spremljenim lozinkama; tajni podatak koji zasebno unesete u čitljivu poruku ili dokument i dalje može biti vidljiv modelu.
Aplikacijama kojima se dotovi mogu služiti upravljate putem postojećih veza i dopuštenja u ChatGPT‑ju, koja su zajednička za ChatGPT, ChatGPT Work i Codex. U odjeljku Dodaci u Postavkama možete pregledati povezane račune i promijeniti čemu će dotovi ubuduće moći pristupiti. Prekidom veze s aplikacijom zaustavlja se dijeljenje novih informacija putem te veze. No informacije koje je dot već saznao ostaju u njegovu kontekstu. Ta dopuštenja određuju pristup vašim aplikacijama; ne mogu poništiti obvezne sigurnosne zahtjeve.
Ako želite da dotovi rade s lokalnim datotekama ili alatima, možete povezati i svoje računalo. Ta veza i dalje podliježe ograničenjima lokalnog izoliranog izvršnog okruženja i primjenjivim provjerama radnji. Za upotrebu mikrofona ili kamere vašeg računala potrebna su i dopuštenja uređaja, koja možete dati ChatGPT‑ju.
Prikaz aktivnosti u aplikaciji za stolna računala omogućuje vam praćenje i usmjeravanje rada u tijeku. Prikazuje zadatke u tijeku i delegirane zadatke te njihov status. Možete dodati kontekst, ispraviti nesporazum, promijeniti smjer ili zatražiti da dot stane.
Dotovi s vremenom nadograđuju kontekst kako bi njihova pomoć bila korisnija. Kada delegiraju posao, drugi agenti dobivaju upute da zadrže informacije potrebne za zadatak i izbjegnu zadržavanje nepotrebnih osjetljivih pojedinosti. Svaki dot ima vlastiti kontekst koji možete poništiti u bilo kojem trenutku.
Za radne prostore ChatGPT Business, Enterprise i Edu prema zadanim postavkama ne upotrebljavamo vaše podatke za treniranje svojih modela. Na osobnim planovima za ChatGPT postavkom „Poboljšaj model za sve” određujete hoće li se razgovori s vašim dotovima i posao koji obavljaju upotrebljavati za poboljšanje naših modela. Kada je treniranje modela omogućeno, to može uključivati radnje koje dotovi poduzimaju i automatizacije koje postavite, nakon što poduzmemo korake za uklanjanje osobnih identifikatora. Više o tome kako se vaši podaci upotrebljavaju možete pročitati u ovom članku(otvara se u novom prozoru) u našem centru za pomoć.
Uz posao koji im zadate, dotovi mogu pokrenuti istraživačke zadatke u pozadini kako bi pronašli druge načine da pomognu – primjerice, uočavanjem promjene u vašim planovima putovanja. To nazivamo proaktivnim istraživanjem.
Ti se zadaci izvode u okruženju svakog dota u oblaku. Alatima koji omogućuju samo čitanje prikupljaju informacije iz dopuštenih povezanih izvora, a zatim spremaju privatne bilješke za taj dot. Ta ograničenja provodimo u kodu: istraživački zadaci ne mogu izravno slati poruke drugim osobama, mijenjati sadržaj u povezanim aplikacijama niti upravljati preglednikom ili radnom površinom. Dotovi se mogu poslužiti nalazima kako bi odlučili kako pomoći, ali svaka daljnja radnja mora slijediti uobičajena pravila i provjere.
Proaktivno istraživanje izvodi se kao pozadinski zadatak u okruženju svakog dota u oblaku. Čita dopuštene povezane izvore i vraća privatne bilješke tom dotu, koji odlučuje kako pomoći. Sve daljnje radnje podliježu uobičajenim pravilima i provjerama.
Svoje modele ne treniramo izravno na tim nitima pozadinskog istraživanja ni na bilješkama koje nastaju iz njih. No dot može primiti bilješke iz svojeg pozadinskog istraživačkog zadatka ili pročitati dijelove svojih istraživačkih niti. Informacije koje se na taj način unesu u razgovor ili zadatak koji ispunjava uvjete mogu se upotrijebiti za treniranje modela, ovisno o vašim postavkama. Primjerice, pozadinski istraživački zadatak može prikupiti informacije o nekoliko odredišta za nadolazeće putovanje u Europu. Ta istraživačka nit i njezine bilješke ne upotrebljavaju se izravno za treniranje. Kasnije, kada od svojeg dota zatražite pomoć pri planiranju putovanja u Lisabon, on može pročitati bilješku o Lisabonu iz svojeg pozadinskog istraživačkog zadatka. Ta bilješka postaje dio konteksta vašeg razgovora o planiranju putovanja i tada se može upotrijebiti za treniranje, ovisno o vašim postavkama. Preostalo pozadinsko istraživanje ne upotrebljava se za treniranje osim ako se i ono unese u razgovor ili zadatak koji ispunjava uvjete.
Dotovi slijede ugrađena zaštitna ograničenja osmišljena kako bi spriječila štetu i zadržala važne odluke u vašim rukama. Njihova sigurnosna pravila nalažu odbijanje štetnih zahtjeva, uključujući zloupotrebe u području biologije ili kibernetičke sigurnosti. Za zadatke u kojima mogu pomoći pravila za radnje određuju kada mogu nastaviti, kada moraju zatražiti potvrdu i kada korak moraju prepustiti vama.
Unutar tih granica dotovi mogu čitati informacije kojima imaju dopuštenje pristupiti, analizirati ih i pripremati nacrte u vašim razgovorima. Za slanje poruke ili dijeljenje datoteke naučeni su tražiti ovlaštenje koje obuhvaća informacije i vrstu primatelja – osjetljiviji podaci zahtijevaju preciznije određivanje primatelja. Primjerice, za zdravstvene podatke korisnik će uvijek morati navesti konkretnog primatelja („podijeli moju povijest bolesti s dr. Thompsonom”). Za manje osjetljive osobne podatke, poput adrese e-pošte ili telefonskog broja, korisnik će prema zadanim postavkama morati navesti kategorije primatelja („bilo koja zrakoplovna tvrtka”). Korisnik može dodatno proširiti pravila za manje osjetljive osobne podatke („podijeli putem bilo kojeg mrežnog obrasca”) stvaranjem Prilagođenog pravila – više o toj značajci pročitajte u sljedećem odjeljku. To ovlaštenje ostaje vezano uz vaše upute za zadatak; naknadni nastavak ili delegiranje posla ne proširuju ga.
Dotovi mogu obavljati kupnje karticama koje ste već spremili na web-mjestu trgovca. Za te je kupnje potrebno vaše odobrenje.
Neke radnje svaki put zahtijevaju vašu potvrdu, uključujući trajno brisanje podataka, instaliranje ili pokretanje softvera iz neprepoznatog izvora ili dodjelu novog pristupa važnog za sigurnost. Ti vam zahtjevi daju priliku da pregledate promjene koje bi moglo biti teško poništiti ili kojima bi netko dobio novi pristup.
Kod drugih osjetljivih koraka, poput promjene lozinke ili prijenosa novca između financijskih računa, dotovi mogu pomoći s ostatkom zadatka, ali te osjetljive korake moraju prepustiti vama.
Prilagođena pravila omogućuju vam da odredite kako dotovi pomažu unutar tih ugrađenih zaštitnih mjera – primjerice, tako da im kažete da nikad ne šalju e-poštu. Možete dati i upute za određeni zadatak, primjerice zatražiti da dot obavijesti kolegu da ste odsutni, a da pritom ne otkrije osobni razlog. Te upute vrijede i kada dot delegira posao ili radi u pozadini.
Dotovi vam mogu pomoći sastaviti Prilagođena pravila, ali za njihovu izmjenu trebaju vaše odobrenje. Te preferencije djeluju unutar ugrađenih zaštitnih ograničenja i ne mogu ukloniti obvezne potvrde, prepuštanje koraka vama ni temeljne sigurnosne zahtjeve.
Prije nego što dotovi poduzmu radnje poput slanja e-pošte ili izmjene datoteka, zasebni sigurnosni sustav pod nazivom Automatska provjera provjerava jesu li planirani koraci u skladu s vašim uputama, Prilagođenim pravilima i sigurnosnim zahtjevima. Kod e-poruke provjerava primatelja i sadržaj poruke kako bi pomogao otkriti pogrešnu adresu ili informacije koje niste namjeravali podijeliti.
Ako Automatska provjera dopusti korak, dot koji ga je predložio izvršava ga odgovarajućim alatom za računalo ili aplikaciju, a zatim upotrebljava rezultat za nastavak vašeg zadatka. Može se osloniti na odobrenje koje ste već dali ako ono obuhvaća tu radnju i pravila ne zahtijevaju novu potvrdu.
Ako Automatska provjera blokira korak, sprječava izvršavanje radnje i dotu objašnjava zašto. Taj dot može zatražiti dodatne informacije ili vaše odobrenje ako bi se time mogla ukloniti blokada, a zatim ponovno poslati korak na provjeru. Ovisno o razlogu, umjesto toga može pokušati s dopuštenom alternativom, prepustiti osjetljivi korak vama ili stati. Vaše odobrenje ne može poništiti temeljne sigurnosne zahtjeve.
Kontrole koje osiguravaju provođenje Automatske provjere držimo izvan okruženja koja dotovi mogu mijenjati, pa ne mogu izmijeniti ni isključiti obveznu provjeru. Uobičajeni koraci koji uključuju samo čitanje i dalje podliježu dopuštenjima aplikacija, ograničenjima alata i drugim zaštitnim mjerama, ali ne zahtijevaju ovu dodatnu provjeru.
Kada Automatska provjera dopusti radnju, dot je izvršava i prima rezultat. Kada blokira radnju, dotu vraća razlog, a on odlučuje hoće li zatražiti vaš odgovor, pokušati s dopuštenom alternativom, prepustiti korak vama ili stati.
Da biste dotovima povjerili dugotrajan posao, trebate znati kako će slijediti vaše upute i reagirati kada se dogodi nešto neočekivano. Astra im pomaže razumjeti vašu namjeru, dok zaštitne mjere za njihove podatke, radne prostore, vjerodajnice i radnje pomažu ograničiti štetu od pogrešaka ili zlonamjernog sadržaja. Zajedno, te zaštitne mjere daju dotovima prostor za koristan rad, a istodobno smanjuju vjerojatnost da pogreška dovede do neželjene radnje ili otkrivanja informacija.
Vi birate s čime se dotovi mogu povezati i kako vam pomažu, a možete pratiti njihov napredak ili promijeniti smjer kako se mijenjaju vaše potrebe. Odobravanje i prepuštanje koraka vama zadržavaju ključne odluke u vašim rukama. Dotovi i dalje mogu pogriješiti, pa ćemo nastaviti testirati i poboljšavati njihove zaštitne mjere na temelju iskustava iz stvarne upotrebe. Cilj nam je olakšati vam da posao prepustite dotovima i po povratku zateknete koristan napredak, pri čemu vaše preferencije usmjeravaju zadatak, a važne odluke ostaju u vašim rukama.
Pročitajte dokument o sustavu(otvara se u novom prozoru) za više pojedinosti o našim zaštitnim mjerama, sigurnosnim procjenama i preostalim ograničenjima.
Više o sigurnosnim temeljima ChatGPT‑ja potražite u članku Sigurnost i privatnost u OpenAI-ju. Za detaljniji uvid u jednu od mjera zaštite na webu pogledajte Kako štitimo vaše podatke kada AI agent klikne poveznicu.