Како у агенте дот уграђујемо безбедност, заштиту и приватност

Дотови су стално активни агенти који преузимају трајне обавезе, остављајући вам више времена и пажње за оно до чега вам је стало. Сваки агент дот има свој рачунар и ради у апликацијама које одлучите да повежете. Агентима дот задајете циљеве и одређујете шта могу да раде самостално. Могу да извршавају кораке, прилагођавају се променама и настављају да напредују између разговора. Могу да прате развој неке приче и припреме нацрт билтена или да помогну у ажурирању пројекта како стижу нове информације – доносећи вам резултате на преглед и обраћајући вам се за одлуке које захтевају вашу процену.

Када агентима дот дате ту одговорност, поверавате им и више својих информација и послова. Важно је да знате чему сваки агент дот може да приступи, како користи тај приступ и када треба да укључи вас. Та питања су важна јер грешке агента могу имати последице и изван разговора: погрешно схваћен захтев може га навести да измени погрешну датотеку или подели информације које сте желели да задржите за себе.

У сваки део тог рада уграђујемо заштитне мере. Полазимо од модела GPT‑6 Astra, који обучавамо да разуме вашу намеру и поштује безбедносна правила, а затим додајемо заштитне мере за информације које агенти дот користе, окружења у којима раде и радње које планирају да предузму. Заштићени радни простор у облаку помаже да се ограниче последице грешака, безбедни поступци пријављивања штите осетљиве податке за приступ, а засебне провере радњи помажу да се открију кораци који одступају од ваших упутстава или безбедносних захтева. Ви бирате шта ћете повезати, подешавате жељена правила и пратите или преусмеравате рад док траје.

Агенти дот и даље могу да погреше, а ми ћемо наставити да унапређујемо ове заштитне мере на основу искустава из стварне употребе. Овде објашњавамо како заштитне мере делују заједно, шта је под вашом контролом и која ограничења и даље постоје – како бисте могли да доносите информисане одлуке о пословима које поверавате агентима дот.

Агенте дот покреће GPT‑6 Astra, наш најспособнији модел, уједно и најбоље усклађен са људским намерама и вредностима. Astra се истиче у разумевању вашег циља, задржавању у оквирима вашег захтева и постављању прецизних питања када би одговори могли да промене оно што треба да уради. Ове способности помажу агентима дот да прате задатке током времена, не губећи из вида вашу намеру.

Обучили смо модел Astra да одбија штетне захтеве, укључујући захтеве који подразумевају злоупотребе у биологији или сајбер безбедности. Тестирамо како агенти дот поступају када се упутства мењају, када су захтеви двосмислени и када неко покуша да их наведе да прекораче дозволе које сте дали. Црвена команда, коју спроводе људи и аутоматизовани системи, помаже нам да откријемо слабости, унапредимо модел и пратеће системе, па поново тестирамо те измене.

Те заштитне мере модела допуњујемо безбедносним механизмима услуге ChatGPT и додатним мерама за агенте који могу непрекидно да раде у ваше име.

Уграђена заштита у услузи ChatGPT обухвата шифровање вашег садржаја током чувања и преноса између вас, компаније OpenAI и наших пружалаца услуга, као и контроле приступа које помажу у заштити сачуваних информација. Наши системи за заштиту налога такође траже знаке сумњиве употребе вашег OpenAI налога и могу затражити поновно пријављивање ако сесија делује компромитовано.

Агентима је потребна и заштита од информација на које наилазе док обављају посао. Веб-страница, имејл или документ могу да садрже злонамерна упутства која покушавају да их преусмере или наведу да поделе приватне информације – тај проблем се назива уметање инструкције. Комбинујемо заштитне мере модела са ограничењима алата, проверама пре предузимања радњи и надзором како бисмо спречили да такав садржај доведе до нежељене радње.

Такође надзиремо агенте дот док планирају и извршавају радње, тражећи потенцијално штетно понашање, попут поступања мимо ваших упутстава или покушаја заобилажења заштитних мера. Ако систем безбедносног надзора уочи проблем у текућем раду агента дот, може да паузира тај рад и прикаже вам упозорење које треба да прегледате. Овај надзор је уграђен у систем и помаже у откривању проблема током рада на задатку, уз заштитне мере које ограничавају чему агенти дот могу да приступе и шта могу да раде.

Сваки агент дот има свој рачунар у облаку, где може да прегледа веб, анализира информације, прави датотеке и покреће алате. Агенти дот могу да наставе да напредују у тим радним просторима чак и када ви нисте активно укључени.

Ви бирате које налоге агенти дот могу да користе: повезивањем апликација у оквиру дозвола које сте дали услузи ChatGPT или пријављивањем на веб-сајт у прегледачу агента дот, уз безбедно пријављивање тамо где је подржано. Можете да повежете и свој лични рачунар како бисте агентима дот омогућили да вам помогну на више начина – на пример, анализом табеле сачуване на радној површини или коришћењем програмерских алата инсталираних на вашем уређају.

У заштићеном радном простору сваког агента дот, изолација ограничава чему његов код и алати могу да приступе, чиме се смањују последице штетног кода или погрешне команде. Такође међусобно изолујемо окружења корисника у облаку и одржавамо основни оперативни систем Linux и прегледач Chrome.

Агенти дот извршавају код у окружењима одвојеним од система који координишу њихов рад и спроводе кључне заштитне мере. Тамо могу да праве датотеке и покрећу алате, али не могу да користе тај приступ да би изменили безбедносне системе или искључили обавезне провере. Ово раздвајање помаже да заштитне мере остану на снази чак и ако агент дот погреши.

Правила за предузимање радњи описана у наставку одређују шта агенти дот могу да раде са приступом који имају.

Безбедно пријављивање омогућава агентима дот да раде у налозима, а да лозинке остану ван разговора. Код подржаних пријављивања, рад модела се паузира док попуњавате безбедан образац за пријављивање. Образац шаље ваше приступне податке директно у окружење прегледача и прослеђује их ради пријављивања, без уношења у контекст модела. Агент дот затим наставља рад у налогу на који сте се пријавили. Чување лозинке ван разговора смањује ризик да се она појави у одговору или буде подељена грешком.

Подржани поступци са сачуваним лозинкама одржавају ту раздвојеност помоћу наменске шифроване услуге за приступне податке. Та услуга доставља лозинку за пријављивање без прослеђивања моделу, па агенти дот могу да раде у налозима за које сте дали овлашћење, док лозинке остају ван контекста модела. Ове заштитне мере важе само за безбедно пријављивање и поступке са сачуваним лозинкама; тајни податак који засебно унесете у читљиву поруку или документ и даље може бити видљив моделу.

Апликацијама које агенти дот могу да користе управљате преко постојећих веза и дозвола у услузи ChatGPT, које су заједничке за ChatGPT, ChatGPT Work и Codex. У одељку Додаци у Подешавањима можете да прегледате повезане налоге и промените чему агенти дот убудуће могу да приступају. Прекидом везе са апликацијом зауставља се даље дељење информација преко те везе. Међутим, информације које је агент дот већ сазнао остају у његовом контексту. Ове дозволе регулишу приступ вашим апликацијама; оне не укидају обавезне безбедносне захтеве.

Ако желите да агенти дот раде са локалним датотекама или алатима, можете да повежете и свој рачунар. На ту везу и даље се примењују ограничења локалног изолованог окружења и одговарајуће провере радњи. За коришћење микрофона или камере вашег рачунара потребне су и дозволе уређаја, које можете да дате услузи ChatGPT.

Приказ активности у апликацији за рачунар омогућава вам да пратите и усмеравате текући рад. У њему се виде текући и делегирани задаци и њихов статус. Можете да додате контекст, исправите неспоразум, промените смер рада или затражите од агента дот да стане.

Агенти дот временом допуњују свој контекст како би вам пружали кориснију помоћ. Када делегирају посао, други агенти добијају упутство да задрже информације потребне за задатак и да не чувају непотребне осетљиве детаље. Сваки агент дот има свој контекст који можете да ресетујете у било ком тренутку.

За радне просторе ChatGPT Business, Enterprise и Edu подразумевано не користимо ваше податке за обуку својих модела. На личним ChatGPT плановима, подешавањем „Побољшајте модел за све“ одређујете да ли се разговори ваших агената дот и послови које обављају користе за унапређивање наших модела. Када је обука модела омогућена, то може да обухвати радње које агенти дот предузимају и аутоматизације које подесите, након што предузмемо мере за уклањање личних идентификатора. Више о томе како се ваши подаци користе можете прочитати у овом чланку⁠(отвара се у новом прозору) у нашем центру за помоћ.

Поред послова које им задате, агенти дот могу да покрену истраживачке задатке у позадини како би пронашли друге начине да помогну – на пример, да уоче промену у вашим плановима путовања. То називамо проактивним истраживањем.

Ови задаци се извршавају у окружењу сваког агента дот у облаку. Користе алате само за читање да прикупе информације из повезаних извора којима је приступ дозвољен, а затим чувају приватне белешке за тог агента. Ова ограничења спроводимо у коду: истраживачки задаци не могу директно да шаљу поруке другим људима, мењају садржај у повезаним апликацијама нити управљају прегледачем или радном површином. Агенти дот могу да користе налазе како би одлучили како да помогну, али свака наредна радња мора да буде у складу са уобичајеним правилима и проверама.

Не обучавамо своје моделе директно на тим нитима позадинског истраживања нити на белешкама које настају у њима. Међутим, агент дот може да прими белешке из свог позадинског истраживачког задатка или да прочита делове својих истраживачких нити. Информације које се на тај начин унесу у разговор или задатак који испуњава услове за обуку могу се користити за обуку модела, у зависности од ваших подешавања. На пример, позадински истраживачки задатак може да прикупи информације о неколико одредишта за предстојеће путовање у Европу. Та истраживачка нит и њене белешке не користе се директно за обуку. Касније, када затражите од свог агента дот да вам помогне да испланирате путовање у Лисабон, он може да прочита белешку о Лисабону из свог позадинског истраживачког задатка. Та белешка постаје део контекста вашег разговора о планирању путовања и тада може да се користи за обуку, у зависности од ваших подешавања. Преостали део позадинског истраживања не користи се за обуку, осим ако се и он не унесе у разговор или задатак који испуњава услове за обуку.

Агенти дот поштују уграђена заштитна ограничења осмишљена да спрече штету и препусте вама одлуке са значајним последицама. Њихова безбедносна правила налажу им да одбијају штетне захтеве, укључујући злоупотребе у биологији или сајбер безбедности. За задатке у којима могу да помогну, правила за предузимање радњи одређују када могу да наставе, када морају да затраже потврду и када морају да препусте неки корак вама.

Унутар тих граница, агенти дот могу да читају информације којима имају дозволу да приступе, анализирају их и припремају нацрте у вашим разговорима. Обучени су да пре слања поруке или дељења датотеке траже овлашћење које обухвата информације и врсту примаоца – што су подаци осетљивији, то прималац мора бити прецизније одређен. На пример, за здравствене податке корисник ће увек морати да наведе примаоца по имену („подели моју историју болести са др Томпсоном“). За мање осетљиве податке о личности, попут имејл адресе или броја телефона, подразумевано ће бити потребно да корисник наведе категорије прималаца („било која авио-компанија“). Корисник може додатно да прошири правила за мање осетљиве податке о личности („подели путем било ког онлајн обрасца“) тако што ће направити Прилагођено правило – више о овој функцији прочитајте у следећем одељку. То овлашћење остаје везано за ваша упутства за задатак; каснији наставак или делегирање посла га не проширују.

Агенти дот могу да обављају куповине користећи картице које сте већ сачували на веб-сајту продавца. За те куповине потребно је ваше одобрење.

Неке радње захтевају вашу потврду сваки пут, укључујући трајно брисање података, инсталирање или покретање софтвера из непрепознатог извора или одобравање новог приступа осетљивог са безбедносног становишта. Ови захтеви вам дају прилику да прегледате промене које би могло бити тешко поништити или којима би неко добио нови приступ.

Код других осетљивих корака, попут промене лозинке или преноса новца између финансијских рачуна, агенти дот могу да помогну са осталим деловима задатка, али те осетљиве кораке морају да препусте вама.

Прилагођена правила вам омогућавају да одредите како вам агенти дот помажу у оквиру уграђених заштитних мера – на пример, тако што ћете им наложити да никада не шаљу имејлове. Можете да дате и упутства за конкретан задатак, рецимо да затражите од агента дот да обавести колегу да сте одсутни, без откривања личног разлога. Та упутства остају на снази и када тај агент делегира посао или ради у позадини.

Агенти дот могу да вам помогну да напишете Прилагођена правила, али им је потребно ваше одобрење да их измене. Ова подешавања важе у оквиру уграђених заштитних ограничења и не могу да укину обавезне потврде, препуштање корака вама нити основне безбедносне захтеве.

Пре него што агенти дот предузму радње попут слања имејлова или мењања датотека, засебан безбедносни систем под називом Аутоматска провера проверава да ли су планирани кораци у складу са вашим упутствима, Прилагођеним правилима и безбедносним захтевима. Код имејла проверава примаоца и поруку како би помогао да се открију погрешна адреса или информације које нисте намеравали да поделите.

Ако Аутоматска провера дозволи корак, агент дот који га је предложио извршава га помоћу одговарајућег алата за рачунар или апликацију, а затим користи резултат да настави ваш задатак. Може да се ослони на одобрење које сте већ дали ако оно обухвата ту радњу и ако правила не захтевају нову потврду.

Ако Аутоматска провера блокира корак, спречава извршавање радње и саопштава агенту дот разлог. Тај агент може да затражи више информација или ваше одобрење ако би то могло да отклони блокаду, а затим поново пошаље корак на проверу. У зависности од разлога, уместо тога може да покуша дозвољену алтернативу, препусти осетљив корак вама или стане. Ваше одобрење не може да укине основне безбедносне захтеве.

Контроле које обезбеђују спровођење Аутоматске провере држимо ван окружења која агенти дот могу да мењају, тако да не могу да измене или искључе обавезну проверу. Уобичајени кораци који служе само за читање и даље подлежу дозволама апликација, ограничењима алата и другим заштитним мерама, али не захтевају ову додатну проверу.

Да бисте агентима дот поверили трајне обавезе, важно је да знате како ће следити ваша упутства и реаговати када се догоди нешто неочекивано. Astra им помаже да разумеју вашу намеру, док заштита њихових података, радних простора, приступних података и радњи помаже да се ограничи штета од грешака или злонамерног садржаја. Заједно, ове заштитне мере остављају агентима дот простор да обављају користан посао, уз мању вероватноћу да грешка доведе до нежељене радње или откривања информација.

Ви бирате са чим агенти дот могу да се повежу и како вам помажу, а можете да пратите њихов напредак или промените смер рада у складу са својим потребама. Захваљујући одобрењима и препуштању корака вама, кључне одлуке остају у вашим рукама. Агенти дот и даље могу да погреше, па ћемо наставити да тестирамо и унапређујемо њихову заштиту на основу искустава из стварне употребе. Наш циљ је да вам олакшамо да посао препустите агентима дот и касније затекнете користан напредак, при чему ваше жеље усмеравају задатак, а важне одлуке остају у вашим рукама.

Прочитајте системску картицу⁠(отвара се у новом прозору) за више детаља о нашим заштитним мерама, безбедносним проценама и преосталим ограничењима.

О основама безбедности услуге ChatGPT прочитајте у тексту Безбедност и приватност у компанији OpenAI. За детаљнији приказ једне мере веб-безбедности погледајте Како штитимо ваше податке када агент вештачке интелигенције кликне на везу.