Како вградуваме безбедност, сигурност и приватност во dots

Dots се постојано активни агенти што преземаат долгорочни обврски, оставајќи ви повеќе време и внимание за нештата што ви се важни. Секој dot има свој компјутер и работи во апликациите што ќе изберете да ги поврзете. Вие им задавате цели на dots и одредувате што можат да прават самостојно. Тие можат да ги извршуваат чекорите, да се приспособуваат на промените и да продолжат да напредуваат меѓу разговорите. Може да следат како се развива некоја вест и да подготват нацрт на билтен или да помогнат со ажурирање на проект како што пристигнуваат нови информации — при што ви ги доставуваат резултатите на проверка и ви се обраќаат за одлуки за кои е потребна ваша процена.

Кога им ја давате таа одговорност на dots, им доверувате и повеќе од вашите информации и работа. Треба да разбирате до што може да пристапи секој dot, како го користи тој пристап и кога треба да ве вклучи. Овие прашања се важни бидејќи грешките на еден агент може да имаат последици и надвор од разговорот: погрешно разбирање на барањето може да го наведе да измени погрешна датотека или да сподели информации што сте сакале да ги задржите приватни.

Вградуваме заштита во секој дел од таа работа. Почнуваме со GPT‑6 Astra, кој го обучуваме да ја разбира вашата намера и да ги следи правилата за безбедност, а потоа додаваме заштитни мерки за информациите што ги користат dots, опкружувањата во кои работат и дејствата што планираат да ги преземат. Заштитениот работен простор во облакот помага да се ограничат последиците од грешките, безбедните постапки за најавување помагаат да се заштитат чувствителните податоци за најава, а посебните проверки на дејствата помагаат да се откријат чекори што отстапуваат од вашите инструкции или од барањата за безбедност. Вие избирате што да поврзете, ги поставувате вашите претпочитани опции и ја следите или пренасочувате работата додека се одвива.

Dots и понатаму можат да грешат, а ние ќе продолжиме да ги подобруваме овие заштитни мерки врз основа на она што го учиме од реалната употреба. Тука објаснуваме како заштитните мерки функционираат заедно, што контролирате вие и кои ограничувања сè уште постојат — за да можете да донесувате информирани одлуки за работата што им ја доверувате на dots.

Dots се базираат на GPT‑6 Astra, нашиот најспособен модел, кој е и најдобро усогласен со човечките намери и вредности. Astra се одликува со разбирање на вашата цел, придржување до опсегот на вашето барање и поставување конкретни прашања кога одговорите би можеле да го променат она што треба да го направи. Овие способности им помагаат на dots да работат на задачите со текот на времето, без да ја изгубат од вид вашата намера.

Ја обучивме Astra да одбива штетни барања, вклучително и барања што подразбираат злоупотреба во биологијата или сајбербезбедноста. Тестираме како dots се справуваат со променливи инструкции, двосмислени барања и обиди да се наведат да ги надминат дозволите што сте им ги дале. Тестирањето на отпорноста, и од луѓе и со автоматизирани методи, ни помага да откриваме слабости, да ги подобруваме моделот и системите околу него и повторно да ги тестираме тие промени.

Тие заштитни мерки во моделот ги надградуваме со сигурносните механизми на ChatGPT и со дополнителни мерки за агенти што можат да продолжат да работат во ваше име.

Вградената заштита на ChatGPT вклучува шифрирање на вашата содржина додека е зачувана и додека се пренесува меѓу вас, OpenAI и нашите даватели на услуги, како и контроли на пристап што помагаат да се заштитат зачуваните информации. Нашите системи за заштита на сметките, исто така, бараат знаци на сомнителна употреба на вашата сметка на OpenAI и може да побараат повторно најавување ако се чини дека сесијата е компромитирана.

На агентите им е потребна заштита и од информациите на кои наидуваат додека ја извршуваат работата. Веб-страница, е-порака или документ може да содржи злонамерни инструкции со кои се прави обид да се пренасочат агентите или да се наведат да споделат приватни информации — проблем наречен вметнување злонамерни инструкции во промпт. Ги комбинираме заштитните мерки во моделот со ограничувања на алатките, проверки пред дејствување и надзор за да помогнеме таквата содржина да не доведе до несакано дејство.

Исто така, ги надгледуваме dots додека планираат и извршуваат дејства, барајќи потенцијално штетно однесување, како дејствување надвор од вашите инструкции или обиди за заобиколување на заштитните мерки. Ако надзорот за безбедност открие проблем во тековната работа на некој dot, може да ја паузира таа работа и да ви прикаже предупредување што треба да го разгледате. Овој надзор е вграден и помага да се откријат проблеми додека се одвива задачата, заедно со заштитните мерки што ограничуваат до што можат да пристапат dots и што можат да прават.

Секој dot има свој компјутер во облакот, каде што може да прелистува, да анализира информации, да создава датотеки и да извршува алатки. Dots можат да продолжат да напредуваат во овие работни простори дури и кога вие не сте активно вклучени.

Вие избирате кои сметки можат да ги користат dots: или преку поврзување апликации во рамките на дозволите што сте му ги дале на ChatGPT, или преку најавување на веб-локација во прелистувачот на dot, со безбедно најавување каде што е поддржано. Можете да го поврзете и вашиот личен компјутер за dots да можат да ви помогнат на повеќе начини — на пример, да анализираат табела зачувана на вашата работна површина или да користат алатки за програмирање инсталирани на вашиот уред.

Во заштитениот работен простор на секој dot, изолираното извршување го ограничува пристапот до код и алатки, помагајќи да се ограничи влијанието на штетен код или погрешна команда. Исто така, ги изолираме облачните опкружувања на корисниците едно од друго и ги одржуваме оперативниот систем Linux и прелистувачот Chrome на кои се потпираат.

Dots извршуваат код во опкружувања што се одвоени од системите кои ја координираат нивната работа и ги спроведуваат клучните заштитни мерки. Таму можат да создаваат датотеки и да извршуваат алатки, но не можат да го користат тој пристап за да ги изменат системите за безбедност или да ги исклучат задолжителните проверки. Оваа одвоеност помага заштитните мерки да останат на сила дури и ако некој dot направи грешка.

Правилата за дејствување опишани подолу одредуваат што можат да прават dots со пристапот што го имаат.

Безбедното најавување им овозможува на dots да работат во сметките без лозинките да влезат во разговорот. Кај поддржаните најавувања, моделот се паузира додека пополнувате безбеден образец за најава, кој ги испраќа вашите податоци за најава директно во опкружувањето на прелистувачот и ги поднесува без да ги открие во контекстот на моделот. Потоа dot продолжува да работи во најавената сметка. Со тоа што лозинката останува надвор од разговорот, се намалува ризикот таа да се појави во одговор или да биде споделена по грешка.

Поддржаните постапки со зачувани лозинки ја одржуваат таа одвоеност преку посебна шифрирана услуга за податоци за најава. Услугата ја доставува лозинката за најавување без да му ја проследи на моделот, па dots можат да работат во сметките за кои сте дале овластување, додека лозинките остануваат надвор од контекстот на моделот. Овие заштитни мерки важат конкретно за безбедното најавување и постапките со зачувани лозинки; таен податок внесен одделно во порака или документ што моделот може да ги чита и понатаму може да му биде видлив.

Управувате со тоа кои апликации можат да ги користат dots преку вашите постојни поврзувања и дозволи во ChatGPT, кои се заеднички за ChatGPT, ChatGPT Работа и Codex. Во делот „Приклучоци“ во „Поставки“, можете да ги прегледате поврзаните сметки и да измените до што ќе можат да пристапуваат dots во иднина. Прекинувањето на поврзувањето со апликација го запира понатамошното споделување информации преку таа врска. Но информациите што dot веќе ги дознал остануваат во неговиот контекст. Овие дозволи го регулираат пристапот до вашите апликации; тие не ги поништуваат задолжителните барања за безбедност.

Ако сакате dots да работат со локални датотеки или алатки, можете да го поврзете и вашиот компјутер. За тоа поврзување и понатаму важат ограничувањата на локалното изолирано опкружување и соодветните проверки на дејствата. За користење на микрофонот или камерата на вашиот компјутер се потребни и дозволи од уредот, кои можете да изберете да му ги дадете на ChatGPT.

Приказот на активностите во десктоп-апликацијата ви овозможува да ја следите и насочувате тековната работа. Ги прикажува тековните и делегираните задачи и нивниот статус. Можете да додадете контекст, да исправите недоразбирање, да ја смените насоката или да побарате од dot да запре.

Dots со текот на времето го надградуваат контекстот за нивната помош да биде покорисна. Кога делегираат работа, другите агенти добиваат инструкции да ги задржат информациите потребни за задачата и да избегнуваат задржување непотребни чувствителни детали. Секој dot има свој контекст што можете да го ресетирате во секое време.

За работните простори на ChatGPT Business, Enterprise и Edu, стандардно не ги користиме вашите податоци за обука на нашите модели. Кај личните планови за ChatGPT, вие контролирате дали разговорите на вашите dots и работата што ја извршуваат се користат за подобрување на нашите модели, преку поставката „Подобри го моделот за сите“. Кога е овозможена обуката на моделите, тоа може да ги вклучува дејствата што ги преземаат dots и автоматизациите што ги поставувате, откако ќе преземеме мерки за отстранување на личните идентификатори. Повеќе за тоа како се користат вашите податоци можете да прочитате во оваа статија⁠(се отвора во нов прозорец) во нашиот центар за помош.

Покрај работата што им ја задавате, dots можат да започнат истражувачки задачи во заднина за да најдат други начини да помогнат — на пример, да забележат промена во вашите планови за патување. Ова го нарекуваме проактивно истражување.

Овие задачи се извршуваат во облачното опкружување на секој dot. Користат алатки само за читање за да соберат информации од дозволените поврзани извори, а потоа зачувуваат приватни белешки за тој dot. Овие ограничувања ги спроведуваме преку код: истражувачките задачи не можат директно да испраќаат пораки до други луѓе, да менуваат содржина во поврзаните апликации или да контролираат прелистувач или работна површина. Dots можат да ги користат наодите за да одлучат како да помогнат, но секое понатамошно дејство мора да ги следи вообичаените правила и проверки.

Не ги обучуваме нашите модели директно врз тие истражувачки нишки во заднина или белешките што произлегуваат од нив. Но dot може да добие белешки од својата истражувачка задача во заднина или да прочита делови од своите истражувачки нишки. Информациите што на овој начин се внесуваат во разговор или задача што ги исполнува условите за обука може да се користат за обука на моделите, зависно од вашите поставки. На пример, истражувачка задача во заднина може да собере информации за неколку дестинации за претстојно патување во Европа. Таа истражувачка нишка и нејзините белешки не се користат директно за обука. Подоцна, кога ќе побарате од вашиот dot да ви помогне да испланирате патување во Лисабон, тој може да прочита белешка за Лисабон од својата истражувачка задача во заднина. Таа белешка станува дел од контекстот на вашиот разговор за планирање на патувањето и потоа може да се користи за обука, зависно од вашите поставки. Остатокот од истражувањето во заднина не се користи за обука, освен ако и тој не се внесе во разговор или задача што ги исполнува условите за обука.

Dots следат вградени заштитни ограничувања осмислени да спречат штета и да ги остават одлуките со значајни последици во ваши раце. Нивните правила за безбедност бараат да одбиваат штетни барања, вклучително и злоупотреба во биологијата или сајбербезбедноста. За задачите со кои можат да помогнат, правилата за дејствување одредуваат кога можат да продолжат, кога мора да побараат потврда и кога мора да ви препуштат некој чекор вам.

Во тие граници, dots можат да читаат информации до кои имаат дозвола да пристапат, да ги анализираат и да подготвуваат нацрти во вашите разговори. За да испратат порака или да споделат датотека, обучени се да бараат овластување што ги опфаќа информациите и видот на примачот — за почувствителни податоци е потребно попрецизно да се одредат примачите. На пример, за здравствени податоци секогаш ќе се бара корисникот да наведе конкретен примач по име („сподели ја мојата медицинска историја со д-р Томпсон“). За помалку чувствителни лични податоци, како е-адреса или телефонски број, стандардно ќе се бара корисникот да наведе категории примачи („која било авиокомпанија“). Корисникот може дополнително да ги прошири правилата за помалку чувствителни лични податоци („сподели преку кој било онлајн образец“) со создавање Приспособено правило — повеќе детали за оваа функција има во следниот дел. Тоа овластување останува врзано за вашите инструкции за задачата; продолжувањето подоцна или делегирањето работа не го проширува.

Dots можат да купуваат со картички што веќе сте ги зачувале на веб-локацијата на трговецот. За тие купувања е потребно ваше одобрение.

За некои дејства е потребна ваша потврда секојпат, вклучително и трајно бришење податоци, инсталирање или извршување софтвер од непрепознаен извор или доделување нов пристап што е чувствителен од сигурносен аспект. Овие барања ви даваат можност да ги разгледате промените што би можело да биде тешко да се поништат или што би му дале некому нов пристап.

За други чувствителни чекори, како менување лозинка или префрлање пари меѓу финансиски сметки, dots можат да помогнат со останатиот дел од задачата, но мора да ви ги препуштат тие чувствителни чекори вам.

Приспособените правила ви овозможуваат да одредите како dots ќе ви помагаат во рамките на вградената заштита — на пример, да им кажете никогаш да не испраќаат е-пораки. Можете да дадете и насоки за конкретна задача, на пример, да побарате од dot да му каже на колега дека сте отсутни без да ја сподели личната причина. Тие инструкции продолжуваат да важат кога тој dot делегира работа или работи во заднина.

Dots можат да ви помогнат да напишете Приспособени правила, но им треба ваше одобрение за да ги изменат. Овие претпочитани опции важат во рамките на вградените заштитни ограничувања и не можат да ги отстранат задолжителните потврди, препуштањето чекори на вас или основните барања за безбедност.

Пред dots да преземат дејства како испраќање е-пораки или менување датотеки, посебен систем за безбедност наречен Автоматска проверка проверува дали планираните чекори се усогласени со вашите инструкции, Приспособените правила и барањата за безбедност. Кај е-порака, ги проверува примачот и пораката за да помогне да се открие погрешна адреса или информација што не сте сакале да ја споделите.

Ако Автоматската проверка дозволи чекор, dot што го предложил го извршува со соодветниот компјутер или алатка на апликацијата, а потоа го користи резултатот за да продолжи со вашата задача. Може да се потпре на одобрение што веќе сте го дале, кога тоа го опфаќа дејството и правилата не бараат нова потврда.

Ако Автоматската проверка блокира чекор, го спречува извршувањето на дејството и му кажува на dot зошто. Тој dot може да побара повеќе информации или ваше одобрение ако тоа би можело да ја отстрани пречката, а потоа повторно да го поднесе чекорот на проверка. Зависно од причината, наместо тоа може да проба дозволена алтернатива, да ви препушти чувствителен чекор или да запре. Вашето одобрение не може да ги поништи основните барања за безбедност.

Контролите што ја спроведуваат Автоматската проверка ги чуваме надвор од опкружувањата што dots можат да ги менуваат, за да не можат да изменат или исклучат задолжителна проверка. За вообичаените чекори само за читање и понатаму важат дозволите за апликациите, ограничувањата на алатките и другите заштитни мерки, но не е потребна оваа дополнителна проверка.

За да им доверите тековна работа на dots, треба да знаете како ќе ги следат вашите инструкции и како ќе реагираат кога ќе се случи нешто неочекувано. Astra им помага да ја разберат вашата намера, додека заштитата на нивните податоци, работни простори, податоци за најава и дејства помага да се ограничи штетата од грешки или злонамерна содржина. Заедно, овие заштитни мерки им даваат простор на dots да вршат корисна работа, истовремено намалувајќи ја веројатноста некоја грешка да доведе до несакано дејство или откривање информации.

Вие избирате со што можат да се поврзат dots и како да ви помагаат, а можете да го следите нивниот напредок или да ја менувате насоката како што се менуваат вашите потреби. Одобрувањата и препуштањето чекори на вас ги оставаат клучните одлуки во ваши раце. Dots и понатаму можат да грешат, па ќе продолжиме да ја тестираме и подобруваме нивната заштита врз основа на она што го учиме од реалната употреба. Нашата цел е полесно да им ја препуштите работата на dots и да се вратите кога веќе е постигнат корисен напредок, при што вашите претпочитани опции ја насочуваат задачата, а важните одлуки остануваат во ваши раце.

Прочитајте ја системската картичка⁠(се отвора во нов прозорец) за повеќе детали за нашите заштитни мерки, процените на безбедноста и преостанатите ограничувања.

За основите на сигурноста на ChatGPT, видете Сигурност и приватност во OpenAI. За подетален преглед на една мерка за заштита на веб, видете Како ги чуваме вашите податоци безбедни кога агент со ВИ ќе кликне на врска.