Как осигуряваме безопасност, сигурност и поверителност в dots

Dots са постоянно активни агенти, които поемат дългосрочни отговорности и ви оставят повече време и внимание за важните за вас неща. Всеки dot има собствен компютър и работи с приложенията, които изберете да свържете. Вие задавате цели на dots и определяте какво могат да правят самостоятелно. Те могат да изпълняват задачите стъпка по стъпка, да се адаптират към промените и да продължават да напредват между разговорите. Могат да следят развитието на новина и да подготвят чернова на бюлетин или да помагат с актуализирането на проект при постъпване на нова информация — като ви представят резултатите за преглед и се обръщат към вас за решения, изискващи вашата преценка.

Когато възлагате тази отговорност на dots, им поверявате повече от своята информация и работа. Важно е да разбирате до какво има достъп всеки dot, как използва този достъп и кога трябва да ви включи. Тези въпроси са важни, защото грешките на един агент могат да имат последствия извън разговора: погрешно разбрана заявка може да го накара да промени неправилния файл или да сподели информация, която сте искали да запазите поверителна.

Изграждаме защити за всеки етап от тази работа. Започваме с GPT‑6 Astra, който обучаваме да разбира намеренията ви и да спазва правилата за безопасност. След това добавяме защитни мерки за информацията, която dots използват, средите, в които работят, и действията, които планират да предприемат. Защитеното облачно работно пространство помага да се ограничат последствията от грешки, процедурите за защитено влизане помагат да се предпазят чувствителните данни за вход, а отделните проверки на действията помагат да се открият стъпки, които не съответстват на вашите инструкции или на изискванията за безопасност. Вие избирате какво да свържете, задавате предпочитания и следите или пренасочвате работата в хода ѝ.

Dots все пак могат да допускат грешки и ще продължим да подобряваме тези защити въз основа на опита от реалната им употреба. Тук обясняваме как защитните мерки работят заедно, какво контролирате вие и какви ограничения остават — за да можете да вземате информирани решения за работата, която поверявате на dots.

Dots използват GPT‑6 Astra — нашия най-способен модел, който е и най-добре съобразен с човешките цели и ценности. Astra се отличава с това, че разбира целта ви, спазва обхвата на заявката ви и задава конкретни въпроси, когато отговорите могат да променят необходимите действия. Тези способности помагат на dots да работят по задачи продължително, без да губят от поглед първоначалните ви намерения.

Обучили сме Astra да отказва вредоносни заявки, включително такива, свързани със злоупотреби в биологията или киберсигурността. Тестваме как dots се справят с променящи се инструкции, двусмислени заявки и опити да бъдат подтикнати да надхвърлят дадените от вас разрешения. Стрес тестовете с червен отбор, провеждани от хора и автоматизирани системи, ни помагат да откриваме слабости, да подобряваме модела и свързаните с него системи и да тестваме отново направените промени.

Надграждаме тези защити на модела с механизмите за сигурност на ChatGPT и с допълнителни мерки за агенти, които могат да продължават да работят от ваше име.

Вградените защити на ChatGPT включват криптиране на съдържанието ви при съхранение и при пренос между вас, OpenAI и нашите доставчици на услуги, както и механизми за контрол на достъпа, които помагат да се защити съхраняваната информация. Нашите системи за сигурност на акаунтите също следят за подозрителна употреба на вашия акаунт в OpenAI и могат да изискат повторно влизане, ако дадена сесия изглежда компрометирана.

Агентите се нуждаят и от защита срещу информацията, на която попадат по време на работа. Уебстраница, имейл или документ може да съдържа злонамерени инструкции, които се опитват да ги пренасочат или да ги накарат да споделят поверителна информация — проблем, наречен инжектиране на подкана. Съчетаваме защитите на модела с ограничения върху инструментите, проверки преди действията и наблюдение, за да предотвратим превръщането на такова съдържание в нежелано действие.

Наблюдаваме dots и докато планират и изпълняват действия, като следим за потенциално вредно поведение, например действия извън вашите инструкции или опити за заобикаляне на защитните мерки. Ако системата за наблюдение на безопасността открие проблем в текущата работа на даден dot, тя може да я постави на пауза и да ви покаже предупреждение за преглед. Това наблюдение е вградено и помага да се откриват проблеми в хода на задачата, като допълва защитите, които ограничават достъпа и действията на dots.

Всеки dot има собствен облачен компютър, на който може да сърфира в интернет, да анализира информация, да създава файлове и да изпълнява инструменти. Dots могат да продължават да напредват в тези работни пространства дори когато не участвате активно.

Вие избирате кои акаунти могат да използват dots — като свързвате приложения в рамките на разрешенията, които сте предоставили на ChatGPT, или като влизате в уебсайт през браузъра на dot със защитено влизане, когато то се поддържа. Можете да свържете и личния си компютър, за да дадете на dots повече възможности да помагат — например да анализират електронна таблица, запазена на работния ви плот, или да използват инструменти за програмиране, инсталирани на устройството ви.

В защитеното работно пространство на всеки dot изолираната среда ограничава достъпа му до код и инструменти, което помага да се ограничат последствията от вредоносен код или погрешна команда. Освен това изолираме облачните среди на потребителите една от друга и поддържаме операционната система Linux и браузъра Chrome, на които те разчитат.

Dots изпълняват код в среди, отделени от системите, които координират работата им и прилагат основните защитни мерки. Там могат да създават файлове и да изпълняват инструменти, но не могат да използват този достъп, за да променят системите за безопасност или да изключват задължителните проверки. Това разделение помага защитните мерки да останат в сила дори ако даден dot допусне грешка.

Описаните по-долу правила за действия определят как dots могат да използват предоставения им достъп.

Защитеното влизане позволява на dots да работят в акаунти, без паролите да попадат в разговора. При поддържаните начини за влизане моделът се поставя на пауза, докато попълвате защитен формуляр за вход. Той изпраща данните ви за вход директно към средата на браузъра и ги подава, без да ги разкрива в контекста на модела. След това dot възобновява работата си в акаунта, в който сте влезли. Когато паролата остава извън разговора, рискът тя да се появи в отговор или да бъде споделена по погрешка намалява.

Поддържаните процедури със запазени пароли запазват това разделение чрез специализирана криптирана услуга за данни за вход. Услугата предоставя паролата за влизане, без да я предава на модела. Така dots могат да работят в акаунтите, за които сте дали разрешение, а паролите остават извън контекста на модела. Тези защити важат само за процедурите за защитено влизане и за използване на запазени пароли; поверителни данни, въведени отделно в достъпно за четене съобщение или документ, може все пак да са видими за модела.

Управлявате кои приложения могат да използват dots чрез съществуващите си връзки и разрешения в ChatGPT, които са общи за ChatGPT, ChatGPT Work и Codex. В раздела „Приставки“ в настройките можете да прегледате свързаните акаунти и да промените до какво ще имат достъп dots занапред. Прекъсването на връзката с дадено приложение спира споделянето на нова информация чрез тази връзка. Но информацията, която даден dot вече е получил, остава в неговия контекст. Тези разрешения уреждат достъпа до приложенията ви; те не отменят задължителните изисквания за безопасност.

Ако искате dots да работят с локални файлове или инструменти, можете да свържете и компютъра си. Тази връзка също подлежи на ограниченията на локалната изолирана среда и на приложимите проверки на действията. Използването на микрофона или камерата на компютъра ви изисква и съответните разрешения на устройството, които можете да предоставите на ChatGPT.

Изгледът на активността в настолното приложение ви позволява да следите и насочвате текущата работа. Той показва текущите и делегираните задачи и тяхното състояние. Можете да добавяте контекст, да изяснявате недоразумения, да променяте посоката или да поискате от dot да спре.

Dots натрупват контекст с времето, за да ви помагат по-полезно. Когато делегират работа, другите агенти получават инструкции да запазват необходимата за задачата информация и да избягват съхраняването на ненужни чувствителни подробности. Всеки dot има собствен контекст, който можете да изчистите по всяко време.

За работните пространства в ChatGPT Business, Enterprise и Edu по подразбиране не използваме данните ви за обучение на нашите модели. При личните планове за ChatGPT вие контролирате дали разговорите с вашите dots и извършената от тях работа се използват за подобряване на моделите ни чрез настройката „Подобряване на модела за всички“. Когато обучението на моделите е включено, това може да обхваща действията на dots и автоматизациите, които създавате, след като предприемем мерки за премахване на личните идентификатори. Можете да прочетете повече за използването на данните ви в тази статия⁠(отваря се в нов прозорец) в нашия помощен център.

Наред с работата, която им възлагате, dots могат да започват фонови задачи за проучване, за да търсят други начини да помогнат — например като забележат промяна в плановете ви за пътуване. Наричаме това проактивно проучване.

Тези задачи се изпълняват в облачната среда на всеки dot. Те използват инструменти само за четене, за да събират информация от разрешените свързани източници, след което запазват лични бележки за съответния dot. Прилагаме тези ограничения на ниво код: задачите за проучване не могат директно да изпращат съобщения до други хора, да променят съдържание в свързани приложения или да управляват браузър или работен плот. Dots могат да използват резултатите, за да решат как да помогнат, но всяко последващо действие трябва да спазва обичайните правила и проверки.

Не обучаваме моделите си директно върху нишките на тези фонови проучвания или бележките, създадени в тях. Но даден dot може да получи бележки от своята фонова задача за проучване или да прочете части от нишките на проучването си. Информацията, внесена по този начин в разговор или задача, които отговарят на условията за използване при обучение, може да бъде използвана за обучение на моделите според настройките ви. Например фонова задача за проучване може да събере информация за няколко дестинации за предстоящо пътуване до Европа. Нишката на това проучване и бележките към нея не се използват директно за обучение. По-късно, когато помолите своя dot да помогне с планирането на пътуване до Лисабон, той може да прочете бележка за Лисабон от фоновата си задача за проучване. Тази бележка става част от контекста на разговора ви за планиране на пътуването и след това може да бъде използвана за обучение според настройките ви. Останалата част от фоновото проучване не се използва за обучение, освен ако също не бъде внесена в разговор или задача, които отговарят на условията за това.

Dots спазват вградени защитни ограничения, предназначени да предотвратяват вреди и да оставят важните решения във ваши ръце. Правилата им за безопасност изискват да отказват вредоносни заявки, включително такива за злоупотреби в биологията или киберсигурността. За задачите, с които могат да помогнат, правилата за действия определят кога могат да продължат, кога трябва да поискат потвърждение и кога трябва да оставят дадена стъпка на вас.

В тези рамки dots могат да четат информация, до която имат разрешен достъп, да я анализират и да подготвят чернови в разговорите ви. Обучени са да искат разрешение, обхващащо информацията и вида получател, преди да изпратят съобщение или да споделят файл — колкото по-чувствителни са данните, толкова по-конкретно трябва да бъдат посочени получателите. Например при здравни данни потребителят винаги трябва да посочи получател по име („сподели медицинската ми история с д-р Томпсън“). При по-малко чувствителни лични данни, като имейл адрес или телефонен номер, по подразбиране потребителят трябва да посочи категории получатели („всяка авиокомпания“). Потребителят може допълнително да разшири правилата за по-малко чувствителни лични данни („споделяй чрез всеки онлайн формуляр“), като създаде персонализирано правило — вижте следващия раздел за повече подробности относно тази функция. Това разрешение остава обвързано с инструкциите ви за задачата; продължаването ѝ по-късно или делегирането на работа не разширява обхвата му.

Dots могат да правят покупки с карти, които вече сте запазили на уебсайта на търговец. Тези покупки изискват вашето одобрение.

Някои действия изискват потвърждението ви всеки път — например окончателно изтриване на данни, инсталиране или изпълнение на софтуер от непознат източник или предоставяне на нов достъп, важен за сигурността. Тези изисквания ви дават възможност да прегледате промени, които може да са трудни за отмяна или да предоставят нов достъп на някого.

При други чувствителни стъпки, включително промяна на парола или прехвърляне на пари между финансови сметки, dots могат да помогнат с останалата част от задачата, но трябва да оставят самите чувствителни стъпки на вас.

Персонализираните правила ви позволяват да определяте как dots да ви помагат в рамките на вградените защити — например като им кажете никога да не изпращат имейли. Можете също да давате конкретни указания за дадена задача, например да поискате от dot да съобщи на колега, че отсъствате, без да споделя личната причина. Тези инструкции продължават да важат, когато съответният dot делегира работа или работи във фонов режим.

Dots могат да ви помогнат да съставите персонализирани правила, но се нуждаят от одобрението ви, за да ги променят. Тези предпочитания действат в рамките на вградените защитни ограничения и не могат да отменят задължителните потвърждения, предаването на стъпки на вас или основните изисквания за безопасност.

Преди dots да предприемат действия като изпращане на имейли или промяна на файлове, отделна система за безопасност, наречена „Автоматична проверка“, проверява дали планираните стъпки съответстват на вашите инструкции, персонализираните правила и изискванията за безопасност. При имейл тя проверява получателя и съобщението, за да помогне да се открие грешен адрес или информация, която не сте възнамерявали да споделите.

Ако автоматичната проверка разреши дадена стъпка, dot, който я е предложил, я изпълнява чрез подходящия инструмент за компютъра или приложението, след което използва резултата, за да продължи задачата ви. Той може да се позове на вече дадено от вас одобрение, когато то обхваща действието и правилата не изискват ново потвърждение.

Ако автоматичната проверка блокира дадена стъпка, тя предотвратява изпълнението на действието и съобщава причината на dot. Този dot може да поиска повече информация или одобрението ви, ако това би позволило стъпката да бъде разблокирана, след което да я изпрати отново за проверка. В зависимост от причината той може вместо това да опита разрешена алтернатива, да остави чувствителна стъпка на вас или да спре. Вашето одобрение не може да отмени основните изисквания за безопасност.

Механизмите, които налагат автоматичната проверка, се намират извън средите, които dots могат да променят, така че те не могат да изменят или изключват задължителна проверка. Обичайните стъпки само за четене също спазват разрешенията за приложенията, ограниченията на инструментите и другите защитни мерки, но не се нуждаят от тази допълнителна проверка.

За да поверите продължителна работа на dots, трябва да знаете как ще следват инструкциите ви и как ще реагират, когато се случи нещо неочаквано. Astra им помага да разбират намеренията ви, а защитите за данните, работните им пространства, данните за вход и действията им помагат да се ограничат вредите от грешки или злонамерено съдържание. Заедно тези защитни мерки дават на dots свобода да вършат полезна работа, като същевременно намаляват вероятността грешка да доведе до нежелано действие или разкриване на информация.

Вие избирате с какво могат да се свързват dots и как да помагат, а когато нуждите ви се променят, можете да следите напредъка им или да променяте посоката. Одобренията и предаването на стъпки на вас оставят ключовите решения във ваши ръце. Dots все пак могат да допускат грешки, затова ще продължим да тестваме и подобряваме защитите им въз основа на опита от реалната им употреба. Целта ни е да ви улесним да оставяте работата на dots и при завръщането си да виждате полезен напредък — като предпочитанията ви направляват задачата, а важните решения остават във ваши ръце.

Прочетете картата на системата⁠(отваря се в нов прозорец) за повече подробности относно нашите защитни мерки, оценките на безопасността и оставащите ограничения.

За основите на сигурността в ChatGPT вижте Сигурност и поверителност в OpenAI. За по-подробен поглед върху една от защитите при работа в интернет вижте Как защитаваме данните ви, когато агент с ИИ щракне върху връзка.