Dots — це постійно активні агенти, які беруть на себе тривалі завдання, залишаючи вам більше часу й уваги для важливих для вас справ. Кожен агент dot має власний комп’ютер і працює в застосунках, які ви вирішите підключити. Ви ставите цілі для dots і визначаєте, що вони можуть робити самостійно. Вони можуть крок за кроком виконувати завдання, пристосовуватися до змін і продовжувати роботу між розмовами. Вони можуть стежити за розвитком подій і готувати чернетку розсилки або допомагати оновлювати проєкт у міру надходження нової інформації — надавати вам результати для перевірки й звертатися до вас щодо рішень, які потребують вашої оцінки.
Покладаючи таку відповідальність на dots, ви довіряєте їм більше своєї інформації та роботи. Вам важливо розуміти, до чого має доступ кожен агент dot, як він використовує цей доступ і коли має залучити вас. Ці питання важливі, адже наслідки помилок агента можуть виходити за межі розмови: неправильно зрозумівши запит, він може змінити не той файл або розкрити інформацію, яку ви хотіли зберегти конфіденційною.
Ми передбачаємо захист для кожного складника цієї роботи. Основою є GPT‑6 Astra, яку ми навчаємо розуміти ваші наміри й дотримуватися правил безпеки. Далі ми додаємо захисні механізми для інформації, яку використовують dots, середовищ, у яких вони працюють, і дій, які вони планують виконати. Захищений хмарний робочий простір допомагає обмежити наслідки помилок, процедури захищеного входу — убезпечити конфіденційні облікові дані, а окремі перевірки дій — виявити кроки, що виходять за межі ваших інструкцій або вимог безпеки. Ви вибираєте, що підключати, задаєте свої побажання, стежите за перебігом роботи або змінюєте її напрям.
Dots усе ще можуть помилятися, і ми й надалі вдосконалюватимемо ці засоби захисту на основі досвіду реального використання. Тут ми пояснюємо, як захисні механізми працюють разом, чим керуєте ви та які обмеження залишаються, — щоб ви могли зважено вирішувати, яку роботу довіряти dots.
Dots працюють на базі GPT‑6 Astra — нашої найпотужнішої моделі, найкраще узгодженої з людськими намірами й цінностями. Astra чудово розуміє вашу мету, дотримується меж вашого запиту та ставить конкретні уточнювальні запитання, коли відповіді можуть вплинути на її подальші дії. Ці можливості допомагають dots працювати над завданнями тривалий час, не втрачаючи з поля зору ваш початковий задум.
Ми навчили Astra відхиляти шкідливі запити, зокрема пов’язані зі зловживаннями в біології чи кібербезпеці. Ми перевіряємо, як dots реагують на зміни інструкцій, неоднозначні запити та спроби змусити їх вийти за межі наданих вами дозволів. Перевірка на вразливості та ризики, яку проводять фахівці й автоматизовані системи, допомагає нам виявляти слабкі місця, вдосконалювати модель і системи навколо неї, а потім повторно перевіряти внесені зміни.
Ми доповнюємо ці захисні механізми моделі засобами захисту ChatGPT та додатковими заходами для агентів, які можуть безперервно працювати від вашого імені.
Вбудовані засоби захисту ChatGPT включають шифрування вашого вмісту під час зберігання та передавання між вами, OpenAI й нашими постачальниками послуг, а також засоби контролю доступу, що допомагають захищати збережену інформацію. Наші системи захисту облікових записів також виявляють підозріле використання вашого облікового запису OpenAI й можуть вимагати повторного входу, якщо є ознаки компрометації сеансу.
Агенти також потребують захисту від інформації, з якою стикаються під час роботи. Вебсторінка, електронний лист або документ можуть містити шкідливі інструкції, покликані змінити напрям їхньої роботи або змусити їх розкрити конфіденційну інформацію. Ця проблема має назву вставлення шкідливих запитів. Ми поєднуємо захисні механізми моделі з обмеженнями інструментів, перевірками перед виконанням дій і моніторингом, щоб такий вміст не призводив до небажаних дій.
Ми також відстежуємо роботу dots під час планування та виконання дій, шукаючи ознаки потенційно шкідливої поведінки — наприклад, вихід за межі ваших інструкцій або спроби обійти захисні механізми. Якщо система моніторингу безпеки виявляє можливу проблему в поточній роботі агента dot, вона може призупинити цю роботу й показати вам попередження для розгляду. Цей вбудований моніторинг допомагає виявляти проблеми в міру виконання завдання та доповнює захисні механізми, що обмежують доступ і дії dots.
Кожен агент dot має власний хмарний комп’ютер, де може переглядати вебсторінки, аналізувати інформацію, створювати файли й запускати інструменти. Dots можуть продовжувати роботу в цих робочих просторах навіть без вашої активної участі.
Ви вибираєте, які облікові записи можуть використовувати dots: підключаєте застосунки в межах дозволів, наданих ChatGPT, або входите на вебсайт у браузері агента dot, використовуючи захищений вхід, якщо він підтримується. Ви також можете підключити особистий комп’ютер, щоб дати dots більше можливостей допомогти — наприклад, проаналізувати електронну таблицю, збережену на робочому столі, або скористатися інструментами програмування, установленими на вашому пристрої.
У захищеному робочому просторі кожного агента dot ізоляція в пісочниці обмежує доступний йому код та інструменти, допомагаючи стримувати наслідки виконання шкідливого коду або помилкової команди. Ми також ізолюємо хмарні середовища користувачів одне від одного й забезпечуємо технічне обслуговування операційної системи Linux і браузера Chrome, на яких вони працюють.
Dots виконують код у середовищах, відокремлених від систем, які координують їхню роботу та забезпечують ключові захисні механізми. Вони можуть створювати там файли й запускати інструменти, але не можуть використати цей доступ, щоб змінити системи безпеки чи вимкнути обов’язкові перевірки. Таке розділення допомагає зберегти захисні механізми дієвими, навіть якщо агент dot помилиться.
Наведені нижче правила виконання дій визначають, що dots можуть робити з наданим їм доступом.
Хмарний робочий простір кожного агента dot об’єднує його комп’ютер і доступні йому інструменти. Ви вибираєте, які застосунки підключати та чи підключати особистий комп’ютер. Автоперевірка перевіряє дії, які потребують перевірки, перш ніж їх буде виконано. Якщо вона блокує крок, то пояснює причину агенту dot, щоб він міг вирішити, що робити далі.
Захищений вхід дає dots змогу працювати в облікових записах без передавання паролів у розмову. Якщо захищений вхід підтримується, робота моделі призупиняється, поки ви заповнюєте захищену форму входу. Вона передає ваші облікові дані безпосередньо в середовище браузера й надсилає їх для входу, не розкриваючи їх у контексті моделі. Після цього агент dot відновлює роботу в обліковому записі, у який ви ввійшли. Оскільки пароль не потрапляє в розмову, зменшується ризик його появи у відповіді або випадкового розкриття.
Підтримувані процедури входу зі збереженими паролями зберігають це розділення завдяки окремому сервісу облікових даних із шифруванням. Сервіс надає пароль для входу, не передаючи його моделі. Тож dots можуть працювати в облікових записах, доступ до яких ви дозволили, а паролі залишаються поза контекстом моделі. Ці засоби захисту діють лише в процедурах захищеного входу та входу зі збереженими паролями. Секретні дані, окремо додані до доступного для читання повідомлення чи документа, можуть залишатися видимими для моделі.
Ви керуєте тим, які застосунки можуть використовувати dots, через наявні підключення та дозволи ChatGPT, спільні для ChatGPT, ChatGPT Робота й Codex. У розділі «Плагіни» в налаштуваннях можна переглянути підключені облікові записи та змінити, до чого dots матимуть доступ надалі. Відключення застосунку припиняє обмін новою інформацією через це підключення. Проте інформація, яку агент dot уже отримав, залишається в його контексті. Ці дозволи регулюють доступ до ваших застосунків, але не скасовують обов’язкових вимог безпеки.
Якщо ви хочете, щоб dots працювали з локальними файлами чи інструментами, можна також підключити свій комп’ютер. На це підключення й надалі поширюються обмеження локальної пісочниці та відповідні перевірки дій. Для використання мікрофона чи камери комп’ютера також потрібні дозволи пристрою, які ви можете надати ChatGPT.
Перегляд активності в застосунку для комп’ютера дає змогу стежити за поточною роботою та скеровувати її. Він показує поточні й делеговані завдання та їхній стан. Ви можете додати контекст, виправити непорозуміння, змінити напрям роботи або попросити агента dot зупинитися.
Dots поступово накопичують контекст, щоб їхня допомога була кориснішою. Коли вони делегують роботу, інші агенти отримують інструкції зберігати потрібну для завдання інформацію й не зберігати зайвих конфіденційних подробиць. Кожен агент dot має власний контекст, який ви можете скинути будь-коли.
Для робочих просторів ChatGPT Business, Enterprise і Edu ми за замовчуванням не використовуємо ваші дані для навчання наших моделей. В особистих планах ChatGPT ви керуєте тим, чи використовуватимуться розмови ваших dots і виконана ними робота для вдосконалення наших моделей, за допомогою налаштування «Покращувати модель для всіх». Коли навчання моделі ввімкнено, для нього можуть використовуватися також дії dots і налаштовані вами автоматизації — після того, як ми вживемо заходів для видалення персональних ідентифікаторів. Докладніше про використання ваших даних можна прочитати в цій статті(відкривається у новому вікні) нашого довідкового центру.
Окрім дорученої вами роботи, dots можуть запускати фонові дослідження, щоб знайти інші способи допомогти — наприклад, помітити зміни у ваших планах подорожі. Ми називаємо це проактивним дослідженням.
Ці завдання виконуються в хмарному середовищі кожного агента dot. Вони використовують інструменти лише для читання, щоб збирати інформацію з дозволених підключених джерел, а потім зберігають приватні нотатки для цього агента dot. Ми забезпечуємо ці обмеження на рівні коду: дослідницькі завдання не можуть безпосередньо надсилати повідомлення іншим людям, змінювати вміст у підключених застосунках або керувати браузером чи робочим столом. Dots можуть використовувати отримані результати, щоб вирішити, як допомогти, але всі подальші дії мають відповідати звичайним правилам і проходити перевірки.
Проактивне дослідження виконується як фонове завдання в хмарному середовищі кожного агента dot. Воно зчитує інформацію з дозволених підключених джерел і передає приватні нотатки цьому агенту dot, який вирішує, як допомогти. На всі подальші дії поширюються звичайні правила та перевірки.
Ми не навчаємо наші моделі безпосередньо на гілках цих фонових досліджень або створених у них нотатках. Проте агент dot може отримувати нотатки зі свого фонового дослідження або читати частини його гілок. Інформація, що в такий спосіб потрапила до розмови чи завдання, які можна використовувати для навчання моделі, може бути використана для цього залежно від ваших налаштувань. Наприклад, фонове дослідницьке завдання може зібрати інформацію про кілька місць для майбутньої подорожі Європою. Ця гілка дослідження та її нотатки не використовуються для навчання безпосередньо. Згодом, коли ви попросите свого агента dot допомогти спланувати подорож до Лісабона, він може прочитати нотатку про Лісабон зі свого фонового дослідження. Ця нотатка стає частиною контексту вашої розмови про планування подорожі й після цього може використовуватися для навчання залежно від ваших налаштувань. Решта фонового дослідження не використовується для навчання, якщо вона також не потрапить до розмови чи завдання, які можна використовувати для навчання.
Dots дотримуються вбудованих обмежень, покликаних запобігати шкоді та залишати важливі рішення за вами. Правила безпеки вимагають від них відхиляти шкідливі запити, зокрема пов’язані зі зловживаннями в біології чи кібербезпеці. Для завдань, з якими вони можуть допомогти, правила виконання дій визначають, коли можна продовжувати роботу, коли потрібно запитати підтвердження, а коли — передати виконання кроку вам.
У цих межах dots можуть читати інформацію, до якої їм дозволено доступ, аналізувати її та готувати чернетки у ваших розмовах. Перш ніж надіслати повідомлення чи поділитися файлом, вони навчені запитувати дозвіл, що охоплює відповідну інформацію та тип одержувача. Що конфіденційніші дані, то точніше потрібно вказати одержувачів. Наприклад, для даних про здоров’я користувач завжди має вказати конкретного одержувача на ім’я («поділися моєю історією хвороби з доктором Томпсоном»). Для менш конфіденційних персональних даних, як-от адреса електронної пошти чи номер телефону, користувач за замовчуванням має вказати категорії одержувачів («будь-яка авіакомпанія»). Користувач може ще більше розширити правила щодо менш конфіденційних персональних даних («надавай їх у будь-якій онлайн-формі»), створивши Власне правило. Докладніше про цю функцію — у наступному розділі. Цей дозвіл залишається прив’язаним до ваших інструкцій для завдання: продовження роботи згодом або її делегування не розширює його.
Dots можуть здійснювати покупки за допомогою карток, які ви вже зберегли на сайті продавця. Такі покупки потребують вашого схвалення.
Деякі дії щоразу потребують вашого підтвердження, зокрема безповоротне видалення даних, установлення або запуск програмного забезпечення з нерозпізнаного джерела чи надання нового доступу, важливого з погляду безпеки. Ці вимоги дають вам змогу перевірити зміни, які може бути складно скасувати або які надають комусь новий доступ.
Для інших чутливих кроків, зокрема зміни пароля чи переказу грошей між фінансовими рахунками, dots можуть допомогти із супутніми частинами завдання, але самі ці кроки мають передати вам.
Власні правила дають змогу визначати, як dots допомагатимуть вам у межах вбудованих засобів захисту — наприклад, заборонити їм надсилати електронні листи. Ви також можете давати вказівки для конкретного завдання — наприклад, попросити агента dot повідомити колезі про вашу відсутність, не розкриваючи особистої причини. Ці інструкції залишаються чинними, коли агент dot делегує роботу або працює у фоновому режимі.
Dots можуть допомогти вам написати Власні правила, але для їх зміни потрібне ваше схвалення. Ці побажання діють у межах вбудованих обмежень і не можуть скасувати обов’язкові підтвердження, передавання кроків вам або основні вимоги безпеки.
Перш ніж dots виконають такі дії, як надсилання електронних листів або змінення файлів, окрема система безпеки — Автоперевірка — перевіряє заплановані кроки на відповідність вашим інструкціям, Власним правилам і вимогам безпеки. Для електронного листа вона перевіряє одержувача та текст, допомагаючи виявити неправильну адресу або інформацію, якою ви не мали наміру ділитися.
Якщо Автоперевірка дозволяє крок, агент dot, який його запропонував, виконує його за допомогою відповідного інструмента комп’ютера чи застосунку, а потім використовує результат, щоб продовжити ваше завдання. Він може спиратися на вже надане вами схвалення, якщо воно охоплює цю дію, а правила не вимагають нового підтвердження.
Якщо Автоперевірка блокує крок, вона не дає виконати дію та повідомляє агенту dot причину. Агент dot може запитати додаткову інформацію або ваше схвалення, якщо це допоможе усунути причину блокування, а потім повторно подати крок на перевірку. Залежно від причини він може натомість спробувати дозволений варіант, передати чутливий крок вам або зупинитися. Ваше схвалення не може скасувати основні вимоги безпеки.
Ми розміщуємо засоби, що забезпечують Автоперевірку, поза середовищами, які dots можуть змінювати, тому вони не можуть змінити або вимкнути обов’язкову перевірку. Звичайні кроки лише для читання й далі підпорядковуються дозволам застосунків, обмеженням інструментів та іншим захисним механізмам, але не потребують цієї додаткової перевірки.
Коли Автоперевірка дозволяє дію, агент dot виконує її та отримує результат. Якщо вона блокує дію, то повідомляє причину агенту dot. Він вирішує, чи звернутися до вас, спробувати дозволений варіант, передати виконання цього кроку вам або зупинитися.
Щоб довіряти dots тривалу роботу, важливо знати, як вони дотримуватимуться ваших інструкцій і реагуватимуть на непередбачені ситуації. Astra допомагає їм розуміти ваші наміри, а захист даних, робочих просторів, облікових даних і дій допомагає обмежити шкоду від помилок або шкідливого вмісту. Разом ці механізми захисту дають dots можливість виконувати корисну роботу, зменшуючи ймовірність того, що помилка призведе до небажаної дії або розкриття інформації.
Ви вибираєте, до чого dots можуть підключатися та як допомагатимуть, і можете стежити за їхнім прогресом або змінювати напрям роботи відповідно до своїх потреб. Завдяки схваленням і передаванню окремих кроків вам ключові рішення залишаються за вами. Dots усе ще можуть помилятися, тому ми й надалі перевірятимемо та вдосконалюватимемо їхній захист на основі досвіду реального використання. Наша мета — зробити так, щоб вам було простіше доручати роботу dots і повертатися до корисних результатів, а виконання завдань відповідало вашим побажанням і важливі рішення залишалися у ваших руках.
Прочитайте картку системи(відкривається у новому вікні), щоб дізнатися більше про наші захисні механізми, оцінювання безпеки та обмеження, що залишаються.
Про основи захисту ChatGPT читайте в матеріалі «Безпека та конфіденційність в OpenAI». Докладніше про один із засобів вебзахисту читайте в матеріалі «Як ми захищаємо ваші дані, коли ШІ-агент переходить за посиланням».