Із кожним днем системи ШІ беруть на себе все більш складні завдання, у тому числі ті, які пов'язані з підключенням до мережі та стороннім програмам, що суттєво впливає на ризики в галузі безпеки.
Найбільшу увагу привертає ризик промпт-ін'єкцій. У таких атаках треті особи намагаються ввести діалоговий ШІ в оману, щоб він почав слідувати шкідливим інструкціям чи розкрив конфіденційну інформацію.
Сьогодні ми представляємо два нові заходи захисту, покликані допомогти користувачам та організаціям знизити ризики промпт-ін'єкцій, забезпечуючи більш чітку видимість ризиків та більш надійні засоби контролю:
- Режим ізоляції в ChatGPT — це додаткове налаштування безпеки для користувачів з високим рівнем ризику.
- Мітки підвищеного ризику для деяких функцій, які можуть представляти додатковий ризик у ChatGPT, ChatGPT Atlas та Codex
Ці доповнення зміцнюють наші існуючі заходи захисту на рівнях моделі, продукту та системи. Вони включають ізоляцію, захист від ексфільтрації даних через URL, моніторинг та контроль, а також корпоративні засоби управління, такі як управління доступом на основі ролей та журнали аудиту.
Режим ізоляції — це додаткове налаштування безпеки, призначене для невеликих груп користувачів, для яких дуже важлива конфіденційність: наприклад, для керівництва або відділів безпеки в організаціях, яким потрібний підвищений захист від комплексних загроз. Це налаштування не є обов'язковим для більшості користувачів. Режим ізоляції суворо обмежує взаємодію ChatGPT із зовнішніми системами, аби зменшити ризик витоку даних через промпт-ін'єкцію.
Режим ізоляції детерміновано відключає певні інструменти та можливості в ChatGPT, які зловмисник може спробувати використати для отримання конфіденційних даних із діалогів користувачів або підключених додатків за допомогою таких атак, як промпт-ін'єкції.
Наприклад, перегляд веб-сторінок у режимі ізоляції обмежений кешованим контентом, тому жодні мережеві запити в реальному часі не залишають контрольовану мережу OpenAI. Це обмеження призначене для запобігання витоку конфіденційних даних до зловмисника через перегляд. Деякі функції повністю відключаються, якщо ми не можемо надати надійні гарантії безпеки даних.
Режим ізоляції — це нова детермінована настройка, яка допомагає захистити дані від випадкової передачі третім особам, суворо обмежуючи взаємодію ChatGPT із певними зовнішніми системами.
Бізнес-плани ChatGPT вже передбачають безпеку даних корпоративного рівня. Режим ізоляції розширює ці заходи захисту; він доступний для ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare та ChatGPT for Teachers. Адміністратори можуть увімкнути цей режим у налаштуваннях робочої області(відкривається у новому вікні), створивши нову роль(відкривається у новому вікні). При включенні режим ізоляції накладає додаткові обмеження на наявні налаштування адміністратора.
Докладніше про режим ізоляції читайте у нашому Довідковому центрі(відкривається у новому вікні).
Оскільки деякі критично важливі робочі процеси залежать від програм, адміністратори робочих областей зберігають більш точковий контроль. Вони можуть точно вибрати, які програми та які конкретні дії в цих програмах будуть доступні користувачам у режимі ізоляції. Крім того, Платформа журналів відповідності API(відкривається у новому вікні) окремо від режиму ізоляції надає детальну видимість використання програм, загальних даних та підключених джерел, допомагаючи адміністраторам підтримувати контроль.
Ми плануємо зробити режим ізоляції доступним для споживачів у найближчі місяці.
ШІ-продукти можуть бути кориснішими при підключенні до ваших програм та Інтернету, тому ми вклали безліч зусиль у забезпечення безпеки підключених даних. Водночас деякі мережеві можливості створюють нові ризики, які ще не повністю враховані заходами безпеки та захисту, які застосовуються у галузі. Деякі користувачі можуть бути готові прийняти на себе ці ризики, і ми вважаємо важливим, щоб користувачі мали можливість вирішувати, чи використовувати нові заходи захисту і яким чином, особливо при роботі з їхніми особистими даними.
Наш підхід полягає у наданні вбудованих у продукт рекомендацій щодо функцій, які можуть становити додатковий ризик. Для більшої ясності та послідовності ми стандартизуємо, як ми позначаємо короткий перелік наявних можливостей. Ці функції тепер будуть відзначені узгодженою міткою «Підвищений ризик» у ChatGPT, ChatGPT Atlas та Codex, щоб користувачі отримували однакові рекомендації скрізь, де з ними стикатимуться.
Наприклад, у Codex, нашому помічнику з написання коду, розробники можуть надати Codex доступ до мережі, щоб він міг виконувати в Інтернеті певні дії, такі як пошук документації. Відповідний екран налаштувань включає мітку «Підвищений ризик», а також чітке пояснення того, що може бути змінено, які ризики можуть виникнути і коли такий доступ є доречним.
Скріншот екрана налаштувань Codex, де користувачі можуть указати, до яких мережевих ресурсів має доступ Codex.
Ми продовжуємо інвестувати в посилення наших заходів безпеки та захисту, особливо щодо нових загроз, що виникають або зростають. У міру посилення захисних механізмів для цих функцій ми приберемо мітку «Підвищений ризик», щойно переконаємося, що досягнення у галузі безпеки знизили ці ризики для загального використання. Ми також продовжуватимемо оновлювати список функцій із підвищеними ризиками, щоб максимально ефективно інформувати наших користувачів про наявні ризики.
Автор
Продовжити читати
