Нульове збереження даних дає відповідним вимогам клієнтам API чітку гарантію: після обробки запиту OpenAI не зберігає їхні запити чи відповіді моделей. Працівники OpenAI не мають доступу до вмісту клієнтів для перевірки1, а дані корпоративних клієнтів не використовуються для навчання наших моделей, якщо клієнти не нададуть на це явної згоди.
Коли моделі виконують триваліші й складніші завдання, деякі серйозні ризики можуть виявлятися лише в сукупності кількох взаємодій. Наявні системи безпеки, сумісні із ZDR, оцінюють кожну взаємодію окремо. Сьогодні ми представляємо попередню версію приватної обробки для безпеки, призначеної для виявлення закономірностей у пов’язаних взаємодіях без надання працівникам OpenAI доступу до їхнього вмісту.
У розгортаннях із ZDR вміст клієнта залишається в інфраструктурі під його контролем. Ми також розробляємо варіант, за якого вміст зберігатиметься в інфраструктурі OpenAI й шифруватиметься ключами, контрольованими клієнтом. В обох випадках автоматизовані системи можуть виявляти потенційні зловживання й повертати обмежені сигнали безпеки, не розкриваючи працівникам OpenAI вихідні запити чи відповіді.
Найсерйозніші ризики для безпеки ШІ не завжди помітні в межах однієї взаємодії. Часто потенційно шкідливі наміри стають очевидними лише тоді, коли кілька взаємодій розглядають разом. Подібні ризики можуть виникати, коли зловмисники неодноразово випробовують засоби захисту, координують дії між обліковими записами або маскують загрози під звичайні дослідження. Ризики також можуть виникати під час виконання агентного завдання — наприклад, якщо система відхиляється від наміру користувача й продовжує діяти після вказівки зупинитися.
Оскільки системи ШІ беруться за триваліші й складніші завдання, ширший контекст набуває дедалі більшого значення для розмежування законної діяльності та зловживань, а також для утримання агентів ШІ в межах наданих їм повноважень.
Під час деяких нещодавніх розгортань передових моделей клієнтам доводилося дозволяти постачальнику ШІ зберігати конфіденційний вміст для моніторингу безпеки. Для багатьох організацій такі вимоги суперечать їхнім зобов’язанням щодо безпеки або перед людьми, яких вони обслуговують.
Приватна обробка для безпеки розроблена так, щоб ми могли й надалі пропонувати ZDR.
Приватна обробка для безпеки доповнює автоматизовані засоби захисту, які вже використовуються в розгортаннях із ZDR та інших середовищах. Наявні системи безпеки, сумісні із ZDR, оцінюють взаємодії окремо. Приватна обробка для безпеки поширює цей захист на пов’язані взаємодії, даючи автоматизованим системам змогу виявляти закономірності без доступу працівників OpenAI до збереженого вмісту клієнтів.
Приватна обробка для безпеки використовує вміст клієнтів незалежно від місця його зберігання — в інфраструктурі під контролем клієнтів (розгортання із ZDR) чи в сховищі OpenAI. У сховищі OpenAI вміст клієнтів шифрується за допомогою ключів, контрольованих клієнтом. Працівники OpenAI не мають копії цих ключів, тому не можуть отримати доступ до вихідного вмісту.
Коли виявлено ризик, OpenAI отримує вузько визначений сигнал із зазначенням типу відповідної діяльності — подібно до того, як сьогодні працюють наші системи безпеки. За цим сигналом можна визначити, чи потрібно вживати заходів. Працівники OpenAI не отримують доступу до вмісту клієнта, навіть якщо його позначено системою.
Клієнти можуть розслідувати сповіщення та рішення про вжиття заходів за допомогою інформації зі своїх систем. Якщо клієнти хочуть подати апеляцію, пояснити законну діяльність або сприяти розслідуванню підтвердженого зловживання, вони можуть на власний розсуд передати OpenAI відповідну інформацію.
Наразі приватну обробку для безпеки тестують перші клієнти. Ми представляємо цю попередню версію вже зараз, оскільки наші клієнти чітко наголосили: їм потрібна передбачуваність щодо захисту їхнього вмісту в міру зростання можливостей систем ШІ.
Наша місія — забезпечити, щоб штучний загальний інтелект приносив користь усьому людству. Співпраця з клієнтами й партнерами є невіддільною частиною створення ефективних засобів захисту. Як чітко зазначено в наших принципах, жодна лабораторія ШІ не здатна самостійно впоратися з новими ризиками. Приватна обробка для безпеки втілює цей підхід і формується за участю клієнтів із різних галузей, регіонів і компаній різного масштабу.
Організації, з якими ми співпрацюємо, працюють із найконфіденційнішою інформацією у своїх галузях, зокрема фінансовими документами, медичними даними, конфіденційними бізнес-планами та власними дослідженнями. Захист цієї інформації необхідний для дотримання нормативних вимог, збереження довіри клієнтів і підтримання конкурентної переваги цих організацій.
Їхні відгуки допомагають нам створювати надійніші засоби захисту, водночас залишаючи їхню інформацію під їхнім контролем.
«Впровадження ШІ на підприємствах цілковито залежить від контролю клієнтів над даними, без їх прямого чи похідного використання поза межами вибраної послуги. Зобов’язання OpenAI не використовувати дані для навчання та підтримка ZDR дають Glean упевненість у розробці рішень з OpenAI. У міру того як моделі стають потужнішими, OpenAI доводить, що безпеку можна вдосконалювати без шкоди для конфіденційності й контролю, на яких ґрунтується довіра підприємств».
—Суніл Агравал, директор з інформаційної безпеки Glean
Ми й надалі опрацьовуватимемо з клієнтами технічні й операційні аспекти нашого підходу. У вересні ми плануємо розпочати впровадження приватної обробки для безпеки й опублікувати технічний документ. Ми інформуватимемо клієнтів на кожному етапі: завчасно публікуватимемо оновлення, пояснюватимемо їхній вплив на чинні зобов’язання та надаватимемо клієнтам час і підтримку, необхідні для подальшого планування.
Автор
- 1
Як і інші постачальники передових моделей, OpenAI зобов’язана за законом(відкривається у новому вікні) повідомляти про виявлені матеріали сексуального насильства над дітьми (CSAM). Як і нині, зображення, позначені як потенційні CSAM, і надалі зберігатимуться для ручної перевірки та подання повідомлень навіть у розгортаннях із нульовим збереженням даних.
