Допомагаємо формувати спільні стандарти для передового ШІ
Дедалі спроможніші моделі можуть посилювати кіберзахист, прискорювати наукові відкриття та розширювати доступ до фахових знань. Але вони також можуть створювати ризики безпеки й захищеності, якщо їхні можливості неправильно розуміють, засоби захисту є недостатніми або урядам бракує інформації, потрібної для реагування. Щоб безпечно й упевнено реалізувати ці переваги, суспільствам потрібні інституції з технічною та управлінською спроможністю оцінювати, захищати й урядувати дедалі спроможніші системи.
Це одна з причин, чому OpenAI допомогла заснувати фонд Appia Foundation(відкривається у новому вікні), розміщений під егідою Linux Foundation. Appia розроблятиме відкриті модульні специфікації, покликані перетворювати міжнародні стандарти й усталені рамкові системи на практичні критерії оцінювання в усьому ланцюгу створення цінності ШІ. Ця робота може допомогти створити критично важливий відсутній шар довіри, за допомогою якого треті сторони перевірятимуть відповідність стандартам і надаватимуть зрозуміліші та придатніші для повторного використання докази, коли моделі, інфраструктуру й застосунки розробляють різні організації. У межах цієї роботи Appia допоможе створити спільну технічну мову, що дасть змогу національним і міжнародним інституціям довіряти роботі одна одної.
Ми розглядаємо цю ініціативу як важливий наступний крок у ширшій роботі зі зміцнення інституцій, стандартів і практик оцінювання, потрібних для передових систем ШІ.
Наш нещодавній план демократичного врядування передовим ШІ пропонує дорожню карту для цієї роботи. У ньому йдеться про стійку систему США, посилений Центр стандартів та інновацій у сфері ШІ (CAISI) і ширшу стратегію стійкості в уряді. У ньому також визнається, що ризики передових моделей мають міжнародний масштаб. Країни мають спільно розробляти сумісні системи безпеки, довірені канали для обміну висновками про ризики та скоординовані відповіді на інциденти.
Національна спроможність і міжнародна співпраця мають взаємно посилювати одна одну. Сильні інституції, такі як CAISI, можуть розвивати технічну експертизу, оцінювати передові системи та підтримувати екосистему незалежного оцінювання. Мережа спроможних національних інституцій зможе встановлювати спільні методи, визнавати надійні докази й давати урядам спільне технічне розуміння, необхідне для узгоджених дій.
Стандарти є ключовими для цих зусиль, і вони мають спиратися на надійну практику оцінювання та технічну строгість. У нашому спільному посібнику з надійних оцінювань третіми сторонами ми визначили, що оцінювання передових систем дедалі частіше має розкривати: яку систему тестували, її доступ до інструментів та оцінювальне середовище, методи виявлення можливостей, доступні ресурси й перевірки, проведені для підтвердження результатів. Ми також утілили ці принципи на практиці через тестові партнерства з CAISI США та AISI Великої Британії, чия робота над оцінюванням передових можливостей і засобами захисту від біологічного зловживання привела до конкретних поліпшень у наших системах. Ця робота виконує важливу функцію: створює основу для практик, які можна стандартизувати, щоб перевіряти продуктивність у зіставний спосіб.
Ці практики доповнюють ширшу інфраструктуру безпеки OpenAI. Наша рамкова система готовності є основою того, як ми визначаємо й застосовуємо на практиці наш підхід до управління найсерйознішими ризиками передових систем ШІ, зокрема нашими внутрішніми практиками. Наша система управління передовими моделями переносить відповідні елементи цього підходу в публічний документ із врядування, зосереджений на конкретних регуляторних обов’язках, зокрема оцінюванні ризиків, звітності щодо моделей, засобах контролю безпеки, реагуванні на інциденти й залученні зовнішніх експертів. Разом ці матеріали допомагають перетворювати широкі зобов’язання на операційні практики, які можна перевіряти й удосконалювати.
Робота Appia спрямована на наступний виклик: зробити ці практики сумісними між організаціями, юрисдикціями та в ланцюгу постачання.
OpenAI вже робить внесок у ширшу екосистему стандартів і зусиль із попередньої стандартизації. Ми беремо участь у Спільному технічному комітеті 1, підкомітеті 42 з питань штучного інтелекту Міжнародної організації зі стандартизації та Міжнародної електротехнічної комісії(відкривається у новому вікні) і Консорціумі з питань штучного інтелекту під егідою Національного інституту стандартів і технологій(відкривається у новому вікні); допомогли заснувати Форум передових моделей і Фонд агентного штучного інтелекту(відкривається у новому вікні) Linux Foundation; беремо участь у Коаліції за безпечний штучний інтелект(відкривається у новому вікні); працюємо в керівному комітеті Коаліції з походження й автентичності контенту(відкривається у новому вікні); а також долучаємося до процесів Робочої групи з інтернет-інженерії(відкривається у новому вікні) та Альянсу Fast Identity Online(відкривається у новому вікні), щоб просувати сумісні технічні стандарти.
На всіх цих майданчиках, зокрема тепер і через Appia, наша мета — перетворювати уроки, отримані під час розроблення передових моделей, на відкриті, технічно обґрунтовані практики, які уряди, компанії та незалежні оцінювачі можуть застосовувати в різних юрисдикціях.
