Виступ Сема Альтмана в Раді Безпеки ООН

Сьогодні генеральний директор OpenAI Сем Альтман виступив у Раді Безпеки ООН із промовою про штучний інтелект. Він розповів про потенціал ШІ розширювати можливості, важливість збереження потужних систем під контролем людей і потребу в міжнародній співпраці задля безпеки ШІ.

Дякую, пане Голово, ваші високоповажності. Для мене велика честь бути тут і мати змогу звернутися до всіх вас у цей важливий час.

Ми говоримо про штучний інтелект уже багато років, але останніми тижнями й місяцями все відчувається інакше. Стрімкий прогрес моделей створив відчуття, що часу стало менше, потенційні переваги стали відчутнішими, а ставки й ризики — нагальнішими.

Перед нами стоїть вибір. ШІ може започаткувати нове Відродження творчості й відкриттів або ж нову промислову революцію, сповнену потрясінь і безладу.

Відродження було добою, коли нові інструменти, ідеї та інституції розширили уявлення людей про те, на що вони здатні. ШІ може відіграти таку роль у наш час. Я вірю, що люди здатні на значно більше, ніж самі уявляють, але їх стримували обмежені технології, які мали розширювати можливості, а натомість відволікають і часто крадуть увагу.

Найкраща версія ШІ — це не перетворення людей на гвинтики велетенської машини й не оптимізація кожної сфери життя до зникнення всього людського. Йдеться про те, щоб дати людям більше самостійності в дедалі складнішому світі: більше можливостей навчатися, творити, відкривати, будувати й брати участь. Є багато речей, які ШІ не може — і не повинен — автоматизувати.

ШІ потрібно створювати для людей, а не просто заради того, щоб машини працювали дедалі швидше. Деякі заяви людей, які працюють над створенням ШІ, настільки антиутопічні, що нагадують сюжет поганого науково-фантастичного фільму.

Усе настільки потужне водночас і лякає. Це складний момент, адже ми водночас відчуваємо величезний потенціал і цілком зрозумілу тривогу.

Ці моделі можуть допомагати людям відкривати нові знання: створювати нові ліки, покращувати медичну допомогу й освіту та будувати продуктивнішу економіку. Вони можуть стати новими інструментами, що допоможуть людям здійснювати мрії та втілювати амбіції, які сьогодні здаються недосяжними. Життя пересічної людини стало разюче складнішим. ШІ може бути як засобом захисту від цієї складності, так і інструментом безпрецедентних відкриттів та інновацій.

З іншого боку, у міру того як системи ШІ стають потужнішими й автономнішими, вони можуть випередити наші інституції, зосередити владу в надто небагатьох руках або ухвалювати рішення, яких люди вже не розуміють і не контролюють.

Це занепокоєння стає особливо важливим у міру наближення до систем, здатних удосконалювати себе та свої майбутні версії, — це часто називають рекурсивним самовдосконаленням. У міру автоматизації процесу створення ШІ темпи його розвитку можуть стрімко прискоритися. Цей момент вимагає надзвичайної обережності.

Я переважно погоджуюся з професором Бенжіо. Хоча я назву два сценарії замість трьох: на мою думку, є два вкрай небезпечні шляхи розвитку ШІ, яких ми маємо уникнути.

По-перше, ми можемо втратити контроль над майбутнім і віддати його ШІ. Ризик полягає в тому, що розвиток відбуватиметься так швидко, що люди вже не зможуть стежити за подіями чи втручатися за потреби. Очевидно, це було б жахливо.

Галузь не повинна погоджуватися на надмірний технологічний ризик лише тому, що переваги здаються надто значними, а розвиток — надто важливим, щоб його сповільнювати. Прагнення випередити інші компанії в конкурентній гонитві не виправдовує необачних рішень. Ми також не вважаємо, що замкнені в перегонах, у яких не можемо сповільнитися. У минулому ми вже сповільнювалися за власною ініціативою. Ми робитимемо це й надалі. Ми не хочемо створювати системи — і вважаємо, що всі мають уникати їх створення, — для яких неможливо надати необхідні гарантії узгодженості з людськими цілями, контрольованості та безпеки.

Нам потрібно розуміти, що роблять ці системи, і мати вагомі докази того, що вони діятимуть відповідно до людських намірів, навіть коли стануть дуже, дуже розумними. Власне, особливо коли вони стануть дуже, дуже розумними. Не має значення, як люди оцінюють ризик катастрофи: у 10%, 1%, 12% чи 0,1%. Жоден із цих рівнів навіть близько не є прийнятним. І ми не повинні навчати моделі, якщо не можемо надзвичайно переконливо довести, що зможемо втримати їх під контролем людей.

Отже, це один зі сценаріїв, за яким усе може піти не так. Інша небезпека полягає в тому, що ці системи можуть зосередити надмірну владу в руках надто вузького кола. Жодна людина, компанія чи країна не повинна мати змоги використовувати найпотужніші моделі ШІ, щоб нав’язувати всім іншим свій світогляд. Компанія чи країна, яка вважає, що цю технологію можна довірити лише їй, здатна цим переконанням виправдати майже будь-що. Ми маємо відкинути цю логіку, навіть коли вона зручна для когось із учасників.

Я вірю, що існує прагматичний шлях між цими двома крайнощами. В OpenAI ми підходимо до цих питань із чіткою метою: ШІ має давати людям більше влади над власним життям. Більше свободи жити так, як вони хочуть. Більше можливостей розв’язувати великі й малі проблеми та покращувати життя своїх громад. Ми не хочемо потрапити в пастку сліпого оптимізму. Так само ми не хочемо впадати в крайній песимізм. Схиляння до будь-якої з цих крайнощів не допоможе нам успішно впоратися з викликами, що постали перед нами, особливо зараз, коли світ і його мешканці стикаються з величезними проблемами, які ця технологія може допомогти розв’язати. Тож ми намагаємося триматися середнього шляху між цими двома полюсами.

Для нас це означає три принципи.

По-перше, у міру зростання можливостей ШІ люди мають залишатися в центрі ухвалення рішень щодо нього. Узгодження ШІ з людськими цілями — не абстрактне дослідницьке питання. Це робота, покликана забезпечити, щоб ці системи надійно залишалися під контролем людей, відображали людські цінності й допомагали людям спрямовувати наступні етапи розвитку. Ми не прагнемо й не повинні автоматизувати людські судження чи людські цінності.

По-друге, науковий прогрес та економічне зростання мають здійснюватися людьми й заради людей. ШІ має допомагати дослідникам робити відкриття, лікарям — лікувати пацієнтів, учителям — навчати учнів, підприємцям — засновувати компанії, громадам — розв’язувати проблеми, які здавалися непосильними, і робити багато іншого. Наскрізна тема історії людського прогресу полягає не в тому, що інструменти позбавляють людей здатності діяти самостійно. Вона полягає в тому, що правильні інструменти розширюють людські можливості, і я вірю, що цього разу ми просунемося набагато далі, ніж можемо уявити.

По-третє, ця технологія має розширювати можливості кожної людини. Прекрасне майбутнє настане завдяки людям, які реалізовуватимуть свій потенціал і створюватимуть цінність для себе, своїх громад, країн і всього світу. Можливо, ми й належимо до творців цієї технології, але не ми герої цієї історії. Наша роль — створювати можливості для людей у всьому світі й вірити в дивовижну силу людських умінь і здібностей.

Тепер у нас є моделі, здатні відкривати знання, яких ми ніколи раніше не мали. Погляньмо на прогрес, якого ми досягли в математиці. Три літа тому наші моделі непогано справлялися з математикою на рівні початкової школи. Два літа тому вони вже досить добре розв’язували завдання математичних олімпіад для старшокласників. Минулого літа ми досягли рівня золотої медалі на найпрестижнішому міжнародному математичному змаганні. А лише кілька тижнів тому, цього літа, одна з наших моделей розв’язала одну із Задач тисячоліття — рівняння Нав’є — Стокса.

Ці рівняння застосовують у проєктуванні літаків, прогнозуванні погоди й дослідженні кровотоку. Ми розв’язуємо математичні задачі не заради них самих, а щоб допомогти людям відкривати нові знання й застосовувати їх для поліпшення охорони здоров’я, підвищення рівня життя та розширення можливостей кожної людини у світі. Нам іще належить зробити безліч відкриттів.

Але надзвичайно важливо, щоб компанії не підміняли собою демократичний процес.

Щоб ШІ був демократичним, найважливіші рішення не можуть ухвалювати лише лабораторії в Сан-Франциско. Їх мають формувати демократичні процеси й уряди, підзвітні людям, яким вони служать.

На міжнародному рівні для цього буде потрібна співпраця. В історії вже були часи, коли країни, які конкурують і не завжди добре ставляться одна до одної, усе ж об’єднувалися заради спільних інтересів і загального блага перед лицем нової потужної технології. Ми переконані, що зараз настав один із таких моментів.

Нам потрібен механізм взаємодоповнювальних національних і міжнародних стандартів для передового ШІ: стандартів вимірювання можливостей, оцінювання ризиків, визначення достатності запобіжних заходів і збереження дієвого людського нагляду в міру того, як системи стають автономнішими.

Нам потрібні спільні стандарти, щоб країни могли порівнювати докази, перевіряти дотримання вимог і мати спільну мову та розуміння того, що відбувається.

Нам потрібні точні й оперативні повідомлення про інциденти, а також протоколи їх класифікації та звітування, щоб світ міг учитися на невдачах, перш ніж вони перетворяться на катастрофи.

Також нам потрібні захищені канали зв’язку між урядами, операторами критичної інфраструктури й технічними фахівцями для обміну інформацією про нові вразливості та загрози.

Звісно, ці стандарти не повинні закріплювати переваги чинних лідерів ринку чи надавати перевагу одній бізнес-моделі над іншою. Вони мають підтримувати розробників відкритих і закритих моделей, нових учасників і відомі лабораторії, національні повноваження та міжнародну співпрацю. Кожен уряд має сам вирішувати, як інтегрувати стандарти у власну правову систему. Але всім нам буде краще, якщо ми зможемо домовитися, якими мають бути переконливі докази, надійні запобіжні заходи й належний нагляд на світовому рівні.

Ми не маємо відповідей на всі запитання й цілком відкриті до кращих ідей. Ми готові працювати з усіма вами й докласти максимум зусиль, щоб знайти шлях уперед.

Ми опинилися на роздоріжжі. Один шлях веде до світу, де влада зосереджена в небагатьох руках, рішення непрозорі, а люди відчувають, що найважливішу технологію їхнього життя впроваджують без їхньої участі. Інший шлях веде до світу, де ШІ працює на благо людей, адже люди через демократичні інституції допомагають вирішувати, як він має розвиватися, і спрямовують цей розвиток; де науковий прогрес поліпшує реальне життя; де більше людей можуть долучатися до творення майбутнього; і де ця технологія й надалі дає людям і громадам більше можливостей жити так, як вони самі обирають. Це майбутнє реалізованого потенціалу, захоплення й дива.

І ми віримо, що саме таке майбутнє варто будувати. Щиро дякую.