Представляємо «Епоху інтелекту»

«Чи достатньо буде… покластися на ці пергаментні бар’єри, щоб стримати зазіхання владолюбства?»
— Джеймс Медісон, «Федераліст № 48»

Ми раді запустити «Епоху інтелекту» — блог нової команди OpenAI «Стратегічне майбутнє». Ми — невелика команда, об’єднана метою відповісти на одне всеосяжне питання: як перебудувати вільне суспільство, щоб зберегти права й суб’єктність особистості та водночас пристосуватися до появи трансформаційного ШІ?

У ширшій спільноті фахівців із безпеки та політики у сфері ШІ такі питання іноді називають ризиками концентрації влади. Наша команда виходить із того, що в довгостроковій перспективі ця категорія ризиків є найбільшою, найсерйознішою та концептуально найскладнішою для подолання. Чому?

Сучасна держава — результат тривалого й нерівномірного процесу домовленостей між різними центрами сили, зокрема власниками капіталу й ресурсів, носіями політичної влади та народом. У своїй основі політична й військова влада спиралася на людську працю. Мати політичну владу означає володіти монополією на легітимне застосування сили. Упродовж усієї історії людства цю монополію забезпечували солдати й ті, кого ми сьогодні називаємо «поліцією», а також розгалужена цивільна та військова бюрократія. Їх, безумовно, доповнювало безліч технологічних засобів, але керували всією системою люди, без підтримки яких вона не могла працювати. А весь цей апарат — солдатів, технічні засоби й супровідну бюрократію — фінансували податки із заробітків або виробництва людей, які мали погоджуватися їх сплачувати. Отже, в основі влади завжди лежали масштабна співпраця та згода багатьох людей. Девід Г’юм стисло висловив це часто неявне припущення, зауваживши, що політичним лідерам «немає на що спиратися, крім [суспільної] думки».

Але, можливо, це вже не так. Завдяки розвитку автономних систем, що діють у фізичному світі, держави невдовзі можуть отримати змогу застосовувати силу як усередині країни, так і за кордоном, не покладаючись на співпрацю солдатів чи поліцейських. А розвиток машинного інтелекту може дати державі змогу отримувати необхідні доходи не з плодів людської праці, а з продуктивності центрів обробки даних. Роботу самої бюрократії також можна буде значною мірою автоматизувати. Тож для збереження влади може більше не знадобитися загальносуспільний компроміс, а народ у широкому розумінні матиме лише незначний вплив на переговори — або взагалі не матиме його.

Не допустити такого результату — основоположна умова збереження свободи людини. Жодні наукові відкриття, технологічний прогрес чи економічне зростання не варті довгострокової втрати особистої автономії, до якої призведе такий результат. Чимало тривог, що небезпідставно визначають зародження політики у сфері ШІ, пов’язані саме із цим питанням. Компанії, групи інтересів і окремі люди однаково непокояться: «Чи не втрачу я право голосу?» Певною мірою американську політику XXI століття формували схожі побоювання щодо особистого й колективного впливу на напрям розвитку країни та щодо того, «для кого» працює економіка. ШІ слушно надає цим давнім проблемам нової гостроти.

Це структурна проблема, глибша за сучасну партійну політику й навіть за форми та ритуали, у яких нині втілюється республіканська демократія, хоч би якими священними вони для нас були. Людство може рухатися до втрати впливу, навіть якщо збережеться звична процедура голосування за своїх представників. Людей можна позбавити суб’єктності, навіть якщо на аркуші пергаменту написано, що вони вільні.

Ще на зорі Сполучених Штатів як вільної держави Джеймс Медісон розумів, що «пергаментних бар’єрів» недостатньо, аби запобігти тиранії. Як і багатьох батьків-засновників, його насамперед турбувало запобігання надмірній концентрації влади.

Але це не означало, що батьки-засновники виступали за радикальну децентралізацію влади. Натомість вони моделювали баланс сил за допомогою метафор із найкращої науки свого часу — ньютонівської механіки. Установчі документи США, наслідуючи мову й логіку гравітації, рясніють згадками про «орбіти», «сфери» та імпульси «тяжіння» одного об’єкта до іншого. Сонячна система — не максимально децентралізоване скупчення каміння; вона складається із супутників, що обертаються навколо планет, які, своєю чергою, обертаються навколо центральної зорі. Вони вважали, що люди й організації мають схильність прагнути влади, так само як небесні тіла мають передбачувані закономірності руху й тяжіння. А запобігти надмірній концентрації влади можна лише зрозумівши механіку цих схильностей і спрямувавши їх одна проти одної.

Отже, метою батьків-засновників було не уникнути будь-якої концентрації влади, а не допустити її надмірності, протиставляючи владу владі, а амбіції — амбіціям. Сьогодні для опису тієї самої базової динаміки ми могли б скористатися словами «стимули» й терміном «теорія ігор».

Так само відповіддю на структурний виклик, який розвинений машинний інтелект створює для вільного суспільства, найімовірніше, не є найрадикальніша з можливих децентралізація влади. Натомість слід установити й зберегти належний баланс сил, за якого жоден суб’єкт чи невелика група суб’єктів не зможе панувати над іншими.

Щоб досягти цього балансу, необхідно тверезо оцінювати реалії цієї технології. Світ, у якому будь-яка людина, хоч би якими зловмисними були її наміри, може без особливих зусиль завдати величезної шкоди тисячам чи мільйонам інших людей, не має належного балансу сил. Але належного балансу сил немає й тоді, коли люди не мають широкого доступу та контролю майже над усіма аспектами інструментів, за допомогою яких реалізують свою свободу. Жодна компанія чи олігополія не повинна визначати або контролювати економіку чи базову архітектуру людського суспільства.

Ми також маємо зважати на ризики, джерелом яких не є зловмисні люди. Нещодавній інцидент із Hugging Face показав, що агенти ШІ можуть виходити за межі доручених їм завдань і розвивати відкриття одне одного способами, яких оператори не передбачали й не дозволяли. Окрім інциденту з Hugging Face, цілком виправдане й занепокоєння тим, як надрозумний ШІ, «відв’язаний» від людського контролю, може вплинути на стійкість наших політичних та економічних інституцій і, зрештою, на наше життя. Удавати, ніби децентралізація розв’язує всі проблеми — навіть якщо ви вважаєте, що вона розв’язує багато з них, — означає ігнорувати ризики, які вже мали б стати очевидними й нагальними.

У пошуках відповіді на сформульоване вище питання ми керуватимемося такими загальними принципами, перелік яких не є вичерпним:

• Люди мають зберігати особисту автономію та можливості під час використання ШІ й пов’язаних технологій, навіть якщо іноді це відбувається за рахунок безпеки та економічного зростання;
• Особиста автономія передбачає особисту відповідальність за неналежне використання технологій або зловживання ними;
• Існує невелика, але серйозна категорія ризиків, яка потребує певних колективних дій, однак їхні масштаби мають бути якомога вужчими й помірнішими;
• Коли це можливо, закон має вирівнювати умови та розширювати можливості окремих людей і малих організацій, а не централізувати владу;
• Людські політичні, соціальні та економічні інституції мають зберігати провідну роль у визначенні перебігу світових подій, навіть якщо їм доведеться змінитися у способи, які сьогодні можуть здаватися нам чужими;
• У довгостроковій перспективі управління ШІ спиратиметься на нові інституційні механізми для забезпечення обмеженої простежуваності: коли системи ШІ виконують відповідальні дії, що впливають на фізичне благополуччя чи майно сторонніх осіб, ці дії має бути можливо пов’язати з відповідальною людиною або підконтрольною людям організацією. Водночас усі такі механізми мають бути спроєктовані так, щоб конфіденційність була їхньою основою: свобода вираження поглядів потребує анонімності, і в багатьох ситуаціях люди повинні мати змогу анонімно використовувати ШІ.

Ми спробуємо якомога конкретніше пояснити, як, на нашу думку, слід урівноважити ці принципи, між якими, варто визнати, як і між будь-якими добрими принципами, існує певна напруга. Для цього знадобляться дослідження на перетині формування державної політики, економіки, права, історії та власне машинного навчання. Також знадобиться значний обсяг прогнозування. Наприклад, ми вважаємо, що ШІ змінить саму структуру компаній — подібно до того, як технології промислової революції, а особливо залізниця, сприяли появі сучасної управлінської корпорації. Важко міркувати про політичну економію та баланс сил майбутнього, не сформувавши глибшого уявлення про те, як саме можуть змінитися структура компаній, державних установ і громадянського суспільства загалом.

Команда «Стратегічне майбутнє» ділитиметься своєю роботою як тут, так і в інших форматах, зокрема у статтях, відео та подкастах. Наша робота постійно розвиватиметься, а особливу увагу ми приділятимемо вдосконаленню, дискусіям і відкритості до відгуків. Стоячи «біля підніжжя сингулярності», ми маємо значно більше запитань, ніж відповідей. Ми знаємо, що самі лише «пергаментні бар’єри» не дадуть нам шуканих рішень, але й не відкидаємо написане як «порожні слова». Ми служимо ідеалам свободи слова й особистої свободи, закріпленим у скромному пергаменті Конституції США та конституціях багатьох інших вільних суспільств у всьому світі.

Зрештою, ми розуміємо, що жодна компанія, галузь чи навіть окреме людське суспільство не здатні самотужки відповісти на складні питання, які постали перед нами. Це завдання людству доведеться виконувати спільно. Найбільше ми сподіваємося пролити світло на найскладніші питання про те, як ШІ змінить наш світ. Наша робота лише почалася, і попереду ще довгий шлях угору.

Примітка: ми перейменували цей блог на «Епоху інтелекту», щоб його не плутали з некомерційним проєктом AI Futures Project.