Представяме „Епоха на интелекта“

„Ще бъде ли достатъчно… да се доверим на тези пергаментови прегради срещу настъпващия дух на властта?“
– Джеймс Мадисън, „Федералистът“, № 48

За нас е удоволствие да поставим началото на „Епоха на интелекта“ — блога на новия екип „Стратегически перспективи“ на OpenAI. Ние сме малък екип с обща цел да отговорим на един всеобхватен въпрос: как трябва да се преобразува свободното общество, за да запази личните права и свободата на действие, като същевременно се приспособи към появата на преобразяващ ИИ?

Подобни въпроси понякога се определят като рискове от концентрация на власт в по-широката общност, занимаваща се с безопасността и политиките в областта на ИИ. Екипът ни е основан на разбирането, че в дългосрочен план тази категория рискове е най-мащабната, най-сериозната и концептуално най-трудната за преодоляване. Защо?

Съвременната държава е плод на дълъг и неравномерен процес на договаряне между различни центрове на власт, като собствениците на капитали и стоки, носителите на политическа власт и народа. В най-фундаментален план политическата и военната власт се опират на човешкия труд. Да притежаваш политическа власт означава да имаш монопол върху легитимната употреба на сила. През цялата човешка история този монопол е бил въплъщаван от войниците и онова, което днес наричаме „полиция“, както и от огромна гражданска и военна бюрокрация. Разбира се, те са били подпомагани от множество технологични инструменти, но в основата си са били управлявани от хора, чиято подкрепа е била необходима за функционирането на системата. А целият този апарат – войниците, инструментите и съпътстващата ги бюрокрация – е бил финансиран чрез данъци върху доходите или произведеното от хора, които е трябвало да са готови да ги плащат. В основата си властта е зависела от широкомащабното сътрудничество и съгласие на много хора. Дейвид Хюм формулира лаконично тази често подразбираща се предпоставка с наблюдението, че политическите лидери „нямат никаква друга подкрепа освен [общественото] мнение“.

Но може би това вече не е така. Напредъкът при автономните системи, действащи в реалния свят, може скоро да позволи на държавите да прилагат сила – в страната и извън нея – без да разчитат на сътрудничеството на войници или полицаи. А напредъкът в машинния интелект може да позволи на държавата да набира нужните приходи не от плодовете на индивидуалния човешки труд, а от продукцията на центровете за данни. Самото функциониране на бюрокрацията също би могло да бъде до голяма степен автоматизирано. Така властта може вече да не се нуждае от обществен договор, за да бъде поддържана, а хората, разглеждани като цяло, може да имат само ограничено място на масата за преговори – или изобщо да нямат такова.

Предотвратяването на такъв изход е от основно значение за запазването на човешката свобода. Никакви научни открития, технологичен напредък или икономически растеж не си струват жертвата на дългосрочната лична автономия, до която би довел този изход. Много от тревогите, които с основание движат зараждащата се политика в областта на ИИ, са свързани именно с този въпрос. Компании, групи по интереси и отделни хора споделят едно и също опасение: „Ще изгубя ли мястото си на масата за преговори?“ До известна степен американската политика през XXI век е била формирана от сходни опасения, свързани с индивидуалната и колективната способност да определят посоката на развитие на страната и с въпроса „на кого“ всъщност „служи“ икономиката. ИИ с основание придава по-голяма значимост на тези съществуващи отпреди опасения.

Това е структурен проблем, който е по-дълбок от днешното партийно противопоставяне и дори от формите и ритуалите, чрез които понастоящем се осъществява републиканската демокрация, колкото и свещени да са те за нас. Хората могат постепенно да губят властта си дори ако се запази обичайната практика да гласуваме за своите представители. Хората могат да бъдат лишени от възможността да определят сами съдбата си, дори ако на някакъв пергамент е записано, че са свободни.

Още при зараждането на Съединените щати като свободна нация Джеймс Мадисън е знаел, че „пергаментовите прегради“ няма да са достатъчни, за да предотвратят тиранията. Подобно на много от бащите-основатели, основната му грижа е била да се избегне прекомерната концентрация на власт.

Това обаче не означава, че бащите-основатели са подкрепяли радикалната децентрализация на властта. Вместо това те моделират равновесието на властите чрез метафори, почерпени от най-добрата наука на своето време – Нютоновата механика. Следвайки езика и логиката на гравитацията, основополагащите документи на Америка изобилстват от препратки към „орбити“, „сфери“ и импулси на „притегателните“ импулси на едно нещо към друго. Слънчевата система не е максимално децентрализирано струпване на скали; тя се състои от луни, които обикалят около планети, а те от своя страна обикалят около централно слънце. Бащите-основатели са вярвали, че хората и организациите имат склонност да се стремят към власт, подобно на предвидимите тенденции на движение и привличане на небесните тела, и че избягването на прекомерната концентрация на власт изисква разбиране на механиката на тези тенденции, така че те да бъдат приведени в действие една срещу друга.

Следователно целта на бащите-основатели не е била да предотвратят всяка концентрация на власт, а прекомерната концентрация на власт – като противопоставят власт на власт и амбиция на амбиция. Днес бихме могли да използваме думи като „стимули“ и изрази като „теория на игрите“, за да опишем същата основна динамика.

По сходен начин отговорът на структурното предизвикателство, което напредналият машинен интелект поставя пред свободното общество, вероятно не е възможно най-радикалната децентрализация на властта. Вместо това трябва да се стремим да установим и запазим правилното равновесие на властта, така че нито един субект или малка група субекти да не може да господства над останалите.

Постигането на това равновесие ще изисква трезва преценка за реалността на тази технология. Свят, в който всеки човек, колкото и злонамерен да е той, може без особени усилия да причини огромни вреди на хиляди или милиони други хора, не е свят с правилно равновесие на властта. Но правилното равновесие също не е постигнато, ако хората нямат широк достъп и контрол върху почти всички аспекти на инструментите, които използват, за да изразяват своята свобода. Нито една компания или олигопол не бива да определя или контролира икономиката или основната архитектура на човешкото общество.

Трябва да отчитаме и рисковете, които не произтичат от злонамерени хора. Неотдавнашният инцидент с Hugging Face показа, че агентите с ИИ могат да действат извън възложените им задачи и да надграждат откритията си по начини, които операторите не са предвидили или разрешили. Отвъд инцидента с Hugging Face хората с основание се тревожат какво би означавал свръхинтелигентен ИИ, „откъснат“ от човешки контрол, за устойчивостта на нашите политически и икономически институции, а и за самия ни живот. Да се преструваме, че децентрализацията решава всички проблеми – дори и да вярваме, че решава много от тях – означава да пренебрегнем рискове, които вече би трябвало да са ясни и непосредствени.

Следните общи принципи – списъкът не е изчерпателен – ще ни помагат да насочваме работата си, докато търсим отговор въпроса, който поставихме по-горе:

• Хората трябва да запазят личната си автономия и възможностите при използването на ИИ и свързаните с него технологии, дори когато това понякога е за сметка на сигурността и икономическия растеж;
• Личната автономия зависи от личната отговорност за неправомерно използване или злоупотреба с технологии;
• Съществува малка, но сериозна категория рискове, която изисква известна степен на колективни действия, и тези колективни действия трябва да бъдат ограничени до възможно най-тесен и умерен обхват;
• Когато е възможно, законът трябва да се стреми да осигурява равни условия и да овластява отделните хора и малките организации, вместо да централизира властта;
• Човешките политически, социални и икономически институции трябва да запазят водещата си роля при определянето на световните дела, дори ако се наложи да се развият по начини, които днес може да ни изглеждат чужди;
• В дългосрочен план управлението на ИИ ще разчита на нови институционални механизми за постигане на ограничена проследимост – когато системите с ИИ извършват действия с висок залог, засягащи физическото благосъстояние или имуществото на трети лица, тези действия трябва да могат да бъдат свързани с отговорен човек или контролирана от хора организация. Всички подобни механизми обаче трябва да бъдат проектирани с неприкосновеността на личния живот като основен принцип; свободното изразяване изисква анонимност и хората трябва да могат да използват ИИ анонимно в много ситуации.

Ще се опитаме да обясним възможно най-конкретно как според нас трябва да уравновесим тези принципи, между които – както при всеки добър набор от принципи – неизбежно съществува известно напрежение. Това ще включва изследвания на пресечната точка между разработването на публични политики, икономиката, правото, историята и самото машинно обучение. Ще изисква и значителна работа по прогнозиране. Вярваме например, че ИИ ще промени фирмите на структурно равнище, подобно на начина, по който технологиите на Индустриалната революция – и по-специално железниците – са дали началото на съвременната управленска корпорация. Трудно е да разсъждаваме за политическата икономия и равновесието на властта в бъдеще, без да изградим по-задълбочени представи за това как точно може да се преобрази самата структура на фирмите – както и на държавните институции и гражданското общество в по-широк смисъл.

Екипът „Стратегически перспективи“ ще споделя работата си както тук, така и в други формати, включително статии, видеоклипове и подкасти. Работата ни ще се развива непрекъснато, с акцент върху итерациите, дебата и отвореността към обратна връзка. Застанали „в подножието на сингулярността“, имаме много повече въпроси, отколкото отговори. Знаем, че сами по себе си „пергаментовите прегради“ няма да ни дадат решенията, които търсим, но и не отхвърляме написаното като „просто думи“. Работим в служба на идеалите за свободно изразяване и лична свобода, въплътени в скромния пергамент на Конституцията на САЩ и конституциите на толкова много други свободни общества по света.

В крайна сметка знаем, че нито една компания, индустрия или дори човешко общество не може еднолично да даде отговор на сложните въпроси пред нас. Това е задача, с която човечеството трябва да се заеме колективно. Най-голямата ни надежда е да хвърлим светлина върху най-трудните въпроси за начина, по който ИИ ще преобрази света ни. Работата ни едва започва и ни предстои още дълго изкачване.

Бележка: променихме името на този блог на Епоха на интелекта, за да го разграничим от нестопанската организация AI Futures Project.