Ви ја претставуваме Ерата на интелигенцијата

„Ќе биде ли доволно... да им се верува на овие пергаментни бариери пред незапирливиот стремеж на моќта?“
—Џејмс Медисон, Федералист бр. 48

Со задоволство ја започнуваме Ерата на интелигенцијата, блогот на новиот тим за стратешки иднини на OpenAI. Ние сме мал тим со заедничка цел да одговориме на едно сеопфатно прашање: како треба да се преустрои слободното општество за да ги зачува личните права и самостојноста, а истовремено да овозможи појава на трансформативна ВИ?

Во пошироката заедница посветена на безбедноста и политиките за ВИ, ваквите прашања понекогаш се нарекуваат ризици од концентрација на моќта. Нашиот тим се темели на идејата дека долгорочно оваа категорија ризици е најголема, најсериозна и концептуално најтешка за решавање. Зошто?

Современата држава е производ на долг и нерамномерен процес на договарање меѓу различни центри на моќ, како што се сопствениците на капитал и стоки, носителите на политичка моќ и народот. Во самата основа, политичката и воената моќ се потпирале на човечкиот труд. Да се има политичка моќ значи да се поседува монопол врз легитимната употреба на сила. Низ целата човечка историја, тој монопол се состоел од војници и од оние што денес ги нарекуваме „полиција“, заедно со огромна цивилно-воена бирократија. Секако, сето тоа било надополнето со многу технолошки алатки, но во основа го управувале луѓе чија поддршка била неопходна за одржување на системот. А целиот апарат — војниците, алатките и придружната бирократија — се финансирал со даноци од платите или производството на луѓето, кои морале да бидат подготвени да ги плаќаат. Во својата основа, моќта зависела од широката соработка и согласност на многу луѓе. Дејвид Хјум кратко ја изразил оваа често премолчена претпоставка кога забележал дека политичките водачи „немаат ништо друго што ги поддржува освен [јавното] мислење“.

Но можеби веќе не е така. Напредокот на автономните системи во реалниот свет наскоро може да им овозможи на државите да применуваат сила — во земјата и во странство — без да зависат од соработката на војниците или полицајците. А напредокот на машинската интелигенција може да значи дека државата ќе ги прибира потребните приходи не од плодовите на индивидуалниот човечки труд, туку од резултатите на податочните центри. И самото функционирање на бирократијата би можело во голема мера да се автоматизира. Затоа, за одржување на моќта можеби веќе нема да биде потребен договор на ниво на целото општество, а народот, во најширока смисла, би можел да има само незначително место на преговарачката маса — или воопшто да нема место.

Спречувањето на ваквиот исход е од суштинско значење за зачувување на човековата слобода. Ниту едно научно откритие, технолошки напредок или економски раст не вреди колку жртвувањето на долгорочната лична автономија што би го донел ваквиот исход. Многу од грижите што оправдано ја поттикнуваат новонастанатата политичка дебата за ВИ се поврзани со ова прашање. Компаниите, интересните групи и поединците ја делат истата грижа: „Ќе го изгубам ли местото на преговарачката маса?“ До одреден степен, американската политика во 21 век ја обликуваа слични грижи за поединечната и колективната можност да се влијае врз насоката на земјата и за тоа „кому“ му „служи“ економијата. ВИ оправдано ја истакнува важноста на овие веќе постојни грижи.

Ова е структурен проблем што оди подлабоко од денешната партиска политика, па дури и од формите и ритуалите преку кои денес се остварува републиканската демократија, колку и да ни се свети. Луѓето може да бидат на пат да ја изгубат својата моќ дури и ако се задржи вообичаеното гласање за нашите претставници. Луѓето може да бидат лишени од можноста самостојно да дејствуваат дури и ако на парче пергамент пишува дека се слободни.

Во почетоците на Соединетите Американски Држави како слободна нација, Џејмс Медисон веќе знаел дека „пергаментните бариери“ нема да бидат доволни за да се спречи тиранијата. Како и многумина од основачите, негова главна грижа била да се избегне прекумерна концентрација на моќта.

Но тоа не значело дека основачите се залагале за радикална децентрализација на моќта. Наместо тоа, тие ја моделирале рамнотежата на моќта со метафори преземени од најдобрата наука во нивното време — Њутновата механика. Следејќи ги јазикот и логиката на гравитацијата, основачките документи на Америка изобилуваат со упатувања на „орбити“ и „сфери“, како и на „привлечните“ стремежи на едно нешто кон друго. Сончевиот систем не е крајно децентрализиран збир од карпи; тој се состои од месечини што кружат околу планети, кои пак кружат околу централно сонце. Тие верувале дека луѓето и организациите имаат склоности да се стремат кон моќ, исто како што небесните тела имаат предвидливи склоности за движење и привлекување; и дека за да се избегне прекумерна концентрација на моќта, треба да се разбере механиката на тие склоности за да можат да се насочат едни против други.

Значи, целта на основачите не била да се избегне секаква концентрација на моќта, туку нејзиното преголемо натрупување — со ограничување на моќта преку друга моќ, а на амбицијата преку друга амбиција. Денес можеби би користеле зборови како „поттици“ и изрази како „теорија на игри“ за да ја опишеме истата основна динамика.

Слично на тоа, одговорот на структурниот предизвик што напредната машинска интелигенција му го поставува на слободното општество веројатно не е најрадикалната замислива децентрализација на моќта. Наместо тоа, треба да се воспостави и зачува вистинската рамнотежа на моќта, така што ниту еден поединечен чинител или мала група чинители да не може да доминира над останатите.

За да се постигне оваа рамнотежа, ќе треба трезвено да размислуваме за реалноста на оваа технологија. Свет во кој секој поединец, колку и да е злонамерен, може без тешкотии да им нанесе голема штета на илјадници или милиони други луѓе не е свет што ја постигнал вистинската рамнотежа на моќта. Но вистинската рамнотежа на моќта не е постигната ниту ако поединците немаат широк пристап и контрола врз речиси сите аспекти на алатките со кои ја изразуваат својата слобода. Ниту една компанија или олигопол не треба да ги одредува или контролира економијата или основната архитектура на човечкото општество.

Мора да бидеме отворени и кон ризиците што не потекнуваат од злонамерни луѓе. Неодамнешниот инцидент со Hugging Face покажа дека агентите со ВИ можат да дејствуваат надвор од доделените задачи и да ги надградуваат откритијата на другите на начини што операторите не ги предвиделе ниту ги одобриле. Независно од инцидентот со Hugging Face, луѓето со право се загрижени за тоа што би значела суперинтелигентна ВИ „ослободена“ од човечка контрола за отпорноста на нашите политички и економски институции, па и за нашите животи. Да се тврди дека децентрализацијата ги решава сите проблеми — дури и ако верувате дека решава многу од нив — значи да се игнорираат ризиците што досега веќе би требало да бидат јасни и непосредни.

Следниве општи принципи — списокот не е исцрпен — ќе ни помогнат да ја насочуваме работата додека се справуваме со прашањето поставено погоре:

• Луѓето треба да ги задржат личната автономија и можностите при користењето на ВИ и сродните технологии, дури и ако тоа понекогаш е на штета и на безбедноста и на економскиот раст;
• Личната автономија зависи од индивидуалната одговорност за неправилна употреба или злоупотреба на технологијата;
• Постои мала, но сериозна категорија ризици што бара одреден степен на колективно дејствување, а опсегот на тоа дејствување треба да биде што е можно потесен и поумерен;
• Секогаш кога е можно, законот треба да настојува да обезбеди еднакви услови и да ги зајакнува поединците и малите организации, наместо да ја централизира моќта;
• Човечките политички, општествени и економски институции треба да го задржат приматот во насочувањето на светските работи, дури и ако мора да се развиваат на начини што денес може да ни изгледаат туѓи;
• Долгорочното управување со ВИ ќе се потпира на нови институционални механизми за да се постигне ограничена следливост — кога системите со ВИ преземаат дејства со висок ризик што влијаат врз физичката благосостојба или имотот на други лица, тие дејства мора да можат да се поврзат со одговорен човек или организација под човечка контрола. Сепак, сите такви механизми мора да бидат осмислени така што приватноста ќе биде во нивната основа; слободното изразување бара анонимност, а луѓето треба да можат анонимно да користат ВИ во многу околности.

Ќе се обидеме што е можно поконкретно да објасниме како сметаме дека треба да ги урамнотежиме овие принципи, кои, мора да признаеме, како и секој добар збир принципи, се наоѓаат во извесна меѓусебна напнатост. Тоа ќе вклучува истражување на пресекот меѓу осмислувањето јавни политики, економијата, правото, историјата и самото машинско учење. Ќе биде потребно и многу предвидување. На пример, веруваме дека ВИ ќе ги промени компаниите на структурно ниво, слично како што технологиите на Индустриската револуција, а особено железницата, доведоа до појавата на современата менаџерска корпорација. Тешко е да се размислува за политичката економија и рамнотежата на моќта во иднината без да се развијат посодржајни идеи за тоа точно како би можела да се преобрази самата структура на компаниите, како и на владините агенции и граѓанското општество во поширока смисла.

Тимот за стратешки иднини ќе ја споделува својата работа и овде и во други формати, вклучувајќи трудови, видеа и поткасти. Нашите напори постојано ќе се развиваат, со акцент врз усовршувањето, дебатата и отвореноста за повратни мислења. Стоејќи „во подножјето на сингуларноста“, имаме многу повеќе прашања отколку одговори. Знаеме дека само „пергаментните бариери“ нема да ги дадат решенијата што ги бараме, но не го отфрламе ни напишаното како „само зборови“. Работиме во служба на идеалите за слободно изразување и лична слобода, вградени во скромниот пергамент на Уставот на САД и во уставите на многу други слободни општества ширум светот.

На крајот, знаеме дека ниту една компанија, индустрија, па дури ни едно човечко општество не може самостојно да одговори на тешките прашања пред нас. Тоа е задача што човештвото ќе мора да ја преземе заеднички. Најмногу се надеваме дека ќе ги расветлиме најтешките прашања за тоа како ВИ ќе го преобликува нашиот свет. Нашата работа штотуку започна, а пред нас има уште многу искачување.

Забелешка: го преименувавме овој блог во Ера на интелигенцијата за да се разликува од непрофитниот проект AI Futures Project.