Представљамо Доба интелигенције

„Хоће ли бити довољно… да се уздамо у ове пергаментне препреке пред наступајућим духом власти?“
—Џејмс Медисон, Федералист бр. 48

Задовољство нам је да покренемо Доба интелигенције, блог новог тима OpenAI-ја за стратешке будућности. Ми смо мали тим са заједничким циљем да одговоримо на једно свеобухватно питање: како треба преустројити слободно друштво да би се очувала права и самосталност појединца, а истовремено прихватила појава трансформативне вештачке интелигенције?

У широј заједници која се бави безбедношћу и политикама у области вештачке интелигенције, оваква питања се понекад називају ризицима од концентрације моћи. Наш тим полази од идеје да је ова категорија ризика дугорочно највећа, најозбиљнија и појмовно најтежа за решавање. Зашто?

Савремена држава је производ дугог и неуједначеног процеса преговарања између различитих центара моћи, као што су власници капитала и добара, носиоци политичке моћи и народ. У најдубљој основи, политичка и војна моћ почивале су на људском раду. Имати политичку моћ значи имати монопол над легитимном употребом силе. Током читаве људске историје, тај монопол чинили су војници и они које данас називамо „полицијом“, заједно са огромном цивилно-војном бирократијом. Свакако су им помагала бројна технолошка средства, али су системом у основи управљали људи, чија је подршка била неопходна за његово одржавање. А читав апарат — војници, средства и пратећа бирократија — финансиран је порезима на зараде или производњу људи који су морали бити спремни да их плаћају. У својој основи, моћ је зависила од широке сарадње и пристанка великог броја људи. Дејвид Хјум је сажето изразио ову често прећутну претпоставку када је приметио да политичке вође „немају другог ослонца осим [јавног] мњења“.

Али можда више није тако. Напредак аутономних система који делују у стварном свету могао би ускоро омогућити државама да примењују силу — у земљи и иностранству — без ослањања на сарадњу војника или полицајаца. Напредак машинске интелигенције могао би да омогући држави да потребне приходе више не прикупља из плодова људског рада, већ из учинка центара података. И сам рад бирократије могао би бити у великој мери аутоматизован. Зато за одржавање моћи можда више неће бити неопходан договор целог друштва, док би народ, у најширем смислу, могао добити тек незнатно место за преговарачким столом — или га уопште не би имао.

Избегавање таквог исхода пресудно је за очување људске слободе. Никакво научно откриће, технолошки напредак или економски раст нису вредни дугорочног жртвовања личне самосталности које би такав исход донео. Многе стрепње које с правом покрећу политику вештачке интелигенције у настајању односе се управо на ово питање. Компаније, интересне групе и појединци деле исту бојазан: „Хоћу ли изгубити место за столом?“ Америчку политику 21. века донекле су обликовале сличне недоумице о томе колико појединци и заједнице могу да утичу на правац у којем се земља креће и „коме“ економија „служи“. Вештачка интелигенција оправдано ставља ове већ постојеће недоумице у први план.

То је структурни проблем који задире дубље од данашње страначке политике, па чак и од облика и обреда кроз које се данас остварује републиканска демократија, ма колико нам они били свети. Људи могу бити на путу ка губитку моћи чак и ако се задржи редовно гласање за наше представнике. Људима се може одузети самосталност чак и ако на комаду пергамента пише да су слободни.

У освит Сједињених Држава као слободне нације, Џејмс Медисон је већ знао да „пергаментне препреке“ неће бити довољне да спрече тиранију. Као и многим оснивачима, његова главна брига била је да се спречи прекомерна концентрација моћи.

Али то није значило да су оснивачи заговарали радикалну децентрализацију моћи. Уместо тога, равнотежу моћи обликовали су помоћу метафора преузетих из најбоље науке свог доба — Њутнове механике. Амерички оснивачки документи, који одражавају језик и логику гравитације, препуни су помена „орбита“, „сфера“ и „привлачних“ тежњи једне ствари ка другој. Сунчев систем није крајње децентрализован скуп стена; чине га месеци који круже око планета, а оне око средишњег сунца. Веровали су да људи и организације имају склоности ка стицању моћи, као што небеска тела имају предвидљиве путање кретања и привлачења; и да спречавање прекомерне концентрације моћи захтева разумевање механике тих склоности како би се оне усмериле једна против друге.

Циљ оснивача, дакле, није био да избегну сваку концентрацију моћи, већ да спрече њен вишак тако што ће моћ обуздавати моћ, а амбицију амбиција. Данас бисмо исту основну динамику могли описати речима попут „подстицаји“ и изразима попут „теорија игара“.

Слично томе, одговор на структурни изазов који напредна машинска интелигенција поставља пред слободно друштво вероватно није најрадикалнија замислива децентрализација моћи. Уместо тога, треба успоставити и очувати одговарајућу равнотежу моћи, тако да ниједан актер, нити мала група актера, не може да доминира над осталима.

Постизање те равнотеже захтеваће трезвено сагледавање стварности ове технологије. Свет у којем било који појединац, ма колико злонамеран, може без тешкоћа нанети велику штету хиљадама или милионима других људи није свет који је постигао праву равнотежу моћи. Али права равнотежа моћи није постигнута ни ако појединци немају широк приступ и контролу над готово свим аспектима алата којима остварују своју слободу. Ниједна компанија или олигопол не би требало да одређује или контролише економију нити основну архитектуру људског друштва.

Морамо бити отворени и за ризике који не потичу од злонамерних људи. Недавни инцидент у компанији Hugging Face показао је да агенти ВИ могу деловати изван додељених задатака и надограђивати открића других агената на начине које оператери нису предвидели нити одобрили. Осим инцидента у компанији Hugging Face, људи с правом брину шта би суперинтелигентна ВИ „ослобођена“ људске контроле могла значити за отпорност наших политичких и економских институција, па и за наше животе. Тврдити да децентрализација решава све проблеме — чак и ако верујете да решава многе од њих — значи занемарити ризике који би до сада већ морали бити јасни и непосредни.

Следећа општа начела — чији списак није коначан — помоћи ће нам да усмеравамо рад док се бавимо горе постављеним питањем:

• Људи треба да задрже личну самосталност и могућности при коришћењу ВИ и повезаних технологија, чак и када то понекад подразумева уступке у погледу безбедности и економског раста;
• Самосталност појединца зависи од његове одговорности за погрешну употребу или злоупотребу технологије;
• Постоји мала, али озбиљна категорија ризика која захтева известан степен колективног деловања, а његов обим треба да буде што ужи и умеренији;
• Кад год је могуће, закон треба да настоји да обезбеди равноправне услове и оснажи појединце и мале организације, уместо да централизује моћ;
• Људске политичке, друштвене и економске институције треба да задрже водећу улогу у усмеравању светских збивања, чак и ако морају да се развијају на начине који нам данас могу деловати страно;
• Дугорочно управљање ВИ ослањаће се на нове институционалне механизме за постизање ограничене следљивости — када системи ВИ предузимају поступке са великим последицама по физичку добробит или имовину трећих лица, мора бити могуће повезати те поступке са одговорним човеком или организацијом под људском контролом. Ипак, сви такви механизми морају бити осмишљени тако да приватност буде у њиховој основи; слобода изражавања захтева анонимност, а људи треба да имају слободу да у многим околностима анонимно користе ВИ.

Покушаћемо да што конкретније објаснимо како, по нашем мишљењу, треба уравнотежити ова начела која су, мора се признати, као и сваки добар скуп начела, донекле међусобно супротстављена. То ће подразумевати истраживања на пресеку осмишљавања јавних политика, економије, права, историје и самог машинског учења. Биће потребно и много предвиђања. На пример, верујемо да ће ВИ променити структуру предузећа, слично начину на који су технологије индустријске револуције, нарочито железница, довеле до настанка савремених корпорација са професионалним управљањем. Тешко је размишљати о политичкој економији и равнотежи моћи у будућности без разрађенијих идеја о томе како би се сама структура предузећа — као и државних органа и ширег цивилног друштва — могла преобразити.

Тим за стратешке будућности представљаће свој рад и овде и у другим форматима, укључујући радове, видео-снимке и подкасте. Наш рад ће се непрестано развијати, уз нагласак на усавршавању, расправи и отворености за повратне информације. Док стојимо „у подножју сингуларности“, имамо далеко више питања него одговора. Знамо да саме „пергаментне препреке“ неће донети решења која тражимо, али ни оно што је записано не одбацујемо као „пуке речи“. Радимо у служби идеала слободног изражавања и личне слободе, оличених у скромном пергаменту Устава САД и уставима многих других слободних друштава широм света.

На крају крајева, знамо да ниједна компанија, ниједан сектор, па чак ниједно људско друштво не може самостално да одговори на тешка питања с којима се суочавамо. То је задатак којег ће човечанство морати заједнички да се прихвати. Највише се надамо да ћемо расветлити најтежа питања о томе како ће вештачка интелигенција преобликовати наш свет. Наш рад је тек почео и пред нама је још дуг успон.

Напомена: назив овог блога променили смо у Доба интелигенције како би се јасно разликовао од непрофитног пројекта AI Futures.