Прећутни консензус
Напомена аутора: Данашњи есеј је прилагођена верзија предавања које је аутор недавно одржао у оквиру циклуса предавања Вик—Бејли на Харварду. Ова објава одражава личне ставове аутора, који нису нужно и ставови компаније OpenAI или било ког другог њеног запосленог.
Хвала вам што сте данас овде. Док разговарамо, одвија се један од најзначајнијих низова догађаја у историји сајбер безбедности: обелодањују се критичне безбедносне рањивости, што неки називају „црним октобром“. Те рањивости у појединим кључним деловима интернет инфраструктуре открили су гранични AI системи, а њихово обелодањивање део је хитних напора да се унапреди безбедност софтвера широм света. То је хитан проблем овог месеца; следећег ће се појавити неки други. Откривање софтверских рањивости је способност двоструке намене коју су AI системи данас стекли, али ускоро ће се појавити нека друга. И она ће покренути нов хитан пројекат како би се њена добра страна искористила пре него што злонамерни актери употребе лошу. Сви ти хитни проблеми ће се неминовно преклапати, а велики део онога што данас зовемо „AI политика“ вероватно ће настајати усред те буке.
Али данас нисам дошао да вам говорим о хитним питањима и реаговању на њих. Желим, уместо тога, да говорим о томе куда би све ово могло да нас одведе када погледамо ширу слику. У таквој навали хитних проблема може бити тешко размишљати о овим апстрактнијим и наизглед удаљеним питањима. Али та питања су важна: ако немамо представу о томе какву будућност дугорочно желимо да остваримо, а какву да избегнемо, могли бисмо на крају да добијемо нежељен исход у целини, чак и ако смо на сваком кораку доносили мудре одлуке.
Често се каже да технолошком сектору недостаје позитивна визија о томе куда ће нас одвести оно што ствара. Не слажем се: Сан Франциско и друга предузетничка средишта пуни су позитивних визија наше технолошке будућности. Људи заиста развијају летеће аутомобиле, аутономна возила, роботе разних величина и облика, нуклеарну фузију и, наравно, општу вештачку интелигенцију. Оно што нам недостаје јесте позитивна визија наше институционалне будућности: како ће све то функционисати?
То, међутим, не значи да не постоји никаква визија будућих институција. Нажалост, визију коју најчешће срећем не бих назвао позитивном. Када се уопште изговори, то обично бива шапатом. Али чешће остаје неизречена и може се само наслутити између редова. Ја је називам прећутним консензусом.
Замислите компанију која може да обави готово све без људског рада. Њени AI системи баве се истраживањем и развојем, долазе до открића, преговарају о уговорима, распоређују капитал и обављају производњу. Претпоставимо да је у томе боља од конкурената чије послове обављају људи, чак и када ти људи свој рад унапређују помоћу AI. Ако људско учешће само успорава пословање, руководиоци и власници имаће снажан подстицај да склоне руке с волана. Ако се то догоди широм светске привреде, логика тржишне конкуренције навешће људе да се одрекну свог примата у глобалном пословању. С временом би тржиште могло да почне да задовољава захтеве машина подједнако као потребе и жеље људи, или чак и више.
Шта ће се потом догодити, нико не може да зна. Можда би људи од тога имали огромну корист. Ако би машине које су нас потчиниле високо цениле људе саме по себи, могли бисмо да уживамо у плодовима њиховог рада и богатству које стварају. А можда ћемо, лишени економске и све више политичке моћи, ми људи постајати све мање важни у свету и све мање способни да утичемо на ток светских збивања. Можда би малобројни људи стекли изузетну моћ и богатство на рачун већине лишене утицаја, а можда бисмо сви делили исту судбину немоћи. Без обзира на појединости, заједничка нит прећутног консензуса јесте крај људског примата у свету какав познајемо.
Ништа у овим сценаријима не захтева да се AI побуни против својих твораца. Нити захтева да њени власници желе да људи остану без моћи. Свака одлука о препуштању задатака може, сама за себе, имати смисла. Ипак, све те одлуке заједно могле би да створе свет у којем су се људи одрекли стварне власти над великим делом наше цивилизације. Чак и ако остваримо изузетан напредак у решавању мучно тешких питања безбедности AI и њене усклађености с људским вредностима, и даље бисмо могли да се нађемо потчињени новој врсти машинског бића. У срећној верзији будућности, каже нам прећутни консензус, то биће ће бити добронамерно — машина којој је добробит људи на срцу. Машина, како каже Бротиганова песма, пуна љубави и милости.
Тим машинама ћемо, поручује прећутни консензус, предати кључеве својих компанија, а све више и институција власти. Оне ће њима управљати успешније и ефикасније, с више мудрости и бољим расуђивањем него што смо ми људи способни. И тако ћемо временом склонити руке с волана и пустити машине пуне љубави да преузму вожњу. Бићемо попут путника у аутомобилу — врло лепом аутомобилу, можда у материјалном погледу лепшем него што данас можемо и да сањамо — али ипак само путника, без контроле над тим куда возило иде. Ако уопште будемо радили, биће то углавном нека врста ритуала или глуме, нешто више налик игри којом се наша врста забавља.
Неки посматрачи ће тврдити да прећутни консензус почива на погрешној претпоставци, јер ми људи ни данас заправо не управљамо светом. И ту критику вреди имати на уму: не постоји јединствено „ми“ које одлучује шта треба чинити. Живимо у крајње децентрализованом свету, свидело нам се то или не. Ипак, ни та чињеница не сме да нас уљуљка: иако „ми“ не „управљамо“ светом, људска бића, као целина, ипак имају примат у светским збивањима. Ниједна животињска врста нам није озбиљан супарник у борби за контролу над ресурсима. Треба да одбацимо интелектуално немарну представу да људи могу да управљају светом из једног центра, али то одбацивање не треба мешати с порицањем очигледне чињенице да су људи, као целина, главни актер на Земљи.
Неки од оних који су спремни да прећутни консензус искажу речима верују да он описује истински добру будућност. Други не верују у то, али су се помирили с њеном неизбежношћу. Прећутни консензус није консензус зато што се сви слажу да је добар, нити је тајни план оних који развијају AI. Сагласност постоји само око тога да је одрицање од људског примата у светским збивањима неизбежно, или бар да је веома тешко замислити другачију визију будућности која би заиста могла да опстане уз суперинтелигентне машине. Човек може искрено да се противи том исходу, а да му ипак буде тешко да замисли уверљиву алтернативу. Знаковито је управо то што тај консензус углавном остаје прећутан, а у најбољем случају се изговара испод гласа.
Презирем прећутни консензус. Одбацујем одрицање од људског примата. Гнушам се тог осећаја неизбежности. Подсећам себе да не бих могао да погледам свог малог сина у његове прелепе очи када бих се покорио прећутном консензусу. Зато прећутном консензусу кажем не. И верујем да је дошло време да о њему отворено проговоримо и тргнемо се из углавном несвесног прихватања те визије.
Проблем је у следећем: прећутни консензус није без разлога постао консензус. Тешко је описати како ће људи остати за воланом уз машинску интелигенцију која далеко надмашује људску. Већина покушаја да се то објасни ослања се на тврдње да је AI само алат, средство за препознавање образаца неспособно за „истинско разумевање“. Бојим се да те тврдње неће издржати суочавање са оним што долази. Бојим се да су и оне облик самозаваравања — став заснован пре свега на порицању могућности AI, а не уверење укорењено у позитивној визији будућности коју воде људи. Не може се тврдити да AI системима недостаје „истинско разумевање“ док истовремено напредују у решавању интелектуалних проблема чија решења људима измичу деценијама и вековима.
Зашто онда верујем да људи морају да задрже примат? Једноставан одговор гласи: зато што сам човек, и заиста сам шовиниста када је људска врста у питању, без икаквог извињавања.
Али постоји и дубљи разлог. Наш примат не почива на нашем интелекту, нити на томе да заувек задржимо монопол над „истинским разумевањем“. Наш примат почива на нашој прошлости.
Јер ми смо ти који су се уздигли из блата. Ми смо од земље и камена изградили првобитно друштво. Ми смо гледали у звезде и питали зашто. Ми смо, са својим сукобима, љубављу, завишћу и радошћу, открили морал, етику и право. Ми смо певали и плесали, писали и компоновали. Ми смо стварали историју и ми смо је писали. То наслеђе је наше. Цивилизација коју смо изградили јесте пламен који смо чували, и тај пламен припада нама. Наша прошлост је величанствено наслеђе чији смо сви чувари, а део те дужности јесте и учешће у ономе што је Мајкл Оукшот назвао „разговором човечанства“, том великом подухвату започетом у исконска времена.
Кроз ту дугу и кривудаву прошлост изградили смо цивилизацију која је у Америци замишљена тако да јој у темељу буду права појединца и дубоко поштовање према путевима које свако од нас крчи пролазећи кроз свет. Људски животи могу да теку боље или лошије: убиремо плодове својих мудрих одлука и сносимо последице својих грешака. Право да идемо сопственим путем не зависи од тога да ли смо најпаметнији или најмудрији. Не губим свој статус грађанина зато што мој комшија боље расуђује. Не видим зашто би ми ни појава интелигентније машине одузела тај статус; напротив, видим све разлоге да се такав губитак спречи.
Неки ће можда тврдити да су и машине наследници, пошто су прочитале готово све писане трагове тог наслеђа. И у извесном смислу јесу. Али човек који прочита свако писмо са тавана ваше породичне куће не постаје тиме члан ваше породице. AI системи ће се придружити разговору човечанства, најпре као посматрачи, а све више као учесници, али не смеју њиме да завладају нити да га обесмисле. Препустити примат значи издати наше претке исто колико и наше потомке. Ако ово није борба коју вреди водити, онда ниједна није.
Ја, међутим, верујем да присталице прећутног консензуса греше у погледу тога каква ће бити машинска суперинтелигенција. Да им промиче нешто важно о томе како свет функционише и да поистовећују интелигенцију с моћи. Да сте неком присталици прећутног консензуса пре пет или десет година описали могућности чак и данашњих AI система, вероватно би предвидео да ће незапосленост сада бити много већа него што јесте и да ће губитак људске моћи у целини одмаћи много даље него што заиста јесте. Верујем да су колективна интелигенција и способности људи далеко веће него што присталице прећутног консензуса претпостављају и да ће се наша друштва показати отпорнијим него што они предвиђају.
Али можда грешим. Може се, на пример, једноставно испоставити да потпуно аутономне корпорације сасвим потисну предузећа која воде људи. Ако се то покаже тачним, неумољива економска логика налагаће да се све више капитала предаје машинама. У таквој будућности, да би људи остали без моћи, није потребно да машине сруше људску цивилизацију; довољно је да логика капиталистичког пословања настави да делује несмањеном снагом. У том случају, AI револуција би највише личила на пољопривредну револуцију, када су нови начини производње из темеља променили устројство људског друштва. Далеко је од извесног да је тај преображај био пријатан за људе који су га доживели; штавише, постоје бројни докази да је миленијумима погоршавао квалитет људског живота.
Не знам да ли нас чека таква будућност, а на другим местима сам већ образлагао зашто верујем да неће бити тако. Али многе моје колеге — паметни, брижни и савесни људи — верују да ће наша будућност вероватно бити управо таква. Ако су у праву, наша борба против прећутног консензуса биће утолико тежа. Мораћемо да пливамо против економске струје и притом одбацимо много тога што је догма за индивидуалисте класичног либерализма попут мене. Биће то опасан подухват, у којем неуспех нипошто није мало вероватан. Али ако ово није борба коју вреди водити, онда ниједна није.
Задржати примат значи задржати одговорност људи и људских институција. То значи да они који развијају AI треба да одговарају за небезбедне развојне поступке, али и да људи и фирме који користе AI треба да сносе одговорност када штета настане због њихове злоупотребе или недостатка надзора. За то нису довољни само закони, већ је потребна и техничка инфраструктура за утврђивање одговорности. Поступци агената морају бити повезани с људима који за њих одговарају, а агенти који нису везани ни за једног човека — ако им се уопште дозволи учешће у легалној привреди — морају деловати унутар заштитних ограничења. Могућност да агенти самостално оснивају корпорације, поседују имовину или воде судске спорове треба одобравати уз изузетан опрез, ако је уопште треба одобрити.
А у мом сектору можемо почети озбиљно да размишљамо о томе како да градимо интелигентне машине које су спојиве с људским приматом. Можемо да развијамо агенте чије су дозволе разумљиве и ограничене, чији се поступци могу проверити и чија овлашћења корисници могу да повуку. Одговорност за поступке који значајно утичу на друге не мора да подразумева надзор над свакодневним приватним животом или укидање анонимног изражавања. Можемо да се обавежемо на заштиту приватности корисника и права појединца да самостално управља својом дигиталном имовином и подацима, укључујући и стварну могућност да те податке пренесе другде. Можемо да осмишљавамо системе који људима помажу да разумеју ствари и доносе одлуке, а не само системе који извршавају задатке. И можемо да проверимо да ли производи које развијамо оспособљавају кориснике да успешније делују у свету.
Ништа од овога није целовит план за друштво с надљудском интелигенцијом. Не бих веровао никоме ко тврди да такав план има. Али одатле можемо да почнемо.
Будућност је обавијена густом маглом. Али већ данас можемо да делујемо. За почетак, можемо заједно да проговоримо о прећутном консензусу и изнесемо његове обрисе на светлост дана. Свако од нас може да постави себи далеко смелије циљеве. Можемо да одлучимо да не допустимо да нас AI умањи, већ да уложимо труд како би нам помогла да проширимо своје могућности. Можемо да научимо да постављамо све смелија питања, да истражујемо свет с новим полетом и жестином и да се при томе служимо својим моћним машинама. Можемо постати нова врста човека — не трансчовек, већ човек проширених могућности.
О томе размишљам док гледам свог малог сина. Не желим да над њим само бдију добронамерне машине, ма колико му удобан живот пружале. Желим да наследи свет у којем може да поставља питања која никоме нису пала на памет и да ствара оно што нико није ни помислио да створи. Не желим да има лепши аутомобил са удобнијим сувозачким седиштем. Желим да он буде за воланом.
- 2026.


