OpenAI

18 ноември 2026 г.

Ера на интелигенцијата

Премолчениот консензус

Од Дин Бол

Белешка од авторот: Денешниот есеј е адаптиран од предавање што авторот неодамна го одржа во рамки на циклусот предавања „Вик-Бејли“ на Харвард. Оваа објава ги одразува личните ставови на авторот, а не нужно ставовите на OpenAI или на другите вработени во компанијата.



Ви благодарам што сте тука денес. Додека зборуваме, се одвива една од најзначајните низи настани во историјата на сајбербезбедноста: објавување низа критични безбедносни ранливости што некои го нарекуваат „Црн октомври“. Овие ранливости, пронајдени во делови од основната инфраструктура на интернетот, ги открија гранични системи со ВИ, а нивното објавување е дел од итен напор за зајакнување на софтверската безбедност низ целиот свет. Ова е итното прашање овој месец; следниот месец ќе има друго. Откривањето софтверски ранливости е способноста со двојна намена што системите со ВИ ја достигнаа денес, но наскоро ќе има друга, која ќе поттикне нов итен проект за искористување на нејзината добра страна пред злонамерните чинители да ја искористат лошата. Сите овие итни прашања неизбежно ќе се преклопуваат, а голем дел од она што денес го нарекуваме „политики за ВИ“ веројатно ќе се обликува среде таа врева.

Но денес не дојдов да ви зборувам за итните прашања што бараат непосредна реакција. Наместо тоа, сакам да зборувам за тоа каде би можеле да нè одведат настаните, гледано во поширок контекст. Среде таков налет на итни прашања, може да биде тешко да се размислува за овие поапстрактни и понеопипливи теми. Но тие се важни, бидејќи без претстава за тоа каква долгорочна иднина сакаме да постигнеме — и каква сакаме да избегнеме — можеме да стигнеме до севкупен исход што не го посакуваме, дури и ако на секој чекор сме носеле мудри одлуки.

Често се забележува дека на технолошката индустрија ѝ недостига позитивна визија за тоа каде ќе нè одведат нештата што ги создава. Не се согласувам: Сан Франциско и другите претприемачки центри се полни со позитивни визии за нашата технолошка иднина. Луѓето навистина создаваат летечки автомобили, автономни возила, роботи со најразлични големини и форми, технологии за нуклеарна фузија и, секако, општа вештачка интелигенција. Она што ни недостига е позитивна визија за нашата институционална иднина: како ќе функционира сето ова?

Но тоа не значи дека нема институционална визија за иднината. За жал, визијата што најчесто ја среќавам не би ја нарекол позитивна. Кога воопшто се искажува, тоа обично е шепотејќи. Но почесто останува неискажана и може да се насети само меѓу редови. Јас ја нарекувам премолчениот консензус.

Замислете компанија што може да прави речиси сè без човечки труд. Нејзините системи со ВИ се занимаваат со истражување и развој, доаѓаат до откритија, преговараат за договори, распределуваат капитал и произведуваат. Да претпоставиме дека таа ги прави овие нешта подобро од своите човечки конкуренти, дури и кога тие ги засилуваат своите напори со ВИ. Ако вклучувањето на луѓето само го забавува работењето, раководителите и сопствениците ќе имаат силен поттик да ги тргнат рацете од воланот. Ако ова се случи низ целата глобална економија, логиката на пазарната конкуренција ќе ги натера луѓето да се откажат од својот примат во светското стопанство. Со текот на времето, пазарот можеби ќе почне да ги задоволува барањата на машините исто толку, или повеќе, отколку потребите и желбите на луѓето.

Што ќе се случи потоа, никој не знае. Можеби луѓето би имале огромна корист. Ако машините што нè потчиниле високо ги ценат луѓето сами по себе, би можеле да ги уживаме плодовите на нивниот труд и богатството што го создаваат. Или можеби, лишени од економска, а сè повеќе и од политичка моќ, ние луѓето ќе стануваме сè помалку значајни во светот и сè помалку способни да го обликуваме текот на светските случувања. Можеби мал број луѓе би поседувале извонредна моќ и богатство на сметка на големо мнозинство лишено од моќ, или можеби сите би ја делеле истата судбина на немоќ. Без оглед на подробностите, заедничката нишка што го сочинува премолчениот консензус е крајот на приматот на човекот во светот каков што го познаваме.

Ништо во овие сценарија не бара ВИ да се побуни против своите создавачи. Ништо не бара нејзините сопственици да посакуваат луѓето да бидат лишени од моќ. Секоја одлука за пренесување надлежности, разгледана одделно, може да има смисла. Но земени заедно, тие одлуки би можеле да создадат свет во кој луѓето се откажале од вистинската власт над голем дел од нашата цивилизација. Дури и ако постигнеме извонреден напредок во решавањето на мачните прашања за безбедноста на ВИ и нејзината усогласеност со човечките цели и вредности, сепак би можеле да завршиме потчинети на нов вид машински ентитет. Во среќната верзија на иднината, би ни рекол премолчениот консензус, тој ентитет ќе биде добронамерен — машина на која најдобрите интереси на луѓето ѝ се при срце. Машина, како што вели песната на Бротиган, полна со љубов и благодат.

На овие машини, ни вели премолчениот консензус, ќе им ги предадеме клучевите од нашите компании, а сè повеќе и од нашите институции на власта. Тие ќе ги водат подeлотворно, поефикасно, со поголема мудрост и подобро расудување отколку што можеме ние луѓето. И така, со текот на времето, ќе ги тргнеме рацете од воланот и ќе им го препуштиме возењето на машините полни со љубов. Ќе бидеме како патници во автомобил — многу убав автомобил, можеби многу полуксузен од сè што денес можеме да замислиме — но сепак патници, без контрола врз тоа каде оди возилото. Доколку воопшто работиме, тоа главно ќе биде некаков ритуал или глумење работа, нешто повеќе налик на игра што го забавува нашиот вид.

Некои набљудувачи ќе тврдат дека премолчениот консензус почива на погрешна претпоставка, бидејќи ние луѓето ни денес не го контролираме светот. И вреди да ја имаме на ум оваа критика: не постои едно „ние“ што одлучува што да се прави. Живееме во радикално децентрализиран свет, сакале или не. Но ни тоа не треба да нè успие: иако „ние“ не го „контролираме“ светот, луѓето како целина сепак имаат примат во светските случувања. Ниту еден животински вид не ни е сериозен конкурент за контрола над ресурсите. Треба да ја отфрлиме недоволно промислената идеја дека луѓето можат централизирано да го контролираат светот, но тоа отфрлање не треба да го поистоветуваме со негирање на очигледната реалност дека луѓето, како целина, се главниот чинител на Земјата.

Некои од оние што се подготвени отворено да го искажат премолчениот консензус веруваат дека тој нуди навистина добра иднина. Други не веруваат во тоа, но се помирени со неговата неизбежност. Премолчениот консензус не е консензус затоа што сите се согласуваат дека е добар, ниту пак е таен план меѓу луѓето што ја развиваат ВИ. Согласноста е едноставно во тоа дека губењето на приматот на човекот во светските случувања е неизбежно, или барем дека е многу тешко да се замисли друга визија за иднината што навистина би опстанала во присуство на суперинтелигентни машини. Човек може искрено да се противи на таквиот исход, а сепак тешко да може да замисли уверлива алтернативна визија. Токму фактот што консензусот главно се премолчува, а во најдобар случај се искажува шепотејќи, е она што го издава.

Го презирам премолчениот консензус. Го отфрлам откажувањето од приматот на човекот. Се гнасам од чувството на неизбежност. Се потсетувам дека не би можел да го погледнам моето бебе, мојот син, во неговите прекрасни очи ако му се покорам на премолчениот консензус. Затоа, на премолчениот консензус му велам не. И верувам дека дојде време отворено да зборуваме за премолчениот консензус, да се оттргнеме од нашето главно несвесно прифаќање на оваа визија.

Проблемот е следниов: премолчениот консензус не станал консензус без причина. Тешко е да се опише како луѓето ќе останат зад воланот покрај машинска интелигенција што далеку ја надминува човечката. Повеќето обиди за тоа се потпираат врз аргументи дека ВИ е само алатка, инструмент за препознавање обрасци што не е способен за „вистинско разбирање“. Се плашам дека овие аргументи нема да издржат пред реалноста што доаѓа. Се плашам дека и тие се своевидно самозалажување — став заснован главно врз негирање на можностите на ВИ, наместо убедување втемелено во јасна визија за иднина предводена од луѓето. Не може да се тврди дека системите со ВИ немаат „вистинско разбирање“ додека напредуваат во решавањето интелектуални проблеми чии решенија им се измолкнувале на луѓето со децении и векови.

Зошто тогаш верувам дека луѓето мора да го задржат приматот? Едноставниот одговор е: затоа што сум човек, и навистина сум човечки шовинист што не се извинува за тоа.

Но има и нешто подлабоко. Нашиот примат не почива врз нашиот интелект, ниту врз бесконечното задржување на монополот над „вистинското разбирање“ во иднина. Нашиот примат почива врз нашето минато.

Зашто ние сме тие што се издигнаа од калта. Ние, кои од земја и камен го изградивме првобитното општество. Ние, кои погледнавме кон ѕвездите и прашавме зошто. Ние, со нашите борби, љубов, завист и радост, ги откривме моралот, етиката и правото. Ние сме тие што пееја и танцуваа, пишуваа и компонираа. Ние ја создадовме историјата и ние ја запишавме. Тоа наследство е наше. Цивилизацијата што ја изградивме е пламен што го одржувавме, и тој пламен ни припаѓа нам. Нашето минато е величествено наследство чии чувари сме сите ние, а дел од таа грижа е нашето учество во она што Мајкл Оукшот го нарече „разговорот на човештвото“, тој голем потфат што започнал во исконските времиња.

Низ тоа долго и кривулесто минато изградивме цивилизација што во Америка беше замислена со правата на поединецот во своите темели, со длабока почит кон патиштата што секој од нас ги пробива низ светот. Човечките животи можат да тргнат на подобро или на полошо: ги уживаме плодовите на нашите мудри одлуки и ги сносиме последиците кога грешиме. Правото да чекориш по својот пат не зависи од тоа дали си најпаметен или најмудар. Не го губам својот статус на граѓанин затоа што мојот сосед расудува подобро. Не гледам причина зошто појавата на поинтелигентна машина би го укинала тој статус, а гледам секаква причина да го спречиме таквото укинување.

Некои можеби ќе тврдат дека и машините се наследници, бидејќи го прочитале речиси целото пишано сведоштво за ова наследство. И во извесна смисла, тоа е така. Но човек што го прочитал секое писмо на таванот на вашето семејство не станува со тоа член на семејството. Системите со ВИ ќе се приклучат кон разговорот на човештвото, најпрво како набљудувачи, а сè повеќе и како учесници, но не смеат да доминираат во него, ниту да го направат бесмислен. Да го отстапиме приматот значи да ги предадеме нашите предци исто колку и нашите потомци. Ако ова не е борба што вреди да се води, тогаш ниту една не вреди.

Јас, пак, верувам дека приврзаниците на премолчениот консензус грешат во своите претстави за машинската суперинтелигенција. Дека пропуштаат нешто важно за тоа како функционира светот, дека ја поистоветуваат интелигенцијата со моќта. Ако пред пет или десет години на некој приврзаник на премолчениот консензус му ги опишевте способностите дури и на денешните системи со ВИ, веројатно ќе предвидеше дека невработеноста денес ќе биде многу повисока отколку што навистина е и дека општото губење на човечката моќ ќе биде многу понапреднато отколку што е. Верувам дека колективната човечка интелигенција и способност се многу поголеми отколку што претпоставуваат приврзаниците на премолчениот консензус и дека нашите општества ќе се покажат поотпорни отколку што тие предвидуваат.

Но можеби грешам. Можеби, на пример, целосно автономните корпорации едноставно ќе ги истиснат сите претпријатија водени од луѓе. И ако тоа е точно, тогаш суровата економска логика ќе наложи сè повеќе капитал да им се предава на машините. Во таквата иднина, за луѓето да ја изгубат моќта, не е потребно машините да ја соборат човечката цивилизација; доволно е логиката на капиталистичкото стопанисување да продолжи со истото темпо. Во тој случај, револуцијата на ВИ најмногу би наликувала на земјоделската револуција, кога новите начини на производство суштински ја промениле структурата на човечкото општество. Далеку од јасно е дали таа преобразба била пријатна за луѓето што ја доживеале; всушност, постојат значителни докази дека таа ја влошила човечката благосостојба со милениуми.

Не знам дали нè очекува таква иднина, а на други места и сум образложувал зошто не верувам во тоа. Но многу мои колеги — паметни, грижливи и совесни луѓе — веруваат дека ова веројатно ќе биде нашата иднина. Ако се во право, нашата борба против премолчениот консензус ќе биде уште потешка. Ќе мора да пливаме спротивно на економските текови и притоа да отфрлиме многу од нештата што се догма за индивидуалистите од класично-либералната традиција како мене. Тоа ќе биде опасен потфат, со сосема реална можност за неуспех. Но ако ова не е борба што вреди да се води, тогаш ниту една не вреди.

Задржувањето на приматот значи дека луѓето и човечките институции и понатаму мора да сносат одговорност. Тоа значи дека развивачите на ВИ треба да одговараат кога користат небезбедни развојни практики, но и дека луѓето и фирмите што користат ВИ треба да одговараат кога штетата е предизвикана од нивна злоупотреба или недостиг на надзор. За ова не е доволен само законот, туку е потребна и техничка инфраструктура за утврдување одговорност. Мора да постои врска меѓу луѓето и дејствата на нивните агенти, а агентите што не се поврзани со човек — доколку воопшто им се дозволи да учествуваат во легалната економија — мора да дејствуваат во рамки на заштитни ограничувања. Секоја можност агентите самостојно да основаат корпорации, да поседуваат имот или да водат судски постапки треба да се одобрува со исклучителна претпазливост, ако воопшто се одобри.

А во мојата индустрија можеме да почнеме сериозно да размислуваме како да изградиме интелигентни машини што се согласни со приматот на човекот. Можеме да изградиме агенти чии дозволи се разбирливи и ограничени, чии дејства можат да се ревидираат и чии овластувања корисниците можат да ги повлечат. Одговорноста за дејства што суштински влијаат врз другите не мора да значи надзор над секојдневниот приватен живот или крај на анонимното изразување. Можеме да се обврземе да ја штитиме приватноста на корисниците и суверенитетот на поединецот над сопствениот дигитален имот и податоци, вклучително и практичната можност тие податоци да се пренесат на друго место. Можеме да осмислуваме системи што им помагаат на луѓето да ги разбираат нештата и да донесуваат одлуки, покрај системите што извршуваат задачи. И можеме да проверуваме дали производите што ги создаваме ги прават своите корисници поспособни да дејствуваат во светот.

Ништо од ова не претставува целосен план за општество со натчовечка интелигенција. Не би му верувал на никого што тврди дека има таков план. Но ова е појдовна точка.

Иднината е обвиена во густа магла. Но сепак можеме да дејствуваме денес. За почеток, можеме заедно гласно да го именуваме премолчениот консензус и да ги изнесеме неговите контури на виделина. Секој од нас може радикално да ги прошири своите амбиции. Можеме да избереме да не дозволиме ВИ да нè ограничи, туку да го вложиме потребниот труд за таа да ги прошири нашите можности. Можеме да научиме да поставуваме сè посмели прашања, да го преиспитуваме светот со нов жар и решителност и притоа да ги користиме нашите моќни машини. Можеме да станеме нов вид човек — не трансчовек, туку човек со проширени можности.

Размислувам за ова кога го гледам мојот син, кој е сè уште бебе. Не сакам само да живее под грижата на добронамерни машини, колку и да му биде удобен животот што би му го овозможиле. Сакам да наследи свет во кој ќе може да поставува прашања што никому не му паднале на ум и да создава нешта што никој не се сетил да ги создаде. Не сакам да има поубав автомобил со поудобно совозачко седиште. Сакам воланот да биде во негови раце.

  • 2026

Автор

Dean Ball