OpenAI

2026 m. lapkričio 18 d.

Intelekto amžius

Tylusis sutarimas

Autorius – Dean Ball

Autoriaus pastaba: Ši esė parengta pagal paskaitą, kurią autorius neseniai skaitė Harvarde, „Vik-Bailey“ paskaitų cikle. Šiame įraše išsakoma paties autoriaus nuomonė, nebūtinai sutampanti su OpenAI ar kitų jos darbuotojų nuomone.



Ačiū, kad šiandien atėjote. Kol kalbamės, vyksta viena reikšmingiausių kibernetinio saugumo įvykių serijų istorijoje: viešinamos kritinės saugumo spragos, o kai kas tai vadina „juoduoju spaliu“. Šias spragas esminėse interneto infrastruktūros dalyse aptiko priešakinės DI sistemos. Jų atskleidimas – skubių pastangų sustiprinti programinės įrangos saugumą visame pasaulyje dalis. Tai skubiausias šio mėnesio klausimas; kitą mėnesį bus kitas. Programinės įrangos spragų aptikimas – dvejopo naudojimo gebėjimas, kurį DI sistemos įgijo šiandien. Tačiau netrukus atsiras kitas, ir dėl jo vėl reikės skubiai imtis projekto, kad teigiamos jo galimybės būtų išnaudotos anksčiau, nei piktavaliai pasinaudos neigiamomis. Visi šie skubūs klausimai neišvengiamai persipins, ir didžioji dalis to, ką šiandien vadiname „DI politika“, tikriausiai bus formuojama šiame šurmulyje.

Tačiau šiandien atėjau su jumis kalbėti ne apie skubius reikalus ir būtinybę į juos reaguoti. Verčiau noriu pakalbėti apie tai, kur visa tai gali nuvesti žvelgiant plačiau. Kai užgriūva tiek skubių reikalų, gali būti sunku galvoti apie šiuos abstraktesnius, nuo kasdienybės nutolusius klausimus. Tačiau šie klausimai svarbūs: jei nesuvoksime, kokios ilgalaikės ateities norime ir kokios siekiame išvengti, galime sulaukti nepageidaujamo bendro rezultato, net jei kiekviename žingsnyje priimsime išmintingus sprendimus.

Dažnai sakoma, kad technologijų sektoriui stinga pozityvios vizijos, kur mus nuves jo kuriami dalykai. Nesutinku: San Fransiske ir kituose verslumo centruose apstu pozityvių mūsų technologinės ateities vizijų. Žmonės iš tikrųjų kuria skraidančius automobilius, autonomines transporto priemones, įvairiausių dydžių ir formų robotus, branduolių sintezės technologijas ir, žinoma, bendrąjį dirbtinį intelektą. Mums veikiau trūksta pozityvios institucinės ateities vizijos: kaip visa tai veiks?

Tačiau tai nereiškia, kad institucinės ateities vizijos visai nėra. Deja, dažniausiai sutinkamos vizijos nepavadinčiau pozityvia. Jei ji apskritai išsakoma, tai dažniausiai pašnibždomis. Tačiau dar dažniau ji lieka neišsakyta, įžvelgiama tik tarp eilučių. Vadinu ją tyliuoju sutarimu.

Įsivaizduokite įmonę, kuri beveik viską gali atlikti be žmonių darbo. Jos DI sistemos vykdo mokslinius tyrimus ir eksperimentinę plėtrą, daro atradimus, derasi dėl sutarčių, paskirsto kapitalą ir gamina. Tarkime, šiuos darbus ji atlieka geriau nei žmonių valdomos konkurentės, net kai tie žmonės savo darbui pasitelkia DI. Jei žmonių dalyvavimas tik lėtina verslą, įmonių vadovai ir savininkai turės stiprią paskatą paleisti vairą iš rankų. Jei taip nutiks visoje pasaulio ekonomikoje, rinkos konkurencijos logika skatins žmones atsisakyti savo viršenybės pasauliniame versle. Ilgainiui rinka mašinų poreikius gali imti tenkinti tiek pat ar net labiau nei žmonių poreikius ir norus.

Kas bus toliau, galime tik spėlioti. Galbūt žmonės iš to turėtų milžiniškos naudos. Jei mus savo valdžion perėmusios mašinos labai vertintų žmones pačius savaime, galėtume naudotis jų darbo vaisiais ir kuriamais turtais. O galbūt netekę ekonominės ir vis labiau prarasdami politinę galią mes, žmonės, pasaulyje taptume vis mažiau reikšmingi ir vis mažiau pajėgūs lemti pasaulio įvykių eigą. Galbūt saujelė žmonių įgytų nepaprastą galią ir turtus daugumos, iš kurios atimta galia, sąskaita, o gal mūsų visų lauktų tas pats bejėgiškumo likimas. Kad ir kokios būtų detalės, visus šiuos scenarijus siejanti tyliojo sutarimo esmė – žmonių viršenybės mums pažįstamame pasaulyje pabaiga.

Nė vienam iš šių scenarijų nereikia, kad DI sukiltų prieš savo kūrėjus. Nereikia ir to, kad jo savininkai norėtų atimti iš žmonių galią. Kiekvienas sprendimas perduoti užduotis savaime gali būti pagrįstas. Tačiau visi kartu šie sprendimai galėtų sukurti pasaulį, kuriame žmonės būtų atsisakę realios galios valdyti didžiąją mūsų civilizacijos dalį. Net jei padarytume nepaprastą pažangą spręsdami itin keblius DI saugos ir jo suderinimo su žmonių tikslais klausimus, vis tiek galėtume atsidurti naujo pobūdžio mašininės esybės valdžioje. Pagal laimingą ateities scenarijų, kaip teigtų tylusis sutarimas, ši esybė būtų gera – mašina, kuriai nuoširdžiai rūpi žmonių gerovė. Mašina, kaip rašoma Brautigano eilėraštyje, kupina meilės ir malonės.

Tylusis sutarimas byloja, kad šioms mašinoms perduosime savo įmonių, o ilgainiui ir vis daugiau valdžios institucijų raktus. Jos jas valdys veiksmingiau ir efektyviau, pasitelkdamos didesnę išmintį ir priimdamos geresnius sprendimus, nei pajėgiame mes, žmonės. Tad ilgainiui patrauksime rankas nuo vairo ir leisime vairuoti mylinčioms mašinoms. Būsime tarsi automobilio keleiviai – labai gero automobilio, galbūt materialiniu požiūriu geresnio, nei šiandien galime įsivaizduoti, – bet vis tiek tik keleiviai, negalintys spręsti, kur jis važiuoja. Jei ir dirbsime, tai daugiausia bus savotiškas ritualas ar vaidyba, veikiau žaidimas mūsų rūšiai pramoginti.

Kai kurie stebėtojai teigs, kad tylusis sutarimas remiasi klaidinga prielaida, nes mes, žmonės, ir šiandien pasaulio nevaldome. Į šią kritiką verta atsižvelgti: nėra vieningo „mes“, kuris spręstų, ką daryti. Norime to ar ne, gyvename itin decentralizuotame pasaulyje. Tačiau ir ši mintis neturėtų mūsų užliūliuoti: nors „mes“ pasaulio „nevaldome“, žmonės kaip visuma vis dėlto lemia pasaulio reikalus. Nėra jokios gyvūnų rūšies, kuri rimtai su mumis varžytųsi dėl išteklių kontrolės. Turėtume atmesti intelektualiai aplaidžią mintį, kad žmonės gali valdyti pasaulį iš viršaus, tačiau neturėtume to painioti su akivaizdaus fakto neigimu: žmonija yra pagrindinė Žemėje veikianti jėga.

Kai kurie žmonės, pasiryžę garsiai įvardyti tylųjį sutarimą, mano, kad tokia ateitis išties gera. Kiti taip nemano, bet yra susitaikę su jos neišvengiamumu. Tylusis sutarimas vadinamas sutarimu ne todėl, kad visi jį laiko geru; tai nėra ir slaptas DI kuriančių žmonių planas. Tiesiog sutariama, kad žmonės neišvengiamai atsisakys viršenybės pasaulio reikaluose arba bent jau kad labai sunku įsivaizduoti kitokią ateities viziją, kuri iš tiesų atlaikytų superintelektualių mašinų atsiradimą. Žmogus gali nuoširdžiai priešintis tokiai baigčiai, nors jam ir sunku įsivaizduoti įtikinamą alternatyvą. Daug ką išduoda tai, kad šis sutarimas dažniausiai nutylimas, o geriausiu atveju išsakomas pusbalsiu.

Aš niekinu tylųjį sutarimą. Nesutinku atsisakyti žmonių viršenybės. Man atgrasus šis neišvengiamumo jausmas. Primenu sau, kad negalėčiau pažvelgti į gražias savo mažylio sūnaus akis, jei nusilenkčiau tyliajam sutarimui. Todėl tyliajam sutarimui sakau „ne“. Ir manau, kad atėjo metas apie tylųjį sutarimą kalbėti atvirai, atsikratyti dažniausiai nesąmoningo susitaikymo su šia vizija.

Bėda ta, kad tylusis sutarimas įsivyravo ne be priežasties. Sunku nusakyti, kaip žmonės išlaikys vairą savo rankose greta mašininio intelekto, kuris juos smarkiai pranoks. Dauguma bandymų tai paaiškinti remiasi argumentais, kad DI tėra įrankis – dėsningumų atpažinimo priemonė, negebanti „iš tikrųjų suprasti“. Bijau, kad šie argumentai neatlaikys artėjančios tikrovės išbandymo. Bijau, kad tai tik dar viena savęs raminimo forma – pozicija, daugiausia grindžiama DI gebėjimų neigimu, o ne įsitikinimu, kylančiu iš pozityvios žmonių valdomos ateities vizijos. Negalime teigti, kad DI sistemoms stinga „tikro supratimo“, kai jos ima daryti pažangą spręsdamos intelektinius uždavinius, kurių žmonėms nepavyko išspręsti dešimtmečius ar net šimtmečius.

Kodėl tuomet manau, kad žmonės privalo išlaikyti viršenybę? Paprastas atsakymas – nes pats esu žmogus ir išties neslepiu savo šovinizmo žmonių naudai.

Tačiau yra ir gilesnė priežastis. Mūsų viršenybė remiasi ne mūsų intelektu ir ne gebėjimu amžinai išsaugoti „tikro supratimo“ monopolį. Mūsų viršenybė remiasi mūsų praeitimi.

Juk būtent mes pakilome iš purvo. Mes iš žemės ir akmens sukūrėme pirmykštę visuomenę. Mes žvelgėme į žvaigždes ir klausėme „kodėl?“ Mes, kovojantys ir mylintys, pavydintys ir besidžiaugiantys, atradome moralę, etiką ir teisę. Būtent mes dainavome ir šokome, rašėme ir kūrėme muziką. Būtent mes kūrėme istoriją ir būtent mes ją užrašėme. Šis palikimas yra mūsų. Mūsų sukurta civilizacija – tai mūsų puoselėta liepsna, ir ta liepsna priklauso mums. Mūsų praeitis – didingas palikimas, kurį saugome visi. Dalis šios pareigos – dalyvauti tame, ką Michaelas Oakeshottas pavadino „žmonijos pokalbiu“, tame didžiame darbe, pradėtame pirmykščiais laikais.

Per šią ilgą ir vingiuotą istoriją sukūrėme civilizaciją, kurios pamatu Amerikoje tapo asmens teisės ir pagarba keliams, kuriuos kiekvienas skinamės gyvendami šiame pasaulyje. Žmonių gyvenimai gali klostytis geriau arba blogiau: skiname išmintingų sprendimų vaisius ir patiriame pasekmes, kai klystame. Teisė eiti savo keliu nepriklauso nuo to, ar esi sumaniausias, ar išmintingiausias. Neprarandu savo, kaip piliečio, statuso vien todėl, kad mano kaimynas priima geresnius sprendimus. Nematau priežasties, kodėl protingesnės mašinos atsiradimas turėtų tą statusą panaikinti, ir matau visas priežastis tam užkirsti kelią.

Kai kas gali teigti, kad mašinos, perskaičiusios beveik visą rašytinį šio palikimo paveldą, irgi yra jo paveldėtojos. Tam tikra prasme taip ir yra. Tačiau žmogus, perskaitęs visus jūsų šeimos palėpėje saugomus laiškus, dėl to netampa jūsų šeimos nariu. DI sistemos prisijungs prie žmonijos pokalbio – iš pradžių kaip stebėtojos, o ilgainiui vis labiau kaip dalyvės, – tačiau jos neturi jame dominuoti ar paversti jo beprasmiu. Užleisti viršenybę reiškia išduoti ir mūsų protėvius, ir mūsų palikuonis. Jei dėl to neverta kovoti, neverta kovoti dėl nieko.

Aš manau, kad tyliojo sutarimo šalininkai klysta dėl to, koks bus mašininis superintelektas. Kad jie nesupranta kai ko svarbaus apie tai, kaip veikia pasaulis, ir painioja intelektą su galia. Jei prieš penkerius ar dešimt metų tyliojo sutarimo šalininkui būtumėte apibūdinę net ir dabartinių DI sistemų gebėjimus, jis tikriausiai būtų numatęs, kad nedarbas šiandien bus gerokai didesnis, nei yra iš tikrųjų, o žmonės apskritai bus praradę kur kas daugiau galios, nei iš tiesų prarado. Manau, kad kolektyvinis žmonių intelektas ir gebėjimai gerokai pranoksta tai, ką įsivaizduoja tyliojo sutarimo šalininkai, o mūsų visuomenės pasirodys atsparesnės, nei jie prognozuoja.

Tačiau galiu klysti. Gali tiesiog paaiškėti, pavyzdžiui, kad visiškai autonominės korporacijos iš rinkos visai išstums žmonių valdomas įmones. Jei taip nutiks, gryna ekonominė logika diktuos, kad mašinoms būtų perduodama vis daugiau kapitalo. Tokioje ateityje žmonių galios praradimui nereikia, kad mašinos nuverstų žmonių civilizaciją; pakanka, kad kapitalistinio verslo logika ir toliau veiktų visu tempu. Šiuo atveju artimiausias DI revoliucijos atitikmuo būtų žemės ūkio revoliucija, kai nauji gamybos būdai iš esmės pakeitė žmonių visuomenės sandarą. Visai neaišku, ar šis virsmas buvo malonus jį išgyvenusiems žmonėms; iš tiesų yra nemažai įrodymų, kad jis tūkstantmečiams pablogino žmonių gerovę.

Nežinau, ar mūsų laukia tokia ateitis; kitur netgi esu argumentavęs, kodėl tuo netikiu. Tačiau daugelis mano kolegų – protingų, rūpestingų ir sąžiningų žmonių – mano, kad būtent tokia ateitis tikėtina. Jei jie teisūs, mūsų kova su tyliuoju sutarimu bus dar sunkesnė. Turėsime plaukti prieš ekonomikos srovę ir atsisakyti daugelio dalykų, kurie tokiems klasikinio liberalizmo ir individualizmo šalininkams kaip aš yra dogmos. Tai bus pavojingas sumanymas, o nesėkmės tikimybė – tikrai nemenka. Tačiau jei dėl to neverta kovoti, neverta kovoti dėl nieko.

Išlaikyti viršenybę reiškia išlaikyti ir žmonių bei jų institucijų atskaitomybę. Tai reiškia, kad DI kūrėjai turėtų atsakyti už nesaugius kūrimo metodus, tačiau DI naudojantys žmonės ir įmonės taip pat turėtų atsakyti už žalą, kilusią dėl netinkamo jo naudojimo ar nepakankamos priežiūros. Tam reikia ne tik teisės normų, bet ir techninės atskaitomybės infrastruktūros. Žmonės turi būti susieti su savo agentų veiksmais, o su jokiu žmogumi nesusietiems agentams, jei jiems apskritai leidžiama dalyvauti teisėtoje ekonominėje veikloje, turi būti taikomi saugos apribojimai. Bet kokia galimybė agentams savarankiškai steigti įmones, turėti nuosavybės ar bylinėtis turėtų būti suteikiama itin atsargiai, jei apskritai suteikiama.

O mano sektoriuje galime pradėti rimtai svarstyti, kaip kurti intelektualias mašinas, kurios būtų suderinamos su žmonių viršenybe. Galime kurti agentus, kurių leidimai būtų aiškūs ir riboti, kurių veiksmus būtų galima audituoti ir kurių įgaliojimus naudotojai galėtų atšaukti. Atskaitomybė už veiksmus, darančius reikšmingą poveikį kitiems, nebūtinai reiškia įprasto privataus gyvenimo stebėjimą ar galimybės anonimiškai reikšti mintis pabaigą. Galime įsipareigoti saugoti naudotojų privatumą ir asmens teisę savarankiškai valdyti savo skaitmeninį turtą bei duomenis, įskaitant realią galimybę tuos duomenis perkelti kitur. Galime kurti sistemas, padedančias žmonėms geriau suprasti ir priimti sprendimus, taip pat sistemas, kurios atlieka užduotis. Ir galime tikrinti, ar mūsų kuriami produktai padeda naudotojams tapti pajėgesniems veikti pasaulyje.

Visa tai nėra išsamus visuomenės, kurioje egzistuoja žmogų pranokstantis intelektas, planas. Nepasitikėčiau niekuo, kas tvirtintų tokį planą turįs. Tačiau nuo to galima pradėti.

Ateitį gaubia tirštas rūkas. Tačiau veikti galime jau šiandien. Pirmiausia galime drauge garsiai įvardyti tylųjį sutarimą ir iškelti jo kontūrus į dienos šviesą. Kiekvienas iš mūsų galime gerokai išplėsti savo užmojus. Galime neleisti DI mūsų sumenkinti ir verčiau imtis sunkaus darbo, kad jis padėtų mums augti. Galime išmokti kelti vis drąsesnius klausimus, su nauju įkarščiu ir atkaklumu tyrinėti pasaulį ir tam pasitelkti savo galingas mašinas. Galime tapti naujais žmonėmis – ne transžmonėmis, o platesnių galimybių žmonėmis.

Apie tai galvoju žiūrėdamas į savo mažylį sūnų. Nenoriu, kad jį tik globotų geranoriškos mašinos, kad ir kokį patogų gyvenimą jos suteiktų. Noriu, kad jis paveldėtų pasaulį, kuriame galėtų užduoti klausimus, kurių niekas dar nesugalvojo, ir kurti tai, ko niekas dar nesumanė. Nenoriu, kad jis turėtų gražesnį automobilį su minkštesne keleivio sėdyne. Noriu, kad vairas būtų jo rankose.

  • 2026 m.

Autorius

Dean Ball