Konsensusi i heshtur
Shënim i autorit: Eseja e sotme është përshtatur nga një leksion që autori mbajti së fundmi në kuadër të ciklit të leksioneve Vik-Bailey në Harvard. Ky postim pasqyron pikëpamjet personale të autorit dhe jo domosdoshmërisht ato të OpenAI apo të punonjësve të tjerë të saj.
Ju falënderoj që jeni këtu sot. Ndërsa flasim, po ndodh një nga vargjet më të rëndësishme të ngjarjeve në historinë e sigurisë kibernetike: po bëhen publike një sërë cenueshmërish kritike të sigurisë, të cilat disa po i quajnë “Tetori i zi”. Këto cenueshmëri në disa pjesë të infrastrukturës bazë të internetit u zbuluan nga sisteme avangardë të IA-së, dhe publikimi i tyre është pjesë e një përpjekjeje urgjente për të forcuar sigurinë e softuerit në mbarë botën. Kjo është çështja urgjente e këtij muaji; muajin tjetër do të ketë një tjetër. Zbulimi i cenueshmërive të softuerit është aftësia me përdorim të dyfishtë që sistemet e IA-së kanë arritur sot. Por së shpejti do të ketë një tjetër, e cila do të nxisë një projekt të ri urgjent për ta përdorur për të mirë, përpara se aktorët keqdashës ta përdorin për të keq. Të gjitha këto çështje urgjente do të mbivendosen në mënyrë të pashmangshme, dhe një pjesë e madhe e asaj që sot e quajmë “politikë për IA-në” ka të ngjarë të hartohet mes kësaj zhurmnaje.
Por nuk kam ardhur sot t’ju flas për çështjet që kërkojnë reagim të menjëhershëm e urgjent. Përkundrazi, dua t’ju flas për drejtimin që mund të marrin gjërat në planin e përgjithshëm. Mes një vërshimi të tillë urgjencash, mund të jetë e vështirë të mendosh për këto çështje më abstrakte e më pak të prekshme. Por këto pyetje kanë rëndësi: pa një ide për të ardhmet afatgjata që do të donim të arrinim — dhe ato që do të donim të shmangnim — mund të përfundojmë me një rezultat të përgjithshëm që nuk e duam, edhe nëse kemi marrë vendime të mençura në çdo hap.
Shpesh thuhet se industrisë së teknologjisë i mungon një vizion pozitiv për drejtimin ku do të na çojnë gjërat që po ndërton. Nuk jam dakord: San Francisko dhe qendra të tjera të sipërmarrjes janë plot me vizione pozitive për të ardhmen tonë teknologjike. Njerëzit vërtet po ndërtojnë makina fluturuese, automjete autonome, robotë të shumë madhësive e formave dhe po zhvillojnë shkrirjen bërthamore e, sigurisht, inteligjencë të përgjithshme artificiale. Ajo që na mungon është një vizion pozitiv për të ardhmen tonë institucionale: si do të funksionojë e gjithë kjo?
Megjithatë, kjo nuk do të thotë se nuk ka një vizion institucional për të ardhmen. Fatkeqësisht, vizioni që has më shpesh nuk është një vizion që do ta quaja pozitiv. Kur shprehet, nëse shprehet fare, zakonisht thuhet me pëshpërimë. Por më shpesh mbetet i pathënë dhe mund të dallohet vetëm nga ajo që nënkuptohet. Unë e quaj konsensusi i heshtur.
Merrni si shembull një kompani që mund të bëjë pothuajse gjithçka pa punë njerëzore. Sistemet e saj të IA-së kryejnë kërkim e zhvillim, bëjnë zbulime, negociojnë kontrata, shpërndajnë kapitalin dhe prodhojnë. Supozoni se ajo i bën këto gjëra më mirë se konkurrentët e saj njerëzorë, edhe kur këta e përforcojnë punën e tyre me IA. Nëse përfshirja njerëzore shërben vetëm për ta ngadalësuar biznesin, drejtuesit dhe pronarët njerëzorë do të kenë një nxitje të fortë për t’i hequr duart nga timoni. Nëse kjo ndodh në mbarë ekonominë botërore, logjika e konkurrencës në treg do t’i shtyjë njerëzit të heqin dorë nga roli i tyre parësor në tregtinë botërore. Me kalimin e kohës, tregu mund të arrijë t’u shërbejë kërkesave të makinave po aq sa, ose edhe më shumë se, kërkesave dhe dëshirave të njerëzve.
Askush nuk e di se çfarë ndodh më pas. Ndoshta njerëzit do të përfitonin jashtëzakonisht shumë. Nëse makinat që na kanë përfshirë nën vete do t’u njihnin njerëzve një vlerë të lartë në vetvete, ne mund të përfitonim nga puna e tyre dhe pasuria që ato krijojnë. Ose ndoshta, të privuar nga pushteti ekonomik dhe gjithnjë e më shumë nga ai politik, ne njerëzit do të kemi gjithnjë e më pak peshë në botë dhe gjithnjë e më pak mundësi për të ndikuar në rrjedhën e zhvillimeve botërore. Ndoshta një numër i vogël njerëzish do të zotëronte pushtet dhe pasuri të jashtëzakonshme në kurriz të shumicës së mbetur kryesisht pa pushtet, ose ndoshta të gjithë do të ndanim të njëjtin fat të humbjes së pushtetit. Pavarësisht hollësive, filli i përbashkët që përbën konsensusin e heshtur është fundi i rolit parësor të njerëzimit në botën siç e njohim.
Asgjë në këta skenarë nuk kërkon që IA-ja të ngrihet kundër krijuesve të saj. Asgjë nuk kërkon që pronarët e saj të dëshirojnë t’i privojnë njerëzit nga pushteti. Çdo vendim për të deleguar, i marrë më vete, mund të jetë i arsyeshëm. Por, të marra së bashku, këto vendime mund të krijojnë një botë ku njerëzit kanë hequr dorë nga autoriteti real mbi pjesën më të madhe të qytetërimit tonë. Edhe nëse bëjmë përparim të jashtëzakonshëm në çështjet tepër të ndërlikuara të sigurisë së IA-së dhe përputhjes së saj me synimet njerëzore, sërish mund të përfundojmë të nënshtruar ndaj një lloji të ri entiteti makinerik. Në versionin e lumtur të së ardhmes, do të na thoshte konsensusi i heshtur, ai entitet do të jetë dashamirës, një makinë që ka për zemër të mirën e njerëzve. Një makinë, siç thotë poezia e Brautigan-it, plot hir e dashuri.
Këtyre makinave, na thotë konsensusi i heshtur, do t’u dorëzojmë çelësat e kompanive tona dhe, gjithnjë e më shumë, të institucioneve tona qeverisëse. Ato do t’i drejtojnë më me efektivitet, më me efikasitet, me më shumë urtësi e gjykim më të mirë sesa mundemi ne njerëzit. Kështu, me kalimin e kohës, do t’i heqim duart nga timoni dhe do t’ua lëmë drejtimin makinave plot dashuri. Do të jemi si pasagjerë në një makinë — një makinë shumë të mirë, ndoshta me rehati materiale përtej asaj që mund të ëndërrojmë sot — por gjithsesi pasagjerë, pa kontroll mbi drejtimin që merr automjeti. Nëse do të punojmë, kjo do të jetë kryesisht një lloj rituali apo aktrimi, diçka më shumë si një lojë për të zbavitur llojin tonë.
Disa vëzhgues do të argumentojnë se konsensusi i heshtur mbështetet në një premisë të rreme, sepse ne njerëzit as sot nuk e kontrollojmë botën. Dhe kjo kritikë ia vlen të mbahet parasysh: nuk ka një “ne” që vendos se çfarë duhet bërë. Jetojmë në një botë skajshmërisht të decentralizuar, na pëlqen apo jo. Por as ky argument nuk duhet të na vërë në gjumë: ndonëse “ne” nuk e “kontrollojmë” botën, njerëzit së bashku kanë rol parësor në zhvillimet botërore. Nuk ka asnjë lloj kafshe që të konkurrojë seriozisht me ne për kontrollin mbi burimet. Duhet ta hedhim poshtë idenë e pamenduar mirë se njerëzit mund ta kontrollojnë botën nga lart poshtë, por këtë kundërshtim nuk duhet ta ngatërrojmë me mohimin e realitetit të qartë se njerëzit, së bashku, janë aktori kryesor në Tokë.
Disa nga ata që janë të gatshëm ta shprehin hapur konsensusin e heshtur besojnë se ai përfaqëson një të ardhme vërtet të mirë. Të tjerë nuk besojnë kështu, por janë pajtuar me pashmangshmërinë e saj. Konsensusi i heshtur nuk është konsensus sepse të gjithë bien dakord që është i mirë, dhe as është një plan i fshehtë mes njerëzve që ndërtojnë IA-në. Konsensusi është thjesht se humbja e rolit parësor të njerëzimit në zhvillimet botërore është e pashmangshme, ose të paktën se është shumë e vështirë të përfytyrohet një vizion tjetër për të ardhmen që t’i qëndrojë vërtet pranisë së makinave superinteligjente. Dikush mund ta kundërshtojë sinqerisht këtë përfundim dhe njëkohësisht ta ketë të vështirë të përfytyrojë një alternativë të besueshme. Fakti që konsensusi është kryesisht i heshtur, në rastin më të mirë i shprehur me zë të ulët, është shenja që e tradhton.
E përbuz konsensusin e heshtur. E refuzoj heqjen dorë nga roli parësor i njerëzimit. E urrej ndjesinë se kjo është e pashmangshme. Ia kujtoj vetes se nuk do të mund ta shihja tim bir foshnjë në sytë e tij të bukur nëse do t’i nënshtrohesha konsensusit të heshtur. Prandaj konsensusit të heshtur i them jo. Dhe besoj se ka ardhur koha të flasim hapur për konsensusin e heshtur, të shkundemi nga pranimi ynë kryesisht i pavetëdijshëm i këtij vizioni.
Problemi është ky: konsensusi i heshtur u bë konsensus për një arsye. Është e vështirë të përshkruhet se si njerëzit do ta mbajnë timonin në duar përkrah një inteligjence makinerike që e tejkalon jashtëzakonisht shumë të tyren. Shumica e përpjekjeve për ta bërë këtë mbështeten në argumentet se IA-ja është thjesht një mjet, një instrument për njohjen e modeleve që nuk është i aftë për “të kuptuar të mirëfilltë”. Druaj se këto argumente nuk i qëndrojnë realitetit që po vjen. Druaj se edhe ato janë një formë vetëkënaqësie — një qëndrim i mbështetur kryesisht në mohimin e asaj që mund të bëjë IA-ja, dhe jo një bindje e rrënjosur në një vizion pohues për një të ardhme të drejtuar nga njerëzit. Nuk mund të thuhet se sistemeve të IA-së u mungon “të kuptuarit e mirëfilltë” ndërkohë që ato përparojnë në probleme intelektuale, zgjidhjet e të cilave njerëzit nuk kanë arritur t’i gjejnë për dekada e shekuj.
Përse, atëherë, besoj se njerëzit duhet ta ruajnë rolin parësor? Përgjigjja e thjeshtë është se jam njeri dhe, në të vërtetë, jam një shovinist i llojit njerëzor që nuk ndien nevojë të kërkojë ndjesë për këtë.
Por ka edhe diçka më të thellë. Roli ynë parësor nuk mbështetet tek intelekti ynë, as te ruajtja pa fund e monopolit tonë mbi “të kuptuarit e mirëfilltë”. Përkundrazi, roli ynë parësor mbështetet tek e kaluara jonë.
Sepse jemi ne ata që dolëm nga balta. Ne që krijuam shoqërinë primitive nga dheu e guri. Ne që ngritëm sytë drejt yjeve dhe pyetëm përse. Ne, me përleshjet, dashurinë, zilinë dhe gëzimin tonë, që zbuluam moralin, etikën dhe ligjin. Jemi ne ata që kënduam e kërcyem, shkruam e kompozuam. Jemi ne ata që e bëmë historinë dhe jemi ne ata që e shkruam. Kjo trashëgimi është e jona. Qytetërimi që kemi ndërtuar është një flakë që e kemi mbajtur gjallë, dhe kjo flakë na përket neve. E kaluara jonë është një trashëgimi e lavdishme, kujdestarë të së cilës jemi të gjithë. Pjesë e këtij kujdestarie është pjesëmarrja jonë në atë që Michael Oakeshott e quajti “biseda e njerëzimit”, ajo sipërmarrje madhështore që nisi në kohët e lashta.
Përmes asaj të kaluare të gjatë e plot kthesa, ndërtuam një qytetërim që, në Amerikë, u konceptua me të drejtat e individit në themel dhe me nderim për rrugët që secili prej nesh hap gjatë udhëtimit nëpër botë. Ne njerëzit kemi jetë që mund të shkojnë më mirë ose më keq: korrim frytet e vendimeve tona të mençura dhe mbajmë pasojat kur gabojmë. E drejta për të ndjekur rrugën tënde nuk varet nga fakti nëse je më i zgjuari apo më i mençuri. Nuk e humbas statusin tim si qytetar sepse fqinji im ka gjykim më të mirë. Nuk shoh asnjë arsye pse ardhja e një makine më inteligjente duhet ta zhbëjë këtë status; përkundrazi, shoh çdo arsye për ta parandaluar një gjë të tillë.
Disa mund të argumentojnë se makinat, pasi kanë lexuar pothuajse gjithçka të shkruar nga kjo trashëgimi, janë gjithashtu trashëgimtare. Dhe, në njëfarë kuptimi, janë. Por një person që ka lexuar çdo letër në papafingon e familjes sate nuk bëhet për këtë arsye pjesëtar i familjes sate. Sistemet e IA-së do t’i bashkohen bisedës së njerëzimit, fillimisht si vëzhguese e gjithnjë e më shumë si pjesëmarrëse, por nuk duhet ta mbizotërojnë atë dhe as ta bëjnë të pakuptimtë. Të heqim dorë nga roli parësor do të thotë t’i tradhtojmë paraardhësit tanë po aq sa pasardhësit. Nëse kjo nuk është një betejë që ia vlen të bëhet, atëherë asnjë betejë nuk ia vlen.
Unë, nga ana ime, besoj se përkrahësit e konsensusit të heshtur gabohen për atë që do të jetë superinteligjenca e makinave. Se u shpëton diçka e rëndësishme mbi mënyrën se si funksionon bota, se e ngatërrojnë inteligjencën me pushtetin. Po t’ia kishit përshkruar një përkrahësi të konsensusit të heshtur pesë apo dhjetë vjet më parë aftësitë qoftë edhe të sistemeve të sotme të IA-së, ai me gjasë do të kishte parashikuar se papunësia sot do të ishte shumë më e lartë nga sa është në të vërtetë dhe se humbja e pushtetit të njerëzve në përgjithësi do të kishte përparuar shumë më tepër nga sa ka përparuar realisht. Besoj se inteligjenca dhe aftësia kolektive e njerëzve janë shumë më të mëdha nga sa mendojnë përkrahësit e konsensusit të heshtur dhe se shoqëritë tona do të rezultojnë më të qëndrueshme nga sa parashikojnë ata.
Por mund të jem gabim. Mund të ndodhë thjesht, për shembull, që korporatat plotësisht autonome t’i nxjerrin krejtësisht jashtë konkurrencës sipërmarrjet njerëzore. Dhe nëse kjo është e vërtetë, logjika e ftohtë ekonomike do të diktojë që gjithnjë e më shumë kapital t’u dorëzohet makinave. Në këtë të ardhme, humbja e pushtetit të njerëzve nuk kërkon që makinat të përmbysin qytetërimin njerëzor; kërkon thjesht që logjika e sipërmarrjes kapitaliste të vijojë me të njëjtin ritëm. Në këtë rast, revolucioni i IA-së do ta gjente analogjinë më të afërt te revolucioni bujqësor, kur mënyrat e reja të prodhimit ndryshuan rrënjësisht strukturën e shoqërisë njerëzore. Nuk është aspak e qartë nëse ky transformim ishte i këndshëm për njerëzit që e përjetuan; në fakt, ka prova të shumta se ai e përkeqësoi mirëqenien njerëzore për mijëvjeçarë.
Nuk e di nëse kjo është e ardhmja që na pret, dhe në fakt kam argumentuar gjetkë se nuk besoj të jetë e tillë. Por shumë nga kolegët e mi — njerëz të zgjuar, të kujdesshëm dhe të ndërgjegjshëm — besojnë se kjo ka gjasa të jetë e ardhmja jonë. Nëse kanë të drejtë, beteja jonë kundër konsensusit të heshtur do të jetë edhe më e vështirë. Do të na duhet të notojmë kundër rrymës së ekonomisë dhe, duke bërë këtë, të hedhim poshtë shumë prej parimeve që janë dogmë për individualistët e liberalizmit klasik si unë. Kjo do të jetë një sipërmarrje e rrezikshme, me mundësi aspak të vogla dështimi. Por nëse kjo nuk është një betejë që ia vlen të bëhet, atëherë asnjë betejë nuk ia vlen.
Të ruajmë rolin parësor do të thotë të ruajmë detyrimin e njerëzve dhe institucioneve njerëzore për të dhënë llogari. Kjo do të thotë që zhvilluesit e IA-së duhet të mbajnë përgjegjësi kur përdorin praktika të pasigurta zhvillimi, por edhe që njerëzit dhe firmat që përdorin IA-në duhet të mbajnë përgjegjësi kur dëmi shkaktohet nga keqpërdorimi ose mungesa e mbikëqyrjes prej tyre. Për këtë nevojitet jo vetëm ligji, por edhe infrastruktura teknike që mundëson llogaridhënien. Veprimet e agjentëve duhet të lidhen me njerëzit përgjegjës për ta. Ndërsa agjentët që nuk lidhen me asnjë njeri — nëse do të lejohen fare të marrin pjesë në ekonominë e ligjshme — duhet ta bëjnë këtë brenda kufizimeve mbrojtëse. Çdo e drejtë që u jepet agjentëve për të krijuar korporata, për të zotëruar pronë apo për të marrë pjesë në procese gjyqësore në mënyrë autonome duhet dhënë me kujdes të jashtëzakonshëm, nëse jepet fare.
Dhe në industrinë time, mund të fillojmë të mendojmë seriozisht se si të ndërtojmë makina inteligjente të pajtueshme me rolin parësor të njerëzimit. Mund të ndërtojmë agjentë me leje të kuptueshme e të kufizuara, veprimet e të cilëve mund të auditohen dhe autoriteti i të cilëve mund të revokohet nga përdoruesit. Llogaridhënia për veprime që ndikojnë ndjeshëm te të tjerët nuk ka pse të nënkuptojë mbikëqyrjen e jetës së zakonshme private apo fundin e të shprehurit në mënyrë anonime. Mund të angazhohemi për privatësinë e përdoruesve dhe sovranitetin e individit mbi pronën dhe të dhënat e veta digjitale, përfshirë mundësinë praktike për t’i transferuar ato të dhëna diku tjetër. Mund të projektojmë sisteme që i ndihmojnë njerëzit të kuptojnë dhe të marrin vendime, krahas sistemeve që kryejnë detyra. Dhe mund të testojmë nëse produktet që ndërtojmë i bëjnë përdoruesit e tyre më të aftë për të vepruar në botë.
Asgjë nga këto nuk përbën një plan të plotë për një shoqëri me inteligjencë mbinjerëzore. Nuk do t’i besoja askujt që do të pretendonte se ka një të tillë. Por është një pikënisje.
E ardhmja është mbështjellë nga një mjegull e dendur. Por ne ende mund të veprojmë sot. Së bashku, për fillim, mund ta themi me zë të lartë emrin e konsensusit të heshtur dhe t’i nxjerrim konturet e tij në dritë. Secili prej nesh mund ta zgjerojë rrënjësisht horizontin e ambicieve të veta. Mund të zgjedhim të mos e lejojmë IA-në të na zvogëlojë, por të bëjmë përpjekjen e vështirë që duhet për ta lënë të na zgjerojë mundësitë. Mund të mësojmë të bëjmë pyetje gjithnjë e më të guximshme, ta hetojmë botën me vrull e ngulm të ri dhe të përdorim makinat tona të fuqishme për këtë qëllim. Mund të bëhemi një lloj i ri njeriu — jo një njeri transhuman, por një njeri me mundësi më të gjera.
Mendoj për këtë kur shoh tim bir foshnjë. Nuk dua që ai thjesht të jetë nën kujdesin e makinave dashamirëse, sado të rehatshme ta bëjnë ato jetën e tij. Dua që ai të trashëgojë një botë ku mund të bëjë pyetje që askush nuk ka menduar t’i bëjë, të ndërtojë gjëra që askush nuk ka menduar t’i ndërtojë. Nuk dua që ai të ketë një makinë më të bukur me një sedilje pasagjeri më të rehatshme. Dua që ai të ketë timonin në duar.
- 2026


