OpenAI

18 november 2026

Intelligence Age

Den tysta samsynen

Av Dean Ball

Författarens anmärkning: Dagens essä är en bearbetning av en föreläsning som författaren nyligen höll inom ramen för föreläsningsserien Vik-Bailey vid Harvard. Inlägget återspeglar författarens egna åsikter, och inte nödvändigtvis OpenAI:s eller andra medarbetares.



Tack för att ni är här i dag. Just nu pågår ett av historiens mest betydelsefulla händelseförlopp inom cybersäkerhet: en rad kritiska säkerhetssårbarheter offentliggörs i det som vissa kallar ”svarta oktober”. Dessa sårbarheter har hittats i delar av internets grundläggande infrastruktur av banbrytande AI-system, och offentliggörandet ingår i en brådskande insats för att stärka programvarusäkerheten världen över. Detta är månadens akuta fråga; nästa månad kommer en annan. Att upptäcka sårbarheter i programvara är den förmåga med dubbla användningsområden som AI-system har uppnått i dag. Snart kommer en annan, och med den ett nytt brådskande projekt för att utnyttja dess goda sida innan illasinnade aktörer utnyttjar den onda. Alla dessa akuta frågor kommer oundvikligen att överlappa, och mycket av det vi i dag kallar ”AI-politik” kommer sannolikt att formas mitt i detta larm.

Men jag har inte kommit hit i dag för att tala om det som är reaktivt och brådskande. Jag vill i stället tala om vart utvecklingen kan vara på väg i ett större perspektiv. När akuta frågor avlöser varandra kan det vara svårt att tänka på dessa mer abstrakta och svårgripbara frågor. Men frågorna är viktiga. Utan en uppfattning om vilka framtider vi vill uppnå på lång sikt – och vilka vi vill undvika – kan vi landa i ett övergripande resultat som vi inte önskar, även om vi har fattat kloka beslut vid varje steg på vägen.

Det sägs ofta att teknikbranschen saknar en positiv vision för vart det den bygger kommer att föra oss. Jag håller inte med: San Francisco och andra centrum för entreprenörskap är fulla av positiva visioner för vår tekniska framtid. Människor utvecklar faktiskt flygande bilar, självkörande fordon, robotar i många storlekar och former, kärnfusion och, förstås, artificiell generell intelligens. Det vi saknar är i stället en positiv vision för vår institutionella framtid: hur ska allt detta fungera?

Det betyder dock inte att det inte finns någon institutionell framtidsvision. Tyvärr är den vision jag oftast stöter på inte någon jag skulle kalla positiv. När den alls uttrycks sker det oftast i viskningar. Men oftare förblir den outtalad och kan bara anas mellan raderna. Jag kallar den den tysta samsynen.

Föreställ er ett företag som kan göra nästan allt utan mänsklig arbetskraft. Dess AI-system bedriver forskning och utveckling, gör upptäckter, förhandlar avtal, fördelar kapital och tillverkar varor. Anta att företaget är bättre på detta än sina mänskliga konkurrenter, även när de tar AI till hjälp i sitt arbete. Om mänsklig inblandning bara bromsar verksamheten får mänskliga chefer och ägare starka incitament att släppa ratten. Om detta sker i hela världsekonomin kommer marknadskonkurrensens logik att driva människor att ge upp sin överordnade ställning i det globala näringslivet. Med tiden kan marknaden komma att tillgodose maskinernas efterfrågan lika mycket som, eller mer än, människors behov och önskemål.

Vad som händer därefter kan ingen veta. Kanske skulle människorna gynnas oerhört. Om maskinerna som hade tagit makten över oss tillskrev människan ett högt egenvärde, skulle vi kunna få del av deras arbete och det välstånd de skapar. Eller så kommer vi människor, berövade vår ekonomiska och i allt högre grad politiska makt, att få allt mindre betydelse i världen och allt mindre möjlighet att påverka dess utveckling. Kanske skulle ett fåtal människor få enastående makt och rikedom på bekostnad av en till stor del maktlös massa, eller så skulle vi alla dela samma maktlösa öde. Oavsett detaljerna är den gemensamma nämnaren i den tysta samsynen att människans överordnade ställning i världen som vi känner den upphör.

Inget i dessa scenarier kräver att AI gör uppror mot sina skapare. Inget kräver att dess ägare önskar att människan förlorar sin makt. Varje beslut att delegera kan vara rimligt i sitt sammanhang. Men sammantaget kan besluten skapa en värld där människor har avstått från den faktiska makten över stora delar av vår civilisation. Även om vi gör enastående framsteg i de svårlösta frågorna om AI-säkerhet och hur AI kan fås att följa mänskliga mål och värderingar, kan vi ändå finna oss underkastade en ny sorts maskinväsen. I den lyckliga versionen av framtiden kommer detta väsen, enligt den tysta samsynen, att vara godhjärtat – en maskin som vill människans bästa. En maskin, som det heter i Brautigans dikt, fylld av kärleksfull nåd.

Till dessa maskiner, säger den tysta samsynen, kommer vi att lämna över nycklarna till våra företag och i allt högre grad till våra styrande institutioner. De kommer att driva dem med bättre resultat, mindre resurser, större visdom och bättre omdöme än vi människor kan uppbåda. Så med tiden kommer vi att släppa ratten och låta de kärleksfulla maskinerna ta över körningen. Vi kommer att vara som passagerare i en bil – en mycket fin bil, kanske materiellt finare än något vi kan drömma om i dag – men likväl passagerare, utan kontroll över vart bilen är på väg. I den mån vi arbetar är det mest som en sorts ritual eller låtsaslek, något som snarare liknar ett spel för att underhålla vår art.

Vissa bedömare kommer att hävda att den tysta samsynen vilar på en felaktig premiss, eftersom vi människor inte har kontroll över världen ens i dag. Och den invändningen är värd att ha i åtanke: det finns inget ”vi” som bestämmer vad som ska göras. Vi lever i en radikalt decentraliserad värld, vare sig vi vill det eller inte. Men den insikten får inte heller få oss att luta oss tillbaka: även om ”vi” inte ”kontrollerar” världen har människor som kollektiv en överordnad ställning i den. Ingen djurart konkurrerar på allvar med oss om kontrollen över resurser. Vi bör förkasta den intellektuellt slappa föreställningen att människor kan styra världen uppifrån, men det får inte förväxlas med att förneka det uppenbara faktum att människor som kollektiv är jordens främsta aktör.

Vissa av dem som är beredda att sätta ord på den tysta samsynen tror att den beskriver en verkligt god framtid. Andra gör inte det, men har resignerat inför det oundvikliga. Den tysta samsynen är inte en samsyn för att alla är överens om att den är god, och den är inte heller en hemlig plan bland dem som utvecklar AI. Samsynen består helt enkelt i att människans förlust av sin överordnade ställning i världen är oundviklig, eller åtminstone i att det är mycket svårt att föreställa sig en annan framtidsvision som verkligen håller även i mötet med superintelligenta maskiner. En person kan uppriktigt motsätta sig det utfallet och ändå ha svårt att föreställa sig ett trovärdigt alternativ. Det avslöjande är att samsynen mestadels förblir tyst, på sin höjd uttryckt med dämpad röst.

Jag föraktar den tysta samsynen. Jag vägrar acceptera att människan ger upp sin överordnade ställning. Jag avskyr känslan av oundviklighet. Jag påminner mig om att jag inte skulle kunna se min lille son i hans vackra ögon om jag fogade mig i den tysta samsynen. Därför säger jag nej till den tysta samsynen. Och jag tror att tiden är inne att tala öppet om den, att skaka av oss vår till stor del omedvetna acceptans av denna vision.

Problemet är detta: den tysta samsynen blev en samsyn av en anledning. Det är svårt att beskriva hur människor ska kunna sitta kvar vid ratten sida vid sida med en maskinintelligens som vida överträffar vår egen. De flesta försök bygger på argument om att AI bara är ett verktyg, ett instrument för mönsterigenkänning utan förmåga till ”verklig förståelse”. Jag befarar att dessa argument inte håller inför den verklighet som väntar. Jag befarar att de är en annan form av självbelåtenhet – en hållning som främst bygger på att förneka vad AI kan göra, snarare än en övertygelse grundad i en konstruktiv vision för en framtid ledd av människor. Det går inte att hävda att AI-system saknar ”verklig förståelse” samtidigt som de gör framsteg med intellektuella problem som människor i årtionden och århundraden inte har lyckats lösa.

Varför anser jag då att människan måste behålla sin överordnade ställning? Det enkla svaret är att jag är människa, och jag är verkligen en människochauvinist som inte ber om ursäkt för det.

Men det finns också något djupare. Vår överordnade ställning vilar inte på vårt intellekt, inte på att vi behåller vårt monopol på ”verklig förståelse” för all framtid. Den vilar i stället på vårt förflutna.

För det var vi som reste oss ur leran. Vi som byggde de första samhällena av jord och sten. Vi som blickade upp mot stjärnorna och frågade varför. Vi som med våra strider och vår kärlek, vår avund och vår glädje upptäckte moral, etik och lag. Det var vi som sjöng och dansade, skrev och komponerade. Det var vi som skapade historien, och det var vi som skrev den. Det arvet är vårt. Den civilisation vi har byggt är en låga som vi har hållit vid liv, och den lågan tillhör oss. Vårt förflutna är ett storslaget arv som vi alla förvaltar. En del av det ansvaret är att delta i det som Michael Oakeshott kallade ”mänsklighetens samtal”, detta väldiga projekt som inleddes i urtiden.

Genom denna långa och vindlande historia formade vi en civilisation som i USA grundades på individens rättigheter, med vördnad för de vägar vi alla banar på vår färd genom världen. Människor har liv som kan utvecklas till det bättre eller sämre: vi skördar frukterna av våra kloka beslut och får bära konsekvenserna när vi gör fel. Rätten att gå sin egen väg hänger inte på att man är smartast eller klokast. Jag förlorar inte min ställning som medborgare för att min granne har bättre omdöme. Jag ser inget skäl till att en intelligentare maskin heller skulle upphäva den ställningen, och desto fler skäl att förhindra att det sker.

Vissa kanske hävdar att maskinerna också är arvingar, eftersom de har läst nästan allt som finns nedskrivet om detta arv. Och i någon mening är de det. Men en person som har läst vartenda brev på din familjs vind blir inte för den skull en del av din familj. AI-system kommer att ansluta sig till mänsklighetens samtal, först som åhörare och alltmer som deltagare, men de får inte dominera det eller göra det meningslöst. Att ge upp vår överordnade ställning är lika mycket ett svek mot våra förfäder som mot våra efterkommande. Om detta inte är en kamp värd att ta, är ingen kamp värd att ta.

Nu tror jag faktiskt att den tysta samsynens anhängare har fel om vad maskinell superintelligens kommer att innebära. Att de missar något viktigt om hur världen fungerar, att de blandar ihop intelligens med makt. Om man för fem eller tio år sedan hade beskrivit vad redan dagens AI-system klarar av för en anhängare av den tysta samsynen, skulle personen förmodligen ha förutspått en mycket högre arbetslöshet än vi faktiskt har i dag, och att människans maktförlust i stort skulle ha gått betydligt längre än den har gjort. Jag tror att människans kollektiva intelligens och förmåga är långt större än den tysta samsynens anhängare föreställer sig, och att våra samhällen kommer att visa sig mer motståndskraftiga än de förutspår.

Men jag kan ha fel. Det kan till exempel helt enkelt bli så att helt autonoma företag konkurrerar ut mänskligt företagande fullständigt. Och om det stämmer kommer ekonomins krassa logik att kräva att alltmer kapital lämnas över till maskinerna. I denna framtid kräver människans maktförlust inte att maskinerna störtar vår civilisation; det räcker att det kapitalistiska företagandets logik fortsätter att råda. AI-revolutionens närmaste motsvarighet skulle då vara jordbruksrevolutionen, när nya produktionsformer i grunden förändrade det mänskliga samhällets uppbyggnad. Det är långt ifrån självklart att denna omvandling var behaglig för människorna som upplevde den. Det finns tvärtom betydande belägg för att den försämrade människors välbefinnande i årtusenden.

Jag vet inte om det är denna framtid vi står inför, och i andra sammanhang har jag faktiskt argumenterat för att jag inte tror det. Men många av mina kollegor – intelligenta, omtänksamma och samvetsgranna människor – tror att detta sannolikt blir vår framtid. Om de har rätt blir vår kamp mot den tysta samsynen desto svårare. Vi kommer att behöva simma mot de ekonomiska strömmarna och därmed förkasta mycket av det som är dogmer för klassiskt liberala individualister som jag. Det blir ett riskfyllt företag, där ett misslyckande är långt ifrån osannolikt. Men om detta inte är en kamp värd att ta, är ingen kamp värd att ta.

Att behålla vår överordnade ställning innebär att människor och mänskliga institutioner även fortsättningsvis måste kunna ställas till svars. Det innebär att AI-utvecklare bör ställas till svars när de använder osäkra utvecklingsmetoder, men också att människor och företag som använder AI bör hållas ansvariga när deras felaktiga användning eller bristande tillsyn orsakar skada. Det kräver inte bara lagstiftning, utan också teknisk infrastruktur för att utkräva ansvar. Människor måste kunna kopplas till sina agenters handlingar. Agenter utan koppling till en människa måste omfattas av skyddsräcken – om de över huvud taget ska få verka inom den lagliga ekonomin. Möjligheten för agenter att självständigt bilda bolag, äga egendom eller föra talan i domstol bör beviljas med yttersta försiktighet, om alls.

Och i min bransch kan vi börja fundera på allvar över hur vi bygger intelligenta maskiner som är förenliga med människans överordnade ställning. Vi kan bygga agenter med begripliga och begränsade behörigheter, vars handlingar kan granskas och vars befogenheter användarna kan dra tillbaka. Att utkräva ansvar för handlingar som väsentligt påverkar andra behöver inte innebära övervakning av vanliga människors privatliv eller ett slut på rätten att yttra sig anonymt. Vi kan åta oss att skydda användarnas integritet och individens självbestämmande över sin digitala egendom och sina data, inklusive den praktiska möjligheten att flytta dessa data någon annanstans. Vi kan utforma system som hjälper människor att förstå och fatta beslut, liksom system som utför uppgifter. Och vi kan testa om produkterna vi bygger gör användarna bättre rustade att agera i världen.

Inget av detta är en fullständig plan för ett samhälle med övermänsklig intelligens. Jag skulle misstro den som påstod sig ha en sådan. Men det är en början.

Framtiden är höljd i tät dimma. Men vi kan ändå agera i dag. Tillsammans kan vi till att börja med sätta ord på den tysta samsynen, lyfta fram dess konturer i dagsljuset. Vi kan var och en låta våra ambitioner sträcka sig långt bortom dagens gränser. Vi kan välja att inte låta AI förminska oss, utan i stället göra det krävande arbete som behövs för att låta den få oss att växa. Vi kan lära oss att ställa allt djärvare frågor, att utforska världen med ny glöd och intensitet och att använda våra kraftfulla maskiner för att göra det. Vi kan bli en ny sorts människa – inte en transhuman människa, utan en människa som vuxit.

Jag tänker på det när jag ser på min lille son. Jag önskar honom mer än att bara bli omhändertagen av välvilliga maskiner, hur bekvämt ett liv de än skulle kunna ge honom. Jag vill att han ska ärva en värld där han kan ställa frågor som ingen har tänkt på att ställa, bygga saker som ingen har tänkt på att bygga. Jag vill inte att han ska få en finare bil med ett bekvämare passagerarsäte. Jag vill att han ska sitta vid ratten.

  • 2026

Författare

Dean Ball