Il consenso silenzioso
Nota dell’autore: Il saggio di oggi è tratto da una conferenza che l’autore ha tenuto di recente a Harvard nell’ambito del ciclo Vik-Bailey Lecture. Questo articolo riflette le opinioni personali dell’autore, che non coincidono necessariamente con quelle di OpenAI o di altri suoi dipendenti.
Grazie di essere qui oggi. Mentre parliamo, è in corso una delle più importanti serie di eventi nella storia della sicurezza informatica: la divulgazione di una serie di vulnerabilità critiche che alcuni chiamano “Ottobre nero”. Queste vulnerabilità, presenti in alcune infrastrutture fondamentali di Internet, sono state scoperte da sistemi di IA di frontiera. La loro divulgazione rientra in uno sforzo urgente per rafforzare la sicurezza del software in tutto il mondo. Questa è l’urgenza del mese; il mese prossimo ce ne sarà un’altra. La scoperta di vulnerabilità nel software è la capacità a duplice uso raggiunta oggi dai sistemi di IA, ma presto ne arriverà un’altra, che darà vita a un nuovo progetto urgente: sfruttarne gli aspetti positivi prima che soggetti malintenzionati ne sfruttino quelli negativi. Tutte queste urgenze finiranno inevitabilmente per sovrapporsi, ed è probabile che gran parte di ciò che oggi chiamiamo “politiche per l’IA” prenderà forma in mezzo a questo clamore.
Ma oggi non sono venuto a parlarvi di urgenze e di come reagire agli eventi. Voglio invece parlarvi della direzione che potremmo prendere, guardando al quadro generale. Sommersi da tante urgenze, può essere difficile riflettere su queste questioni più astratte e apparentemente lontane. Ma sono questioni importanti: senza un’idea dei futuri che vorremmo realizzare a lungo termine, e di quelli che vorremmo evitare, potremmo ritrovarci con un esito complessivo indesiderato, pur avendo preso decisioni sagge a ogni tappa del percorso.
Si osserva spesso che al settore tecnologico manca una visione positiva di dove ci porterà ciò che sta costruendo. Non sono d’accordo: San Francisco e altri centri imprenditoriali sono pieni di visioni positive del nostro futuro tecnologico. C’è davvero chi sta costruendo auto volanti, veicoli autonomi, robot di ogni forma e dimensione, chi lavora alla fusione nucleare e, naturalmente, all’intelligenza artificiale generale. Ciò che ci manca, invece, è una visione positiva del nostro futuro istituzionale: come funzionerà tutto questo?
Questo, però, non significa che non esista una visione istituzionale del futuro. Purtroppo, quella che incontro più spesso non è una visione che definirei positiva. Quando viene espressa, di solito lo si fa sussurrando. Più spesso, però, resta inespressa e si può cogliere solo tra le righe. La chiamo il consenso silenzioso.
Immaginate un’azienda capace di fare quasi tutto senza lavoro umano. I suoi sistemi di IA svolgono ricerca e sviluppo, fanno scoperte, negoziano contratti, allocano capitale e producono beni. Supponiamo che in queste attività sia più brava dei suoi concorrenti umani, anche quando questi potenziano il proprio lavoro con l’IA. Se il coinvolgimento umano serve solo a rallentare l’attività, i dirigenti e i proprietari umani avranno un forte incentivo a togliere le mani dal volante. Se questo avverrà in tutta l’economia mondiale, la logica della concorrenza di mercato spingerà gli esseri umani a rinunciare al proprio primato sul commercio globale. Col tempo, il mercato potrebbe finire per soddisfare le richieste delle macchine quanto, o più, di quanto soddisfi le richieste e i desideri delle persone.
Nessuno può sapere che cosa accadrà dopo. Forse gli esseri umani ne trarrebbero enormi benefici. Se le macchine che ci avessero inglobato riconoscessero agli esseri umani un grande valore intrinseco, potremmo diventare i beneficiari del loro lavoro e della ricchezza che generano. O forse, privati del potere economico e sempre più di quello politico, noi esseri umani ci ritroveremo sempre meno rilevanti nel mondo, sempre meno capaci di influenzare il corso degli eventi globali. Forse un numero ristretto di esseri umani deterrebbe un potere e una ricchezza straordinari, a spese di una massa largamente privata di ogni potere, oppure condivideremmo tutti lo stesso destino di impotenza. Al di là dei dettagli, il filo conduttore del consenso silenzioso è la fine del primato umano nel mondo come lo conosciamo.
Nulla in questi scenari richiede che l’IA si ribelli ai suoi creatori. Nulla richiede che i suoi proprietari desiderino privare gli esseri umani del loro potere. Ogni decisione di delegare può avere senso, presa singolarmente. Eppure, nel loro insieme, queste decisioni potrebbero produrre un mondo in cui le persone hanno rinunciato all’autorità effettiva su gran parte della nostra civiltà. Anche compiendo progressi straordinari nelle spinose questioni della sicurezza e dell’allineamento dell’IA, potremmo comunque ritrovarci sottomessi a un nuovo tipo di entità meccanica. Nella versione felice del futuro, ci direbbe il consenso silenzioso, quell’entità sarà benevola, una macchina che ha a cuore gli interessi degli esseri umani. Una macchina, come recita la poesia di Brautigan, di amorevole grazia.
A queste macchine, ci dice il consenso silenzioso, consegneremo le chiavi delle nostre aziende e, sempre più, delle nostre istituzioni di governo. Le gestiranno con più efficacia, più efficienza, più saggezza e più discernimento di quanto noi esseri umani siamo capaci di fare. E così, col tempo, toglieremo le mani dal volante e lasceremo che siano le macchine amorevoli a guidare. Saremo come passeggeri in un’auto, un’auto molto bella, forse più lussuosa di quanto possiamo sognare oggi, ma pur sempre passeggeri, senza alcun controllo sulla direzione del veicolo. Se lavoreremo ancora, sarà soprattutto una sorta di rituale o di recita, qualcosa di più simile a un gioco per intrattenere la nostra specie.
Alcuni osservatori sosterranno che il consenso silenzioso poggia su una premessa falsa, perché noi esseri umani, in realtà, non controlliamo il mondo nemmeno oggi. Ed è una critica che vale la pena tenere a mente: non esiste un “noi” che decide che cosa fare. Viviamo in un mondo radicalmente decentralizzato, che ci piaccia o no. Eppure, neanche questa osservazione dovrebbe farci abbassare la guardia: sebbene “noi” non “controlliamo” il mondo, gli esseri umani nel loro insieme esercitano un primato sulle vicende mondiali. Non esiste una specie animale che competa seriamente con noi per il controllo delle risorse. Dovremmo respingere l’idea, intellettualmente approssimativa, che gli esseri umani possano esercitare un controllo dall’alto sul mondo. Ma non dovremmo confondere questo rifiuto con la negazione di una realtà evidente: gli esseri umani, nel loro insieme, sono i protagonisti della Terra.
Alcuni di coloro che sono disposti a esplicitare il consenso silenzioso credono che si tratti di un futuro davvero positivo. Altri no, ma sono rassegnati alla sua inevitabilità. Il consenso silenzioso non è un consenso perché tutti concordano che sia positivo, né è un piano segreto di chi sviluppa l’IA. Il consenso riguarda semplicemente l’idea che la rinuncia al primato umano sulle vicende mondiali sia inevitabile, o quantomeno che sia molto difficile immaginare un’altra visione del futuro capace di reggere davvero all’avvento di macchine superintelligenti. Si può essere sinceramente contrari a questo esito e al tempo stesso faticare a immaginare una visione alternativa plausibile. Il segnale rivelatore è proprio che questo consenso resti perlopiù silenzioso, espresso al massimo sotto voce.
Disprezzo il consenso silenzioso. Rifiuto la rinuncia al primato umano. Detesto quel senso di inevitabilità. Ricordo a me stesso che non riuscirei a guardare il mio bambino nei suoi bellissimi occhi se mi piegassi al consenso silenzioso. E così, al consenso silenzioso, dico no. E credo sia giunto il momento di parlare apertamente del consenso silenzioso, di scuoterci dall’accettazione perlopiù inconsapevole di questa visione.
Il problema è questo: se il consenso silenzioso è diventato un consenso, c’è un motivo. È difficile descrivere come gli esseri umani potranno restare al volante accanto a un’intelligenza delle macchine enormemente superiore alla loro. La maggior parte dei tentativi di farlo si basa sulla tesi secondo cui l’IA è un semplice strumento, un mezzo per riconoscere schemi incapace di “autentica comprensione”. Temo che queste tesi non reggano alla realtà di ciò che ci attende. Temo che siano a loro volta una forma di compiacimento: una posizione fondata soprattutto sulla negazione di ciò che l’IA può fare, anziché una convinzione radicata in una visione concreta e propositiva di un futuro guidato dagli esseri umani. Non si può affermare che le IA siano prive di “autentica comprensione” proprio mentre arrivano a compiere progressi su problemi intellettuali le cui soluzioni sfuggono agli esseri umani da decenni e da secoli.
Perché, allora, credo che gli esseri umani debbano conservare il primato? La risposta più semplice è che sono un essere umano e, in effetti, sono un convinto sostenitore della superiorità della nostra specie, senza alcuna remora.
Ma c’è anche qualcosa di più profondo. Il nostro primato non si fonda sull’intelletto, né sul mantenere indefinitamente il monopolio dell’“autentica comprensione”. Il nostro primato si fonda invece sul nostro passato.
Perché siamo noi a essere emersi dal fango. Noi ad aver costruito la società primitiva con terra e pietra. Noi ad aver alzato gli occhi alle stelle e aver chiesto perché. Noi, con le nostre lotte e il nostro amore, la nostra invidia e la nostra gioia, ad aver scoperto la morale, l’etica e il diritto. Siamo noi ad aver cantato e danzato, scritto e composto. Siamo noi ad aver fatto la storia, e siamo noi ad averla scritta. Quell’eredità è nostra. La civiltà che abbiamo costruito è una fiamma che abbiamo custodito, e quella fiamma ci appartiene. Il nostro passato è un’eredità gloriosa di cui siamo tutti custodi. Questo compito comprende anche la nostra partecipazione a quella che Michael Oakeshott chiamava “la conversazione dell’umanità”, la grande impresa iniziata in tempi primordiali.
Attraverso quel passato lungo e tortuoso abbiamo forgiato una civiltà che, in America, è stata concepita ponendo a fondamento i diritti dell’individuo, nel profondo rispetto dei percorsi che ciascuno di noi traccia facendosi strada nel mondo. Noi esseri umani abbiamo vite che possono andare meglio o peggio: raccogliamo i frutti delle nostre decisioni sagge e ne paghiamo le conseguenze quando sbagliamo. Il diritto di percorrere la propria strada non dipende dall’essere i più intelligenti o i più saggi. Non perdo il mio status di cittadino perché il mio vicino ha più discernimento. Non vedo perché l’arrivo di una macchina più intelligente dovrebbe cancellare quello status; anzi, vedo ogni ragione per impedirlo.
Qualcuno potrebbe sostenere che anche le macchine, avendo letto quasi tutte le testimonianze scritte di questa eredità, ne siano eredi. E in un certo senso lo sono. Ma una persona che ha letto tutte le lettere nella soffitta di famiglia non diventa per questo un membro della famiglia. I sistemi di IA entreranno nella conversazione dell’umanità, prima come osservatori e sempre più come partecipanti, ma non devono dominarla né renderla irrilevante. Cedere il primato significa tradire i nostri antenati tanto quanto i nostri discendenti. Se non vale la pena combattere questa battaglia, non vale la pena combatterne nessuna.
Ora, io credo che i sostenitori del consenso silenzioso si sbaglino su ciò che sarà la superintelligenza delle macchine. Che sfugga loro qualcosa di importante su come funziona il mondo, che confondano l’intelligenza con il potere. Se cinque o dieci anni fa aveste descritto a un sostenitore del consenso silenzioso anche solo le capacità degli attuali sistemi di IA, probabilmente avrebbe previsto per oggi una disoccupazione molto più alta di quella reale e una perdita di potere degli esseri umani, in senso ampio, molto più avanzata di quanto sia. Credo che l’intelligenza e le capacità collettive degli esseri umani siano molto superiori a quanto suppongono i sostenitori del consenso silenzioso e che le nostre società si dimostreranno più solide di quanto prevedano.
Ma potrei sbagliarmi. Potrebbe semplicemente accadere, per esempio, che aziende del tutto autonome soppiantino completamente le imprese umane. E se così fosse, la cruda logica economica imporrebbe di affidare sempre più capitale alle macchine. In questo futuro, la perdita di potere non richiede che le macchine rovescino la civiltà umana: basta che la logica dell’impresa capitalistica prosegua il suo corso. In questo caso, il parallelo più vicino alla rivoluzione dell’IA sarebbe la rivoluzione agricola, quando nuovi modi di produzione cambiarono alla radice l’architettura della società umana. È tutt’altro che certo che quella trasformazione sia stata piacevole per gli esseri umani che la vissero; anzi, molti elementi indicano che abbia peggiorato il benessere umano per millenni.
Non so se sia questo il futuro che ci attende e, anzi, ho sostenuto altrove di non crederlo. Ma molti miei colleghi, persone intelligenti, sensibili e coscienziose, ritengono probabile che questo sia il nostro futuro. Se hanno ragione, la nostra lotta contro il consenso silenzioso sarà ancora più difficile. Dovremo nuotare contro la corrente dell’economia e, nel farlo, rifiutare molte delle idee che sono dogmi per gli individualisti di tradizione liberale classica come me. Sarà un’impresa pericolosa, nella quale il fallimento è tutt’altro che improbabile. Ma se non vale la pena combattere questa battaglia, non vale la pena combatterne nessuna.
Conservare il primato significa continuare a esigere che gli esseri umani e le loro istituzioni rispondano delle proprie azioni. Questo significa che chi sviluppa l’IA dovrebbe rispondere delle proprie pratiche di sviluppo non sicure, ma anche che le persone e le aziende che usano l’IA dovrebbero essere chiamate a risponderne quando a causare danni sono il loro uso improprio o la loro mancata supervisione. A questo scopo non basta la legge: serve anche un’infrastruttura tecnica che consenta di attribuire le responsabilità. Le azioni degli agenti devono essere riconducibili alle persone per conto delle quali operano. E gli agenti non riconducibili a un essere umano, ammesso che sia loro consentito operare nell’economia legale, devono farlo entro precisi limiti di sicurezza. Qualsiasi facoltà concessa agli agenti di costituire società, possedere beni o agire in giudizio in autonomia dovrebbe essere accordata con estrema cautela, ammesso che lo sia.
E nel mio settore possiamo iniziare a riflettere seriamente su come costruire macchine intelligenti compatibili con il primato umano. Possiamo costruire agenti con autorizzazioni comprensibili e limitate, azioni verificabili e un’autorità che gli utenti possano revocare. Rispondere delle azioni che incidono concretamente sugli altri non deve necessariamente comportare la sorveglianza della vita privata quotidiana o la fine della libertà di esprimersi in forma anonima. Possiamo impegnarci a tutelare la privacy degli utenti e la sovranità di ciascuno sui propri beni digitali e dati, compresa la possibilità concreta di trasferire quei dati altrove. Possiamo progettare sistemi che aiutino le persone a comprendere e a prendere decisioni, oltre a sistemi che svolgano compiti. E possiamo verificare se i prodotti che costruiamo rendano chi li usa più capace di agire nel mondo.
Niente di tutto questo costituisce un progetto completo per una società con un’intelligenza sovrumana. Diffiderei di chiunque affermasse di averne uno. Ma è un punto di partenza.
Il futuro è avvolto in una fitta nebbia. Ma possiamo comunque agire oggi. Insieme possiamo, tanto per cominciare, dare voce al consenso silenzioso, portarne alla luce i contorni. Possiamo, ciascuno di noi, ampliare radicalmente l’orizzonte delle nostre ambizioni. Possiamo scegliere di non lasciare che l’IA ci sminuisca e affrontare invece il difficile lavoro necessario perché ci renda più grandi. Possiamo imparare a porre domande sempre più audaci, a interrogare il mondo con rinnovato slancio e vigore, servendoci delle nostre potenti macchine. Possiamo diventare un nuovo tipo di essere umano: non un transumano, ma un essere umano dalle possibilità più ampie.
Ci penso quando guardo mio figlio, ancora così piccolo. Non desidero che su di lui veglino soltanto macchine benevole, per quanto agiata possa essere la vita che gli offrirebbero. Voglio che erediti un mondo in cui possa porre domande che nessuno ha mai pensato di porre, costruire cose che nessuno ha mai pensato di costruire. Non voglio che abbia un’auto più bella con un sedile del passeggero più comodo. Voglio che sia lui al volante.
- 2026


