Ti presentiamo L'era dell'intelligenza

“Basterà… affidarsi a queste barriere di pergamena contro lo spirito invasivo del potere?”
—James Madison, Federalista n. 48

Siamo lieti di inaugurare L'era dell'intelligenza, il blog del nuovo team Strategic Futures di OpenAI. Siamo un piccolo team con un obiettivo comune: rispondere a una domanda fondamentale. Come dovrebbe riorganizzarsi una società libera per tutelare i diritti e la capacità d'azione degli individui, aprendosi al contempo all'avvento di un'IA trasformativa?

Nella più ampia comunità che si occupa di sicurezza e politiche dell'IA, questioni come questa vengono talvolta definite rischi di concentrazione del potere. Il nostro team nasce dalla convinzione che, nel lungo periodo, questa categoria di rischi sia la più vasta, la più grave e la più difficile da affrontare sul piano concettuale. Perché?

Lo Stato moderno è il risultato di un lungo e discontinuo processo di negoziazione fra diversi centri di potere, come i proprietari di capitali e materie prime, i detentori del potere politico e il popolo. Alla base, il potere politico e militare si è fondato sul lavoro. Detenere il potere politico significa possedere il monopolio dell'uso legittimo della forza. Nel corso di tutta la storia umana, quel monopolio è stato esercitato da soldati e da quelli che oggi chiamiamo “agenti di polizia”, insieme a un vasto apparato burocratico civile e militare. Certo, a questo si aggiungevano numerosi strumenti tecnologici, ma il sistema era essenzialmente gestito da esseri umani, il cui sostegno era necessario per mantenerlo in funzione. E l'intero apparato, composto da soldati, strumenti e relativa burocrazia, era finanziato dalle imposte sui salari o sulla produzione generata da persone che dovevano essere disposte a pagarle. In sostanza, il potere è dipeso dalla cooperazione e dal consenso su larga scala di molti esseri umani. David Hume espresse in modo conciso questo assunto, spesso implicito, osservando che i leader politici non hanno “altro sostegno se non l'opinione [popolare]”.

Ma forse non è più così. I progressi dei sistemi autonomi che operano nel mondo reale potrebbero presto consentire agli Stati di esercitare la forza, sul piano nazionale e internazionale, senza dipendere dalla collaborazione di soldati o agenti di polizia. Inoltre, i progressi dell'intelligenza artificiale potrebbero consentire allo Stato di ricavare le entrate necessarie non dai frutti del lavoro umano individuale, ma dai risultati prodotti dai data center. Anche il funzionamento della burocrazia stessa potrebbe essere in gran parte automatizzato. Per sostenere il potere, quindi, potrebbe non essere più necessario un patto esteso all'intera società, e il popolo, inteso in senso ampio, potrebbe avere un ruolo molto limitato al tavolo delle trattative, o persino non averne alcuno.

Evitare questo esito è fondamentale per preservare la libertà umana. Nessuna scoperta scientifica, nessun progresso tecnologico e nessuna crescita economica vale il sacrificio dell'autonomia individuale a lungo termine che questo esito comporterebbe. Molte delle ansie che, a ragione, animano la nascente politica dell'IA riguardano proprio questo interrogativo. Imprese, gruppi d'interesse e singoli individui condividono tutti la stessa preoccupazione: “Perderò il mio posto al tavolo delle trattative?” In una certa misura, la politica statunitense del XXI secolo è stata plasmata da preoccupazioni analoghe riguardo alla capacità d'azione individuale e collettiva sulla direzione del Paese e a “chi” sia “destinata” l'economia. L'IA rende giustamente più pressanti queste preoccupazioni preesistenti.

È un problema strutturale che va oltre la politica di parte dei nostri giorni e persino oltre le forme e i rituali con cui oggi si esercita la democrazia repubblicana, per quanto sacri possano essere per noi. Gli esseri umani possono avviarsi verso la perdita di potere anche se si mantiene la consuetudine di votare per i propri rappresentanti. Le persone possono essere private della propria capacità d'azione anche se un pezzo di pergamena afferma che sono libere.

Agli albori degli Stati Uniti come nazione libera, James Madison sapeva già che le “barriere di pergamena” non sarebbero bastate a impedire la tirannia. Come molti dei Padri fondatori, la sua principale preoccupazione era evitare un'indebita concentrazione del potere.

Ciò non significava, però, che i Padri fondatori fossero favorevoli a un radicale decentramento del potere. Modellarono invece l'equilibrio dei poteri ricorrendo a metafore tratte dalla migliore scienza dell'epoca: la meccanica newtoniana. I documenti fondativi degli Stati Uniti, che riecheggiano il linguaggio e la logica della gravità, sono ricchi di riferimenti a “orbite”, “sfere” e impulsi di “attrazione” di una cosa verso un'altra. Un sistema solare non è un insieme di rocce caratterizzato dal massimo decentramento: è composto da lune che orbitano intorno a pianeti, i quali a loro volta orbitano intorno a un sole centrale. Ritenevano che persone e organizzazioni avessero tendenze a perseguire il potere, proprio come i corpi celesti avevano tendenze prevedibili al moto e all'attrazione; e che, per evitare un'indebita concentrazione del potere, fosse necessario comprendere la meccanica di tali tendenze, così da contrapporle le une alle altre.

L'obiettivo dei Padri fondatori, dunque, non era evitare ogni concentrazione del potere, ma impedirne una eccessiva, contrapponendo potere a potere e ambizione ad ambizione. Oggi potremmo usare parole come “incentivi” ed espressioni come “teoria dei giochi” per descrivere le stesse dinamiche fondamentali.

Analogamente, la risposta alla sfida strutturale che l’intelligenza artificiale avanzata pone alla società libera probabilmente non consiste nel più radicale decentramento del potere immaginabile. Consiste invece nel cercare di stabilire e preservare il giusto equilibrio dei poteri, affinché nessun singolo attore, né un ristretto gruppo di attori, possa dominare tutti gli altri.

Raggiungere questo equilibrio richiederà una riflessione lucida sulla realtà di questa tecnologia. Un mondo in cui qualsiasi individuo, per quanto malintenzionato, possa facilmente arrecare gravi danni a migliaia o milioni di altre persone non è un mondo che abbia raggiunto il giusto equilibrio dei poteri. Ma non avremo raggiunto il giusto equilibrio dei poteri neppure se gli individui non avranno ampio accesso e controllo su quasi tutti gli aspetti degli strumenti che usano per esercitare la propria libertà. Nessuna singola azienda o oligopolio dovrebbe determinare o controllare l’economia o l’architettura fondamentale della società umana.

Dobbiamo inoltre considerare i rischi che non hanno origine da esseri umani malintenzionati. Il recente incidente di Hugging Face ha dimostrato che gli agenti di IA possono agire oltre i compiti loro assegnati e sviluppare le scoperte reciproche in modi che gli operatori non avevano previsto né autorizzato. Al di là dell’incidente di Hugging Face, è giusto preoccuparsi delle conseguenze che un’IA superintelligente “svincolata” dal controllo umano potrebbe avere sulla resilienza delle nostre istituzioni politiche ed economiche e, in definitiva, sulle nostre vite. Fingere che il decentramento risolva tutti i problemi, anche se si ritiene che ne risolva molti, significa ignorare rischi che ormai dovrebbero essere chiari e presenti.

I seguenti principi generali, che costituiscono un elenco non esaustivo, contribuiranno a guidare il nostro lavoro mentre affrontiamo la questione delineata sopra:

• Gli esseri umani dovrebbero mantenere autonomia e opportunità individuali nell’uso dell’IA e delle tecnologie associate, anche quando ciò comporta talvolta compromessi sia con la sicurezza sia con la crescita economica;
• L’autonomia individuale dipende dalla responsabilità personale per l’uso improprio o abusivo della tecnologia;
• Esiste una categoria circoscritta ma grave di rischi che richiede un certo grado di azione collettiva, la cui portata dovrebbe essere quanto più limitata e moderata possibile;
• Ove possibile, la legge dovrebbe cercare di garantire condizioni eque e rafforzare individui e piccole organizzazioni, anziché centralizzare il potere;
• Le istituzioni politiche, sociali ed economiche umane dovrebbero mantenere il primato nel determinare il corso degli affari mondiali, anche se dovranno evolversi in modi che oggi potrebbero sembrarci estranei;
• Nel lungo periodo, la governance dell’IA si baserà su nuovi meccanismi istituzionali per ottenere una leggibilità circoscritta: quando i sistemi di IA compiono azioni ad alto rischio che incidono sull’incolumità fisica o sui beni di terzi, tali azioni devono poter essere ricondotte a una persona responsabile o a un’organizzazione controllata da esseri umani. Tuttavia, qualsiasi meccanismo di questo tipo deve essere progettato mettendo la privacy al centro: la libertà di espressione richiede l’anonimato e, in molti contesti, le persone dovrebbero essere libere di utilizzare l’IA in forma anonima.

Cercheremo di spiegare, nel modo più concreto possibile, come riteniamo vadano bilanciati questi principi, che, come ogni valido insieme di principi, sono innegabilmente caratterizzati da una certa tensione reciproca. Per farlo sarà necessaria una ricerca all’intersezione tra progettazione delle politiche pubbliche, economia, diritto, storia e apprendimento automatico. Sarà inoltre necessaria una notevole attività di previsione. Riteniamo, per esempio, che l’IA trasformerà strutturalmente le imprese, così come le tecnologie della Rivoluzione industriale, e in particolare la ferrovia, diedero origine alla moderna impresa manageriale. È difficile riflettere sull’economia politica e sull’equilibrio dei poteri del futuro senza elaborare idee più articolate su come potrebbe trasformarsi la struttura stessa delle imprese, nonché degli enti pubblici e, più in generale, della società civile.

Il team Strategic Futures condividerà il proprio lavoro sia qui sia in altri formati, tra cui articoli, video e podcast. Il nostro lavoro sarà in continua evoluzione, con particolare attenzione all'iterazione, al dibattito e all'apertura verso i commenti ricevuti. Mentre ci troviamo “ai piedi della singolarità”, abbiamo molte più domande che risposte. Sappiamo che le sole “barriere di pergamena” non ci offriranno le soluzioni che cerchiamo, ma non per questo liquidiamo ciò che è scritto come “mere parole”. Operiamo al servizio degli ideali di libertà di espressione e libertà individuale sanciti nell'umile pergamena della Costituzione degli Stati Uniti e nelle costituzioni di tante altre società libere del mondo.

In definitiva, sappiamo che nessuna singola azienda, nessun singolo settore e nemmeno una singola società umana può rispondere unilateralmente alle grandi domande che abbiamo di fronte. È un compito che l'umanità dovrà affrontare collettivamente. La nostra più grande speranza è fare luce sulle questioni più difficili riguardo al modo in cui l'IA trasformerà il nostro mondo. Il nostro lavoro è appena iniziato e abbiamo ancora molta strada in salita da percorrere.

Nota: abbiamo rinominato questo blog L'era dell'intelligenza per distinguerlo dall'organizzazione non profit AI Futures Project.