O consenso silencioso
Nota do autor: O ensaio de hoje é uma adaptação de uma palestra que o autor deu recentemente no âmbito do ciclo de palestras Vik-Bailey, em Harvard. Esta publicação reflete as opiniões pessoais do autor, e não necessariamente as da OpenAI ou de qualquer outro dos seus colaboradores.
Obrigado por estarem aqui hoje. Neste preciso momento, está a decorrer uma das séries de acontecimentos mais significativas da história da cibersegurança: a divulgação de um conjunto de vulnerabilidades de segurança críticas a que alguns chamam «Outubro Negro». Estas vulnerabilidades, detetadas em partes essenciais da infraestrutura da Internet, foram descobertas por sistemas de IA de fronteira, e a sua divulgação faz parte de um esforço urgente para reforçar a segurança do software em todo o mundo. Esta é a questão urgente deste mês; no próximo, haverá outra. A descoberta de vulnerabilidades de software é a capacidade de dupla utilização que os sistemas de IA alcançaram hoje, mas em breve surgirá outra, que dará origem a um novo projeto urgente para aproveitar o seu lado benéfico antes que agentes mal-intencionados explorem o seu lado nocivo. Todas estas questões urgentes irão inevitavelmente sobrepor-se, e grande parte daquilo a que hoje chamamos «políticas de IA» será provavelmente definida no meio deste alvoroço.
Mas não foi de reações a urgências que vim falar-vos hoje. Em vez disso, quero falar-vos do rumo que as coisas poderão tomar, numa perspetiva mais ampla. Pode ser difícil, no meio de tal avalanche de urgências, pensar nestas questões mais abstratas e intangíveis. Mas estas questões importam, porque, sem uma ideia dos futuros que gostaríamos de alcançar a longo prazo — e daqueles que gostaríamos de evitar —, podemos acabar com um resultado global indesejado, mesmo que tenhamos tomado decisões sensatas a cada passo do caminho.
Diz-se muitas vezes que o setor tecnológico não tem uma visão positiva de onde nos levará aquilo que está a construir. Discordo: São Francisco e outros polos de empreendedorismo estão repletos de visões positivas do nosso futuro tecnológico. Há mesmo quem esteja a desenvolver carros voadores, veículos autónomos, robôs de muitas formas e tamanhos, fusão nuclear e, claro, inteligência artificial geral. O que nos falta, isso sim, é uma visão positiva do nosso futuro institucional: como vai tudo isto funcionar?
Isso não significa, porém, que não exista uma visão institucional para o futuro. Infelizmente, a visão que encontro com mais frequência não é uma a que chamaria positiva. Quando chega a ser expressa, é geralmente em surdina. Mas, mais frequentemente, fica por dizer, percetível apenas nas entrelinhas. Chamo-lhe o consenso silencioso.
Imaginem uma empresa capaz de fazer quase tudo sem trabalho humano. Os seus sistemas de IA fazem investigação e desenvolvimento, realizam descobertas, negoceiam contratos, afetam capital e fabricam produtos. Suponham que faz tudo isto melhor do que os seus concorrentes humanos, mesmo quando estes reforçam o seu trabalho com IA. Se a intervenção humana servir apenas para abrandar a atividade da empresa, os gestores e proprietários humanos terão um forte incentivo para tirar as mãos do volante. Se isto acontecer em toda a economia mundial, a lógica da concorrência de mercado levará os seres humanos a abdicar da sua primazia sobre o comércio global. Com o tempo, o mercado poderá passar a satisfazer as exigências das máquinas tanto ou mais do que as necessidades e os desejos das pessoas.
O que acontece depois disso, ninguém sabe. Talvez os seres humanos beneficiassem enormemente. Se as máquinas que nos tivessem absorvido atribuíssem um elevado valor intrínseco aos seres humanos, poderíamos tornar-nos beneficiários do seu trabalho e da riqueza que gerassem. Ou talvez, privados de poder económico e, cada vez mais, político, nós, seres humanos, nos tornemos cada vez menos relevantes no mundo, cada vez menos capazes de influenciar o rumo dos acontecimentos mundiais. Talvez um pequeno número de seres humanos detivesse um poder e uma riqueza extraordinários, à custa de uma massa de pessoas em grande parte destituída de poder, ou talvez todos partilhássemos esse mesmo destino. Independentemente dos pormenores, o fio condutor que define o consenso silencioso é o fim da primazia humana no mundo tal como o conhecemos.
Nada nestes cenários exige que a IA se revolte contra os seus criadores. Nada exige que os seus proprietários desejem retirar poder aos seres humanos. Cada decisão de delegar pode fazer sentido por si só. Mas, no seu conjunto, essas decisões podem produzir um mundo em que as pessoas tenham abdicado da autoridade efetiva sobre grande parte da nossa civilização. Mesmo que façamos progressos extraordinários nas questões espinhosas da segurança e do alinhamento da IA, podemos acabar por nos submeter a um novo tipo de entidade-máquina. Na versão feliz do futuro, dir-nos-ia o consenso silencioso, essa entidade será bondosa, uma máquina empenhada em defender os interesses dos seres humanos. Uma máquina, como diz o poema de Brautigan, de graça amorosa.
É a estas máquinas, diz-nos o consenso silencioso, que entregaremos as chaves das nossas empresas e, cada vez mais, das nossas instituições de governação. Irão geri-las com mais eficácia, mais eficiência, mais sabedoria e melhor discernimento do que nós, seres humanos, somos capazes. E assim, com o tempo, tiraremos as mãos do volante e deixaremos que as máquinas amorosas assumam a condução. Seremos como passageiros num carro — um carro muito bom, talvez materialmente melhor do que hoje conseguimos sonhar —, mas, ainda assim, passageiros, sem controlo sobre o destino do veículo. Se ainda trabalharmos, será sobretudo como uma espécie de ritual ou encenação, algo mais parecido com um jogo para entreter a nossa espécie.
Alguns observadores argumentarão que o consenso silencioso assenta numa premissa falsa, pois nós, seres humanos, já hoje não controlamos o mundo. E vale a pena ter esta crítica presente: não existe um «nós» que decida o que fazer. Vivemos num mundo radicalmente descentralizado, quer gostemos quer não. Mas este argumento também não deve levar-nos à complacência: embora «nós» não «controlemos» o mundo, os seres humanos, coletivamente, têm de facto primazia sobre os assuntos mundiais. Não há nenhuma espécie animal que rivalize seriamente connosco pelo controlo dos recursos. Devemos rejeitar a ideia intelectualmente pouco rigorosa de que os seres humanos podem exercer um controlo centralizado sobre o mundo, mas não devemos confundir essa rejeição com a negação da realidade óbvia de que os seres humanos são, coletivamente, o principal agente da Terra.
Algumas das pessoas dispostas a enunciar o consenso silencioso acreditam que esse futuro é genuinamente bom. Outras não, mas resignam-se à sua inevitabilidade. O consenso silencioso não é um consenso por todos concordarem que é bom, nem é um plano secreto entre as pessoas que desenvolvem IA. O consenso é simplesmente que a renúncia à primazia humana sobre os assuntos mundiais é inevitável ou, pelo menos, que é muito difícil imaginar outra visão de futuro que resista verdadeiramente à presença de máquinas superinteligentes. Uma pessoa pode opor-se sinceramente a esse desfecho e, ainda assim, ter dificuldade em conceber uma visão alternativa plausível. O sinal revelador é o facto de o consenso ser quase sempre silencioso, quando muito expresso em voz baixa.
Desprezo o consenso silencioso. Rejeito a renúncia à primazia humana. Detesto esta sensação de inevitabilidade. Lembro-me de que não conseguiria olhar para os belos olhos do meu filho bebé se me submetesse ao consenso silencioso. Por isso, ao consenso silencioso, digo não. E acredito que chegou a hora de falar abertamente sobre o consenso silencioso, de nos libertarmos da aceitação, em grande parte inconsciente, desta visão.
O problema é este: o consenso silencioso tornou-se consenso por uma razão. É difícil descrever como os seres humanos continuarão ao volante ao lado de uma inteligência das máquinas imensamente superior à humana. A maioria das tentativas de o fazer assenta no argumento de que a IA é uma mera ferramenta, um instrumento de reconhecimento de padrões incapaz de uma «compreensão genuína». Receio que estes argumentos não resistam à realidade do que aí vem. Receio que sejam, eles próprios, uma forma de complacência — uma posição assente sobretudo na negação daquilo que a IA consegue fazer, e não numa convicção enraizada numa visão afirmativa de um futuro liderado pelos seres humanos. Não se pode dizer que os sistemas de IA carecem de «compreensão genuína» quando começam a fazer progressos em problemas intelectuais cujas soluções escapam aos seres humanos há décadas e séculos.
Porque acredito, então, que os seres humanos devem manter a primazia? A resposta mais simples é que sou um ser humano e, de facto, defendo a superioridade da minha espécie sem pedir desculpa por isso.
Mas há também algo mais profundo. A nossa primazia não assenta no nosso intelecto, nem na manutenção indefinida do nosso monopólio da «compreensão genuína». A nossa primazia assenta, isso sim, no nosso passado.
Pois fomos nós que emergimos da lama. Nós que erguemos a sociedade primitiva a partir da terra e da pedra. Nós que olhámos para as estrelas e perguntámos porquê. Nós que, com as nossas lutas, o nosso amor, a nossa inveja e a nossa alegria, descobrimos a moral, a ética e o direito. Fomos nós que cantámos e dançámos, escrevemos e compusemos. Fomos nós que fizemos a história, e fomos nós que a escrevemos. Esse legado é nosso. A civilização que construímos é uma chama que temos mantido acesa, e essa chama pertence-nos. O nosso passado é uma herança gloriosa de que todos somos guardiões, e parte dessa responsabilidade consiste em participar naquilo a que Michael Oakeshott chamou «a conversa da humanidade», esse grande empreendimento que começou em tempos primordiais.
Ao longo desse passado longo e sinuoso, forjámos uma civilização que, nos Estados Unidos, foi concebida tendo por base os direitos do indivíduo, com reverência pelos caminhos que cada um de nós abre ao percorrer o mundo. Os seres humanos têm vidas que podem correr melhor ou pior: colhemos os frutos das nossas decisões sensatas e sofremos as consequências quando erramos. O direito a seguir o próprio caminho não depende de se ser o mais inteligente ou o mais sábio. Não perco o meu estatuto de cidadão por o meu vizinho ter melhor discernimento. Também não vejo razão para que a chegada de uma máquina mais inteligente anule esse estatuto e, na verdade, vejo todas as razões para impedir que isso aconteça.
Alguns poderão argumentar que as máquinas, tendo lido quase todo o registo escrito desta herança, também são herdeiras. E, em certo sentido, são. Mas uma pessoa que tenha lido todas as cartas no sótão da vossa família não passa, por isso, a fazer parte dela. Os sistemas de IA acabarão por se juntar à conversa da humanidade, primeiro como observadores e cada vez mais como participantes, mas não podem dominá-la nem torná-la irrelevante. Ceder a primazia é trair os nossos antepassados tanto quanto é trair os nossos descendentes. Se esta não é uma luta que vale a pena travar, nenhuma luta o é.
Ora, acredito que os defensores do consenso silencioso estão enganados quanto ao que será a superinteligência das máquinas. Que lhes escapa algo importante sobre a forma como o mundo funciona, que confundem inteligência com poder. Se, há cinco ou dez anos, descrevêssemos a um defensor do consenso silencioso as capacidades dos sistemas de IA que já hoje existem, essa pessoa teria provavelmente previsto um desemprego muito superior ao que de facto existe e uma perda generalizada de poder humano muito mais avançada do que realmente está. Acredito que a inteligência e a capacidade coletivas dos seres humanos são muito maiores do que os defensores do consenso silencioso supõem, e que as nossas sociedades se revelarão mais resilientes do que eles preveem.
Mas posso estar enganado. Pode simplesmente acontecer, por exemplo, que empresas totalmente autónomas superem por completo as empresas geridas por seres humanos. E, se assim for, a lógica crua da economia ditará que se entregue cada vez mais capital às máquinas. Nesse futuro, a perda de poder humano não exige que as máquinas derrubem a civilização humana; exige apenas que a lógica empresarial capitalista prossiga ao mesmo ritmo. Neste cenário, o paralelo mais próximo da revolução da IA seria a revolução agrícola, quando novos modos de produção alteraram profundamente a estrutura da sociedade humana. Está longe de ser claro que essa transformação tenha sido agradável para os seres humanos que a viveram; na verdade, há provas substanciais de que agravou o bem-estar humano durante milénios.
Não sei se é este o futuro que nos espera e, aliás, já defendi noutros contextos que não acredito que o seja. Mas muitos dos meus colegas — pessoas inteligentes, atenciosas e conscienciosas — acreditam que este será provavelmente o nosso futuro. Se tiverem razão, a nossa luta contra o consenso silencioso será ainda mais difícil. Teremos de nadar contra a corrente da economia e, ao fazê-lo, rejeitar muitas das coisas que são dogmas para individualistas liberais clássicos como eu. Será um empreendimento perigoso, em que o fracasso estará longe de ser improvável. Mas se esta não é uma luta que vale a pena travar, nenhuma luta o é.
Manter a primazia significa manter a responsabilização dos seres humanos e das instituições humanas. Isso significa que quem desenvolve IA deve responder por práticas de desenvolvimento inseguras, mas também que as pessoas e empresas que utilizam IA devem ser responsabilizadas quando é a sua utilização indevida ou a falta de supervisão que causa danos. Isto exige não só a lei, mas também uma infraestrutura técnica que permita essa responsabilização. As ações dos agentes devem ser atribuíveis às pessoas por eles responsáveis, e os agentes sem ligação a um ser humano — caso lhes seja sequer permitido participar na economia legal — devem fazê-lo sujeitos a salvaguardas. Qualquer autorização para os agentes constituírem empresas, deterem bens ou litigarem de forma autónoma deve ser concedida com extrema cautela, se é que deve ser concedida.
E, no meu setor, podemos começar a pensar seriamente em como construir máquinas inteligentes compatíveis com a primazia humana. Podemos criar agentes cujas permissões sejam compreensíveis e limitadas, cujas ações possam ser auditadas e cuja autoridade os utilizadores possam revogar. A responsabilização por ações que afetam significativamente outras pessoas não tem de implicar a vigilância da vida privada quotidiana nem o fim da expressão anónima. Podemos assumir compromissos com a privacidade dos utilizadores e a soberania individual sobre os seus bens e dados digitais, incluindo a possibilidade efetiva de levar esses dados para outro lado. Podemos conceber sistemas que ajudem as pessoas a compreender e a tomar decisões, além de sistemas que executem tarefas. E podemos testar se os produtos que criamos tornam os seus utilizadores mais capazes de agir no mundo.
Nada disto constitui um plano completo para uma sociedade com inteligência sobre-humana. Desconfiaria de quem afirmasse ter um. Mas é um ponto de partida.
O futuro está envolto num nevoeiro denso. Mas ainda podemos agir hoje. Em conjunto, podemos, desde logo, dar voz ao consenso silencioso, expor os seus contornos à luz do dia. Podemos, cada um de nós, alargar radicalmente o alcance da nossa ambição. Podemos escolher não deixar que a IA nos diminua e, em vez disso, fazer o trabalho árduo de deixar que nos engrandeça. Podemos aprender a fazer perguntas cada vez mais ousadas, a interrogar o mundo com novo vigor e ímpeto, recorrendo às nossas poderosas máquinas para o fazer. Podemos tornar-nos um novo tipo de ser humano — não um transumano, mas um ser humano com capacidades ampliadas.
Penso nisto quando olho para o meu filho bebé. Não desejo que se limite a viver sob a proteção de máquinas benevolentes, por mais confortável que seja a vida que lhe possam proporcionar. Quero que herde um mundo onde possa fazer perguntas que ninguém pensou fazer, construir coisas que ninguém pensou construir. Não quero que tenha um carro melhor, com um banco de passageiro mais confortável. Quero que tenha o volante nas mãos.
- 2026


