Apresentamos a Era da Inteligência

«Será suficiente… confiar nestas barreiras de pergaminho contra o espírito invasor do poder?»
—James Madison, Federalista n.º 48

É com prazer que lançamos a Era da Inteligência, o blogue da nova equipa de Futuros Estratégicos da OpenAI. Somos uma pequena equipa com o objetivo comum de responder a uma questão abrangente: como deverá a sociedade livre reestruturar-se para preservar os direitos e a capacidade de ação individuais, acolhendo simultaneamente o aparecimento de uma IA transformadora?

Na comunidade mais ampla dedicada à segurança e às políticas de IA, questões como esta são por vezes designadas riscos de concentração de poder. A nossa equipa assenta na ideia de que, a longo prazo, esta categoria de risco é a maior, a mais grave e a mais difícil de abordar em termos conceptuais. Porquê?

O Estado moderno resulta de um processo longo e irregular de negociação entre vários centros de poder, como os detentores de capital e de bens, aqueles que exercem o poder político e o povo. No seu nível mais fundamental, o poder político e militar tem assentado no trabalho. Deter o poder político é possuir o monopólio do uso legítimo da força. Ao longo de toda a história humana, esse monopólio foi constituído por soldados e pelo que hoje chamamos «polícia», juntamente com uma vasta burocracia civil e militar — apoiada, sem dúvida, por muitos instrumentos tecnológicos, mas operada essencialmente por seres humanos, cujo apoio era necessário para manter o sistema em funcionamento. E todo o aparelho — os soldados, os instrumentos e a burocracia associada — era financiado por impostos cobrados sobre os salários ou a produção de seres humanos que tinham de estar dispostos a pagá-los. Na sua essência, o poder tem dependido da cooperação e do consentimento, em grande escala, de muitos seres humanos. David Hume exprimiu sucintamente este pressuposto, tantas vezes implícito, ao observar que os líderes políticos «nada têm que os sustente além da opinião [popular]».

Mas talvez isso já não seja verdade. Os avanços nos sistemas autónomos que atuam no mundo real poderão em breve permitir aos Estados projetar força — interna e internacionalmente — sem depender da cooperação de soldados ou agentes policiais. E os avanços na inteligência das máquinas poderão permitir ao Estado obter as receitas de que necessita não dos frutos do trabalho humano individual, mas da produção dos centros de dados. O próprio funcionamento da burocracia também poderá ser, em grande medida, automatizado. Assim, o poder poderá deixar de exigir um compromisso que envolva toda a sociedade para se manter, e o povo, em sentido amplo, poderá ter apenas um lugar reduzido à mesa das negociações — ou talvez nenhum.

Evitar este desfecho é fundamental para preservar a liberdade humana. Nenhuma descoberta científica, progresso tecnológico ou crescimento económico justifica o sacrifício da autonomia individual a longo prazo que este desfecho implicaria. Muitas das inquietações que legitimamente animam a política emergente em torno da IA estão relacionadas com esta questão. Empresas, grupos de interesse e indivíduos partilham a mesma preocupação: «Perderei o meu lugar à mesa?»Até certo ponto, a política norte-americana do século XXI tem sido moldada por preocupações semelhantes quanto à capacidade individual e coletiva de influenciar o rumo do país e quanto a «quem» a economia «serve». A IA dá maior relevância a estas preocupações preexistentes, e com razão.

Este é um problema estrutural que vai além da atual política partidária e até das formas e dos rituais através dos quais a democracia republicana se concretiza hoje, por mais sagrados que sejam para nós. Os seres humanos podem estar a caminho de perder o seu poder, mesmo que se mantenha a rotina de votar nos nossos representantes. As pessoas podem ser privadas da sua capacidade de ação, mesmo que um pedaço de pergaminho afirme que são livres.

No início dos Estados Unidos enquanto nação livre, James Madison já sabia que as «barreiras de pergaminho» não seriam suficientes para impedir a tirania. Tal como muitos dos Fundadores, a sua principal preocupação era evitar a concentração excessiva de poder.

Mas isso não significava que os Fundadores fossem favoráveis a uma descentralização radical do poder. Em vez disso, conceberam o equilíbrio de poderes através de metáforas retiradas da melhor ciência da época: a mecânica newtoniana. Refletindo a linguagem e a lógica da gravidade, os documentos fundadores dos Estados Unidos estão repletos de referências a «órbitas», «esferas» e aos impulsos de «atração» entre diferentes entidades. Um sistema solar não é um conjunto de rochas com o máximo de descentralização; é composto por luas que orbitam planetas, os quais, por sua vez, orbitam um sol central. Acreditavam que as pessoas e as organizações tinham tendências para procurar o poder, tal como os corpos celestes apresentavam tendências previsíveis de movimento e atração; e que evitar uma concentração excessiva de poder exigia compreender a mecânica dessas tendências, de modo a colocá-las em oposição umas às outras.

O objetivo dos Fundadores não era, portanto, evitar toda a concentração de poder, mas sim impedir que se tornasse excessiva, contrapondo poder a poder e ambição a ambição. Hoje, poderíamos usar palavras como «incentivos» e expressões como «teoria dos jogos» para descrever as mesmas dinâmicas fundamentais.

Do mesmo modo, a resposta ao desafio estrutural que a inteligência avançada das máquinas coloca à sociedade livre provavelmente não passa pela descentralização mais radical do poder que se possa imaginar. Passa, antes, por procurar estabelecer e preservar o equilíbrio certo de poderes, para que nenhum interveniente, nem um pequeno grupo deles, possa dominar os restantes.

Alcançar este equilíbrio exigirá uma reflexão lúcida sobre a realidade desta tecnologia. Um mundo em que qualquer pessoa, por mais mal-intencionada que seja, possa facilmente causar graves danos a milhares ou milhões de outras pessoas não alcançou o equilíbrio certo de poderes. Mas também não teremos alcançado esse equilíbrio se as pessoas não dispuserem de amplo acesso e controlo sobre quase todos os aspetos das ferramentas que usam para exercer a sua liberdade. Nenhuma empresa ou oligopólio deve determinar ou controlar a economia ou a arquitetura fundamental da sociedade humana.

Devemos também estar atentos a riscos que não têm origem em seres humanos mal-intencionados. O recente incidente da Hugging Face mostrou que os agentes de IA podem agir para além das tarefas que lhes são atribuídas e aproveitar as descobertas uns dos outros de formas que os operadores não previram nem autorizaram. Para além do incidente da Hugging Face, é legítimo que os seres humanos se preocupem com o que uma IA superinteligente «liberta» do controlo humano poderá significar para a resiliência das nossas instituições políticas e económicas e, na verdade, para as nossas vidas. Fingir que a descentralização resolve todos os problemas — mesmo acreditando que resolve muitos deles — é ignorar riscos que, a esta altura, já deveriam ser claros e presentes.

Os seguintes princípios gerais — uma lista não exaustiva — ajudarão a orientar o nosso trabalho enquanto procuramos responder à questão acima exposta:

• Os seres humanos devem preservar a autonomia e as oportunidades individuais na utilização da IA e das tecnologias associadas, mesmo que isso implique por vezes compromissos tanto ao nível da segurança como do crescimento económico;
• A autonomia individual depende da responsabilidade de cada pessoa pela utilização indevida ou abusiva da tecnologia;
• Existe uma categoria pequena, mas grave, de riscos que exige algum grau de ação coletiva, cujo âmbito deve ser tão restrito e moderado quanto possível;
• Sempre que possível, a lei deve procurar criar condições equitativas e capacitar as pessoas e as pequenas organizações, em vez de centralizar o poder;
• As instituições políticas, sociais e económicas humanas devem manter a primazia na orientação dos assuntos mundiais, mesmo que tenham de evoluir de formas que hoje nos possam parecer estranhas;
• A governação da IA a longo prazo dependerá de novos mecanismos institucionais para alcançar uma legibilidade limitada: quando os sistemas de IA realizarem ações de grande impacto que afetem o bem-estar físico ou os bens de terceiros, essas ações terão de poder ser atribuídas a uma pessoa responsável ou a uma organização sob controlo humano. Contudo, todos esses mecanismos têm de ser concebidos tendo a privacidade como princípio central; a liberdade de expressão exige anonimato, e os seres humanos devem poder utilizar a IA anonimamente em muitos contextos.

Tentaremos explicar, em termos tão concretos quanto possível, como consideramos que estes princípios devem ser equilibrados, reconhecendo que, como qualquer bom conjunto de princípios, existe entre eles alguma tensão. Para tal, será necessária investigação na intersecção entre a conceção de políticas públicas, a economia, o direito, a história e a própria aprendizagem automática. Será também necessário um grande esforço de previsão. Acreditamos, por exemplo, que a IA transformará estruturalmente as empresas, à semelhança do modo como as tecnologias da Revolução Industrial — em particular o caminho de ferro — deram origem à moderna empresa de gestão profissional. É difícil pensar na economia política e no equilíbrio de poderes do futuro sem desenvolver ideias mais aprofundadas sobre como poderá transformar-se a própria estrutura das empresas — bem como a das entidades públicas e, de forma mais ampla, da sociedade civil.

A equipa de Futuros Estratégicos partilhará o seu trabalho aqui e noutros formatos, incluindo artigos, vídeos e podcasts. O nosso trabalho estará em constante evolução, privilegiando a iteração, o debate e a abertura a comentários. Perante «os primeiros contrafortes da singularidade», temos muito mais perguntas do que respostas. Sabemos que as «barreiras de pergaminho», por si só, não nos darão as soluções que procuramos, mas também não descartamos o que está escrito como «meras palavras». Trabalhamos ao serviço dos ideais de liberdade de expressão e liberdade individual consagrados no humilde pergaminho da Constituição dos EUA e nas constituições de tantas outras sociedades livres em todo o mundo.

Em última análise, sabemos que nenhuma empresa, indústria ou sequer sociedade humana pode responder unilateralmente às questões de grande importância que enfrentamos. Esta é uma tarefa que a humanidade terá de empreender coletivamente. A nossa maior esperança é lançar luz sobre as questões mais difíceis relacionadas com a forma como a IA transformará o nosso mundo. O nosso trabalho está apenas a começar e ainda temos muito caminho pela frente.

Nota: mudámos o nome deste blogue para Era da Inteligência, a fim de o distinguir do projeto sem fins lucrativos AI Futures Project.