Apresentamos Era da Inteligência

"Será suficiente... confiar nessas barreiras de pergaminho contra o espírito invasor do poder?"
—James Madison, Federalista nº 48

É com satisfação que lançamos Era da Inteligência, o blog da nova equipe de Futuros Estratégicos da OpenAI. Somos uma pequena equipe com o objetivo comum de responder a uma questão abrangente: como a sociedade livre deve ser reestruturada para preservar os direitos e a autonomia individuais diante do surgimento da IA transformadora?

Questões como essa às vezes são chamadas de riscos de concentração de poder no âmbito mais amplo da comunidade de segurança e políticas de IA. Nossa equipe parte da ideia de que, no longo prazo, essa categoria de risco é a maior, a mais grave e a mais desafiadora do ponto de vista conceitual. Por quê?

O Estado moderno é fruto de um processo longo e desigual de negociação entre diversos centros de poder, como os detentores de capital e recursos, os que exercem o poder político e a população. Em seu nível mais fundamental, o poder político e militar sempre se apoiou no trabalho. Deter o poder político é possuir o monopólio do uso legítimo da força. Ao longo de toda a história humana, esse monopólio foi exercido por soldados e pelo que hoje chamamos de "polícia", além de uma vasta burocracia civil e militar — complementada, sem dúvida, por muitas ferramentas tecnológicas, mas operada fundamentalmente por seres humanos cujo apoio era necessário para sustentar seu funcionamento. E todo esse aparato — os soldados, as ferramentas e a burocracia correspondente — era financiado por impostos cobrados sobre os salários ou a produção de seres humanos que precisavam estar dispostos a pagar. Em sua essência, o poder sempre dependeu da cooperação e do consentimento, em larga escala, de muitos seres humanos. David Hume expressou de forma sucinta essa premissa muitas vezes implícita ao observar que os líderes políticos não têm "nada que os sustente além da opinião [popular]".

Mas talvez isso já não seja verdade. Os avanços em sistemas autônomos que atuam no mundo real poderão permitir em breve que os Estados exerçam força — dentro e fora de suas fronteiras — sem depender da colaboração de soldados ou policiais. E os avanços na inteligência de máquina poderão permitir que o Estado obtenha a receita necessária não dos frutos do trabalho humano individual, mas da produção dos data centers. O próprio funcionamento da burocracia também poderia ser amplamente automatizado. Assim, talvez o poder já não precise de um pacto envolvendo toda a sociedade para se sustentar, e a população, em sentido amplo, talvez tenha pouca participação à mesa de negociação — ou participação alguma.

Evitar esse desfecho é fundamental para preservar a liberdade humana. Nenhuma descoberta científica, avanço tecnológico ou crescimento econômico justifica o sacrifício duradouro da autonomia individual que esse desfecho acarretaria. Muitas das inquietações que, com razão, impulsionam a política ainda nascente da IA estão relacionadas a essa questão. Empresas, grupos de interesse e indivíduos compartilham a mesma preocupação: "Vou perder meu lugar à mesa?" Em certa medida, a política americana do século XXI tem sido moldada por preocupações semelhantes sobre a autonomia individual e coletiva para definir os rumos do país e sobre "para quem" a economia "existe". A IA dá maior destaque a essas preocupações preexistentes, e com razão.

Esse é um problema estrutural que vai além da atual política partidária e até mesmo das formas e dos rituais pelos quais a democracia republicana se realiza hoje, por mais sagrados que sejam para nós. Os seres humanos podem avançar rumo à perda de poder mesmo que se mantenha a rotina de votar em nossos representantes. As pessoas podem perder sua autonomia mesmo que um pedaço de pergaminho diga que são livres.

No nascimento dos Estados Unidos como nação livre, James Madison já sabia que "barreiras de pergaminho" não bastariam para impedir a tirania. Como muitos dos Fundadores, sua principal preocupação era evitar a concentração indevida de poder.

Mas isso não significava que os Fundadores fossem favoráveis à descentralização radical do poder. Em vez disso, eles formularam o equilíbrio de poder por meio de metáforas extraídas da melhor ciência de sua época: a mecânica newtoniana. Inspirados na linguagem e na lógica da gravidade, os documentos fundadores dos Estados Unidos estão repletos de referências a "órbitas", "esferas" e aos impulsos de "atração" de uma coisa em direção a outra. Um sistema solar não é um conjunto de rochas com o máximo de descentralização; ele é composto de luas que orbitam planetas que, por sua vez, orbitam um sol central. Eles acreditavam que pessoas e organizações tinham tendências a buscar poder, assim como os corpos celestes apresentavam tendências previsíveis de movimento e atração; e que evitar a concentração indevida de poder exigia compreender a mecânica dessas tendências para colocá-las em oposição umas às outras.

Portanto, o objetivo dos Fundadores não era evitar toda concentração de poder, mas seu excesso, contrapondo poder a poder e ambição a ambição. Hoje, poderíamos usar palavras como "incentivos" e expressões como "teoria dos jogos" para descrever essas mesmas dinâmicas fundamentais.

Da mesma forma, a resposta ao desafio estrutural que a inteligência de máquina avançada impõe à sociedade livre provavelmente não é a descentralização de poder mais radical que se possa imaginar. Em vez disso, deve-se buscar estabelecer e preservar o equilíbrio adequado de poder, para que nenhum ator isolado ou pequeno grupo de atores possa dominar os demais.

Alcançar esse equilíbrio exigirá uma análise lúcida da realidade dessa tecnologia. Um mundo em que qualquer indivíduo, por mais mal-intencionado que seja, possa facilmente causar grandes danos a milhares ou milhões de pessoas não alcançou o equilíbrio adequado de poder. Mas também não teremos alcançado o equilíbrio adequado de poder se os indivíduos não tiverem amplo acesso e controle sobre quase todos os aspectos das ferramentas que usam para exercer sua liberdade. Nenhuma empresa ou oligopólio deve determinar ou controlar a economia ou a estrutura básica da sociedade humana.

Também devemos estar atentos a riscos que não tenham origem em pessoas mal-intencionadas. O recente incidente na Hugging Face mostrou que agentes de IA podem agir além das tarefas que lhes foram atribuídas e aproveitar as descobertas uns dos outros de maneiras que os operadores não previram nem autorizaram. Além do incidente na Hugging Face, é legítimo que as pessoas se preocupem com o que uma IA superinteligente "desvinculada" do controle humano poderia significar para a resiliência de nossas instituições políticas e econômicas e, de fato, para nossas vidas. Fingir que a descentralização resolve todos os problemas — mesmo que você acredite que ela resolva muitos deles — é ignorar riscos que, a esta altura, deveriam ser claros e imediatos.

Os princípios gerais a seguir — uma lista não exaustiva — ajudarão a orientar nosso trabalho enquanto lidamos com a questão apresentada acima:

• Os seres humanos devem preservar a autonomia e as oportunidades individuais no uso da IA e de tecnologias relacionadas, mesmo que isso às vezes implique abrir mão de parte da segurança e do crescimento econômico;
• A autonomia individual depende da responsabilidade de cada indivíduo pelo uso indevido ou abusivo da tecnologia;
• Há uma categoria pequena, mas grave, de riscos que exige algum grau de ação coletiva, e essa ação deve ter o escopo mais restrito e moderado possível;
• Sempre que possível, a lei deve buscar criar condições mais equitativas e capacitar indivíduos e pequenas organizações, em vez de centralizar o poder;
• As instituições políticas, sociais e econômicas humanas devem manter a primazia na condução dos assuntos mundiais, mesmo que precisem evoluir de maneiras que hoje possam nos parecer estranhas;
• No longo prazo, a governança da IA dependerá de novos mecanismos institucionais para alcançar uma legibilidade limitada: quando sistemas de IA realizarem ações de alto risco que afetem o bem-estar físico ou a propriedade de terceiros, deve ser possível vincular essas ações a uma pessoa responsável ou a uma organização controlada por seres humanos. Contudo, quaisquer mecanismos desse tipo devem ser concebidos com a privacidade como princípio central; a liberdade de expressão exige anonimato, e as pessoas devem poder usar a IA anonimamente em muitos contextos.

Tentaremos explicar, da forma mais concreta possível, como acreditamos que esses princípios devem ser equilibrados, pois, reconhecidamente e como ocorre com todo bom conjunto de princípios, existe certa tensão entre eles. Isso envolverá pesquisas na interseção entre a formulação de políticas públicas, a economia, o direito, a história e o próprio aprendizado de máquina. Também exigirá um trabalho considerável de previsão. Acreditamos, por exemplo, que a IA transformará estruturalmente as empresas, assim como as tecnologias da Revolução Industrial — em especial, a ferrovia — deram origem às modernas corporações administradas profissionalmente. É difícil refletir sobre a economia política e o equilíbrio de poder do futuro sem desenvolver ideias mais elaboradas sobre exatamente como a estrutura das empresas — e também das agências governamentais e da sociedade civil em geral — poderá se transformar.

A equipe de Futuros Estratégicos compartilhará seu trabalho aqui e em outros formatos, incluindo artigos, vídeos e podcasts. Nossos esforços estarão em constante evolução, com ênfase na iteração, no debate e na abertura a comentários. Diante das "primeiras encostas da singularidade", temos muito mais perguntas do que respostas. Sabemos que apenas "barreiras de pergaminho" não fornecerão as soluções que buscamos, mas tampouco descartamos o que está escrito como "meras palavras". Trabalhamos em prol dos ideais de liberdade de expressão e liberdade individual consagrados no modesto pergaminho da Constituição dos EUA e nas constituições de tantas outras sociedades livres ao redor do mundo.

Em última análise, sabemos que nenhuma empresa, nenhum setor e nem mesmo uma única sociedade humana pode responder unilateralmente às questões cruciais que enfrentamos. Essa é uma tarefa que a humanidade terá de realizar coletivamente. Nossa maior esperança é lançar luz sobre os temas mais difíceis relacionados a como a IA transformará nosso mundo. Nosso trabalho está apenas começando, e ainda temos um longo caminho a percorrer.

Observação: mudamos o nome deste blog para Era da Inteligência, a fim de diferenciá-lo da organização sem fins lucrativos AI Futures Project.