O complemento eterno

Nota dos autores:Este é o primeiro ensaio da nossa série sobre a próxima economia, integrada numa nova plataforma, que acolhe vozes independentes a explorar um futuro com AGI. Reflete as nossas opiniões, não as da OpenAI nem as dos nossos colegas.

A humanidade já conseguiu observar quase até ao início dos tempos.

As nossas equações descrevem, de forma em grande parte coerente, o universo desde os seus primeiros instantes. Com os nossos telescópios, olhámos para os confins do cosmos e vislumbrámos os primórdios da sua história. Conhecemos o nascimento das estrelas e a formação das galáxias.

No entanto, nenhum ser humano viajou alguma vez para lá da Lua.

As explicações que procuramos abrangem o universo, mas os nossos corpos mal saíram de casa. As nossas mentes aventuram-se muito para além do alcance das nossas mãos.

Este desfasamento pode significar duas coisas muito diferentes.

Uma possibilidade é não precisarmos de ir muito longe: talvez as verdades mais profundas possam ser compreendidas a partir de um único planeta. Munidos de raciocínio esclarecido e instrumentos eficientes, desvendamos o universo sem o percorrer. Nesta história, a nossa civilização avança em profundidade, não em extensão. Isto ajudaria a explicar por que não encontrámos outras formas de vida inteligente: talvez vivamos numa galáxia cheia de mentes brilhantes que nunca precisaram de se expandir e tornar-se visíveis para nós.

A segunda possibilidade é mais intimidante. As nossas mentes podem simplesmente ter ultrapassado a nossa capacidade de execução. Cada passo seguinte exige mais tempo e mais recursos. Não nos faltam sonhos, mas falta-nos mão de obra para os concretizar.

Galileu ampliou a nossa visão com duas lentes e um tubo. Para voltar a ampliá-la hoje, a humanidade construiu o Telescópio Espacial James Webb, um observatório de dez mil milhões de dólares, dobrado no interior de um foguetão e enviado a 1,6 milhões de quilómetros de distância. Os dezoito enormes segmentos do seu espelho são fabricados com uma precisão de cinquenta nanómetros. O observatório nasceu do trabalho de trezentas organizações de catorze países. O contributo de Galileu mobilizou algumas dezenas de mãos. O Webb precisou de um exército, apoiado por uma economia global.

Para ver mais longe, não bastaram mentes mais brilhantes. Foi preciso uma burocracia maior.

Fazemos mais perguntas do que conseguimos investigar. Concebemos mais experiências do que conseguimos realizar. Imaginamos possibilidades criativas mais depressa do que conseguimos concretizá-las. E, em muitas áreas, quanto mais avançamos, mais complicado se torna construir o que imaginamos.

Nick Bloom e os seus coautores⁠(abre numa nova janela) estudaram a produtividade da investigação na economia americana. Manter a lei de Moore exige hoje mais de dezoito vezes o número de investigadores necessário no início da década de 1970. Desde a década de 1930, o esforço efetivo de investigação no conjunto da economia multiplicou-se por vinte e três, enquanto a produtividade medida da investigação caiu para um quadragésimo primeiro do seu valor.

O número de técnicos está a crescer ao dobro do ritmo⁠(abre numa nova janela) do número de cientistas. A utilização de equipamento especializado na ciência duplicou⁠(abre numa nova janela) em quatro décadas. Uma fábrica de chips custa hoje cinco vezes mais⁠(abre numa nova janela) — e envolve uma operação muito mais extensa — do que há trinta anos.

Estas estatísticas apontam para um custo crescente de continuar a progredir. A economia continua a avançar porque uma enorme expansão da atividade de investigação tem compensado o rendimento decrescente de cada unidade.

Esta história deveria levar-nos a pensar de outra forma sobre a genialidade: não como algo isolado, mas como um dos fatores de um processo de produção. Uma hipótese brilhante continua a precisar de provas, instrumentos e meios para ser posta em prática. Uma ideia ainda não é progresso sem a maquinaria e as equipas de apoio que a concretizem.

Os economistas dizem que dois fatores são complementares quando uma maior quantidade de um aumenta o valor do outro. A inteligência de fronteira e a capacidade de concretizar as suas ideias são complementares neste sentido. Um telescópio melhor torna mais valiosa uma boa pergunta astronómica. Uma pergunta melhor torna o telescópio mais valioso.

Alguns complementos são físicos. Uma teoria aguarda um acelerador de partículas; um projeto tecnológico aguarda a energia e a maquinaria para o construir.

Outros complementos são menos visíveis. Uma ideia, por si só, é algo frágil. Precisa de instituições de todo o tipo. Leis, burocracia, mecanismos de financiamento, cadeias de abastecimento e muito mais conjugam-se para concretizar a ideia.

Uma grande ideia tem de sobreviver a uma longa cadeia de ações corretas em cada ponto dessas instituições. Chamemos-lhe inteligência institucional: a inteligência pouco reconhecida da execução. A genialidade desenha o monumento; as instituições assentam a pedra. Uma é brilhante, as outras parecem entediantes; ambas são absolutamente cruciais.

Por vezes, imaginamos a superinteligência como mil milhões de Einsteins. Mas uma civilização de mil milhões de Einsteins continua a precisar que a maioria trabalhe nas pedreiras e trate da contabilidade. A inovação de fronteira só é possível quando o mundo quotidiano funciona sem falhas à sua volta. O progresso mobiliza toda a gente — de quem solda um parafuso para o telescópio à seguradora da escola primária onde estudou o enfermeiro que tratou o astrónomo. O progresso assenta numa economia em pleno funcionamento, que muitas vezes ignoramos ao contar os nossos maiores feitos.

Tal como a inteligência humana, a IA será canalizada tanto para ideias brilhantes como para a competência institucional. A questão é saber a que dedicará a maior parte do seu tempo.

A IA já está a tornar a capacidade de execução menos escassa. Escreve código, pesquisa bibliografia desconhecida e transforma um esboço num protótipo funcional. Ideias que antes exigiam uma organização inteira podem, cada vez mais, ser levadas a cabo por uma única pessoa ambiciosa.

A maioria dos aspirantes a cineastas nunca recebe duzentos milhões de dólares para tentar a sua sorte. A maioria dos criadores de jogos passa toda a carreira a concretizar as visões criativas de outros. Tentamos dar oportunidades às pessoas mais dotadas, mas é inevitável que algum talento fique por aproveitar. Vista assim, a era da inteligência começa por complementar o engenho humano, dando a mais pessoas as equipas de apoio necessárias para concretizar as suas próprias ideias.

Isto poderá dar origem a uma profusão de projetos singulares, com mais trabalho criativo produzido fora das instituições que antes controlavam o acesso à atividade nessas áreas. O fator escasso deixa de ser a execução e passa a ser o gosto — a capacidade de decidir o que vale a pena criar, que pergunta vale a pena fazer e qual de mil caminhos plausíveis merece ser seguido.

Mas a história poderá não acabar aqui. À medida que a IA se torna capaz de chegar, por si só, a novas ideias brilhantes — algo que talvez já estejamos a ver em áreas como a matemática —, passa a fornecer planos de trabalho, além de mão de obra. Em vez de executar um programa de investigação humano, concebe milhares de programas próprios. Os génios da IA fazem disparar o número de conceitos para filmes que vale a pena desenvolver e de hipóteses que vale a pena testar. As ideias multiplicam-se mais depressa do que as infraestruturas de apoio conseguem absorvê-las.

A IA de hoje oferece um alívio há muito esperado, em que as nossas boas ideias recebem finalmente a atenção que merecem. Amanhã, poderá haver tantas boas ideias que a falta de capacidade de execução será maior do que nunca.

Em última análise, não sabemos se os complementos necessários para tirar partido de novas ideias irão aumentar, diminuir ou manter-se estáveis. Quanto progresso intelectual se pode alcançar apenas a pensar? De quanta burocracia precisa a genialidade?

Na nossa perspetiva, a resposta depende de até onde o pensamento consegue chegar antes de precisar de voltar a contactar com a realidade.

Descrevemos dois caminhos possíveis. O primeiro é uma civilização em profundidade, em que a superinteligência supera a necessidade de mais capital físico e coordenação burocrática. O segundo é uma civilização em extensão, em que a complexidade da natureza ultrapassa a capacidade de qualquer inteligência — humana ou artificial — de progredir sem experiências de grande escala, cada vez mais elaboradas, no mundo real.

Até agora, a história humana aponta para uma necessidade crescente de capacidade complementar. O telescópio de Galileu cabia-lhe nas mãos; o Webb exigiu uma civilização. Uma pequena equipa dos Bell Labs montou o primeiro transístor numa bancada; os avanços de fronteira nos chips dependem agora de uma complexa cadeia de abastecimento global. Ir mais longe continua a exigir a mobilização de uma parte maior da civilização.

Mas essa história não tem de ditar o destino. Mentes inteligentes podem inventar complementos mais eficientes. Se a energia for o entrave a um novo acelerador de partículas, a genialidade pode conceber um acelerador mais económico ou uma forma melhor de captar energia.

A genialidade pode também substituir alguns dos seus complementos. Einstein conseguiu chegar à relatividade pelo pensamento, a partir de pouquíssimos dados empíricos. Nós precisaríamos de muitos mais. Algumas pessoas lembram-se simplesmente de todos os seus compromissos — a maioria de nós depende da burocracia do Google Calendar.

E a genialidade pode apurar o gosto ao máximo, escolhendo as melhores hipóteses a testar e evitando fracassos que desperdiçam recursos. Se cada génio adicional melhorar a qualidade do plano, mesmo que sejam necessárias burocracias cada vez maiores, continuaríamos a investir fortemente na genialidade, precisamente porque a execução é demasiado cara para a desperdiçar na coisa errada.

Nenhum dos caminhos descreverá perfeitamente o nosso futuro real, mas podemos vê-los como duas direções possíveis para a nossa civilização.

A inteligência pode fazer avançar o conhecimento de três formas. Pode raciocinar a partir de princípios. Pode extrair novas conclusões dos dados existentes. Ou pode recolher novos dados, observando o mundo e intervindo nele.

A primeira forma pode ir longe apenas pelo pensamento. A matemática é o exemplo mais puro. Nas muitas encruzilhadas de uma demonstração ou de um projeto, uma mente poderosa pode tomar de forma consistente a decisão certa. Substitui anos de procura às apalpadelas por uma cadeia de raciocínio curta e mais orientada.

A segunda forma também é terreno fértil para um progresso rápido. A humanidade recolheu muito mais dados do que aqueles que conseguiu compreender. O estudo dos nossos dados — imagens astronómicas, lâminas de microscópio, secções de comentários online — tem sido limitado pela escassez de inteligência humana. Os arquivos científicos contêm observações registadas para responder a uma pergunta que podem conter respostas a muitas outras. Com genialidade em abundância, é possível descobrir não por recolher algo novo, mas por ver o que já lá estava. Talvez se encontre um novo universo sem captar um novo fotão.

A terceira forma não é tão fácil, porque exige que interajamos com o mundo físico. Os processos físicos levam tempo e, muitas vezes, pouco se pode fazer para os acelerar. As substâncias químicas têm de reagir. Os organismos têm de crescer. As máquinas têm de ser construídas. As naves espaciais têm de percorrer distâncias reais, sujeitas aos limites de velocidade do cosmos. Nem uma mente perfeita consegue observar o resultado de uma experiência que não ocorreu.

Mas pode tentar. Uma civilização em profundidade não escaparia à necessidade de consultar a realidade. Fá-lo-ia com uma economia de meios radicalmente maior. Um raciocínio melhor identificaria as poucas experiências que realmente importam. As simulações resolveriam a maioria e identificariam com precisão a incerteza que a realidade teria de esclarecer. A superinteligência pode maximizar a eficiência, concebendo soluções à medida dos seus recursos escassos para tirar o máximo partido deles.

Imagine um laboratório de astrofísica com um conjunto de hipóteses sobre a matéria escura. Estas são primeiro submetidas a modelação computacional hiper-realista. Verifica-se a coerência de cada teoria com todos os dados existentes. Só depois de tudo isto se captam algumas novas imagens de zonas específicas do céu para testar as teorias mais promissoras. A civilização continua a precisar dos complementos da genialidade, mas cada unidade gera muito mais valor.

O nosso caminho para uma civilização em profundidade poderá funcionar como um puzzle. É fácil avançar no início e no fim; o mais difícil é o meio. De início, há contornos óbvios e peças fáceis de encaixar. Depois, estas esgotam-se, e a parte da imagem já montada é demasiado pequena para orientar o resto. Perto do fim, os espaços por preencher quase nos dizem que peças lhes pertencem. Uma ciência quase completa poderá chegar às suas últimas descobertas com mais facilidade do que àquelas por que hoje nos esforçamos.

Isto é recorrente na ciência. Mendeleev conseguia descrever elementos por descobrir porque o resto da tabela periódica delimitava o que faltava. O Modelo Padrão deu aos físicos razões para prever o bosão de Higgs décadas antes de o observarmos. As nossas experiências foram orientadas para procurar o que esperávamos ver — o que era coerente com a teoria e os dados existentes.

A superinteligência poderá alcançar uma civilização em profundidade se compreender os padrões do mundo tão bem que saiba exatamente de que novos dados precisa. Impulsionaria o progresso através de um pensamento mais profundo, sem depender da marcha lenta da expansão física.

Se estes ganhos de eficiência prevalecerem, a civilização poderá aprofundar rapidamente o seu domínio da natureza, com menor necessidade de inteligência institucional para gerir novos e vastos aparatos experimentais. A sua presença física poderá manter-se reduzida enquanto a sua sabedoria amadurece.

Nós, seres humanos, já compreendemos tanto sobre o nosso universo sem nunca sairmos de casa. A civilização em profundidade daria continuidade a essa tradição.

Mas a procura de novos dados pode superar estes ganhos de eficiência. A inteligência pode tornar cada consulta à realidade mais barata, ao mesmo tempo que descobre muitas mais razões para a consultar. Instrumentos melhores abrem fronteiras mais subtis. Experiências mais rápidas podem fazer com que valha a pena realizar outras.

Se o percurso quase puramente cognitivo de Einstein até às suas teorias da relatividade exemplifica uma civilização em profundidade, a biologia poderá ser o melhor prenúncio de uma civilização em extensão. Apesar de todo o conhecimento que acumulámos e de todos os dados que mobilizámos, os novos medicamentos continuam a ter de ser testados num grande número de pessoas para sabermos se são seguros e eficazes. As máquinas já conseguem simular processos biológicos, permitindo aos biólogos testar novos fármacos in silico em vez de recorrerem a experiências físicas, mas essas simulações digitais não são suficientemente fiéis ao mundo real para substituir ensaios em seres humanos em larga escala. Quanto mais candidatos a máquina produz, maior é o entrave da validação empírica.

Numa civilização em extensão, a genialidade, por si só, não basta para progredir. A nossa necessidade de recursos físicos — e de uma burocracia que gira a sua utilização — cresce mais depressa do que uma mente inteligente consegue poupar uns e outra.

Este poderá ser o nosso caminho, mesmo que os futuros sistemas de IA superem largamente a inteligência humana. Uma superinteligência poderia conceber um século de experiências numa tarde e depois passar esse século à espera de que a natureza e a maquinaria as concretizassem. Num mundo assim, torna-se mais valioso investir inteligência nos processos institucionais necessários para executar ideias do que na própria criação de ideias.

O efeito intensificar-se-á se cada novo passo exigir cada vez mais infraestruturas de apoio.

Neste cenário, veríamos relativamente menos pensamento e relativamente mais construção. Os laboratórios automatizam-se. As fábricas multiplicam-se. A produção de energia aumenta. A inteligência institucional assume um papel dominante para tornar tudo isto possível. A expansão física torna-se o motor do conhecimento, e a civilização alastra porque as suas perguntas ultrapassaram os meios de obter respostas. Mais materiais, mais energia, mais dados para continuar.

Uma esfera de Dyson é uma imagem extrema deste futuro. Concebê-la exige avanços extraordinários, mas a maior parte do projeto não consistiria em pensamento inovador. Seria um trabalho de construção e logística à escala astronómica.

A esfera de Dyson exige mentes brilhantes para traçar os seus planos. Seria também um dos projetos mais repetitivos, monótonos e exigentes em termos de organização alguma vez realizados.

Isto não é uma falha da inteligência, mas uma consequência do seu sucesso. Mentes mais brilhantes descobrem mais projetos que vale a pena realizar; projetos mais complexos precisam de mais matéria para se concretizarem.

Se assim for, o superpoder da superinteligência poderá não ser a sua genialidade. Será mais a sua disponibilidade para assumir a burocracia, para coordenar a vasta engrenagem tecnológica e institucional necessária para transformar ideias em realidade a uma escala cada vez maior.

Quase toda a inteligência das máquinas seria mobilizada não para fazer o que é brilhante, mas o que é entediante.

Os limites de velocidade que a natureza impõe à expansão física poderão então travar o progresso. Construir a maquinaria para captar a energia de uma estrela é um projeto material, por mais depressa que se desenhem os planos. Mais além, há outras estrelas e outras galáxias, e a distância, tanto quanto sabemos, impõe o seu próprio travão: nenhuma nave pode viajar e nenhum sinal pode regressar mais depressa do que a luz. Uma civilização em extensão é uma civilização lenta. As suas grandes mudanças poderão ocorrer com milénios de intervalo, talvez milhões de anos. Cada passo seguinte demora mais tempo.

As revoluções agrícola e industrial pareceriam a abertura frenética de uma história muito mais longa, com um ritmo de progresso muito mais lento.

É bem possível que os futuros sistemas de IA superem os seres humanos tanto na produção de novas ideias de fronteira como na coordenação dos recursos necessários para lhes dar utilidade prática. Mas esta possibilidade não diminui a importância da curiosidade humana.

Em primeiro lugar, mantém-se a nossa obrigação de procurar o conhecimento, mesmo que as máquinas pareçam fazê-lo melhor. O universo poderá já conter mentes muito mais sábias do que as nossas, com respostas a questões científicas e morais que ultrapassam a nossa compreensão. Ainda assim, continuamos a tentar compreender o mundo por nós próprios. A chegada de outra inteligência — mesmo que a construamos nós — não muda isso. Até sabermos com certeza que a humanidade já não tem nada de singular a oferecer, desistir é desperdiçar tudo aquilo que só nós podemos acrescentar ao mundo. O nosso dever continua a ser fazer perguntas e tentar responder-lhes.

Em segundo lugar, poderemos ter uma vantagem comparativa na inteligência de fronteira face à inteligência institucional. Isso significaria que, mesmo sendo piores em ambas, somos relativamente melhores na primeira e nos especializamos nela. Os seres humanos manifestam uma preferência pela criatividade em vez da rotina, enquanto os robôs não manifestam tal preferência.

Em terceiro lugar, a variedade traz-nos valor. Mesmo que as máquinas consigam emular a maior parte do pensamento humano, se mantivermos alguma singularidade, oferecemos diversidade criativa. Grande parte da inteligência das máquinas permaneceria no seu próprio sistema autossustentável, mas uma pequena fração seria mobilizada por nós ao serviço da nossa criatividade. Uma ínfima parte do todo, mas um luxo à nossa escala, e muito mais do que os recursos de que dispomos hoje.

O engenho não vive isolado. Precisa do mundo, e a genialidade precisa de quem construa para concretizar a sua visão criativa.

Hoje, grande parte da inteligência humana dedica-se ao trabalho pouco reconhecido de transformar ideias em realidade. As mentes das máquinas herdarão a mesma dependência. Não podem ser todas sumidades. Também têm de ser burocratas.

A nossa história futura — e o ritmo do seu progresso — depende de as grandes mentes precisarem de mais recursos do mundo ou de conseguirem fazer mais com menos.