Progresso da IA e recomendações

Quando a concepção popular do teste de Turing passou rapidamente, muitos de nós achamos um pouco estranho o quanto a vida diária simplesmente continuava. Este foi um marco sobre o qual as pessoas falavam há décadas. Parecia impossível de alcançar, então, de repente, parecia próximo, e, de repente, estávamos do outro lado. Conseguimos alguns ótimos produtos novos e pouca coisa no mundo mudou, mesmo que os computadores agora possam conversar e pensar sobre problemas difíceis.

A maior parte do mundo ainda pensa em IA como chatbots e melhores mecanismos de busca, mas hoje temos sistemas que podem superar os humanos mais inteligentes em algumas das nossas competições intelectuais mais desafiadoras. Embora os sistemas de IA ainda sejam problemáticos e enfrentem sérias fraquezas, esses sistemas que podem resolver problemas difíceis parecem estar mais próximos de 80% do caminho para um pesquisador de IA do que de 20%. A diferença entre como a maioria das pessoas está usando a IA e o que a IA é atualmente capaz de fazer é imensa.

Sistemas de IA que conseguem descobrir novos conhecimentos — seja de forma autônoma ou tornando as pessoas mais eficazes — provavelmente terão um impacto significativo no mundo.

Em apenas alguns anos, a IA passou de apenas ser capaz de realizar tarefas (especificamente na área da engenharia de software) que uma pessoa consegue fazer em poucos segundos para tarefas que levam mais de uma hora para serem concluídas por uma pessoa. Esperamos ter em breve sistemas capazes de realizar tarefas que levariam dias ou semanas a uma pessoa; não sabemos como pensar em sistemas capazes de realizar tarefas que levariam séculos a uma pessoa.

Ao mesmo tempo, o custo por unidade de um determinado nível de inteligência caiu drasticamente; uma redução de 40 vezes por ano é uma estimativa razoável nos últimos anos! 

Em 2026, esperamos que a IA seja capaz de fazer descobertas muito pequenas. Em 2028 e além, estamos bastante confiantes de que teremos sistemas que podem fazer descobertas mais significativas (embora possamos, é claro, estar errados, é isso que nosso progresso de pesquisa parece indicar).

Há muito tempo sentimos que o progresso da IA se desenvolve de formas surpreendentes, e que a sociedade encontra maneiras de co-evoluir com a tecnologia. Embora esperemos um progresso rápido e significativo nas capacidades de IA nos próximos anos, acreditamos que a vida cotidiana ainda parecerá surpreendentemente constante; a forma como vivemos possui muita inércia, mesmo com ferramentas muito melhores.

Em particular, esperamos que o futuro ofereça novas e, com sorte, melhores maneiras de viver uma vida plena, e que mais pessoas experimentem essa vida do que hoje. É verdade que o trabalho será diferente, a transição econômica pode ser muito difícil em alguns aspectos, e é até possível que o contrato socioeconômico fundamental tenha que mudar. Mas em um mundo de abundância amplamente distribuída, a vida das pessoas pode ser muito melhor do que é hoje.

Os sistemas de IA ajudarão as pessoas a entender a própria saúde, acelerar o progresso em áreas como ciência materiais, desenvolvimento de medicamentos e modelagem climática, e expandir o acesso à educação personalizada para estudantes de todo o mundo. Demonstrar esses tipos de benefícios tangíveis ajuda a construir uma visão compartilhada de um mundo onde a IA pode tornar a vida melhor, não apenas mais eficiente.

A OpenAI está profundamente comprometida com a segurança⁠, que consideramos ser a prática de permitir os impactos positivos da IA ao mitigar os negativos. Embora as vantagens potenciais sejam enormes, tratamos os riscos dos sistemas superinteligentes como potencialmente catastróficos e acreditamos que empiricamente⁠ estudar⁠ a segurança⁠ e o alinhamento⁠ pode ajudar nas decisões globais, como se todo o campo deve retardar o desenvolvimento para estudar mais cuidadosamente esses sistemas à medida que nos aproximamos de sistemas capazes de autoaperfeiçoamento recursivo. Obviamente, ninguém deve implantar sistemas superinteligentes sem conseguir alinhá-los e controlá-los de forma robusta, e isso requer mais trabalho técnico. 

Aqui estão várias coisas que acreditamos que poderiam ajudar a alcançar um futuro positivo com a IA:

Achamos que os laboratórios de fronteira devem concordar com princípios de segurança compartilhados e compartilhar pesquisas de segurança⁠, aprendizados sobre novos riscos, mecanismos para reduzir dinâmicas de competição, e muito mais. Podemos imaginar ideias como laboratórios de vanguarda concordando com certos padrões sobre avaliações de controle de IA sendo bastante úteis.

A sociedade passou por um processo semelhante para estabelecer códigos de construção e normas de incêndio, que salvaram inúmeras vidas.

Existem duas escolas de pensamento sobre IA. Uma é que a IA é como uma “tecnologia normal”, na medida em que progredirá como outras revoluções tecnológicas do passado, da imprensa à internet. As coisas vão acontecer de modo a dar às pessoas e à sociedade a chance de se adaptarem, e as ferramentas convencionais de políticas públicas devem funcionar. Precisaremos priorizar ideias como promover a inovação, proteger a privacidade das conversas com a IA e nos defender contra o uso indevido de sistemas poderosos por pessoas mal-intencionadas em parceria com o governo federal.

Acreditamos que a IA nos níveis de capacidade atuais está aproximadamente no ponto em que deveria se difundir por toda parte, o que significa que a maioria dos desenvolvedores e modelos de código aberto, e quase todas as implementações da tecnologia atual, devem ter encargos regulatórios adicionais mínimos em relação ao que já existe. Certamente não deveria ter que enfrentar uma colcha de retalhos de 50 estados

A outra é quando a superinteligência se desenvolve e se difunde de maneiras e em uma velocidade que a humanidade nunca viu antes. Aqui, a gente deve fazer a maioria das coisas acima, mas também vai precisar ser mais inovador. Se a premissa é que algo assim será difícil para a sociedade se adaptar da “maneira normal”, também não devemos esperar que a regulamentação típica consiga fazer muita coisa. Nesse caso, provavelmente vamos precisar trabalhar em estreita colaboração com o poder executivo e órgãos relacionados de vários países (como os diversos institutos de segurança) para coordenar bem, especialmente em áreas como a mitigação de aplicações de IA ao bioterrorismo (e o uso de IA para detectar e prevenir o bioterrorismo) e as implicações da IA de autoaperfeiçoamento.

O ponto mais importante deve ser a responsabilidade perante as instituições públicas, mas a forma como chegamos lá pode ter de ser diferente do que era no passado.

Em qualquer dos cenários, construir um ecossistema de resiliência de IA será essencial. Quando a internet surgiu, não a protegemos com uma única política ou empresa — construímos todo um campo de segurança cibernética: softwares, protocolos de criptografia, padrões, sistemas de monitoramento, equipes de resposta a emergências, etc. Esse ecossistema não eliminou o risco, mas o reduziu a um nível com o qual a sociedade pudesse conviver, permitindo que as pessoas confiassem na infraestrutura digital o suficiente para construir suas vidas e economias sobre ela. Precisaremos de algo análogo para a IA, e há um papel importante que os governos nacionais podem desempenhar na promoção de políticas industriais para incentivar isso.

Compreender como a IA está impactando concretamente o mundo torna mais fácil direcionar essa tecnologia para um impacto positivo. Prever é complicado: por exemplo, o impacto da IA nos empregos tem sido difícil de antecipar, em parte porque as forças e fraquezas das IAs atuais são muito diferentes das humanas. Medir o que está acontecendo na prática provavelmente vai ser muito informativo.

Acreditamos que os adultos devem poder usar a IA nos seus próprios termos, dentro dos limites amplos definidos pela sociedade. Esperamos que o acesso à IA avançada se torne um serviço essencial nos próximos anos, comparável à eletricidade, água potável ou alimentos. Em última análise, achamos que a sociedade deve apoiar a ampla disponibilização dessas ferramentas e que o objetivo principal deve ser ajudar a capacitar as pessoas a alcançar seus objetivos.