A IA tem o potencial de melhorar significativamente muitos aspetos da sociedade.
Esta tecnologia, como outras antes dela, dará às pessoas mais capacidade e autonomia; aquilo que as pessoas poderão fazer com a IA reduzirá a insignificância o que poderiam fazer com motores a vapor ou eletricidade.
Imaginamos um mundo com prosperidade generalizada a um nível que atualmente é difícil de imaginar, e um mundo em que o potencial individual, a autonomia e a realização pessoal aumentam significativamente. Muitas das coisas que só nos permitimos sonhar na ficção científica podem tornar-se realidade, e a maioria das pessoas pode viver vidas com mais significado do que a maioria consegue hoje.
Mas este resultado não é garantido. O poder no futuro pode ficar nas mãos de um pequeno punhado de empresas que usam e controlam a superinteligência, ou pode ser distribuído de forma descentralizada pelas pessoas. Acreditamos que a segunda opção é muito melhor, e o nosso objetivo é colocar uma IA verdadeiramente geral nas mãos do maior número possível de pessoas. Tal como o presente, o futuro não será totalmente mau nem totalmente bom, mas as decisões que tomamos agora podem ajudar a maximizar o que há de bom.
A nossa missão é garantir que a AGI beneficia toda a humanidade. Eis os princípios que orientam o nosso trabalho.
1. Democratização. Vamos resistir ao potencial desta tecnologia para concentrar poder nas mãos de poucos.
Isto significa que, além de dar a todos acesso à IA, precisamos de garantir que as decisões fundamentais sobre a IA são tomadas através de processos democráticos e com princípios igualitários, e não apenas por laboratórios de IA.
2. Capacitação. Acreditamos que a IA pode capacitar cada pessoa para alcançar os seus objetivos, aprender mais, ser mais feliz e realizada, e perseguir os seus sonhos, e que a sociedade como um todo beneficiará com isso.
Para concretizar isto, é necessário deixar as pessoas explorar o enorme potencial que temos pela frente, e precisamos de criar produtos que o permitam. Os utilizadores devem conseguir, de forma fiável, realizar tarefas cada vez mais valiosas com os nossos serviços.
O mundo é diverso e as pessoas têm necessidades diferentes. Queremos dar aos nossos utilizadores a autonomia de que precisam e permitir o máximo que for razoável.
Embora queiramos dar aos nossos utilizadores uma margem muito ampla na forma como usam os nossos serviços e acreditemos firmemente que a IA será, no geral, enormemente benéfica, temos a responsabilidade de a construir e disponibilizar de forma a minimizar danos. Isto inclui, naturalmente, prevenir danos catastróficos, mas também minimizar danos localizados e evitar potenciais efeitos corrosivos na sociedade. Isto significará optar pela prudência perante a incerteza e aliviar restrições à medida que surgirem mais provas.
3. Prosperidade universal. Queremos um futuro em que todos possam ter uma vida excelente.
Ao colocar nas mãos de todos sistemas de IA fáceis de usar e com muita capacidade computacional, acreditamos que as pessoas encontrarão novas formas de gerar valor e melhorar massivamente a qualidade de vida de todos, especialmente através da descoberta de nova ciência.
Para que a prosperidade se concretize plenamente e seja amplamente partilhada, acreditamos que 1) os nossos governos poderão precisar de considerar novos modelos económicos para garantir que todos possam participar na criação de valor que temos pela frente e 2) precisamos de construir enormes quantidades de infraestrutura de IA e desenvolver nova tecnologia para reduzir drasticamente os custos da infraestrutura de IA.
Muitas das coisas que fazemos e que parecem estranhas — comprar enormes quantidades de capacidade computacional enquanto a nossa receita é relativamente pequena, integrar verticalmente para reduzir custos e tornar a nossa tecnologia mais fácil de usar, promover a construção de centros de dados em todo o mundo, e muito mais — são motivadas pela nossa crença fundamental num futuro de prosperidade universal.
4. Resiliência. A IA introduzirá novos riscos, e trabalharemos com outras empresas, ecossistemas, governos e a sociedade para os resolver. Faremos um uso significativo dos recursos da nossa Fundação para apoiar este trabalho.
Nenhum laboratório de IA consegue garantir sozinho um bom futuro. Num exemplo óbvio, podem existir modelos extremamente capazes que tornem mais fácil criar um novo agente patogénico, e precisamos de uma abordagem à escala da sociedade para nos defendermos disto com contramedidas independentes do agente patogénico. Noutro exemplo, à medida que as capacidades de cibersegurança dos modelos aumentam, precisamos de usar rapidamente esses modelos para ajudar a proteger software open-source e infraestruturas críticas, ao mesmo tempo que treinamos os modelos para ajudar todos a criar software mais seguro.
Isto é uma expansão da nossa estratégia, há muito adotada, de implementação iterativa; acreditamos que a sociedade precisa de lidar com cada nível sucessivo de capacidade da IA, compreendê-lo, integrá-lo e descobrir em conjunto o melhor caminho a seguir. Isto não pode ser feito no vazio; a sociedade e a tecnologia coevoluem, e isso exige tempo.
Não queremos dizer com isto que esta seja a nossa única estratégia de segurança; também precisamos de criar sistemas seguros e continuar a fazer excelente trabalho em alinhamento técnico.
Esperamos que haja períodos em que precisaremos de colaborar com governos, agências internacionais e outros esforços de AGI para garantir que resolvemos suficientemente problemas sérios de alinhamento, segurança ou de ordem social antes de prosseguirmos com o nosso trabalho.
5. Adaptabilidade. Continuamos a acreditar que a única forma de enfrentar os desafios de um futuro muito imprevisível é estarmos preparados para atualizar as nossas posições à medida que aprendemos mais. Reconhecemos também que a OpenAI é uma força muito maior no mundo do que era há alguns anos, e seremos transparentes sobre quando, como e porquê mudam os nossos princípios operacionais. Como exemplo concreto, embora estejamos bastante confiantes de que a prosperidade universal continuará a ser realmente importante, conseguimos imaginar períodos futuros em que teremos de trocar alguma capacitação por mais resiliência.
O desenvolvimento da IA trouxe muitas surpresas, e ainda virão mais. À medida que a tecnologia avança, os seus comportamentos emergentes tornar-se-ão cada vez mais difíceis de prever. Abraçamos essa incerteza ao avançar cuidadosamente nas capacidades, ao implementar sistemas de forma iterativa e ao aprender com as suas interações com o mundo.
Não foi assim há tanto tempo que estávamos nervosos com a divulgação dos pesos do GPT‑2 porque não tínhamos a certeza de quais seriam os impactos na sociedade. Obviamente, em retrospetiva, essa preocupação foi descabida, mas levou-nos a descobrir a estratégia de implementação iterativa, que tem sido uma das coisas mais importantes que percebemos.
__
Estamos a entrar numa fase de grande impacto à medida que a tecnologia continua a melhorar. É perfeitamente legítimo criticarem-nos por cada decisão; merecemos um enorme escrutínio dado o peso do que estamos a fazer. Não vamos acertar sempre, mas aprenderemos rapidamente e corrigiremos o rumo.
Estamos empenhados em fazer a nossa parte para tornar o futuro melhor do que o passado; sentimo-nos afortunados por poder assumir um trabalho tão importante.
