A IA tem o potencial de melhorar significativamente muitos aspectos da sociedade.
Essa tecnologia, como outras antes dela, dará às pessoas mais capacidade e autonomia; o que as pessoas poderão fazer com IA superará em muito o que poderiam fazer com máquinas a vapor ou eletricidade.
Imaginamos um mundo com prosperidade ampla em um nível que hoje é difícil de imaginar, e um mundo no qual o potencial individual, a autonomia e a realização aumentem significativamente. Muitas das coisas que só nos permitimos sonhar na ficção científica podem se tornar realidade, e a maioria das pessoas pode viver vidas mais significativas do que a maioria consegue viver hoje.
Mas esse resultado não é garantido. O poder no futuro pode ficar nas mãos de um pequeno grupo de empresas que usam e controlam a superinteligência, ou pode ser distribuído de forma descentralizada entre as pessoas. Acreditamos que a segunda opção é muito melhor, e nosso objetivo é colocar uma IA verdadeiramente geral nas mãos do maior número possível de pessoas. Como no presente, o futuro não será totalmente ruim nem totalmente bom, mas as decisões que tomarmos agora podem ajudar a maximizar o lado bom.
Nossa missão é garantir que a AGI beneficie toda a humanidade. Estes são os princípios que orientam nosso trabalho.
1. Democratização. Vamos resistir ao potencial dessa tecnologia de concentrar poder nas mãos de poucos.
Isso significa que, além de dar a todos acesso à IA, precisamos garantir que as decisões-chave sobre IA sejam tomadas por processos democráticos e com princípios igualitários, e não apenas por laboratórios de IA.
2. Capacitação. Acreditamos que a IA pode capacitar todos a alcançar seus objetivos, aprender mais, ser mais felizes e realizados e perseguir seus sonhos, e que a sociedade como um todo se beneficiará disso.
Alcançar isso exige permitir que as pessoas explorem o enorme potencial diante de nós, e precisamos construir produtos que possibilitem isso. Os usuários devem ser capazes de realizar com confiança tarefas cada vez mais valiosas com nossos serviços.
O mundo é diverso e as pessoas têm necessidades diferentes. Queremos dar aos nossos usuários a autonomia de que precisam e permitir o máximo que pudermos de forma razoável.
Embora queiramos dar aos nossos usuários uma liberdade muito ampla sobre como usam nossos serviços e acreditemos fortemente que a IA será enormemente benéfica no geral, temos a responsabilidade de construí-la e implantá-la de uma forma que minimize danos. Isso inclui, é claro, evitar danos catastróficos, mas também minimizar danos locais e evitar possíveis efeitos sociais corrosivos. Isso significará errar pelo lado da cautela diante da incerteza e relaxar restrições à medida que houver mais evidências.
3. Prosperidade universal. Queremos um futuro em que todos possam ter uma vida excelente.
Ao colocar nas mãos de todos sistemas de IA fáceis de usar e com muito poder computacional, acreditamos que as pessoas encontrarão novas formas de gerar valor e melhorar enormemente a qualidade de vida de todos, especialmente com a descoberta de novas ciências.
Para que a prosperidade se concretize plenamente e seja amplamente compartilhada, acreditamos que 1) nossos governos talvez precisem considerar novos modelos econômicos para garantir que todos possam participar da criação de valor à nossa frente e 2) precisamos construir enormes quantidades de infraestrutura de IA e desenvolver novas tecnologias para reduzir drasticamente os custos dessa infraestrutura.
Muitas das coisas que fazemos e que parecem estranhas — comprar enormes quantidades de computação enquanto nossa receita ainda é relativamente pequena, integrar verticalmente para reduzir custos e tornar nossa tecnologia mais fácil de usar, pressionar pela construção de datacenters no mundo todo e muito mais — são impulsionadas por nossa crença fundamental em um futuro de prosperidade universal.
4. Resiliência. A IA introduzirá novos riscos, e trabalharemos com outras empresas, ecossistemas, governos e a sociedade para resolvê-los. Faremos uso significativo dos recursos da nossa Fundação para apoiar esse trabalho.
Nenhum laboratório de IA pode garantir sozinho um bom futuro. Para dar um exemplo óbvio, pode haver modelos extremamente capazes que tornem mais fácil criar um novo patógeno, e precisamos de uma abordagem de toda a sociedade para nos defender disso com contramedidas agnósticas em relação a patógenos. Em outro exemplo, à medida que as capacidades de cibersegurança dos modelos aumentarem, precisamos usar rapidamente esses modelos para ajudar a proteger software de código aberto e infraestrutura crítica, enquanto treinamos os modelos para ajudar todos a criar software mais seguro.
Isso é uma expansão de nossa estratégia de longa data de implantação iterativa; acreditamos que a sociedade precisa lidar com cada nível sucessivo de capacidade da IA, entendê-lo, integrá-lo e descobrir em conjunto o melhor caminho a seguir. Isso não pode ser feito no vácuo; sociedade e tecnologia coevoluem, e isso exige tempo.
Não queremos dizer com isso que esta seja nossa única estratégia de segurança; também precisamos criar sistemas seguros e continuar fazendo um excelente trabalho em alinhamento técnico.
Esperamos que haja períodos em que precisaremos colaborar com governos, agências internacionais e outros esforços de AGI para garantir que tenhamos resolvido de forma suficiente problemas sérios de alinhamento, segurança ou impactos sociais antes de avançarmos ainda mais com nosso trabalho.
5. Adaptabilidade. Continuamos acreditando que a única maneira de enfrentar os desafios de um futuro muito imprevisível é estar preparados para atualizar nossas posições à medida que aprendemos mais. Também reconhecemos que a OpenAI é uma força muito maior no mundo do que era há alguns anos, e seremos transparentes sobre quando, como e por que nossos princípios operacionais mudam. Como exemplo concreto, embora estejamos bastante confiantes de que a prosperidade universal continuará sendo muito importante, podemos imaginar períodos no futuro em que teremos de abrir mão de parte da capacitação em troca de mais resiliência.
O desenvolvimento da IA trouxe muitas surpresas, e outras ainda estão por vir. À medida que a tecnologia avança, seus comportamentos emergentes se tornarão cada vez mais difíceis de prever. Nós abraçamos essa incerteza ao avançar as capacidades com cuidado, implantar sistemas de forma iterativa e aprender com suas interações com o mundo.
Não faz tanto tempo que estávamos nervosos em liberar os pesos do GPT‑2 porque não tínhamos certeza de quais seriam os impactos na sociedade. Obviamente, em retrospecto, essa preocupação foi equivocada, mas ela nos levou a descobrir a estratégia de implantação iterativa, que tem sido uma das coisas mais importantes que descobrimos.
__
Estamos entrando em uma fase de grande impacto à medida que a tecnologia continua a melhorar. É totalmente justo nos criticar por cada decisão; merecemos um enorme grau de escrutínio dado o peso do que estamos fazendo. Não acertaremos tudo, mas aprenderemos rapidamente e corrigiremos a rota.
Estamos comprometidos em fazer nossa parte para tornar o futuro melhor do que o passado; sentimo-nos sortudos por poder assumir um trabalho tão importante.
