API OpenAI

Estamos a lançar uma API para aceder a novos modelos de IA desenvolvidos pela OpenAI. Ao contrário da maioria dos sistemas de IA, concebidos para um caso de utilização, a API oferece hoje uma interface de utilização geral com entrada e saída de texto, que pode ser usada para praticamente qualquer tarefa em língua inglesa. Já podes solicitar acesso para integrar a API no teu produto, desenvolver uma aplicação nova ou ajudar-nos a explorar os pontos fortes e as limitações desta tecnologia.

Com qualquer prompt de texto, a API irá devolver um texto que tenta corresponder ao padrão fornecido. Podes "programá-la", mostrando-lhe apenas alguns exemplos do que gostarias que fizesse. O sucesso geralmente depende do nível de complexidade da tarefa. A API também permite melhorar o desempenho em tarefas específicas, ao treinar um conjunto de dados (pequeno ou grande) de exemplos escolhidos por ti, ou aprender com o feedback humano dos utilizadores ou classificadores.

Concebemos a API para ser simples de utilizar para qualquer pessoa, mas também suficientemente flexível para tornar as equipas de aprendizagem automática mais produtivas. Na verdade, muitas das nossas equipas estão agora a utilizar a API para se poderem concentrar na investigação de aprendizagem automática em vez de problemas de sistemas distribuídos. Atualmente, a API executa modelos com pesos da família GPT‑3⁠(abre numa nova janela) , com muitas melhorias de velocidade e produtividade. A aprendizagem automática está a evoluir muito rapidamente e estamos constantemente a fazer upgrade da nossa tecnologia para que os nossos utilizadores se mantenham atualizados.

O ritmo acelerado do progresso na área significa que surgem frequentemente novas aplicações surpreendentes da IA, tanto positivas como negativas. Vamos bloquear o acesso à API para casos de utilização claramente prejudiciais, como assédio, spam, radicalização ou astroturfing. Mas também sabemos que não podemos prever todas as possíveis consequências desta tecnologia, por isso estamos hoje a lançar uma versão beta privada e não com disponibilidade geral, a criar ferramentas para ajudar os utilizadores a controlar melhor o conteúdo devolvido pela nossa API e a investigar aspetos relevantes de segurança da tecnologia da linguagem (como analisar, mitigar e intervir em vieses prejudiciais). Partilharemos as nossas descobertas para que os nossos utilizadores e a comunidade em geral possam construir sistemas de IA mais positivos para os humanos.

Além de ser uma fonte de receita que nos ajuda a cobrir os custos⁠ da nossa missão⁠, a API incentivou-nos a afinar a nossa tecnologia de IA de uso geral — desenvolvendo-a, tornando-a utilizável, e considerando os seus impactos no mundo real. Esperamos que a API reduza significativamente a barreira⁠(abre numa nova janela) para a criação de produtos de IA benéficos, com ferramentas e serviços difíceis de imaginar nos dias de hoje.

Tens interesse em explorar a API? Junta-te a empresas como Algolia⁠(abre numa nova janela), Quizlet⁠(abre numa nova janela) e Reddit⁠(abre numa nova janela), e a investigadores de instituições como o Middlebury Institute⁠(abre numa nova janela) na nossa versão beta privada⁠(abre numa nova janela).

Em última análise, o que mais nos importa⁠ é garantir que a inteligência artificial geral é benéfica para todos. Consideramos o desenvolvimento de produtos comerciais como uma das formas de garantir que temos fundos suficientes para o conseguir.

Também acreditamos que a implementação segura de sistemas poderosos de IA no mundo será difícil. Ao lançar a API, estamos a trabalhar em estreita colaboração com os nossos parceiros para identificar os desafios da implementação de sistemas de IA no mundo real. Isto vai orientar os nossos esforços para compreender como será a implementação dos futuros sistemas de IA e o que precisamos de fazer para garantir que são seguros e benéficos para todos.

Fizemos isto principalmente por três razões. Em primeiro lugar, a comercialização da tecnologia ajuda-nos a financiar o nosso trabalho contínuo de investigação, segurança e políticas de IA.

Em segundo lugar, muitos dos modelos subjacentes à API são muito grandes e exigem muita experiência para serem desenvolvidos e implementados, o que a sua execução muito cara. Por isso, praticamente só grandes empresas conseguem usar a tecnologia subjacente. Esperamos que a API torne os sistemas poderosos de IA mais acessíveis a empresas e organizações mais pequenas.

Em terceiro lugar, o modelo da API permite-nos responder mais facilmente ao uso indevido da tecnologia. Como é difícil prever os casos de utilização futuros dos nossos modelos, parece inerentemente mais seguro disponibilizá-los através de uma API e alargar o acesso ao longo do tempo, em vez de lançar um modelo de código aberto cujo acesso não possa ser ajustado caso revele aplicações prejudiciais.

Com o GPT‑2, uma das nossas principais preocupações era a utilização maliciosa do modelo (para desinformação, por exemplo), difícil de prevenir com um modelo de código aberto. Para a API, conseguimos prevenir melhor o uso indevido, limitando o acesso a clientes e casos de utilização aprovados. Temos um processo obrigatório de revisão de produção antes que as aplicações propostas possam entrar em funcionamento. Nas revisões de produção, avaliamos as aplicações em diversos aspetos, colocando questões como: Este é um caso de utilização atualmente permitido?,  Qual é o nível de controlo de resultados da aplicação?, Qual o nível de risco da aplicação?, Como planeias lidar com possíveis utilizações indevidas?, e Quem são os utilizadores finais da tua aplicação?

Bloqueamos o acesso à API para casos de utilização que causam (ou pretendem causar) danos físicos, emocionais ou psicológicos às pessoas, incluindo, entre outros, assédio, engano intencional, radicalização, manipulação de opinião pública (astroturfing) ou spam, bem como aplicações que não possuem mecanismos de proteção suficientes para limitar a utilização indevida por parte dos utilizadores finais. À medida que ganharmos mais experiência na operação prática da API, continuaremos a refinar as categorias de utilização aceites, tanto para alargar o leque de aplicações compatíveis, como para criar categorias mais específicas para aquelas sobre as quais temos preocupações relativamente à utilização indevida.

Um fator fundamental que consideramos ao aprovar a utilização da API é a medida em que uma aplicação abre ou restringe os recursos generativos associados do sistema. As aplicações abertas da API (isto é, aquelas que permitem a geração irrestrita de grandes quantidades de texto personalizável através de prompts arbitrários) são especialmente suscetíveis a utilização indevida. As restrições que podem tornar os casos de utilização generativos mais seguros incluem o design de sistemas que implicam um humano no circuito, restrições de acesso do utilizador final, pós-processamento dos resultados, filtragem de conteúdo, limitações de comprimento das entradas e resultados, monitorização ativa e limitações de tópicos.

Também continuamos a investigar sobre potenciais usos indevidos dos modelos disponibilizados pela API, inclusive com investigadores externos através do nosso programa de acesso académico⁠(abre numa nova janela). Estamos a começar com um número muito limitado de investigadores neste momento e já temos alguns resultados dos nossos parceiros académicos do Middlebury Institute⁠(abre numa nova janela), da University of Washington e do Allen Institute for AI⁠(abre numa nova janela). Já recebemos dezenas de milhares de candidaturas para este programa e, neste momento, estamos a dar prioridade a candidaturas focadas na investigação sobre justiça e representação.

Mitigar efeitos negativos, como o viés prejudicial, é uma questão complexa e extremamente importante para todo o setor. Como discutimos no artigo do GPT‑3⁠(abre numa nova janela) e no cartão do modelo⁠(abre numa nova janela), os nossos modelos de API apresentam vieses que se refletem no texto gerado. Estamos a tomar as seguintes medidas para resolver estes problemas:

• Desenvolvemos diretrizes de utilização que ajudam os programadores a compreender e lidar com possíveis problemas de segurança.
• Estamos a trabalhar em estreita colaboração com os utilizadores para compreender os seus casos de utilização e desenvolver ferramentas para identificar e intervir, de forma a mitigar os vieses prejudiciais.
• Estamos a realizar a nossa própria investigação sobre manifestações de viés prejudicial e questões mais amplas de justiça e representação, o que ajudará a orientar o nosso trabalho através de uma melhor documentação dos modelos existentes, bem como de várias melhorias para modelos futuros.
• Reconhecemos que o viés é um problema que se manifesta na interseção de um sistema e de um contexto de implementação. As aplicações desenvolvidas com a nossa tecnologia são sistemas sócio-técnicos, pelo que trabalhamos com os nossos programadores para garantir que estão a implementar processos adequados e sistemas com intervenção humana para monitorizar comportamentos adversos.

O nosso objetivo é continuar a desenvolver a nossa compreensão dos potenciais danos da API em cada contexto de utilização e melhorar continuamente as nossas ferramentas e processos para ajudar a minimizá-los.

Atualizado a 18 de setembro de 2020