API da OpenAI

Estamos lançando uma API para acessar novos modelos de IA desenvolvidos pela OpenAI. Ao contrário da maioria dos sistemas de IA, feitos para um caso de uso específico, a API hoje oferece uma interface para fins gerais, com entrada e saída de texto, que pode ser usada para praticamente qualquer tarefa em língua inglesa. Você já pode solicitar acesso para integrar a API ao seu produto, desenvolver um aplicativo novo ou ajudar-nos a explorar os limites e pontos fortes dessa tecnologia.

Ao receber qualquer prompt de texto, a API apresenta um texto complementar que tenta seguir o padrão fornecido. Você pode "programá-la", mostrando apenas alguns exemplos do que você queria fazer; o sucesso geralmente depende do nível de complexidade da tarefa. A API também permite que você ajuste o desempenho de tarefas específicas, treinando um conjunto de dados (pequeno ou grande) de exemplos escolhidos por você, ou aprendendo com feedback humano fornecido por usuários ou classificadores.

Projetamos a API de forma que ela seja simples para qualquer pessoa usar, mas também flexível para aumentar a produtividade de equipes de aprendizagem de máquina. Na verdade, muitas de nossas equipes estão usando a API para trabalhar mais com pesquisa em aprendizagem de máquina do que em problemas de sistemas distribuídos. Hoje, a API executa modelos com ponderações da família GPT‑3⁠(abre em uma nova janela), com muitas melhorias em velocidade e produtividade. A aprendizagem de máquina está melhorando rapidamente, e estamos sempre atualizando nossas tecnologias para fornecer acesso aos usuários.

O ritmo das melhorias na área significa que há sempre novas aplicações surpreendentes para a IA, tanto positivas quanto negativas. Nós bloqueamos o acesso à API em casos obviamente prejudiciais, como assédio, spam, radicalização ou astroturfing. Mas também sabemos que não é possível prever todas as possíveis consequências dessa tecnologia, então hoje estamos lançando em beta privado e não com disponibilidade geral, criando ferramentas para ajudar os usuários a controlar o conteúdo retornado pela API e pesquisando aspectos de segurança da tecnologia da linguagem (como análise, mitigação e intervenção de vieses prejudiciais). Compartilharemos o que descobrirmos, para que nossos usuários e toda a comunidade possam criar sistemas de IA mais positivos para os humanos.

Além de ser uma fonte de receita que nos ajuda a cobrir os custos⁠ de nossa missão⁠, a API nos obrigou a afinar nossa IA para fins genéricos, desenvolvendo a tecnologia, tornando-a mais usável e considerando seus impactos no mundo real. Esperamos que a API reduza muito a barreira⁠(abre em uma nova janela) para a criação de produtos de IA benéficos, gerando ferramentas e serviços que hoje ainda são difíceis de imaginar.

Gostaria de explorar a API? Junte-se a empresas como Algolia⁠(abre em uma nova janela), Quizlet⁠(abre em uma nova janela) e Reddit⁠(abre em uma nova janela) e pesquisadores de instituições como o Middlebury Institute⁠(abre em uma nova janela) em nosso beta privado⁠(abre em uma nova janela).

Em última análise, o que mais queremos⁠ é garantir que a inteligência artificial geral seja vantajosa para todos. Acreditamos que o desenvolvimento de produtos comerciais é uma das formas de garantir fundos suficientes para o nosso sucesso.

Também acreditamos que será difícil conseguir uma implementação segura de sistemas poderosos de IA no mundo. Com o lançamento da API, estamos trabalhando em estreita colaboração com nossos parceiros para entender os desafios da implementação de sistemas de IA no mundo real. Isso orientará os nossos esforços para entender como serão implementados os sistemas de IA no futuro e o que será necessário para que eles sejam seguros e benéficos para todos.

Fizemos isso por três motivos. Primeiro, comercializar a tecnologia nos ajuda a financiar o trabalho de pesquisa, segurança e criação de políticas de IA.

Em segundo lugar, muitos dos modelos usados pela API são muito grandes. Isso faz com que seu desenvolvimento e implementação exijam muito conhecimento e torna sua execução muito cara. Por isso, praticamente só grandes empresas conseguem usar a tecnologia associada. Nossa esperança é que, com a API, sistemas poderosos de IA fiquem mais acessíveis para empresas e organizações menores.

Em terceiro lugar, a implementação por meio de APIs permite evitar o uso inadequado da tecnologia. Como é difícil prever casos de uso futuros de nossos modelos, parece-nos inerentemente mais seguro lançá-los em forma de API e ampliar o acesso com o tempo do que lançar o modelo de código aberto, situação em que o acesso não poderia ser restrito caso se desenvolvessem aplicações prejudiciais.

Com o GPT‑2, uma das nossas maiores preocupações era o uso mal-intencionado do modelo (para desinformação, por exemplo), algo difícil de impedir quando o modelo é fornecido com código aberto. Com a API, conseguimos impedir o uso indevido limitando o acesso a clientes e casos de uso aprovados. Temos um processo obrigatório de revisão de produção antes que aplicativos possam entrar em operação. Nas revisões de produção, avaliamos os aplicativos em relação a algumas áreas, com perguntas como: Este caso de uso é permitido no momento?, Qual o nível de controle de resultados do aplicativo?, Qual o nível de risco do aplicativo?, Como você pretende resolver usos indevidos?, Quem são os usuários finais de seu aplicativo?.

Bloqueamos o acesso à API para casos de uso que causem (ou pretendam causar) dano físico, emocional, ou psicológico as pessoas, como assédio, engano intencional, radicalização, astroturfing ou spam, bem como aplicativos que não tenham limitadores suficientes para evitar o uso indevido pelos usuários finais. Conforme ganhamos mais experiência prática na operação da API, continuaremos refinando as categorias de uso aceitas, tanto para ampliar a gama de aplicativos compatíveis quanto para criar categorias mais detalhadas de uso indevido.

Um fator importante que consideramos ao aprovar usos da API é até que ponto um aplicativo abre ou restringe os recursos generativos associados do sistema. Um aplicativo de natureza aberta (ou seja, que permite a geração irrestrita de grandes quantidades de texto personalizado baseado em prompts arbitrários) fica muito mais vulnerável a uso indevido. Algumas restrições que podem aumentar a segurança de casos de uso generativos: sistemas projetados de forma a incluir um humanos no processo, restrições de acesso aos usuários finais, pós-processamento dos resultados, filtragem de conteúdo, limitação do comprimento das entradas e resultados, monitoramento ativo e limitações de tópicos.

Também continuamos a pesquisar possíveis usos indevidos dos modelos atendidos pela API, inclusive com pesquisadores externos por meio de nosso programa de acesso acadêmico⁠(abre em uma nova janela). No momento, começamos com um número muito limitado de pesquisadores e já temos alguns resultados de nossos parceiros acadêmicos no Middlebury Institute⁠(abre em uma nova janela), na University of Washington e no Allen Institute for AI⁠(abre em uma nova janela). Temos dezenas de milhares de candidatos a este programa e estamos priorizando as candidaturas de pesquisa com foco em justiça e representação.

Mitigar efeitos negativos como viés prejudicial é um problema complexo e extremamente importante para todo setor. Como discutimos no artigo sobre o GPT‑3⁠(abre em uma nova janela) e no cartão do modelo⁠(abre em uma nova janela), nossos modelos de API apresentam vieses que se refletem no texto gerado. Estamos tomando as seguintes providências para abordar esses problemas:

• Desenvolvemos diretrizes de uso que ajudam os desenvolvedores a entender e gerenciar problemas de segurança.
• Estamos colaborando com os usuários para entender seus casos de uso e desenvolver ferramentas para identificar e intervir a fim de mitigar vieses prejudiciais.
• Estamos realizando nossas próprias pesquisas sobre manifestações de viés negativo e problemas mais amplos de justiça e representação, que devem embasar nosso trabalho de melhoria da documentação dos modelos existentes e permitir diversos aperfeiçoamentos em modelos futuros.
• Reconhecemos que o viés é um problema que se manifesta na interseção de um sistema e do seu contexto de implementação. Os aplicativos desenvolvidos com nossa tecnologia são sistemas sócio-técnicos, e instruímos nossos desenvolvedores para garantir que eles insiram processos adequados e sistemas com participação humana para monitorar comportamentos adversos.

Nosso objetivo é continuar desenvolvendo nossa compreensão dos pontos negativos da API em cada contexto de uso e melhorar continuamente nossas ferramentas e processos para minimizá-los.

Atualizado em 18 de setembro de 2020