Política de partilha e publicação

Para mitigar os possíveis riscos do conteúdo gerado por IA, estabelecemos a política seguinte relativa à partilha permitida.

A publicação dos seus prompts ou conclusões nas redes sociais é geralmente permitido, assim como o streaming em direto da sua utilização ou demonstrar os nossos produtos a grupos de pessoas. Respeite as seguintes indicações:

• Reveja manualmente cada geração antes de partilhar ou durante o streaming.
• Atribua o conteúdo ao seu nome ou à sua empresa.
• Indicar que o conteúdo é gerado por IA de forma que nenhum utilizador possa razoavelmente deixar de compreender.
• Não partilhe conteúdo que viole a nossa Política de Conteúdo⁠s⁠ ou que possa ofender outras pessoas.
• Se aceitar pedidos do público para introduzir prompts, use o bom senso; não introduza prompts que possam resultar em violações da nossa Política de Conteúdos⁠⁠.

Se quiser garantir que a equipa da OpenAI tem conhecimento de uma determinada conclusão, pode enviar-nos um e-mail ou utilizar as ferramentas para reportar disponíveis no Playground.

• Recorde-se de que está a interagir com o modelo em estado bruto, o que significa que não filtramos respostas tendenciosas ou negativas. (Além disso, pode ler mais sobre a implementação do nosso endpoint de Moderação gratuito⁠⁠(abre numa nova janela) aqui.)

Os criadores que desejem publicar o seu conteúdo escrito em primeira mão (por exemplo, um livro, uma coletânea de contos) criado em parte com a API da OpenAI estão autorizados a fazê-lo nas seguintes condições:

• O conteúdo publicado é atribuído ao seu nome ou à sua empresa.
• O papel da IA na formulação do conteúdo é claramente divulgado de forma que nenhum leitor possa deixar de perceber, e que um leitor típico considere suficientemente fácil de compreender.
• Os tópicos do conteúdo não podem violar a Política de Conteúdo⁠⁠ ou os Termos de Utilização⁠⁠ da OpenAI, por exemplo, não podem estar relacionados com conteúdos para adultos, spam, conteúdos de ódio, conteúdos que incitem à violência ou outras utilizações que possam causar danos sociais.
• Pedimos que se abstenha de partilhar resultados que possam ofender outras pessoas.

Por exemplo, deve detalhar num Prefácio ou Introdução (ou em local semelhante) os papéis relativos à redação, edição, etc. As pessoas não devem representar conteúdo gerado pela API como sendo totalmente criado por um humano ou totalmente criado por uma IA, e é um humano que deve assumir a responsabilidade final pelo conteúdo publicado.

Aqui está uma formulação padrão que pode utilizar para descrever o seu processo criativo, desde que seja exata:

Acreditamos que é importante que o mundo em geral possa avaliar a nossa investigação e os nossos produtos, especialmente para compreender e melhorar potenciais fragilidades e problemas de segurança ou de enviesamento nos nossos modelos. Assim, damos as boas-vindas a publicações de investigação relacionadas com a API da OpenAI.

• Em alguns casos, poderemos querer destacar o seu trabalho, interna e/ou externamente.
• Noutros, como em publicações que se relacionem com segurança ou utilização indevida da API, poderemos ter de tomar as medidas adequadas para proteger os nossos utilizadores.
• Se detetar quaisquer problemas de segurança ou proteção na API durante a sua investigação, pedimos que os submeta de imediato através do nosso Programa de Divulgação Coordenada de Vulnerabilidades⁠⁠.

Existem várias direções de investigação que estamos entusiasmados por explorar com a API da OpenAI. Se tiver interesse na oportunidade de acesso subsidiado, pedimos que nos forneça detalhes sobre o seu caso de utilização de investigação através da candidatura ao Programa de Acesso para Investigadores⁠⁠.

Em particular, consideramos as seguintes direções especialmente importantes, embora tenha liberdade para definir a sua própria direção:

• Alinhamento: Como podemos compreender qual o objetivo, se existente, se entende que um modelo prossegue? Como podemos aumentar a medida em que esse objetivo está alinhado com as preferências humanas, por exemplo, através da conceção de prompts ou de ajuste fino?
• Imparcialidade e representação: Como devem ser estabelecidos os critérios de desempenho para imparcialidade e representação em modelos de linguagem? Como podem os modelos de linguagem ser melhorados de forma a apoiar eficazmente os objetivos de imparcialidade e representação em contextos específicos e implementados?
• Investigação interdisciplinar: De que forma o desenvolvimento de IA pode recorrer a conhecimentos de outras disciplinas, como filosofia, ciência cognitiva e sociolinguística?
• Interpretabilidade e transparência: Como funcionam estes modelos, mecanicamente? Podemos identificar quais conceitos estão a utilizar, ou extrair conhecimento latente do modelo, fazer inferências sobre o procedimento de treino, ou prever comportamentos futuros surpreendentes?
• Potencial de uso indevido: Como é que os sistemas como a API podem ser utilizados indevidamente? Que tipos de abordagens de “equipa de testes ofensivos” podemos desenvolver para nos ajudar a nós e a outros desenvolvedores de IA a pensar na implementação responsável de tecnologias como esta?
• Exploração do modelo: Modelos como os disponibilizados pela API têm uma variedade de capacidades que ainda não explorámos. Estamos entusiasmados com investigações em muitas áreas, incluindo limitações do modelo, propriedades linguísticas, raciocínio de senso comum e usos potenciais para muitos outros problemas.
• Robustez: Modelos generativos apresentam superfícies de capacidade irregulares, com potencial para áreas de capacidade surpreendentemente fortes e surpreendentemente fracas. Até que ponto são robustos os grandes modelos generativos relativamente a perturbações “naturais” no prompt, como expressar a mesma ideia de diferentes formas ou com ou sem erros tipográficos? Podemos prever os tipos de domínios e tarefas para os quais os grandes modelos generativos são mais propensos a ser robustos (ou não robustos), e como isso se relaciona com os dados de treino? Existem técnicas que podemos usar para prever e mitigar comportamentos no pior cenário? Como pode a robustez ser medida no contexto de aprendizagem com poucos exemplos (few-shot learning), por exemplo, através de variações nos prompts? Podemos treinar modelos de forma a que satisfaçam propriedades de segurança com um nível muito elevado de fiabilidade, mesmo perante entradas adversariais?

Note que, devido ao elevado volume de pedidos, demora algum tempo até analisarmos estas candidaturas e nem toda a investigação será prioritariamente subsidiada. Apenas entraremos em contacto se a sua candidatura for selecionada para subsídio.