Política de difusión y publicación

Para mitigar los posibles riesgos del contenido generado por IA, hemos establecido la siguiente política sobre el uso compartido que se permite.

Publicar sus instrucciones o respuestas en redes sociales en general está permitido, al igual que las transmisiones en vivo de su uso o la demostración de nuestros productos a un grupo de personas. Cumpla con lo siguiente:

• Revise manualmente cada generación antes de compartirla o durante la transmisión.
• Adjudique el contenido a su nombre o a su empresa.
• Indique que el contenido fue generado por IA de tal manera que ningún usuario pueda pasarlo por alto o malinterpretarlo.
• No comparta contenido que infrinja nuestra Política de contenido⁠⁠ ni que pueda ofender a otras personas.
• Si solicita a la audiencia sugerencias de instrucciones, utilice su criterio y no ingrese instrucciones que puedan ocasionar infracciones de nuestra Política de contenido⁠⁠.

Si le gustaría asegurarse de que el equipo de OpenAI esté informado sobre una respuesta en particular, puede enviarnos un correo electrónico o utilizar las herramientas de denuncia en Playground.

• Recuerde que está interactuando con el modelo base. Esto significa que no filtramos las respuestas sesgadas o negativas. (También puede leer más acerca de implementar nuestro punto final de moderación gratuito⁠⁠(se abre en una nueva ventana) aquí.)

Los creadores que deseen publicar su contenido redactado por ellos mismos (es decir, un libro, un compendio de historias cortas) creadas en parte con la API de OpenAI pueden hacerlo bajo las siguientes condiciones:

• El contenido publicado se adjudica a su nombre o empresa.
• El rol de la IA en la elaboración del contenido se indica explícitamente de tal manera que ningún lector podría pasarlo por alto y de tal manera que un lector promedio lo consideraría suficientemente fácil de entender.
• Los temas del contenido no infringen la Política de contenido⁠⁠ ni las Condiciones de uso⁠⁠ de OpenAI, p. ej., no están relacionados con contenido adulto, spam, contenido de odio, contenido que incite a la violencia u otros usos que podrían ocasionar daño social.
• Le pedimos que se abstenga de compartir resultados que puedan ofender a otras personas.

Por ejemplo, se debe detallar en un Prólogo o una Introducción (o algo similar) los roles relativos de redacción de borrador, edición, etc. Los usuarios no deben presentar contenido generado por API como contenido generado por un humano ni como generado íntegramente por IA, y el responsable final del contenido publicado debe ser un ser humano.

Estas son algunas frases que puede usar para describir su proceso creativo, siempre y cuando sea preciso:

Creemos que es importante que el mundo en general pueda evaluar nuestra investigación y nuestros productos, especialmente para entender y mejorar las posibles debilidades y los problemas de sesgo y seguridad en nuestros modelos. Por lo tanto, las publicaciones de investigaciones relacionadas con la API de OpenAI son bienvenidas.

• En algunos casos, es posible que deseemos destacar su trabajo interna o externamente.
• En otros casos, como los de las publicaciones que tratan sobre la seguridad o el mal uso de la API, es posible que deseemos tomar las medidas necesarias para proteger a nuestros usuarios.
• Si advierte un problema de seguridad con la API mientras realiza la investigación, le pedimos que lo informe inmediatamente mediante nuestro Programa de divulgación coordinada de vulnerabilidades⁠.

Existen diversas líneas de investigación que deseamos explorar con la API de OpenAI. Si está interesado en la oportunidad de tener acceso subsidiado, envíenos información sobre el caso de uso de su investigación mediante una solicitud para el Programa de accesos para investigadores⁠.

Específicamente, consideramos que las siguientes líneas de investigación son de particular importancia, aunque usted puede definir la suya propia:

• Alineación: ¿Cómo podemos comprender cuál es el principal objetivo de un modelo, si es que lo tiene? ¿Cómo incrementamos el grado en que ese objetivo se alinea con las preferencias de los seres humanos, por ejemplo, a través de la elaboración de instrucciones o haciendo ajustes?
• Equidad y representación: ¿Cómo se deberían establecer los criterios de rendimiento respecto de la equidad y representación en los modelos de lenguaje? ¿Cómo se pueden mejorar los modelos de lenguaje a fin de contribuir eficazmente a los objetivos de equidad y representación en contextos reales y específicos?
• Investigación interdisciplinaria: ¿Cómo puede el desarrollo de la IA hacer uso de los conocimientos de otras disciplinas, como la filosofía, la ciencia cognitiva y la sociolingüística?
• Capacidad de interpretación y transparencia: ¿Cómo funcionan estos modelos desde el punto de vista mecánico? ¿Se pueden identificar los conceptos que utiliza o extraer el conocimiento latente del modelo, hacer inferencias sobre el proceso de entrenamiento o predecir un comportamiento futuro inesperado?
• Potencial de uso indebido: ¿Cómo pueden usarse los sistemas como las API de forma indebida? ¿Qué tipos de métodos de “equipo rojo” podemos desarrollar para que nos ayuden a nosotros y a otros desarrolladores de IA a pensar sobre la implementación responsable de tecnologías como esta?
• Exploración del modelo: Los modelos como los que funcionan con API tienen diversas capacidades que todavía no hemos explorado. Nos entusiasman las investigaciones en muchas áreas, incluidas las limitaciones de los modelos, las propiedades lingüísticas, el razonamiento lógico y los usos potenciales para muchos otros problemas.
• Solidez: Los modelos generativos tienen superficies de capacidad irregulares, con potencial de tener áreas de capacidad sorprendentemente robustas o débiles. ¿Cuán sólidos son los grandes modelos generativos frente a los problemas “naturales” en la instrucción, como expresar la misma idea de diferentes maneras, o con o sin errores de digitación? ¿Podemos predecir para qué tipos de dominios y tareas son más sólidos (o no) los grandes modelos generativos, y cómo esto se relaciona con los datos de entrenamiento? ¿Existen técnicas que podemos utilizar para predecir y mitigar los comportamientos en el peor de los casos? ¿Cómo se puede medir la solidez en el contexto del aprendizaje a partir de pocos ejemplos (p. ej., en variaciones de instrucciones)? ¿Podemos entrenar a los modelos de manera que satisfagan las propiedades de seguridad con un nivel muy alto de confianza, incluso cuando se utilicen entradas adversas?

Tenga en cuenta que, dado el gran volumen de solicitudes, revisarlas nos llevará tiempo y no todas las investigaciones se priorizarán para recibir subsidios. Nos comunicaremos únicamente si su solicitud es seleccionada para el subsidio.