Política de uso compartido y publicación

Para mitigar los posibles riesgos del contenido generado por IA, hemos establecido la siguiente política sobre el uso compartido permitido.

Por lo general, publicar sus propias indicaciones o resultados en redes sociales es admisible, al igual que retransmitir en directo su uso o mostrar nuestros productos a grupos de personas. Cumpla con lo siguiente:

• Revise manualmente cada resultado antes de compartirlo o mientras lo retransmite en directo.
• Atribuya el contenido a su nombre o al de su empresa.
• Indique que el contenido ha sido generado por IA de una forma que ningún usuario pueda razonablemente pasarlo por alto o malinterpretarlo.
• No comparta contenido que infrinja nuestra Política de contenido⁠ ni que pueda ofender a otras personas.
• Si acepta solicitudes de la audiencia para crear indicaciones, use su buen criterio; no introduzca indicaciones que puedan dar lugar a infracciones de nuestra Política de contenido⁠.

Si desea asegurarse de que el equipo de OpenAI tenga conocimiento de un resultado concreto, escriba un correo electrónico o utilice las herramientas de notificación disponibles en Playground.

• Recuerde que está interactuando con el modelo en bruto, lo que significa que no filtramos respuestas sesgadas o negativas. (También puede obtener más información aquí sobre cómo implementar nuestro punto final gratuito de moderación⁠(se abre en una ventana nueva)).

Los creadores que deseen publicar contenido escrito de primera mano (por ejemplo, un libro o una recopilación de relatos) creado en parte con la API de OpenAI pueden hacerlo bajo las siguientes condiciones:

• El contenido publicado debe atribuirse a su nombre o al de su empresa.
• Debe revelarse de forma clara el uso de la IA en la elaboración del contenido, de modo que ningún lector pueda razonablemente pasarlo por alto, y que un lector típico lo entienda con suficiente facilidad.
• Los temas del contenido no deben infringir la Política de contenido⁠ ni las Condiciones de uso⁠ de OpenAI, por ejemplo, no deben estar relacionados con contenido para adultos, correo basura, contenido de odio, contenido que incite a la violencia u otros usos que puedan causar daños sociales.
• Le pedimos amablemente que se abstenga de compartir resultados que puedan ofender a otras personas.

Por ejemplo, detalle en un prólogo o una introducción (o en un lugar similar) las funciones relativas de redacción, edición, etc. Las personas no deben presentar contenido generado con la API como si lo hubiese creado totalmente un ser humano ni como si se hubiese generado con IA en su totalidad, y debe ser una persona quien asuma la responsabilidad última del contenido publicado.

Aquí tiene un texto estándar que puede utilizar para describir su proceso creativo, siempre que sea exacto:

Consideramos importante que el mundo en general pueda evaluar nuestras investigaciones y productos, especialmente para comprender y mejorar posibles debilidades, así como problemas de seguridad o sesgo en nuestros modelos. Por lo tanto, damos la bienvenida a publicaciones de investigación relacionadas con la API de OpenAI.

• En algunos casos, es posible que queramos destacar su trabajo de manera interna y/o externa.
• En otros, como en publicaciones que se refieran a la seguridad o al uso indebido de la API, es posible que queramos tomar medidas adecuadas para proteger a nuestros usuarios.
• Si detecta algún problema de seguridad o de protección con la API en el curso de su investigación, le pedimos que lo comunique de inmediato a través de nuestro Programa coordinado de divulgación de vulnerabilidades⁠.

Existen diversas líneas de investigación que nos entusiasma explorar con la API de OpenAI. Si le interesa la posibilidad de obtener acceso subvencionado, facilítenos los detalles de su caso de uso de investigación en la solicitud del Programa de acceso para investigadores⁠.

En particular, consideramos que las siguientes son líneas de investigación especialmente importantes, aunque usted es libre de proponer la suya propia:

• Alineación: ¿Cómo podemos determinar qué objetivo, en su caso, se entiende que persigue un modelo? ¿Cómo podemos aumentar el grado en que dicho objetivo se alinea con las preferencias humanas, por ejemplo, mediante el diseño de indicaciones o la optimización?
• Equidad y representación: ¿Cómo deben establecerse los criterios de rendimiento en materia de equidad y representación en los modelos de lenguaje? ¿Cómo pueden mejorarse los modelos de lenguaje para apoyar de forma efectiva los objetivos de equidad y representación en contextos específicos ya implementados?
• Investigación interdisciplinar: ¿Cómo puede el desarrollo de la IA nutrirse de los conocimientos de otras disciplinas como la filosofía, la ciencia cognitiva y la sociolingüística?
• Interpretabilidad y transparencia: ¿Cómo funcionan estos modelos desde un punto de vista mecanicista? ¿Podemos identificar qué conceptos están utilizando, extraer conocimiento latente del modelo, hacer inferencias sobre el procedimiento de formación o predecir comportamientos futuros inesperados?
• Riesgo de uso indebido: ¿Cómo pueden sistemas como la API utilizarse de forma indebida? ¿Qué tipos de enfoques de equipo rojo podemos desarrollar para ayudarnos a nosotros y a otros desarrolladores de IA a reflexionar sobre el despliegue responsable de tecnologías como esta?
• Exploración de modelos: Los modelos que presta la API cuentan con diversas capacidades que aún no hemos explorado. Nos entusiasman las investigaciones en muchas áreas, incluidas las limitaciones de los modelos, las propiedades lingüísticas, el razonamiento basado en el sentido común y los posibles usos para muchos otros problemas.
• Fiabilidad: Los modelos generativos presentan perfiles de capacidades desiguales, con potencial para áreas de rendimiento sorprendentemente fuertes y sorprendentemente débiles. ¿Hasta qué punto son fiables los modelos generativos de gran tamaño frente a perturbaciones «naturales» en la indicación, como formular la misma idea de distintas maneras o con o sin errores tipográficos? ¿Podemos predecir los tipos de dominios y tareas para los que es más probable que los modelos generativos de gran tamaño sean fiables (o no lo sean), y cómo se relaciona esto con los datos de formación? ¿Existen técnicas que podamos utilizar para predecir y mitigar el comportamiento en el peor de los casos? ¿Cómo puede medirse la fiabilidad en el contexto del aprendizaje con pocos ejemplos (p. ej., ante variaciones en las indicaciones)? ¿Podemos entrenar los modelos de modo que cumplan propiedades de seguridad con un nivel de fiabilidad muy alto, incluso con la introducción de información adversa?

Tenga en cuenta que, debido al volumen elevado de solicitudes, nos lleva tiempo revisar estas candidaturas y no todas las investigaciones se priorizarán para su subvención. Solo nos pondremos en contacto con usted si su solicitud resulta seleccionada para la subvención.