Tarjeta del sistema del agente ChatGPT
El agente ChatGPT es un nuevo modelo autómata de la misma familia que OpenAI o3, que aúna las fortalezas de la investigación a fondo y de Operator. Es una combinación de:
- La capacidad de la investigación a fondo de llevar a cabo investigaciones de varias etapas y elaborar informes de alta calidad;
- La capacidad de Operator de realizar tareas a distancia por medio de un navegador visual;
- Una herramienta terminal con acceso limitado a la red para ejecutar código, hacer análisis de datos y preparar diapositivas u hojas de cálculo;
- Acceso a fuentes de datos y aplicaciones externas (como Google Drive) gracias a conectores de origen.
Nuestra prioridad es, desde el principio, que la seguridad sea una parte integrante del sistema, por lo que decidimos ampliar los ya rigurosos controles de la vista previa de la investigación de Operator y agregarles salvaguardias adicionales para hacer frente a nuevos riesgos, como los que presentan el mayor alcance de los usuarios y el acceso a los terminales. Si te interesa saber más, consulta la sección Mitigación de riesgos específicos de cada producto.
Dentro de nuestro marco de preparación, nos pareció adecuado considerar este lanzamiento como de alta capacidad en el ámbito biológico y químico y activar las salvaguardias correspondientes. Como aún no tenemos pruebas concluyentes de que este modelo pueda ayudar a un novato a causar un daño biológico grave (nuestro umbral definido(se abre en una nueva ventana) de alta capacidad), preferimos adoptar un enfoque preventivo.
