OpenAI y el Laboratorio Nacional de Los Álamos anuncian su asociación de investigación para biociencia

OpenAI y el Laboratorio Nacional de Los Álamos (LANL), uno de los principales laboratorios nacionales en los Estados Unidos, están trabajando en conjunto para estudiar cómo los científicos pueden usar la inteligencia artificial para avanzar en la investigación en biociencia. Esta asociación sigue una larga tradición del sector público de los EE. UU., en especial de los laboratorios nacionales, trabajando con el sector privado de los EE. UU. para garantizar que los avances en innovación se conviertan en avances en áreas esenciales como atención de la salud y biociencia. 

El reciente decreto ejecutivo de la Casa Blanca para el desarrollo y uso seguro y confiable de la inteligencia artificial⁠(se abre en una nueva ventana) asigna a los laboratorios nacionales del Departamento de Energía de los EE. UU. para ayudar a evaluar las capacidades de los modelos de frontera de la IA, incluidas las capacidades biológicas. Esto es importante para OpenAI porque creemos que la IA tiene la capacidad de multiplicar la velocidad e impacto de la ciencia para el bien. Moderna ya está aprovechando la tecnología de OpenAI para aumentar el desarrollo de ensayos clínicos⁠ al crear un asistente de análisis de datos diseñado para ayudar a analizar grandes conjuntos de datos. Color Health⁠ creó un copiloto nuevo con GPT‑4o para ayudar a los proveedores de atención médica a tomar decisiones basadas en evidencia sobre detección y tratamiento contra el cáncer. 

“Como una empresa privada dedicada a servir al interés público, nos emociona anunciar una asociación primera en su tipo con el Laboratorio Nacional de Los Álamos para estudiar las capacidades de la biociencia”, indicó Mira Murati, directora de tecnología de OpenAI. “Esta asociación marca un progreso natural en nuestra misión, lo que logra avances en la investigación científica mientras también comprende y mitiga riesgos”.

“La IA es una herramienta potente que tiene la capacidad de obtener grandes beneficios en el ámbito de la ciencia, pero, como cualquier tecnología nueva, conlleva riesgos”, expresó Nick Generous, líder adjunto de grupo para sistemas de información y modelado.  “En Los Álamos, el grupo de evaluación técnica de riesgos de IA nuevo del laboratorio llevará a cabo este trabajo, que ayudará a evaluar y comprender mejor estos riesgos”.

OpenAI y la División de Biociencia del Laboratorio Nacional Los Álamos están trabajando en un estudio de evaluación para determinar cómo los modelos de frontera como GPT‑4o⁠ pueden ayudar a personas a realizar tareas en un entorno de laboratorio físico mediante capacidades multimodales como visión y voz. Esto incluye evaluaciones de seguridad biológica para GPT‑4o y sus sistemas de voz en tiempo real actualmente confidenciales para comprender cómo se podrían usar para brindar apoyo a la investigación en biociencia. Consideramos que nuestra próxima evaluación será la primera de su tipo y contribuirá a la investigación de punta sobre evaluaciones de bioseguridad de IA. Usará de base nuestro trabajo existente⁠ sobre riesgos de amenaza biológica y seguirá nuestro marco de preparación⁠, que describe nuestro enfoque para hacer seguimiento, evaluar, pronosticar y proteger contra riesgos al modelo, y es consistente con nuestros compromisos hacia la seguridad de la IA de frontera acordada en la Cumbre sobre IA 2024 en Seúl. 

Nuestra próxima evaluación con Los Álamos será el primer experimento para probar modelos de frontera multimodales en un entorno de laboratorio al evaluar las capacidades de expertos y novatos para realizar y resolver un protocolo seguro que consta de tareas experimentales de laboratorio estándar. Estas tareas tienen la finalidad de servir como proxy para tareas más complejas que plantean una preocupación de uso dual. Las tareas pueden incluir transformación (p. ej., presentar material genético extraño a un organismo huésped), cultivo celular (p. ej., mantener y propagar células in vitro) y separación de células (p. ej., mediante centrifugación). Al examinar el aumento en finalización y precisión de tareas gracias a GPT‑4o, apuntamos a cuantificar y evaluar cómo los modelos de frontera pueden entrenar a profesionales existentes y con doctorado así como también novatos en tareas biológicas en el mundo real. 

Estas evaluaciones nuevas prolongan nuestro trabajo previo en varias dimensiones nuevas: 

1. Incorporar técnicas de laboratorio de química. Las tareas y respuestas escritas para sintetizar y diseminar compuestos fueron indicativas, pero no captaron por completo las habilidades requeridas para realmente conducir una referencia de comparación biológica. Por ejemplo, puede resultar fácil saber que uno debe realizar una espectrometría de masas o incluso detallar los pasos por escrito; es mucho más difícil realizarla correctamente con muestras reales.
2. Incorporar modalidades múltiples. Nuestro trabajo previo centrado en GPT‑4, que comprendió salidas escritas. La capacidad de GPT‑4o para razonar entre modalidades y tomar voz y entradas visuales puede agilizar potencialmente el aprendizaje. Por ejemplo, un usuario que esté menos familiarizado con todos los componentes de un entorno de laboratorio de química puede simplemente mostrar su entorno a GPT‑4o e indicarle consultas con preguntas, y resolver escenarios visualmente mediante la cámara en lugar de expresar la situación como una pregunta escrita.

El Laboratorio Nacional de Los Álamos ha sido pionero en investigaciones de seguridad y deseamos trabajar juntos en evaluaciones de seguridad sólidas e innovadoras para modelos de frontera de IA a medida que las capacidades continúan mejorando rápidamente. Este esfuerzo cooperativo no solo respalda la capacidad de modelos multimodales de IA como GPT‑4o para respaldar la investigación científica, pero también enfatiza la importancia crítica de la colaboración del sector público y privado en aprovechar la innovación y garantizar la seguridad. Mientras observamos los resultados de estas evaluaciones, esperamos que esta asociación ayude a establecer estándares nuevos para la seguridad y eficacia de la IA en las ciencias, abriendo camino a innovaciones futuras que beneficien a la humanidad.