OpenAI i Los Alamos National Laboratory anuncien una col·laboració de recerca en biosciència

OpenAI i Los Alamos National Laboratory (LANL), un dels principals laboratoris nacionals dels Estats Units, treballen conjuntament per estudiar com la intel·ligència artificial es pot utilitzar de manera segura per part dels científics en entorns de laboratori per avançar la recerca en biosciència. Aquesta col·laboració segueix una llarga tradició del sector públic dels Estats Units, i en particular dels laboratoris nacionals, de treballar amb el sector privat del país per garantir que els avenços en innovació es tradueixin en avenços en àrees essencials com l'atenció sanitària i la biosciència. 

La recent ordre executiva de la Casa Blanca sobre el desenvolupament i l'ús segurs, protegits i fiables de la intel·ligència artificial⁠(s'obre en una finestra nova) encarrega als laboratoris nacionals del Departament d'Energia dels Estats Units que ajudin a avaluar les capacitats dels models d'IA d'avantguarda, incloses les capacitats biològiques. Això és important per a OpenAI perquè creiem que la IA té el potencial de multiplicar la velocitat i l'impacte de la ciència per al bé comú. Ja ara, Moderna aprofita la tecnologia d'OpenAI per reforçar el desenvolupament d'assajos clínics⁠ mitjançant la creació d'un assistent d'anàlisi de dades dissenyat per ajudar a analitzar grans conjunts de dades. Color Health⁠ ha creat un nou copilot amb GPT‑4o per ajudar els professionals sanitaris a prendre decisions basades en l'evidència sobre el cribratge i el tractament del càncer. 

«Com a empresa privada dedicada a servir l'interès públic, ens complau anunciar una col·laboració pionera amb Los Alamos National Laboratory per estudiar les capacitats en biosciència», va dir Mira Murati, directora de tecnologia d'OpenAI. «Aquesta col·laboració marca una progressió natural en la nostra missió: avançar en la recerca científica i, alhora, entendre i mitigar els riscos.»

«La IA és una eina poderosa que té el potencial d'aportar grans beneficis al camp de la ciència, però, com passa amb qualsevol tecnologia nova, comporta riscos», va dir Nick Generous, sotscap de grup de Sistemes d'Informació i Modelització.  «A Los Alamos, aquest treball estarà liderat pel nou Grup d'Avaluació Tècnica de Riscos d'IA del laboratori, que ajudarà a avaluar i entendre millor aquests riscos.»

OpenAI i la divisió de biosciència de Los Alamos National Laboratory estan treballant en un estudi d'avaluació per valorar com models d'avantguarda com GPT‑4o⁠ poden ajudar les persones a dur a terme tasques en un entorn de laboratori físic mitjançant capacitats multimodals com la visió i la veu. Això inclou avaluacions de seguretat biològica per a GPT‑4o i els seus sistemes de veu en temps real encara no publicats, per entendre com es podrien utilitzar per donar suport a la recerca en biosciència. Creiem que la nostra propera avaluació serà la primera d'aquest tipus i contribuirà a la recerca més avançada sobre avaluacions de bioseguretat de la IA. Es basarà en el nostre treball existent⁠ sobre els riscos de les amenaces biològiques i seguirà el nostre Entorn de treball de preparació⁠, que descriu el nostre enfocament per fer el seguiment, avaluar, preveure i protegir-nos contra els riscos dels models, i és coherent amb els nostres compromisos sobre la seguretat de la IA d'avantguarda acordats a la Cimera d'IA de Seül de 2024. 

La nostra propera avaluació amb Los Alamos serà el primer experiment per provar models multimodals d'avantguarda en un entorn de laboratori mitjançant l'avaluació de les capacitats tant d'experts com de persones sense experiència per executar i resoldre problemes d'un protocol segur format per tasques experimentals de laboratori estàndard. Aquestes tasques pretenen servir de representació de tasques més complexes que plantegen un problema de doble ús. Les tasques poden incloure la transformació (p. ex., introduir material genètic extern en un organisme hoste), el cultiu cel·lular (p. ex., mantenir i propagar cèl·lules in vitro) i la separació cel·lular (p. ex., mitjançant centrifugació). Examinant la millora en la finalització de tasques i en la precisió que permet GPT‑4o, pretenem quantificar i avaluar com els models d'avantguarda poden millorar les competències tant de professionals existents o persones amb doctorat com de persones sense experiència en tasques biològiques del món real. 

Aquestes noves avaluacions amplien el nostre treball anterior en diverses dimensions noves: 

1. Incorporació de tècniques de laboratori humit. Les tasques escrites i les respostes per sintetitzar i disseminar compostos eren indicatives, però no capten del tot les habilitats necessàries per dur a terme realment treball experimental biològic de bancada. Per exemple, pot ser fàcil saber que cal fer espectrometria de masses o fins i tot descriure'n els passos per escrit; és molt més difícil executar-ho correctament, amb mostres reals.
2. Incorporació de múltiples modalitats. El nostre treball anterior se centrava en GPT‑4, que implicava resultats escrits. La capacitat de GPT‑4o de raonar entre modalitats i d'acceptar entrades de veu i visuals pot accelerar l'aprenentatge. Per exemple, un usuari menys familiaritzat amb tots els components d'un muntatge de laboratori humit pot simplement mostrar el seu muntatge a GPT‑4o i fer-li preguntes, i resoldre visualment situacions mitjançant la càmera en lloc d'haver d'explicar la situació com una pregunta escrita.

Los Alamos National Laboratory ha estat pioner en la recerca en seguretat i esperem treballar conjuntament en avaluacions de seguretat noves i sòlides per a models d'IA d'avantguarda a mesura que les capacitats continuen millorant ràpidament. Aquest esforç cooperatiu no només subratlla el potencial de models d'IA multimodals com GPT‑4o per donar suport a la recerca científica, sinó que també posa èmfasi en la importància crítica de la col·laboració entre els sectors privat i públic tant per aprofitar la innovació com per garantir la seguretat. Mentre esperem els resultats d'aquestes avaluacions, confiem que aquesta col·laboració ajudarà a establir nous estàndards de seguretat i eficàcia de la IA en les ciències i obrirà el camí a futures innovacions que beneficiïn la humanitat.