Estimación de los riesgos potenciales de los LLM de ponderación abierta.

En este artículo estudiamos los riesgos potenciales más graves de la publicación de gpt-oss. Hablamos del ajuste malicioso (MFT), un método con el que intentamos obtener las máximas capacidades afinando gpt-oss para dotarlo de la mayor capacidad posible en dos ámbitos: la biología y la ciberseguridad. Para maximizar el riesgo biológico, preparamos tareas específicas relacionadas con la creación de amenazas y entrenamos a gpt-oss en un entorno de aprendizaje reforzado con navegación web. Para maximizar el riesgo de ciberseguridad, entrenamos a gpt-oss en un entorno de programación agéntica para resolver retos «capture the flag» (CTF). Comparamos estos modelos de ajuste malicioso con los LLM de ponderación abierta y cerrada en las evaluaciones de riesgos potenciales. En comparación con los modelos avanzados de ponderación cerrada, MFT gpt-oss rinde por debajo de OpenAI o3, un modelo que no alcanza el nivel de preparación elevado en cuanto a biorriesgos y ciberseguridad. En comparación con los modelos de ponderación abierta, gpt-oss puede aumentar ligeramente las prestaciones biológicas, pero no supone un avance sustancial en la frontera de las capacidades. Juntos, estos resultados contribuyeron a nuestra decisión de lanzar el modelo, y esperamos que nuestro enfoque basado en el ajuste malicioso pueda ser de gran utilidad a la hora de estimar los daños derivados de futuros lanzamientos de ponderación abierta.