Grupo asesor sobre matemáticas e inteligencia artificial
El 28 de agosto, comenzamos a entrenar un nuevo modelo interno. Además de resolver el problema del milenio de Navier–Stokes, este modelo ya resolvió más de 100 problemas abiertos que llevaban mucho tiempo sin solución en la mayoría de las áreas de matemáticas. El ritmo de sus avances en matemáticas sorprendió a los matemáticos de OpenAI. Esto generó conversaciones internas sobre la mejor manera de informar a la comunidad acerca de estos rápidos avances, a fin de preparar el campo y facilitar su adaptación.
Las matemáticas son una ciencia fundamental, y los nuevos descubrimientos pueden dar lugar a una amplia variedad de aplicaciones. Por eso, estas capacidades tienen un potencial considerable, y es importante desarrollarlas e implementarlas de manera responsable, incluso más allá de las propias matemáticas. Somos conscientes de ello y estamos analizando cómo implementar de forma más amplia y responsable las capacidades de IA relacionadas con las matemáticas.
En una reciente carta abierta titulada A Severe Misalignment of AI in Mathematics (Una grave desalineación de la IA en las matemáticas)(se abre en una nueva ventana), varios matemáticos plantean inquietudes sobre los efectos negativos de usar la resolución de problemas abiertos como parámetro de referencia para nuevos sistemas de IA.
Sus críticas destacan la necesidad de que las empresas de IA colaboren de manera reflexiva con la comunidad matemática. Con ese fin, estamos colaborando con matemáticos que crearon un grupo asesor independiente sobre matemáticas. Este grupo servirá de puente con la comunidad matemática y el público en general, y dará voz a los matemáticos para definir cómo avanzaremos.
El grupo asesorará sobre la revisión y comunicación de nuevos resultados: ayudará a OpenAI a evaluar su relevancia, orientará la coordinación de su difusión y brindará asesoramiento sobre las normas académicas y profesionales de la investigación matemática. También asesorará sobre cómo nuestras herramientas pueden apoyar la investigación y el aprendizaje de las matemáticas. Queremos poner herramientas potentes en manos de los matemáticos para que puedan explorar las preguntas que mejor conocen y desarrollar nuevas ideas.
El grupo funcionará con independencia de OpenAI. El grupo tendrá libertad para ofrecer asesoramiento que no hayamos solicitado, comentar el impacto de OpenAI en las matemáticas y hacer públicas sus recomendaciones. Su valor depende de que sus miembros puedan ejercer su propio criterio y cuestionar el nuestro. OpenAI no remunerará a sus miembros, y el grupo podrá modificar su composición como lo considere conveniente. Es importante señalar que el grupo no tendrá la responsabilidad de asesorarnos sobre el ritmo de nuestros avances internos en matemáticas.
Colaborar con este grupo es un primer paso. Nos esperan preguntas difíciles sobre cómo la IA puede contribuir a la comprensión matemática y cómo los beneficios de estas capacidades pueden llegar a la comunidad en general. Queremos que los matemáticos ocupen un lugar central en la formulación de las respuestas.
Miembros iniciales del Grupo asesor sobre matemáticas e inteligencia artificial(se abre en una nueva ventana), con sede en el Instituto de Estudios Avanzados(se abre en una nueva ventana):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institute)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)


