Advisory Group on Mathematics and Artificial Intelligence

Am 28. August begannen wir mit dem Training eines neuen internen Modells. Neben der Lösung des Navier-Stokes-Millennium-Problems⁠ hat dieses Modell inzwischen mehr als 100 seit Langem ungelöste Probleme aus fast allen Bereichen der Mathematik gelöst. Das Tempo seiner Fortschritte⁠ in der Mathematik hat die Mathematiker:innen bei OpenAI überrascht. Dies hat intern Diskussionen darüber angestoßen, wie wir die mathematische Fachwelt am besten über die rasanten Fortschritte informieren können, damit sie sich darauf vorbereiten und anpassen kann.

Mathematik ist eine Grundlagenwissenschaft, und neue Entdeckungen können vielfältige Anwendungen ermöglichen. Diese Fähigkeiten bergen daher großes Potenzial. Ihre verantwortungsvolle Entwicklung und Bereitstellung sind weit über die Mathematik hinaus von Bedeutung. Wir sind uns dessen bewusst und prüfen, wie mathematische KI-Fähigkeiten auf verantwortungsvolle Weise breiter zugänglich gemacht werden können.

In einem kürzlich veröffentlichten offenen Brief mit dem Titel „A Severe Misalignment of AI in Mathematics⁠(wird in einem neuen Fenster geöffnet)“ („Eine gravierende Fehlentwicklung von KI in der Mathematik“) äußern Mathematiker:innen Bedenken hinsichtlich der negativen Auswirkungen, die entstehen, wenn das Lösen offener Probleme als Maßstab für neue KI-Systeme dient.

Ihre Kritik verdeutlicht, wie wichtig ein sorgfältiger Austausch zwischen KI-Unternehmen und der mathematischen Fachwelt ist. Zu diesem Zweck arbeiten wir mit Mathematiker:innen zusammen, die eine unabhängige Beratungsgruppe für Mathematik gegründet haben. Diese Gruppe wird als Bindeglied zur mathematischen Fachwelt und zur breiten Öffentlichkeit dienen und Mathematiker:innen eine Stimme bei unserem weiteren Vorgehen geben.

Die Gruppe wird zur Prüfung und Kommunikation neuer Ergebnisse beraten. Sie wird OpenAI dabei helfen, deren Bedeutung einzuschätzen, Empfehlungen zur Koordination ihrer Veröffentlichung geben und zu den akademischen und beruflichen Standards mathematischer Forschung beraten. Sie wird außerdem dazu beraten, wie unsere Werkzeuge die mathematische Forschung und das Lernen von Mathematik unterstützen können. Wir möchten Mathematiker:innen leistungsfähige Werkzeuge an die Hand geben, damit sie den Fragen nachgehen können, mit denen sie am besten vertraut sind, und neue Ideen entwickeln können.

Die Gruppe wird unabhängig von OpenAI arbeiten. Die Gruppe kann uns auch unaufgefordert beraten, die Auswirkungen von OpenAI auf die Mathematik kommentieren und ihre Empfehlungen veröffentlichen. Ihr Wert hängt davon ab, dass ihre Mitglieder eigenständig urteilen und unsere Einschätzungen hinterfragen können. Ihre Mitglieder werden nicht von OpenAI bezahlt, und die Gruppe kann ihre Zusammensetzung nach eigenem Ermessen ändern. Wichtig ist, dass die Gruppe nicht dafür zuständig sein wird, uns zum Tempo unserer internen Fortschritte in der Mathematik zu beraten.

Die Zusammenarbeit mit dieser Gruppe ist ein erster Schritt. Vor uns liegen schwierige Fragen: Wie kann KI das Verständnis von Mathematik fördern, und wie können die Vorteile dieser Fähigkeiten der Gesellschaft insgesamt zugutekommen? Wir möchten, dass Mathematiker:innen bei der Ausgestaltung der Antworten eine zentrale Rolle spielen.

Erste Mitglieder der Advisory Group on Mathematics and Artificial Intelligence⁠(wird in einem neuen Fenster geöffnet), angesiedelt am Institute for Advanced Study⁠(wird in einem neuen Fenster geöffnet):

• François Charles (ENS-PSL)

• Camillo De Lellis (IAS, GSSI)

• Timothy Gowers (Collège de France, Cambridge)

• Martin Hairer (EPFL, Imperial College London)

• Nikhil Srivastava (Berkeley, Simons Institue)

• Ulrike Tillmann (Oxford, INI)

• Ravi Vakil (Stanford)

• Edward Witten (IAS)

• Melanie Matchett Wood (Harvard)