Adviesgroep voor wiskunde en kunstmatige intelligentie
Op 28 augustus zijn we begonnen met het trainen van een nieuw intern model. Dit model heeft niet alleen het Navier-Stokes-millenniumprobleem opgelost, maar inmiddels ook meer dan 100 al lang bestaande open problemen binnen de meeste deelgebieden van de wiskunde. Het tempo waarin het vooruitgang boekt in de wiskunde heeft de wiskundigen binnen OpenAI verrast. Dit heeft intern geleid tot gesprekken over de beste manier om de gemeenschap over de snelle vooruitgang te informeren, zodat het vakgebied zich daarop kan voorbereiden en aanpassen.
Wiskunde is een fundamentele wetenschap en nieuwe ontdekkingen kunnen tot allerlei toepassingen leiden. Deze mogelijkheden bieden dan ook veel perspectief, en een verantwoorde ontwikkeling en toepassing ervan is ook buiten de wiskunde van belang. We erkennen dit en onderzoeken hoe wiskundegerelateerde AI-mogelijkheden op verantwoorde wijze breder kunnen worden ingezet.
In een recente open brief, "Een ernstige verkeerde afstemming van AI in de wiskunde(opent in een nieuw venster)", uiten wiskundigen hun zorgen over de negatieve externe effecten van het gebruik van opgeloste open problemen als benchmark voor nieuwe AI-systemen.
Hun kritiek benadrukt dat AI-bedrijven zorgvuldig met de wiskundegemeenschap in gesprek moeten gaan. Daarom werken we samen met wiskundigen die een onafhankelijke adviesgroep voor wiskunde hebben opgericht. Deze groep vormt een brug naar de wiskundegemeenschap en het brede publiek, en geeft wiskundigen een stem in onze toekomstige koers.
De groep adviseert over de beoordeling en communicatie van nieuwe resultaten: de leden helpen OpenAI het belang ervan te beoordelen, adviseren over de gecoördineerde verspreiding ervan en geven advies over academische en professionele normen voor wiskundig onderzoek. De groep adviseert ook over manieren waarop onze hulpmiddelen wiskundig onderzoek en onderwijs kunnen ondersteunen. We willen wiskundigen krachtige hulpmiddelen bieden, zodat ze zich kunnen richten op de vraagstukken die ze het beste kennen en nieuwe ideeën kunnen ontwikkelen.
De groep opereert onafhankelijk van OpenAI. De groep mag ook ongevraagd advies geven, zich uitspreken over de invloed van OpenAI op de wiskunde en haar adviezen openbaar maken. De waarde van de groep hangt ervan af dat de leden hun eigen oordeel kunnen vormen en dat van ons ter discussie kunnen stellen. De leden worden niet door OpenAI betaald en de groep kan de samenstelling naar eigen inzicht wijzigen. Belangrijk is dat de groep niet verantwoordelijk is voor advies over het tempo van onze interne vooruitgang op het gebied van wiskunde.
De samenwerking met deze groep is een eerste stap. Er liggen lastige vragen in het verschiet over hoe AI het begrip van wiskunde kan ondersteunen en hoe de bredere gemeenschap van deze mogelijkheden kan profiteren. We willen dat wiskundigen een centrale rol spelen bij het formuleren van de antwoorden.
De eerste leden van de Adviesgroep voor wiskunde en kunstmatige intelligentie(opent in een nieuw venster), ondergebracht bij het Institute for Advanced Study(opent in een nieuw venster):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institute)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)
