Gruppo consultivo su matematica e intelligenza artificiale
Il 28 agosto abbiamo iniziato ad addestrare un nuovo modello interno. Oltre ad aver risolto il problema del millennio di Navier–Stokes, questo modello ha ora risolto oltre 100 problemi aperti di lunga data in quasi tutti gli ambiti della matematica. La rapidità dei suoi progressi in matematica ha sorpreso i matematici di OpenAI. Questo ha dato il via a discussioni interne sul modo migliore di informare la comunità dei rapidi progressi, affinché il settore possa prepararsi e adattarsi.
La matematica è una scienza fondamentale e le nuove scoperte possono trovare applicazione in numerosi ambiti. Queste capacità offrono quindi prospettive notevoli, e il loro sviluppo e impiego responsabili sono importanti ben oltre la matematica. Ne siamo consapevoli e stiamo valutando come rendere disponibili in modo responsabile e su più ampia scala le capacità dell’IA legate alla matematica.
In una recente lettera aperta, “Un grave disallineamento dell’IA nella matematica(si apre in una nuova finestra)”, alcuni matematici esprimono preoccupazione per le esternalità negative derivanti dall’uso della risoluzione di problemi aperti come parametro di riferimento per i nuovi sistemi di IA.
Le loro critiche evidenziano la necessità che le aziende di IA dialoghino in modo attento e consapevole con la comunità matematica. A tal fine, stiamo collaborando con alcuni matematici che hanno istituito un gruppo consultivo indipendente sulla matematica. Il gruppo farà da ponte con la comunità matematica e il pubblico più ampio, dando ai matematici voce in capitolo sulle nostre prossime iniziative.
Il gruppo fornirà consulenza sulla revisione e sulla comunicazione dei nuovi risultati: aiuterà OpenAI a valutarne la rilevanza e offrirà indicazioni su come coordinarne la divulgazione e sugli standard accademici e professionali della ricerca matematica. Fornirà inoltre indicazioni su come i nostri strumenti possano sostenere la ricerca e l’apprendimento della matematica. Vogliamo mettere strumenti efficaci nelle mani dei matematici, affinché possano approfondire le questioni che conoscono meglio e sviluppare nuove idee.
Il gruppo opererà in modo indipendente da OpenAI. Il gruppo sarà libero di offrire consulenza anche senza una nostra richiesta, commentare l’impatto di OpenAI sulla matematica e rendere pubblici i propri pareri. Il suo valore dipende dalla possibilità per i membri di esercitare il proprio giudizio e mettere in discussione il nostro. I membri non saranno retribuiti da OpenAI e il gruppo potrà modificare la propria composizione come ritiene opportuno. È importante sottolineare che il gruppo non avrà il compito di consigliarci sul ritmo dei nostri progressi interni in ambito matematico.
La collaborazione con questo gruppo è un primo passo. Ci attendono domande difficili su come l’IA possa favorire la comprensione della matematica e su come estendere alla comunità più ampia i benefici di queste capacità. Vogliamo che i matematici abbiano un ruolo centrale nel definire le risposte.
Membri iniziali del Gruppo consultivo su matematica e intelligenza artificiale(si apre in una nuova finestra), ospitato presso l’Institute for Advanced Study(si apre in una nuova finestra):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institue)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)
