Grup assessor sobre matemàtiques i intel·ligència artificial
El 28 d'agost vam començar a entrenar un nou model intern. A més de resoldre el problema del Premi del Mil·lenni de Navier–Stokes, aquest model ja ha resolt més de 100 problemes oberts plantejats des de fa temps en gairebé totes les àrees de les matemàtiques. El ritme dels seus avenços en matemàtiques ha sorprès els matemàtics d'OpenAI. Això ha generat debats interns sobre la millor manera d'informar la comunitat d'aquests avenços ràpids perquè el sector pugui preparar-se i adaptar-s'hi.
Les matemàtiques són una ciència fonamental, i els nous descobriments poden donar lloc a un ampli ventall d'aplicacions. Per això, aquestes capacitats tenen un potencial considerable, i és important desenvolupar-les i desplegar-les de manera responsable, fins i tot més enllà de les matemàtiques. En som conscients i estem estudiant com es poden desplegar de manera responsable i a més gran escala les capacitats d'IA relacionades amb les matemàtiques.
En una carta oberta recent, Una greu desalineació de la IA en les matemàtiques(s'obre en una finestra nova), diversos matemàtics expressen preocupació per les externalitats negatives que pot generar l'ús de la resolució de problemes oberts com a referència per als nous sistemes d'IA.
Les seves crítiques posen de manifest la necessitat que les empreses d'IA dialoguin de manera rigorosa amb la comunitat matemàtica. Amb aquest objectiu, col·laborem amb matemàtics que han creat un grup assessor independent sobre matemàtiques. Aquest grup servirà de pont amb la comunitat matemàtica i el públic en general, i donarà veu als matemàtics a l'hora de decidir com avancem.
El grup assessorarà sobre la revisió i la comunicació dels nous resultats: ajudarà OpenAI a valorar-ne la rellevància, a coordinar-ne la difusió i a aplicar els estàndards acadèmics i professionals de la recerca matemàtica. També assessorarà sobre com les nostres eines poden contribuir a la recerca i l'aprenentatge de les matemàtiques. Volem posar eines potents a les mans dels matemàtics perquè puguin investigar les qüestions que coneixen més bé i desenvolupar idees noves.
El grup funcionarà amb independència d'OpenAI: tindrà llibertat per oferir-nos assessorament encara que no l'hàgim sol·licitat, per pronunciar-se sobre l'impacte d'OpenAI en les matemàtiques i per fer públics els seus consells. El seu valor depèn del fet que els membres puguin aplicar el seu propi criteri i qüestionar el nostre. OpenAI no remunerarà els membres, i el grup podrà canviar-ne la composició com consideri oportú. És important destacar que el grup no serà responsable d'assessorar-nos sobre el ritme dels nostres avenços interns en matemàtiques.
Treballar amb aquest grup és un primer pas. Ens esperen preguntes difícils sobre com la IA pot contribuir a la comprensió de les matemàtiques i com els beneficis d'aquestes capacitats poden arribar al conjunt de la comunitat. Volem que els matemàtics tinguin un paper central a l'hora de definir les respostes.
Membres inicials del grup assessor sobre matemàtiques i intel·ligència artificial(s'obre en una finestra nova), amb seu a l'Institut d'Estudis Avançats(s'obre en una finestra nova):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institute)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)
