Rådgivende gruppe for matematikk og kunstig intelligens
Den 28. august begynte vi å trene en ny intern modell. I tillegg til å ha løst millenniumproblemet om Navier–Stokes-ligningene har denne modellen nå løst over 100 åpne problemer som har stått uløst lenge, innenfor de fleste matematiske fagområder. De matematiske fagfolkene i OpenAI er blitt overrasket over hvor raskt modellen har gjort fremskritt innen matematikk. Dette har ført til interne diskusjoner om hvordan vi best kan informere fagmiljøet om den raske utviklingen, slik at det kan forberede og tilpasse seg.
Matematikk er en grunnleggende vitenskap, og nye oppdagelser kan få en rekke bruksområder. Disse egenskapene har derfor et betydelig potensial, og det er viktig langt utover selve matematikken at de utvikles og tas i bruk på en ansvarlig måte. Vi er klar over dette og arbeider med å finne ut hvordan matematikkrelaterte KI-egenskaper kan gjøres bredere tilgjengelig på en ansvarlig måte.
I det nylige åpne brevet «Et alvorlig misforhold mellom KI og matematikk(åpnes i et nytt vindu)» uttrykker matematikere bekymring for de negative ringvirkningene av å bruke løsning av åpne problemer som målestokk for nye KI-systemer.
Kritikken deres fremhever behovet for at KI-selskaper samarbeider gjennomtenkt med matematikkmiljøet. Derfor samarbeider vi med matematikere som har opprettet en uavhengig rådgivende gruppe for matematikk. Gruppen skal fungere som et bindeledd til matematikkmiljøet og allmennheten og gi matematikere en stemme i veien videre.
Gruppen skal gi råd om vurdering og formidling av nye resultater. Den skal hjelpe OpenAI med å vurdere betydningen av dem og gi råd om samordnet offentliggjøring og om akademiske og profesjonelle standarder for matematisk forskning. Den skal også gi råd om hvordan verktøyene våre kan støtte matematisk forskning og læring. Vi ønsker å gi matematikere kraftige verktøy, slik at de kan utforske spørsmålene de kjenner best, og utvikle nye ideer.
Gruppen skal arbeide uavhengig av OpenAI. Gruppen står fritt til å gi råd på eget initiativ, kommentere OpenAIs innvirkning på matematikken og offentliggjøre rådene sine. Gruppens verdi avhenger av at medlemmene kan bruke sitt eget skjønn og utfordre våre vurderinger. Medlemmene vil ikke få betalt av OpenAI, og gruppen kan endre sammensetningen slik den finner det hensiktsmessig. Det er viktig å understreke at gruppen ikke skal gi oss råd om tempoet i våre interne matematiske fremskritt.
Samarbeidet med denne gruppen er et første skritt. Vi står overfor vanskelige spørsmål om hvordan KI kan bidra til matematisk forståelse, og hvordan disse egenskapene kan komme samfunnet som helhet til gode. Vi ønsker at matematikere skal stå sentralt i utformingen av svarene.
De første medlemmene av Rådgivende gruppe for matematikk og kunstig intelligens(åpnes i et nytt vindu), med tilhold ved Institute for Advanced Study(åpnes i et nytt vindu):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institute)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)


