Poradná skupina pre matematiku a umelú inteligenciu
Dňa 28. augusta sme začali trénovať nový interný model. Okrem vyriešenia problému tisícročia Navierových–Stokesových rovníc tento model vyriešil už viac ako 100 dlhodobo otvorených problémov vo väčšine oblastí matematiky. Tempo jeho pokroku v matematike prekvapilo matematikov v OpenAI. To viedlo k interným diskusiám o tom, ako najlepšie informovať odbornú obec o rýchlom pokroku, aby sa naň mohla pripraviť a prispôsobiť sa mu.
Matematika je základná veda a nové objavy môžu viesť k širokému spektru využití. Tieto schopnosti preto prinášajú veľký prísľub a ich zodpovedný vývoj a nasadzovanie sú dôležité aj mimo samotnej matematiky. Uvedomujeme si to a hľadáme spôsob, ako možno schopnosti AI súvisiace s matematikou zodpovedne sprístupniť širšej verejnosti.
V nedávnom otvorenom liste „Závažný nesúlad AI s matematikou(otvorí sa v novom okne)“ matematici upozorňujú na negatívne externality využívania vyriešených otvorených problémov ako meradla pre nové systémy AI.
Ich kritika poukazuje na potrebu, aby spoločnosti zaoberajúce sa AI uvážene spolupracovali s matematickou obcou. Preto spolupracujeme s matematikmi, ktorí založili nezávislú poradnú skupinu pre matematiku. Táto skupina bude prepájať matematickú obec so širšou verejnosťou a umožní matematikom vyjadriť sa k tomu, ako budeme ďalej postupovať.
Skupina bude radiť pri posudzovaní a komunikovaní nových výsledkov: pomôže OpenAI vyhodnocovať ich význam, odporúčať, ako koordinovať ich zverejňovanie, a poskytovať poradenstvo v oblasti akademických a profesijných štandardov matematického výskumu. Bude tiež radiť, ako môžu naše nástroje podporovať matematický výskum a vzdelávanie. Chceme dať matematikom do rúk výkonné nástroje, aby mohli skúmať otázky, ktorým najlepšie rozumejú, a rozvíjať nové myšlienky.
Skupina bude fungovať nezávisle od OpenAI. Skupina bude môcť poskytovať aj nevyžiadané rady, vyjadrovať sa k vplyvu OpenAI na matematiku a svoje odporúčania zverejňovať. Jej prínos závisí od toho, či budú môcť členovia uplatňovať vlastný úsudok a spochybňovať ten náš. OpenAI nebude členov odmeňovať a skupina bude môcť podľa vlastného uváženia meniť svoje zloženie. Dôležité je, že skupina nebude zodpovedná za poskytovanie rád, akým tempom máme interne napredovať v matematike.
Spolupráca s touto skupinou je prvým krokom. Čakajú nás náročné otázky o tom, ako môže AI podporovať porozumenie matematike a ako možno prínosy týchto schopností sprístupniť širšej verejnosti. Chceme, aby pri hľadaní odpovedí zohrávali ústrednú úlohu matematici.
Prví členovia Poradnej skupiny pre matematiku a umelú inteligenciu(otvorí sa v novom okne), ktorá pôsobí pri Inštitúte pre pokročilé štúdium(otvorí sa v novom okne):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institue)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)


