Poradní skupina pro matematiku a umělou inteligenci
Dne 28. srpna jsme začali trénovat nový interní model. Kromě vyřešení problému tisíciletí, Navierových–Stokesových rovnic, tento model nyní vyřešil také více než 100 dlouhodobě otevřených problémů z většiny oblastí matematiky. Tempo jeho pokroku v matematice překvapilo i matematiky v OpenAI. To v OpenAI podnítilo diskusi o tom, jak nejlépe informovat komunitu o rychlém pokroku, aby se na něj tento obor mohl připravit a přizpůsobit se mu.
Matematika je vědou základního výzkumu a nové objevy mohou najít široké uplatnění. Tyto schopnosti tedy skýtají značný potenciál a jejich odpovědný vývoj a nasazování jsou důležité i mimo samotnou matematiku. Uvědomujeme si to a hledáme způsoby, jak lze schopnosti AI související s matematikou odpovědně zpřístupnit širší veřejnosti.
V nedávném otevřeném dopise „Závažná nesladěnost umělé inteligence v matematice(otevře se v novém okně)“ matematici upozorňují na negativní externality spojené s používáním řešení otevřených problémů jako měřítka pro nové systémy AI.
Jejich kritika zdůrazňuje, že společnosti zabývající se AI musí s matematickou komunitou vést rozvážný dialog. Za tímto účelem spolupracujeme s matematiky, kteří založili nezávislou poradní skupinu pro matematiku. Tato skupina bude spojovacím článkem s matematickou komunitou i širší veřejností a umožní matematikům podílet se na utváření našeho dalšího postupu.
Skupina bude poskytovat poradenství při posuzování a komunikaci nových výsledků: pomůže OpenAI vyhodnotit jejich význam, poradí s koordinací jejich zveřejňování a také s akademickými a profesními standardy matematického výzkumu. Bude také radit, jak mohou naše nástroje podpořit matematický výzkum a vzdělávání. Chceme dát matematikům do rukou výkonné nástroje, aby mohli zkoumat otázky, kterým rozumějí nejlépe, a rozvíjet nové myšlenky.
Skupina bude fungovat nezávisle na OpenAI. Skupina bude moci poskytovat i nevyžádaná doporučení, vyjadřovat se k dopadu OpenAI na matematiku a svá doporučení zveřejňovat. Její přínos závisí na tom, zda její členové budou moci uplatňovat vlastní úsudek a zpochybňovat ten náš. OpenAI nebude její členy odměňovat a skupina bude moci podle vlastního uvážení měnit své složení. Je důležité zdůraznit, že skupina nebude mít na starosti radit nám, jakým tempem máme postupovat v našem interním matematickém výzkumu.
Spolupráce s touto skupinou je prvním krokem. Čekají nás složité otázky ohledně toho, jak může AI podpořit porozumění matematice a jak přínosy těchto schopností zpřístupnit širší komunitě. Chceme, aby při hledání odpovědí hráli ústřední roli matematici.
První členové Poradní skupiny pro matematiku a umělou inteligenci(otevře se v novém okně), působící při Institutu pro pokročilá studia(otevře se v novém okně):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institue)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)
