Matematikai és Mesterséges Intelligencia Tanácsadó Csoport
Augusztus 28-án megkezdtük egy új belső modell betanítását. A Navier–Stokes-millenniumi probléma megoldása mellett ez a modell mára több mint száz, régóta nyitott problémát oldott meg a matematika legtöbb területén. A matematikában elért fejlődésének üteme meglepte az OpenAI matematikusait. Ez belső egyeztetéseket indított arról, hogyan tájékoztathatnánk a legjobban a közösséget a gyors fejlődésről, hogy a szakterület felkészülhessen és alkalmazkodhasson.
A matematika alaptudomány, az új felfedezések pedig számos területen hasznosíthatók lehetnek. E képességek ezért komoly lehetőségeket rejtenek, felelős fejlesztésük és bevezetésük pedig a matematikán túl is fontos. Ennek tudatában vizsgáljuk, hogyan lehet felelősen szélesebb körben elérhetővé tenni a matematikai MI-képességeket.
„A mesterséges intelligencia súlyos félreigazítása a matematikában(új ablakban nyílik meg)” című közelmúltbeli nyílt levelükben matematikusok arra figyelmeztetnek, hogy káros külső hatásokkal járhat, ha az új MI-rendszerek mércéjeként nyitott problémák megoldását használják.
Bírálatuk rámutat, hogy az MI-vállalatoknak átgondolt párbeszédet kell folytatniuk a matematikai közösséggel. Ennek érdekében olyan matematikusokkal dolgozunk együtt, akik független matematikai tanácsadó csoportot hoztak létre. A csoport összekötő kapocsként szolgál majd a matematikai közösség és a szélesebb nyilvánosság között, így a matematikusok is beleszólhatnak a továbblépés módjába.
A csoport tanácsot ad majd az új eredmények ellenőrzésével és kommunikációjával kapcsolatban: segít az OpenAI-nak felmérni jelentőségüket, tanácsot ad közzétételük összehangolásáról, valamint iránymutatást nyújt a matematikai kutatás tudományos és szakmai normáiról. Arról is tanácsot ad majd, hogyan támogathatják eszközeink a matematikai kutatást és tanulást. Hatékony eszközöket szeretnénk a matematikusok kezébe adni, hogy az általuk legjobban ismert kérdésekkel foglalkozhassanak, és új ötleteket dolgozhassanak ki.
A csoport az OpenAI-tól függetlenül működik majd. A csoport kéretlen tanácsokat is adhat, véleményezheti az OpenAI matematikára gyakorolt hatását, és nyilvánosságra hozhatja ajánlásait. Értékét az adja, hogy tagjai szabadon alkothatnak saját véleményt, és megkérdőjelezhetik a miénket. Tagjai nem kapnak díjazást az OpenAI-tól, a csoport pedig saját belátása szerint változtathatja összetételét. Fontos, hogy a csoportnak nem feladata tanácsot adni arról, milyen ütemben haladjunk belső matematikai fejlesztéseinkkel.
A csoporttal való együttműködés az első lépés. Nehéz kérdések várnak még megválaszolásra arról, hogyan segítheti az MI a matematika megértését, és miként juthatnak el e képességek előnyei a szélesebb közösséghez. Azt szeretnénk, hogy a válaszok kialakításában központi szerepet kapjanak a matematikusok.
A Matematikai és Mesterséges Intelligencia Tanácsadó Csoport(új ablakban nyílik meg) alapító tagjai; a csoportnak az Institute for Advanced Study(új ablakban nyílik meg) ad otthont:
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institute)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)
