Grupa doradcza ds. matematyki i sztucznej inteligencji
28 sierpnia rozpoczęliśmy trenowanie nowego wewnętrznego modelu. Oprócz rozwiązania problemu milenijnego Naviera–Stokesa model ten rozwiązał już ponad 100 od dawna nierozstrzygniętych problemów z większości dziedzin matematyki. Tempo jego postępów w matematyce zaskoczyło matematyków pracujących w OpenAI. Skłoniło nas to do wewnętrznych dyskusji o tym, jak najlepiej informować społeczność o szybkich postępach, aby przygotować tę dziedzinę na zmiany i ułatwić jej dostosowanie się.
Matematyka jest nauką fundamentalną, a nowe odkrycia mogą znaleźć szerokie zastosowanie. Sprawia to, że możliwości te mają znaczny potencjał, a ich odpowiedzialny rozwój i wdrażanie mają znaczenie wykraczające poza tę dziedzinę. Dostrzegamy to i analizujemy, w jaki sposób można odpowiedzialnie wdrażać na szerszą skalę możliwości AI związane z matematyką.
W niedawnym liście otwartym „A Severe Misalignment of AI in Mathematics(otwiera nowe okno)” matematycy wyrażają obawy dotyczące negatywnych skutków ubocznych traktowania rozwiązywania otwartych problemów jako punktu odniesienia dla nowych systemów AI.
Ich krytyka podkreśla potrzebę rozważnego dialogu firm zajmujących się AI ze społecznością matematyczną. W tym celu współpracujemy z matematykami, którzy utworzyli niezależną grupę doradczą ds. matematyki. Grupa będzie łącznikiem ze społecznością matematyczną i szerszą opinią publiczną, dając matematykom głos w sprawie naszych dalszych działań.
Grupa będzie doradzać w zakresie oceny i komunikowania nowych wyników: pomoże OpenAI oceniać znaczenie tych wyników, doradzi, jak koordynować ich upowszechnianie, oraz będzie doradzać w kwestii akademickich i zawodowych standardów badań matematycznych. Będzie również doradzać, jak nasze narzędzia mogą wspierać badania matematyczne i naukę matematyki. Chcemy udostępnić matematykom zaawansowane narzędzia, aby mogli zgłębiać najlepiej znane sobie zagadnienia i rozwijać nowe idee.
Grupa będzie działać niezależnie od OpenAI. Grupa będzie mogła udzielać nam porad także z własnej inicjatywy, komentować wpływ OpenAI na matematykę oraz podawać swoje rekomendacje do wiadomości publicznej. Jej wartość zależy od tego, czy członkowie będą mogli kierować się własnym osądem i kwestionować nasze stanowisko. Jej członkowie nie będą otrzymywać wynagrodzenia od OpenAI, a grupa będzie mogła dowolnie zmieniać swój skład. Co ważne, grupa nie będzie doradzać nam w sprawie tempa naszych wewnętrznych postępów w dziedzinie matematyki.
Współpraca z tą grupą to pierwszy krok. Przed nami trudne pytania o to, jak AI może wspierać rozumienie matematyki i jak zapewnić szerszej społeczności korzyści płynące z tych możliwości. Chcemy, aby matematycy odgrywali kluczową rolę w kształtowaniu odpowiedzi.
Pierwsi członkowie Grupy doradczej ds. matematyki i sztucznej inteligencji(otwiera nowe okno), działającej przy Institute for Advanced Study(otwiera nowe okno):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institute)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)
