Консультативна група з математики та штучного інтелекту
28 серпня ми почали навчати нову внутрішню модель. Окрім розв’язання задачі тисячоліття Нав’є—Стокса, ця модель уже розв’язала понад 100 давніх відкритих задач із більшості галузей математики. Темпи її поступу в математиці здивували математиків OpenAI. Це спонукало нас обговорити всередині компанії, як найкраще повідомити спільноту про стрімкий поступ, щоб галузь могла підготуватися й адаптуватися.
Математика — фундаментальна наука, а нові відкриття можуть мати широкий спектр застосувань. Тож ці можливості мають значний потенціал, а їх відповідальні розроблення та впровадження важливі далеко за межами самої математики. Ми це усвідомлюємо й шукаємо способи відповідально забезпечити ширший доступ до пов’язаних із математикою можливостей ШІ.
У нещодавньому відкритому листі «Серйозна невідповідність ШІ потребам математики(відкривається у новому вікні)» математики висловлюють занепокоєння щодо негативних побічних наслідків використання розв’язання відкритих задач як орієнтира для оцінювання нових систем ШІ.
Їхня критика підкреслює потребу в продуманій взаємодії компаній, що працюють зі ШІ, з математичною спільнотою. Задля цього ми співпрацюємо з математиками, які створили незалежну консультативну групу з математики. Ця група стане сполучною ланкою з математичною спільнотою та широкою громадськістю, даючи математикам змогу впливати на наші подальші кроки.
Група консультуватиме щодо перевірки та оприлюднення нових результатів: допомагатиме OpenAI оцінювати їхню значущість, радитиме, як координувати їх поширення, а також надаватиме рекомендації щодо академічних і професійних стандартів математичних досліджень. Вона також радитиме, як наші інструменти можуть сприяти математичним дослідженням і навчанню. Ми прагнемо надати математикам потужні інструменти, щоб вони могли досліджувати питання, які знають найкраще, і розвивати нові ідеї.
Група працюватиме незалежно від OpenAI. Група зможе надавати поради, про які ми не просили, коментувати вплив OpenAI на математику та оприлюднювати свої рекомендації. Її цінність залежить від здатності членів самостійно робити висновки та ставити під сумнів наші судження. OpenAI не платитиме членам групи, а її склад може змінюватися на розсуд самої групи. Важливо, що група не консультуватиме нас щодо темпів нашого внутрішнього поступу в математиці.
Співпраця з цією групою — перший крок. Попереду складні питання про те, як ШІ може поглиблювати розуміння математики та як зробити переваги цих можливостей доступними ширшій спільноті. Ми хочемо, щоб математики відігравали ключову роль у пошуку відповідей.
Перші члени Консультативної групи з математики та штучного інтелекту(відкривається у новому вікні), що діє при Інституті перспективних досліджень(відкривається у новому вікні):
Франсуа Шарль (ENS-PSL)
Камілло Де Лелліс (IAS, GSSI)
Тімоті Гауерс (Колеж де Франс, Кембридж)
Мартін Гайрер (EPFL, Імперський коледж Лондона)
Нікхіл Шрівастава (Берклі, Інститут Саймонса)
Ульріке Тільманн (Оксфорд, INI)
Раві Вакіл (Стенфорд)
Едвард Віттен (IAS)
Мелані Матчетт Вуд (Гарвард)
