Консультативная группа по математике и искусственному интеллекту
28 августа мы начали обучать новую внутреннюю модель. Помимо решения задачи тысячелетия Навье — Стокса, эта модель уже решила более 100 давно поставленных открытых задач из большинства областей математики. Темпы её прогресса в математике удивили математиков из OpenAI. Это вызвало внутреннее обсуждение того, как лучше сообщить сообществу о стремительном прогрессе, чтобы эта область могла подготовиться и адаптироваться.
Математика — фундаментальная наука, и новые открытия могут найти самое широкое применение. Поэтому потенциал этих возможностей огромен, а их ответственная разработка и внедрение важны далеко за пределами самой математики. Мы это понимаем и ищем способы ответственно обеспечить более широкий доступ к математическим возможностям ИИ.
В недавнем открытом письме «Серьёзное рассогласование ИИ в математике(открывается в новом окне)» математики выражают обеспокоенность негативными внешними эффектами использования решения открытых задач как критерия оценки новых систем ИИ.
Их критика подчёркивает, насколько важно компаниям, работающим над ИИ, вдумчиво взаимодействовать с математическим сообществом. Для этого мы сотрудничаем с математиками, создавшими независимую консультативную группу по математике. Эта группа станет связующим звеном с математическим сообществом и широкой общественностью, предоставляя математикам право голоса в определении наших дальнейших шагов.
Группа будет консультировать нас по вопросам оценки и освещения новых результатов: она поможет OpenAI определять их значимость, координировать их распространение и соблюдать академические и профессиональные стандарты математических исследований. Она также будет консультировать нас по вопросам применения наших инструментов для поддержки математических исследований и обучения. Мы хотим предоставить математикам эффективные инструменты, чтобы они могли заниматься задачами, которые знают лучше всего, и развивать новые идеи.
Группа будет действовать независимо от OpenAI. Группа сможет давать рекомендации без запроса с нашей стороны, комментировать влияние OpenAI на математику и публиковать свои рекомендации. Ценность группы зависит от способности её участников составлять собственное мнение и оспаривать наше. Участники не будут получать вознаграждение от OpenAI, а группа сможет по своему усмотрению менять свой состав. Важно отметить, что группа не будет консультировать нас по вопросам темпов нашего внутреннего прогресса в математике.
Сотрудничество с этой группой — лишь первый шаг. Впереди непростые вопросы о том, как ИИ может способствовать пониманию математики и как сделать преимущества этих возможностей доступными более широкому сообществу. Мы хотим, чтобы математики играли центральную роль в поиске ответов.
Первые участники Консультативной группы по математике и искусственному интеллекту(открывается в новом окне), работающей при Институте перспективных исследований(открывается в новом окне):
Франсуа Шарль (ENS-PSL)
Камилло Де Леллис (IAS, GSSI)
Тимоти Гауэрс (Коллеж де Франс, Кембридж)
Мартин Хайрер (EPFL, Имперский колледж Лондона)
Никхил Шривастава (Беркли, Институт Саймонса)
Ульрике Тильман (Оксфорд, INI)
Рави Вакил (Стэнфорд)
Эдвард Виттен (IAS)
Мелани Матчетт Вуд (Гарвард)


