数学与人工智能咨询小组
8月28日,我们开始训练一个新的内部模型。除了解决纳维–斯托克斯千禧年大奖难题外,该模型目前还解决了数学大多数领域中100多个长期悬而未决的开放问题。该模型在数学领域的进展速度令OpenAI内部的数学家感到惊讶。为帮助数学界做好准备并适应变化,我们开始在内部探讨如何以最佳方式向学界通报这一迅速进展。
数学是一门基础科学,新发现可能催生广泛的应用。因此,这些能力潜力巨大,而负责任地开发和部署这些能力,其重要性也远不止于数学领域本身。我们认识到这一点,并正在研究如何以负责任的方式更广泛地部署与数学相关的AI能力。
在近期的公开信《AI在数学领域的严重失调(在新窗口中打开)》中,数学家对将解决开放问题作为衡量新AI系统的基准可能产生的负外部效应表示担忧。
这些批评凸显出AI公司需要以审慎周到的方式与数学界沟通协作。为此,我们正与一些数学家合作,他们已成立一个独立的数学咨询小组。该小组将成为连接数学界与广大公众的桥梁,让数学家能够就我们未来的发展方向发声。
该小组将就新成果的评审与沟通提供建议:协助OpenAI评估其重要性,就如何协调成果发布提供建议,并就数学研究应遵循的学术和专业规范提出意见。该小组还将就我们的工具如何支持数学研究与学习提供建议。我们希望将强大的工具交到数学家手中,让他们能够探索自己最熟悉的问题并提出新思路。
该小组将独立于OpenAI运作。该小组可主动提出我们未曾征求的建议,评论OpenAI对数学领域的影响,并公开其建议。该小组能否发挥价值,取决于其成员能否独立判断并质疑我们的判断。小组成员不会接受OpenAI的报酬,该小组也可自行决定调整成员构成。需要强调的是,该小组不负责就我们应如何控制内部数学研究的进展速度提供建议。
与该小组合作只是第一步。未来仍有一些棘手问题需要解答,包括AI如何促进数学理解,以及如何让更广泛的群体受益于这些能力。我们希望数学家在寻找答案的过程中发挥核心作用。
数学与人工智能咨询小组(在新窗口中打开)首批成员(由高等研究院(在新窗口中打开)主办):
François Charles(ENS-PSL)
Camillo De Lellis(IAS、GSSI)
Timothy Gowers(法兰西公学院、剑桥大学)
Martin Hairer(EPFL、伦敦帝国理工学院)
Nikhil Srivastava(加州大学伯克利分校、西蒙斯研究所)
Ulrike Tillmann(牛津大学、INI)
Ravi Vakil(斯坦福大学)
Edward Witten(IAS)
Melanie Matchett Wood(哈佛大学)


