数学・人工知能諮問グループ
8 月 28 日、私たちは新たな社内モデルのトレーニングを開始しました。このモデルは、ナビエ–ストークス方程式のミレニアム懸賞問題を解決したほか、現在では数学のほぼ全分野にわたる 100 件以上の未解決問題を解決しています。数学における進歩の速さは、OpenAI の数学者たちを驚かせています。こうした急速な進歩をコミュニティにどう伝え、この分野が備え、適応できるようにするのが最善か、社内で議論を重ねています。
数学は基礎科学であり、新たな発見は幅広い応用につながる可能性があります。そのため、これらの能力には大きな可能性がある一方、責任ある開発と展開は数学の枠を超えて重要です。私たちはこの点を認識し、数学関連の AI 能力をより広く責任ある形で展開する方法を検討しています。
最近の公開書簡「数学における AI の深刻な不整合（新しいウィンドウで開く）」では、未解決問題を解くことを新たな AI システムのベンチマークとすることで生じる負の外部性について、数学者たちが懸念を表明しています。
この批判は、AI 企業が数学コミュニティと慎重に対話する必要性を浮き彫りにしています。そのため私たちは、独立した数学諮問グループを設立した数学者たちと協力しています。このグループは OpenAI と数学コミュニティや社会全体をつなぐ架け橋となり、今後の方針に数学者の意見を反映します。
このグループは、新たな成果の評価と発信について助言します。具体的には、成果の重要性に関する OpenAI の評価を支援し、公開方法の調整や、数学研究における学術上・専門上の基準について助言します。また、私たちのツールを数学の研究や学習に役立てる方法についても助言します。私たちは、高性能なツールを数学者に提供し、各自が最もよく知る問いを追究して新たなアイデアを生み出せるようにしたいと考えています。
このグループは OpenAI から独立して活動します。グループは、私たちが求めていない助言を行い、OpenAI が数学に及ぼす影響について意見を述べ、その助言を公表する自由を有します。このグループの価値は、メンバーが自らの判断を下し、私たちの判断に異議を唱えられることにかかっています。メンバーは OpenAI から報酬を受け取らず、グループは自らの判断で構成員を変更できます。重要なのは、このグループが、数学分野における私たちの社内での進歩のペースについて助言する責任を負わないことです。
このグループとの協力は第一歩です。AI が数学的理解をどう支援できるか、また、こうした能力の恩恵をどうすれば社会全体に届けられるかについて、難しい問いが待ち受けています。私たちは、その答えを形作る中心に数学者がいてほしいと考えています。
高等研究所（新しいウィンドウで開く）を拠点とする数学・人工知能諮問グループ（新しいウィンドウで開く）の初期メンバー：
François Charles 氏（ENS-PSL）
Camillo De Lellis 氏（IAS、GSSI）
Timothy Gowers 氏（コレージュ・ド・フランス、ケンブリッジ大学）
Martin Hairer 氏（EPFL、インペリアル・カレッジ・ロンドン）
Nikhil Srivastava 氏（カリフォルニア大学バークレー校、サイモンズ研究所）
Ulrike Tillmann 氏（オックスフォード大学、INI）
Ravi Vakil 氏（スタンフォード大学）
Edward Witten 氏（IAS）
Melanie Matchett Wood 氏（ハーバード大学）
