수학 및 인공지능 자문 그룹
8월 28일, 새로운 내부 모델의 학습을 시작했습니다. 이 모델은 나비에–스토크스 밀레니엄 문제를 해결했을 뿐 아니라, 이제 수학의 거의 모든 분야에서 100개가 넘는 미해결 난제를 풀었습니다. 수학 분야에서 이 모델이 보여 준 발전 속도는 OpenAI의 수학자들도 놀라게 했습니다. 이에 따라 이처럼 빠른 발전을 학계에 알리고 수학계가 대비하고 적응하도록 돕는 최선의 방법을 내부적으로 논의하게 되었습니다.
수학은 기초 과학이며, 새로운 발견은 다양한 분야에 폭넓게 활용될 수 있습니다. 따라서 이러한 역량은 잠재력이 큰 만큼, 수학 분야를 넘어 책임 있는 개발과 배포가 중요합니다. OpenAI는 이를 인식하고 있으며, 수학 관련 AI 역량을 더 폭넓게 책임감 있게 배포할 방안을 모색하고 있습니다.
최근 공개서한 「수학 분야 AI의 심각한 불일치(새 창에서 열기)」에서 수학자들은 미해결 문제 풀이를 새로운 AI 시스템의 벤치마크로 삼을 때 발생할 수 있는 부정적 외부효과에 우려를 제기했습니다.
이들의 비판은 AI 기업이 수학계와 신중하게 소통해야 할 필요성을 보여 줍니다. 이를 위해 OpenAI는 독립적인 수학 자문 그룹을 설립한 수학자들과 협력하고 있습니다. 이 그룹은 수학계와 일반 대중을 잇는 가교 역할을 하며, 앞으로 나아갈 방향에 수학자들의 목소리가 반영되도록 할 것입니다.
이 그룹은 새롭게 도출되는 결과의 검토와 공개에 관해 자문합니다. OpenAI가 결과의 중요성을 평가하도록 돕고, 공개 시기와 방식의 조율 및 수학 연구의 학술적·전문적 기준에 관해 조언할 것입니다. 또한 OpenAI의 도구가 수학 연구와 학습을 지원할 방안에 대해서도 조언할 것입니다. OpenAI는 수학자들이 가장 잘 아는 문제를 탐구하고 새로운 아이디어를 발전시킬 수 있도록 유용한 도구를 제공하고자 합니다.
이 그룹은 OpenAI와 독립적으로 운영됩니다. 이 그룹은 OpenAI가 요청하지 않은 사안에도 자유롭게 조언하고, OpenAI가 수학에 미치는 영향에 관해 의견을 밝히며, 자문 내용을 공개할 수 있습니다. 이 그룹의 가치는 위원들이 독자적으로 판단하고 OpenAI의 판단에 이의를 제기할 수 있을 때 발휘됩니다. 위원들은 OpenAI로부터 보수를 받지 않으며, 그룹은 필요하다고 판단할 경우 위원 구성을 변경할 수 있습니다. 중요한 점은 이 그룹이 OpenAI의 수학 분야 내부 연구 진척 속도를 어떻게 조절할지에 관해 조언할 책임은 없다는 것입니다.
이 그룹과의 협력은 첫걸음입니다. AI가 수학적 이해를 어떻게 지원할 수 있는지, 이러한 역량의 혜택을 더 넓은 공동체에 어떻게 전할 수 있는지에 관한 어려운 질문들이 남아 있습니다. OpenAI는 그 해답을 만들어 가는 과정의 중심에 수학자들이 있기를 바랍니다.
초대 위원 — 수학 및 인공지능 자문 그룹(새 창에서 열기), 주관: 고등연구소(새 창에서 열기):
프랑수아 샤를(ENS-PSL)
카밀로 데 렐리스(IAS, GSSI)
티머시 가워스(콜레주 드 프랑스, 케임브리지)
마르틴 하이러(EPFL, 임페리얼 칼리지 런던)
니킬 스리바스타바(버클리, 사이먼스 연구소)
울리케 틸만(옥스퍼드, INI)
라비 바킬(스탠퍼드)
에드워드 위튼(IAS)
멜러니 매쳇 우드(하버드)


