나비에–스토크스 밀레니엄 문제에 관하여

밀레니엄 문제 중 하나인 나비에–스토크스 방정식의 존재성과 매끄러움 문제에 대한 해법을 공개합니다. OpenAI 내부 시스템이 도출한 이 증명은 유체 운동을 나타내는 나비에–스토크스 방정식의 동역학에서 유한 시간 안에 특이점이 발생할 수 있음을 보여줍니다. 증명 해설과 Lean을 이용한 형식화를 함께 공개합니다.

밀레니엄 문제⁠(새 창에서 열기)는 프런티어 수학의 가장 심오한 난제들을 아우릅니다. 매끄러운 3차원 유체 운동이 붕괴할 수 있는지는 약 90년 동안 풀리지 않은 문제였습니다.

OpenAI가 추진하는 연구의 주요 목표 중 하나는 과학자들이 인류 모두에게 도움이 되는 연구와 기술을 발전시키도록 지원하는 것입니다. 나비에–스토크스 문제를 풀기 위해 GPT‑6 Astra보다 성능이 크게 뛰어난 내부 모델을 사용했습니다. AI의 발전 속도와 향후 모델에서 기대할 수 있는 바를 세상에 알리는 것이 중요하다고 생각합니다.

나비에–스토크스 방정식은 뉴턴의 운동 제2법칙(“F=ma”)을 이용해 유체의 움직임을 설명합니다. 특히 개별 분자를 추적하는 대신 유체를 연속적인 매질로 취급합니다. 이 방정식은 항공기 설계, 일기 예보, 혈류 연구에 사용됩니다.

이 동역학 방정식의 근본적인 미해결 문제는 유체의 연속체 근사가 붕괴할 수 있느냐는 것이었습니다. 구체적으로, 밀도가 일정한 3차원 비압축성 유체가 매끄럽게 운동하기 시작해도 나비에–스토크스 방정식에 ‘특이점’이 발생할 수 있을까요? 여기서 특이점이란 동역학에 따라 유한 시간 안에 유체의 속도가 한계 없이 증가하는 현상을 뜻합니다. 특이점은 운동을 매끄럽게 만드는 경향이 있는 점성이 존재하는데도 발생해야 합니다. 실제 유체는 무한히 빠르게 움직일 수 없으므로, 이는 방정식이 유체를 모델링하는 방식이 붕괴했음을 의미합니다. 이후에도 시스템을 계속 모델링하려면 각 입자의 거동을 개별적으로 추적해야 합니다.

이 방정식은 19세기 클로드루이 나비에와 조지 가브리엘 스토크스의 연구에서 유래했습니다. 1934년 장 르레는 일반화된 의미에서 해가 존재함을 증명했지만, 해가 항상 매끄럽게 유지되는지는 핵심 미해결 문제로 남았습니다. 2000년 클레이 수학연구소는 나비에–스토크스 방정식의 존재성과 매끄러움 문제를 7대 밀레니엄 문제 중 하나로 선정했습니다.

OpenAI 시스템은 처음에 정지해 있던 매끄러운 유체에 유한 시간 안에 특이점이 발생할 수 있음을 보이는 해석적 증명과 Lean 형식화를 도출했습니다. 유체에는 매끄러운 힘이 가해지며, 정지 상태에서 특이점이 형성될 때까지 전체 동역학 과정에서 에너지는 유한하게 유지됩니다. 이 결과는 공식 밀레니엄 문제 명세⁠(새 창에서 열기)의 명제 ‘C’(그리고 ‘D’)를 성립시켜 나비에–스토크스 밀레니엄 문제를 해결합니다.

해는 회전하는 유체의 소용돌이로, 스파게티처럼 안쪽으로 나선을 그리며 점점 길게 늘어납니다. 이 중심 영역은 속도가 빨라지면서 줄어들지만, 물리 법칙이 요구하는 대로 에너지는 계속 유한하게 유지됩니다. 기술적 난제는 예컨대 무한한 힘을 인위적으로 가해서가 아니라, 유체 자체의 운동을 통해 방정식에 붕괴가 발생하도록 하는 것입니다. 수학적으로 더 정확히 말하면, 나비에–스토크스 방정식에서 운동을 나타내는 항인 가속도, 압력 기울기, 운동량 전달, 점성이 모두 커지면서도 정밀하게 상쇄되어야 합니다. 이 정교한 균형 덕분에 유체 속도가 한계 없이 증가하더라도 외력은 매끄럽게 유지됩니다.

OpenAI는 8월 28일부터 수학을 포함한 자체 벤치마크에서 전례 없는 성능을 보인 새로운 내부 모델을 훈련해 왔습니다. 이 모델은 현재도 훈련 중이며 성능이 계속 향상되고 있습니다.

9월 1일 화요일, 밀레니엄 문제 두 개가 해결되었다는 소문을 들었습니다. 이 소문과 내부 모델의 비약적인 성능 향상에 고무된 OpenAI는 아직 풀리지 않은 모든 밀레니엄 문제와 영향력이 큰 몇몇 문제에서 모델을 평가하기 시작했습니다.

내부 모델로 구동되는 에이전트들이 협업하는 시스템을 사용했습니다. 에이전트들은 캐시된 인터넷 자료를 읽고 코드를 실행하는 등의 도구를 사용할 수 있었습니다. 에이전트들은 그룹으로 나뉘었으며 같은 그룹 안에서 서로 소통할 수 있었습니다. 그룹마다 규모가 달랐으며, 나비에–스토크스 문제의 해법을 도출한 그룹에는 약 10,000개의 에이전트가 동시에 참여했습니다. 모니터링과 격리를 비롯해 모든 프런티어 모델 평가에 적용하는 엄격한 안전장치를 전 과정에서 동일하게 유지했습니다.

각 문제에 대해 가능한 모든 변형을 포괄하도록 서로 다른 에이전트 그룹에 서로 다른 형태의 문제를 제시했습니다. 나비에–스토크스 문제의 경우, 증명으로 이어지는 특정 형태인 ‘A’와 ‘B’, 반증으로 이어지는 ‘C’와 ‘D’를 각각 별도의 에이전트 그룹에 제시했습니다.

밀레니엄 문제 전체뿐 아니라 일련의 ‘더 쉬운’ 문제도 멀티 에이전트 시스템에 풀도록 요청했습니다. 그중 하나는 나비에–스토크스 문제에서 점성항을 제거한 극한에 관해 이와 유사한 폭주 여부를 묻는 문제였습니다. 이는 오일러 방정식의 정칙성 문제로 알려져 있으며, 에이전트들은 놀랍게도 이 문제를 해결했습니다. 에이전트들이 해결한 것은 유체에 외력이 가해지지 않는 무외력 형태의 문제였습니다. 약 100개의 에이전트가 약 50시간 동안 협업해 오일러 정칙성에 대한 반증을 도출했습니다¹.

오일러 문제의 해법을 확인한 뒤 나비에–스토크스가 가장 유망한 문제라고 판단했습니다. 이에 자원을 나비에–스토크스 문제에 집중하기로 했습니다. 이를 위해 다른 밀레니엄 문제에서 에이전트들을 빼내고, 이들에게 오일러 문제의 해법을 제시했습니다. 프로젝트가 진행되는 동안 추가 훈련을 거친 내부 모델이 준비되자 에이전트들이 해당 모델을 사용하도록 업데이트했습니다.

각 에이전트 그룹이 다양한 접근법을 탐색하도록 장려했습니다. 얼마 후 Codex를 이용해 각 에이전트 그룹에서 가장 유용한 통찰을 취합하고 그룹 간에 공유했습니다. 후속 프롬프트에는 에이전트들이 자체적으로 도출한 중간 결과를 활용했습니다. 나비에–스토크스 문제의 해법을 발견한 그룹도 이런 방식으로 안내받았습니다.

에이전트들은 첫 에이전트가 가동된 지 약 88시간 후인 9월 5일 토요일에 해법을 도출했습니다. 이후 GPT‑6 Astra를 이용한 Lean 형식화와 검증에 17시간이 더 걸렸습니다.

시도한 모든 문제를 통틀어 에이전트들은 490만 건의 메시지를 주고받았고 약 3,000억 개의 출력 토큰을 사용했습니다. 나비에–스토크스 문제를 해결하는 과정에서는 270만 건의 메시지를 주고받고 약 1,300억 개의 출력 토큰을 사용했습니다.

이 프로젝트는 9월 1일 한 소문을 듣고 시작했습니다. 나중에 그 소문이 Anthropic 직원 레벤트 알푀게와 NYU 수학 교수 트리스탄 벅마스터에 관한 것임을 알게 되었습니다.² 전체 프로젝트와 Lean 검증을 마친 9월 6일, 소문을 근거로 이들 역시 나비에–스토크스 문제의 해법을 가지고 있다고 판단해 연락했습니다. 결과를 동시에 공개하고 공동 발표에서 이들의 선행 업적을 인정하겠다고 제안했습니다. 그때 이들이 Anthropic 내부 모델을 이용해 외력이 있는 오일러 문제를 해결했다는 사실을 알게 되었습니다. 논의 과정에서 OpenAI가 사용한 모든 프롬프트를 공개하고, 이후 증명도 볼 수 있도록 하겠다고 제안했습니다. 외력이 있는 오일러 문제에 대한 이들의 선행 업적을 인정하며, 탁월한 수학적 성취를 축하합니다.

OpenAI 연구진과 에이전트들은 이들이 연구를 공개하기 전까지 어떤 경로로도 그 내용을 접하지 않았습니다. 특히 이 문제를 해결하기 위해 특정 사용자 데이터에 접근한 사실이 없습니다.

조사 결과, 2026년 9월 8일의 이번 발표와 논문 공개에 앞선 두 달 동안 벅마스터가 입력한 Codex 프롬프트는 훈련을 포함해 어떤 방식으로도 시스템에 영향을 줄 수 없었음을 확인했습니다. 이번 결과에 사용된 OpenAI 내부 모델은 사전 훈련된 기존 모델을 기반으로 대규모 강화학습을 거쳐 개발되었습니다. 양측의 증명도 크게 다릅니다. 오일러 문제에서 알푀게와 벅마스터는 외력이 있는 경우를 증명한 반면, OpenAI 시스템은 외력이 없는 경우를 증명했습니다.

이번 결과를 공개하는 목적은 OpenAI의 AI 모델이 이룬 상당한 발전을 알리는 데 있습니다. 이번 결과로 밀레니엄 문제 상금을 청구할 생각은 없습니다.

이 이정표는 수학자와 AI 연구자들이 기울인 상당한 노력을 보여줍니다. 그러나 이는 종착점이 아니라 AI 개발이 진전되는 과정의 한 시점을 보여주는 단면입니다.

OpenAI는 이제 AI 발전의 다음 시기에 접어들었다고 봅니다⁠. 오늘의 결과는 이를 뒷받침하는 또 하나의 증거입니다. 현재 이 모델을 이해하는 데 주력하고 있으며, 여기서 얻은 지식을 바탕으로 향후 역량 향상의 방향과 속도를 조절하고자 합니다. OpenAI의 핵심 목표⁠ 중 하나는 조정 가능하고 책임을 다하며 사람들과 연결된 AI 시스템을 구축하는 것입니다. AGI가 인류 모두에게 혜택을 주도록 한다는 사명을 이어가는 과정에서, 이를 위해 발전 속도를 더욱 신중하게 결정해야 할 수도 있습니다.