OpenAI 모델이 이산기하학의 핵심 추측 하나를 반박했습니다.

거의 80년 동안 수학자들은 겉보기에는 단순하지만 매우 어려운 질문 하나를 연구해 왔습니다. 평면 위에 $n$개의 점을 놓았을 때, 정확히 거리 $1$만큼 떨어진 점의 쌍은 최대 몇 개까지 만들 수 있을까요?

이는 1946년 폴 에르되시가 처음 제기한 평면 단위 거리 문제입니다. 이 문제는 조합기하학에서 가장 잘 알려진 문제 중 하나로, 설명은 간단하지만 해결은 놀라울 정도로 어렵습니다. 브라스, 모저, 파흐가 집필한 2005년 저서 Research Problems in Discrete Geometry에서는 이 문제를 '아마도 조합기하학에서 가장 잘 알려져 있으며, 설명하기도 가장 쉬운 문제'라고 소개합니다. 프린스턴대의 저명한 조합론자 노가 알론 역시 이를 ‘에르되시가 가장 좋아했던 문제 중 하나’라고 말합니다. 에르되시는 이 문제를 해결하는 사람에게 현상금까지 걸었습니다.

오늘 OpenAI는 단위 거리 문제에 관한 중요한 돌파구를 공개합니다. 에르되시의 초기 연구 이후, 아래에 나오는 '정사각형 격자' 구성 방식이 단위 거리 쌍의 개수를 최대화하는 데 사실상 최선이라는 믿음이 널리 받아들여져 왔습니다. 그러나 OpenAI 내부 모델이 이 오랜 추측을 반박했습니다. 이 모델은 기존 결과를 다항식 수준으로 개선하는 무한한 예시 계열을 제시했습니다. 이 증명은 외부 수학자들로 구성된 검토 그룹의 확인을 거쳤습니다. 또한 이들은 논증 과정을 설명하고, 이번 결과의 의미와 배경을 더 자세히 다룬 해설 논문도 작성했습니다.

이번 결과는 발견 과정 자체도 매우 주목할 만합니다. 이 증명은 수학 문제만을 위해 특별히 훈련된 시스템이나, 증명 전략 탐색에 맞춰 설계된 시스템, 혹은 단위 거리 문제만을 겨냥한 시스템에서 나온 것이 아닙니다. 대신 새로운 범용 추론 모델이 스스로 만들어낸 결과입니다. OpenAI는 고급 AI 모델이 최전선 연구에 실제로 기여할 수 있는지 확인하기 위한 더 큰 연구의 일환으로, 이 모델을 여러 에르되시 문제에 적용해 평가했습니다. 그리고 이번에는 실제로 미해결 문제를 해결하는 증명을 만들어냈습니다.

이번 증명은 수학계와 AI 연구 커뮤니티 모두에게 중요한 이정표입니다. 수학의 한 핵심 분야에서 오랫동안 중요하게 다뤄져 온 미해결 문제가 AI에 의해 자율적으로 해결된 것은 이번이 처음입니다. 또한 이번 결과는 오늘날 AI 시스템이 얼마나 깊은 수준의 추론을 수행할 수 있는지를 보여줍니다. 수학은 추론 능력을 시험하기에 특히 명확한 분야입니다. 문제 자체가 매우 정확하게 정의되어 있고, 가능한 증명도 검증할 수 있으며, 긴 논증은 처음부터 끝까지 논리가 일관되게 유지되어야만 성립하기 때문입니다. 이 문제를 해결한 방식 자체도 주목할 만합니다. 이 증명은 대수적 수론에서 나온 예상 밖의 정교한 아이디어들을 비교적 기초적인 기하학 문제에 적용합니다.

해설 논문에 글을 쓴 필즈상 수상자 팀 가워스는 이번 결과를 ‘AI 수학의 이정표’라고 평가했습니다. 저명한 수론학자 아룰 샹카르는 ‘제 생각에 이 논문은 현재의 AI 모델이 단순히 인간 수학자를 돕는 수준을 넘어섰음을 보여줍니다. 이제 AI는 독창적이고 기발한 아이디어를 만들어내고, 그것을 실제 성과로 끝까지 발전시킬 수 있습니다’라고 말했습니다.

증명 전문은 여기⁠(새 창에서 열기)에서 확인할 수 있습니다. 외부 저명 수학자들이 작성한 해설 논문은 여기⁠(새 창에서 열기)에서 확인할 수 있습니다. 모델의 사고 과정 요약본은 여기⁠(새 창에서 열기)에서 확인할 수 있습니다.

$u(n)$을 평면 위의 $n$개 점 사이에서 만들 수 있는 단위 거리 점 쌍의 최대 개수라고 하겠습니다. 선형 성장률을 만드는 예시는 쉽게 구성할 수 있습니다. $n$개의 점을 한 직선 위에 놓으면 $n-1$개의 점 쌍이 생기고, 정사각형 격자를 사용하면 약 $2n$개의 점 쌍을 만들 수 있습니다. 기존에 가장 좋은 것으로 알려진 구성은 크기를 조정한 정사각형 격자에서 얻어지며, 실제로는 이보다 더 많은 단위 거리 쌍을 만들어냅니다. 즉, 상수 C에 대해 n^(1 + C / log log(n))개의 단위 거리 쌍을 생성합니다. $\log \log(n)$은 $n$이 커질수록 무한대로 증가하므로, 지수에 추가된 항은 결국 $0$에 가까워집니다. 즉 이러한 구성 방식은 선형 성장보다 약간 더 빠른 수준의 증가만 만들어냅니다. 수십 년 동안 이 성장률이 사실상 최선이며, 어떤 구성 방식도 정사각형 격자보다 크게 더 나은 결과를 만들 수는 없다고 널리 믿어져 왔습니다. 기술적으로 말하면, 에르되시는 상한이 n^(1+o(1))일 것이라고 추측했습니다. 여기서 추가된 o(1)은 n이 증가함에 따라 0으로 수렴하는 항을 의미합니다.

이번 새로운 결과는 이 추측이 틀렸음을 보여줍니다. 더 정확히 말하면, 이 증명은 무한히 많은 $n$ 값에 대해 적어도 $n^{1+\delta}$개의 단위 거리 점 쌍을 가지는 $n$개 점의 구성을 만들어냅니다. 여기서 $\delta > 0$는 고정된 상수입니다. (원래 AI 증명은 $\delta$의 구체적인 값을 제시하지는 않았지만, 프린스턴대학교 수학과 교수 윌 소윈의 후속 개선 연구에서는 $\delta=0.014$를 사용할 수 있음이 밝혀졌습니다.)

이 문제의 역사를 살펴보면 이 결과가 왜 놀라운지 이해할 수 있습니다. 가장 잘 알려진 하한은 에르되시가 1946년에 제시한 원래 구성 이후 사실상 거의 바뀌지 않았습니다. 가장 잘 알려진 상한인 $O(n^{4/3})$은 1984년 스펜서, 세메레디, 트로터의 연구로 거슬러 올라갑니다. 이후 세케이, 카츠와 실리에르, 파흐, 라즈와 솔리모시를 비롯한 여러 연구자들이 개선 및 관련 구조 연구를 이어갔지만, 상한 자체는 사실상 거의 변하지 않았습니다. 이 추측을 뒷받침하는 근거로, 마투셰크와 알론-부치치-자우어만은 평면에서 비유클리드 거리를 사용하는 경우를 연구했고, 이러한 비유클리드 거리의 ‘대부분’은 어떤 의미에서는 이 추측을 따른다는 사실을 증명했습니다.

놀랍게도 이번 구성의 핵심 아이디어는 대수적 수론이라는 전혀 다른 수학 분야에서 나왔습니다. 대수적 수론은 대수적 수체라고 불리는 정수의 확장에서 나타나는 인수분해 같은 개념을 연구하는 분야입니다.

큰 틀에서 보면, 이 증명은 익숙한 기하학적 아이디어에서 출발해 그것을 예상치 못한 방향으로 발전시켜 나갑니다.

에르되시의 원래 하한은 가우스 정수를 통해 이해할 수 있습니다. 가우스 정수는 $a+bi$ 형태의 수를 말하며, 여기서 $a$와 $b$는 정수이고 $i$는 $-1$의 제곱근입니다. 가우스 정수는 일반적인 정수 체계를 확장한 개념이며, 일반 정수처럼 소수에 대한 유일인수분해 같은 성질을 가집니다. 이처럼 일반 정수나 유리수를 확장해 만든 체계를 대수적 수체라고 부릅니다. 새로운 논증은 가우스 정수 대신, 더 풍부한 대칭성을 가지며 훨씬 더 많은 단위 거리 차이를 만들어낼 수 있는 대수적 수론의 더 복잡한 일반화 구조를 사용합니다.

구체적인 논증에서는 무한 클래스 필드 타워와 골로드-샤파레비치 이론 같은 도구를 사용해, 이 논증에 필요한 수체가 실제로 존재함을 보여줍니다. 이러한 아이디어 자체는 대수적 수론 연구자들에게 잘 알려져 있었지만, 이런 개념들이 유클리드 평면의 기하학 문제와 연결된다는 사실은 큰 놀라움이었습니다.

이번 결과는 AI와 수학의 관계에서 중요한 순간을 보여줍니다. AI 시스템이 활발히 연구되는 수학 분야의 중심에 있던 오랜 미해결 문제를 자율적으로 해결한 것입니다. 또한 이번 사례는 AI와 인간 수학자 사이의 새로운 협업 방식이 어떤 모습일 수 있는지를 처음으로 보여줍니다. 이번 경우에는 외부 수학자들이 작성한 해설 논문을 통해, 원래의 해답만으로는 드러나지 않았던 훨씬 더 풍부한 의미와 맥락이 드러났습니다.

토머스 블룸은 해설 노트에서 다음과 같이 설명합니다.

"AI가 생성한 증명의 중요성과 영향을 평가할 때 저는 스스로에게 이런 질문을 던집니다. '이 증명이 우리에게 이 문제에 대해 새로운 무언가를 가르쳐주었는가? 이제 우리는 이산기하학을 더 깊이 이해하게 되었는가?' 제 대답은 조심스럽게 '그렇다'입니다. 이번 결과는 수론적 구성 방식이 이런 종류의 문제에 대해 우리가 생각했던 것보다 훨씬 더 많은 것을 말해줄 수 있다는 사실을 보여줍니다. 또한 여기에 필요한 수론 자체도 매우 깊을 수 있다는 점을 보여줍니다. 앞으로 몇 달 동안 많은 대수적 수론 연구자들이 이산기하학의 다른 미해결 문제들도 자세히 들여다보게 될 것이라고 생각합니다."

이번 해법이 드러낸 대수적 수론과 이산기하학 사이의 예상 밖 연결은, 이번 결과가 주목받는 중요한 이유 중 하나입니다. 이번 결과는 단순히 특정 추측 하나를 해결하는 데 그치지 않고, 수학자들이 다른 관련 문제들을 탐구하기 시작할 수 있는 새로운 연결고리를 제공할 가능성이 있습니다.

블룸은 더 넓은 가능성도 함께 제시합니다.

"지식의 최전선은 매우 불균등하게 뻗어 있으며, 앞으로 몇 달, 몇 년 사이에는 수학의 다른 많은 분야에서도 비슷한 성공 사례가 나올 것이라고 생각합니다. AI가 예상치 못한 연결을 발견하고 기존 기술적 방법론을 한계까지 밀어붙이면서, 오랫동안 풀리지 않았던 문제들이 해결되는 일이 나타날 것입니다. AI는 우리가 수세기에 걸쳐 세워온 수학이라는 거대한 성당을 더 깊이 탐험할 수 있도록 돕고 있습니다. 아직 드러나지 않은 어떤 놀라운 발견들이 우리를 기다리고 있을까요?"

이번 결과는 하나의 유망한 사례를 보여줍니다. AI가 단순한 해답만 제시한 것이 아니라, 인간의 후속 이해와 연구를 통해 그 의미가 더욱 풍부해지는 수학적 발견에도 기여할 수 있다는 점을 보여준 것입니다.

중요한 점은 이번 결과 자체보다 더 큰 의미에 있습니다. 수학적 추론 능력이 향상되면 AI는 더 강력한 연구 협력자가 될 수 있습니다. 복잡한 논리 전개를 일관되게 유지하고, 서로 멀리 떨어진 지식 분야의 아이디어를 연결하며, 전문가들이 우선순위를 두지 않았던 유망한 방향을 발견하고, 원래라면 너무 복잡하거나 많은 시간이 들어 해결하기 어려웠던 문제들에서 연구자들이 진전을 이루도록 도울 수 있기 때문입니다.

이러한 능력은 수학을 넘어 다른 분야에서도 중요합니다. 모델이 복잡한 논증을 일관되게 유지하고, 서로 멀리 떨어진 지식 분야의 아이디어를 연결하며, 전문가의 검토를 견뎌낼 수 있는 결과물을 만들어낼 수 있다면, 이런 능력은 생물학, 물리학, 재료과학, 공학, 의학에서도 유용합니다. 또한 이는 과학자와 엔지니어가 더 많은 아이디어를 탐구하고 더 어려운 기술적 문제에 도전할 수 있도록 돕는, 보다 자동화된 연구 시스템으로 나아가는 장기적 방향의 일부이기도 합니다.

AI는 이제 연구의 창의적인 영역, 그리고 무엇보다 AI 연구 자체에서 매우 중요한 역할을 맡기 시작하려 하고 있습니다. 이러한 발전 자체가 예상 밖의 일은 아니지만, 이는 AI 발전의 다음 단계와 매우 지능적인 시스템을 정렬하는 문제, 그리고 인간과 AI의 협업이 앞으로 어떤 방향으로 나아갈지에 대해 더 깊이 이해해야 할 필요성을 더욱 분명하게 보여줍니다.

그 미래는 여전히 인간의 판단에 달려 있습니다. 전문성의 가치는 줄어드는 것이 아니라 오히려 더 커집니다. AI는 탐색하고, 제안하고, 검증하는 일을 도울 수 있습니다. 어떤 문제가 중요한지 결정하고, 결과를 해석하며, 다음에 어떤 질문을 탐구할지 결정하는 것은 인간의 역할입니다.