90년 묵은 수학 난제를 AI가 며칠 만에 풀었다고 발표한 OpenAI

90년 묵은 수학 난제를 AI가 며칠 만에 풀었다고 발표한 OpenAI

AI 뉴스 썸네일

공기와 물처럼 흐르는 것의 운동을 기술하는 나비에-스토크스 방정식은 수학자들을 90년 가까이 붙잡아 온 문제예요. 매끄럽게 흐르던 유체가 시간이 흐른 뒤 폭주할 수 있는지, 이 질문에 수학계는 확실한 답을 내놓지 못했어요. OpenAI가 자사 내부 AI 시스템으로 이 문제의 해법을 찾았다고 발표했어요. 증명 문서와 컴퓨터로 검증할 수 있는 Lean 형식화까지 함께 공개했고, 밀레니엄 상금은 청구하지 않겠다고 밝혔어요. 1

핵심 요약

구분	핵심	왜 볼 만한가요
AI 연구 성과	OpenAI 내부 AI가 나비에-스토크스 매끄러움 문제의 해법을 도출하고 Lean 형식화까지 공개	90년 미해결 밀레니엄 난제에 AI 시스템이 도달한 첫 사례
증명 내용	매끄러운 외력 아래 정지 상태 유체에서도 유한 시간 안에 특이점이 생길 수 있음을 입증	유체를 연속 매질로 다루는 근사의 한계를 수학적으로 보여줘요
실행 규모	약 1만 개 동시 에이전트, 첫 가동 88시간 만에 해법 도달, 출력 토큰 약 1,300억 개	대규모 에이전트 협업이 실제 연구 결과를 만들어냈어요
남는 쟁점	외부 수학자 두 명의 동시 연구와 학습 데이터 논란	AI 성과의 신뢰 평가 기준을 묻는 사례예요

1. OpenAI가 나비에-스토크스 난제 해법을 공개한 방식

나비에-스토크스 방정식은 뉴턴의 운동 법칙을 유체에 적용한 식이에요. 개별 분자를 하나하나 따라가는 대신 유체를 연속된 물질로 보고 움직임을 계산해요. 항공기 설계, 일기예보, 혈류 연구 같은 분야의 기반이 되는 방정식이에요. 수학자들은 여기서 오래된 질문 하나를 풀지 못했어요. 3차원 유체가 매끄럽게 출발하더라도 시간이 지나면서 속도가 무한히 커지는 특이점이 생길 수 있는가 하는 문제예요. 1934년 장 르레이가 넓은 의미에서 해가 존재함을 증명한 뒤로, 해가 항상 매끄럽게 유지되는지는 약 90년간 열린 상태로 남았어요. 클레이 수학 연구소는 2000년 이 문제를 밀레니엄 상금 문제 일곱 개 가운데 하나로 선정했어요. 2

OpenAI는 내부 AI 시스템이 도출한 해석적 증명과 Lean 형식화를 함께 공개했어요. 증명의 결론은 이래요. 정지 상태에서 출발한 매끄러운 유체에 매끄러운 외력이 작용할 때, 유한 시간 안에 특이점이 발생할 수 있어요. 특이점까지 가는 전 과정 동안 유체의 에너지는 유한하게 유지돼요. 이 결과로 공식 밀레니엄 문제 정식화의 명제 C와 D를 입증했다고 밝혔어요. 2

증명의 핵심 그림은 소용돌이예요. 안쪽으로 나선을 그리며 말려 들어가면서 스파게티처럼 길게 늘어나는 소용돌이를 만들면, 중심 영역은 계속 작아지고 속도는 계속 커져요. 물리 법칙이 요구하는 유한한 에너지는 그대로 지켜져요. 외부에서 무한한 힘을 밀어 넣는 게 아니라 유체 자신의 운동으로 붕괴가 일어나야 한다는 점이 기술적으로 어려운 부분이에요. 가속도, 압력 기울기, 운동량 전달, 점성을 나타내는 항들이 커지면서 동시에 정확하게 서로를 상쇄해야 해요. 이 균형 덕분에 유체 속도가 무한히 커져도 외력은 매끄럽게 남아 있어요. 2

실행 규모

OpenAI는 GPT-6 Astra보다 훨씬 강력하다는 내부 모델을 협력 에이전트 시스템에 연동했어요. 에이전트들은 캐시된 인터넷 읽기와 코드 실행 도구를 쓸 수 있었고, 그룹 안에서 서로 소통했어요. 문제 정식화별로 다른 그룹에 배정했고, 나비에-스토크스 해법을 찾은 그룹에는 약 1만 개의 동시 에이전트가 참여했어요.

728x90

먼저 점성 항을 제거한 오일러 방정식의 정칙성 문제를 풀었어요. 외력이 없는 무외력 문제에서 특이점 발생을 보이는 방향이었고, 약 100개 에이전트가 약 50시간을 썼어요. 오일러 해법을 확보한 뒤 나비에-스토크스가 가장 유망하다고 판단해 다른 문제의 에이전트를 이동시키고 오일러 해법을 프롬프트로 줬어요. 그룹마다 서로 다른 접근을 시도하게 한 뒤, Codex로 각 그룹의 통찰을 모아 다른 그룹에 전달하는 방식으로 탐색을 이어갔어요. 2

일정과 비용

에이전트는 첫 가동 약 88시간 뒤인 9월 5일 해법에 도달했어요. 이후 GPT-6 Astra로 Lean 형식화와 검증에 17시간이 더 들었어요. 전체 시도에서 에이전트가 주고받은 메시지는 490만 개, 출력 토큰은 약 3,000억 개예요. 이 가운데 나비에-스토크스 해결에 쓰인 메시지는 270만 개, 출력 토큰은 약 1,300억 개예요. 2

남는 쟁점

성과 발표와 동시에 논란도 커요. OpenAI가 9월 1일에 들었다는 소문은 나중에 앤트로픽 직원 레번트 알퍼지와 뉴욕대 수학 교수 트리스탄 벅마스터의 연구와 관련된 것으로 확인됐어요. 두 사람은 외력이 있는 오일러 문제의 해법을 알고 있었고, OpenAI는 이 방향의 선행 성과를 인정했어요. 다만 협의 과정에서 벅마스터가 OpenAI 측의 위협적인 태도를 문제 삼는 성명을 공개하면서, 공동 발표 논의 자체가 삐걱거렸어요. 학습 데이터 문제도 남아 있어요. OpenAI는 문제 해결을 위해 특정 사용자 데이터에 접근하지 않았다고 밝혔지만, 두 연구자의 제품 사용에서 나온 비식별 데이터가 모델 개선에 기여했을 가능성은 배제하지 못한다고 적었어요. 1

왜 중요한가요

첫 번째로, AI가 검증 가능한 형태로 수학 연구 결과를 만들어 냈어요. 자기 보고가 아니라 Lean 형식 언어로 컴퓨터가 검증한 증명이라는 점에서, 성과의 참 거짓을 외부가 따져볼 수 있어요. AI 연구 속도 논의가 의견 대신 증명 단위로 움직이게 된 첫 큰 사례로 볼 수 있어요. 2

두 번째로, 대규모 에이전트 협업이 하나의 연구 결과로 수렴한 구조 자체가 정보예요. 만 개에 가까운 에이전트가 여러 접근을 시도하고, 상위 시스템이 유용한 통찰을 골라 그룹 사이에 옮기는 방식으로 88시간 만에 결과를 냈어요. 에이전트를 단순 반복 실행이 아니라 연구 워크플로로 조직한 사례로 읽을 수 있어요. 2

세 번째로, 성과의 신뢰를 두고 벌어진 논쟁이 앞으로 반복될 패턴을 보여줘요. 동시 연구 존중, 학습 데이터 출처, 대형 AI 실험실과 개인 연구자의 관계 같은 쟁점이 이번 건에서 한꺼번에 터졌어요. AI가 내놓는 결과가 많아질수록 결과 자체보다 그 결과를 둘러싼 절차와 데이터 경로를 따지는 일이 더 중요해져요. 1

참고 자료

1. OpenAI, AI로 찾은 밀레니엄 난제 '나비에-스토크스' 해법 공개 — GeekNews
2. On the Navier–Stokes Millennium Prize Problem — OpenAI
3. 나비에-스토크스 해법 발표의 이면: 수학자가 공개한 OpenAI와의 협의 과정 — GeekNews