00:00 인트로
00:46 대체 어떤 문제였나
01:42 OpenAI는 무엇을 찾아냈나
03:07 88시간의 진짜 모습
03:59 첫 번째 반전, 정말 90년을 88시간 만에?
05:01 정말 문제는 끝난 걸까
05:39 두 번째 반전, 수학자들은 왜 걱정했나
07:30 인간 수학자에게 남는 문제

수학자들이 90년 넘게 풀지 못한 문제가 있습니다. 세계적인 수학 난제, 나비에-스토크스 문제입니다. 그런데 9월 8일, OpenAI가 인공지능이 단 88시간 만에 이 문제의 해답을 찾았다고 발표했습니다. 이것만 보면 인간 수학자가 AI에게 완패한 사건처럼 보입니다. 그런데 사흘 뒤인 9월 11일, 세계 최고 수준의 수학자들이 오히려 집단으로 경고장을 냈습니다.

[허준이 / 미국 프린스턴대 수학과 교수 : 본래의 목적을 잃은 종류의, 어떻게 보면 게임처럼 진행되는 것이 고착화될 수도 있을 것 같아…우려가 있었습니다.]

AI가 난제를 풀었는데, 수학자들은 왜 걱정하기 시작한 걸까요? 그리고 정말 90년의 난제를 AI가 88시간 만에 푼 걸까요?

1. 대체 어떤 문제였나
컵에 담긴 물을 휘저으면 이렇게 소용돌이가 생깁니다. 그런데 이 소용돌이가 점점 더 작은 공간에 몰린다면, 그 안의 물은 계속 빨라져 속력이 끝없이 커질 수도 있을까요? 나비에-스토크스 방정식은 쉽게 말해, 학교에서 배우는 '힘은 질량 곱하기 가속도'라는 원리를 물과 공기의 흐름에 적용한 식입니다. 비행기 주변의 공기 흐름이나 날씨 예측처럼 실제 유체를 계산할 때 널리 쓰입니다. 그런데 오래된 수수께끼가 있었습니다. 매끄럽게 시작한 유체는 시간이 지나도 계속 매끄럽게 흐를까요? 아니면 어느 순간 아주 작은 곳에 움직임이 몰려서 속력이 끝없이 커질 수도 있을까요? 수학에서는 이런 상황을 '특이점'이라고 부릅니다. 미국의 비영리 수학 연구기관인 클레이 수학연구소는 2000년, 이 문제를 상금 100만 달러가 걸린 7대 '밀레니엄 문제' 가운데 하나로 선정했습니다.

2. OpenAI는 무엇을 찾아냈나
OpenAI가 9월 8일 공개한 논문은 166쪽입니다. 핵심은 이렇습니다. 처음에는 가만히 있던 유체에 외부에서 힘을 가합니다. 그 힘은 갑자기 무한대로 치솟는 비현실적인 힘이 아니라, 시간과 장소에 따라 부드럽게 변합니다. 그런데도 유체의 움직임이 점점 더 좁은 곳에 몰리면서 결국 그곳의 속력이 끝없이 커지는 상황을 만들었다는 겁니다. 이게 놀라운 이유는 물 같은 유체에 점성이 있기 때문입니다. 흐름이 갑자기 달라지면 점성은 빠른 쪽의 움직임을 주변으로 전달해 속도 차이를 줄이고 흐름을 부드럽게 만듭니다. 그런데 그런 작용이 있는데도 한 곳의 속력이 끝없이 커질 수도 있다는 겁니다. 물론 실제 물이 무한한 속도로 움직인다는 뜻은 아닙니다. 현실의 물은 그럴 수 없겠죠. 대신 방정식으로 계산했을 때 어느 순간 속력이 무한대로 치솟는다면, 그 지점부터는 이 방정식만으로 실제 유체를 제대로 설명할 수 없다는 뜻입니다. 바로 이런 상황이 수학적으로 가능한지를 밝히는 것이 이 난제의 핵심이었습니다. 클레이 수학연구소는 '유체가 언제나 매끄럽다'는 걸 증명해도 되고, 반대로 매끄럽게 시작한 유체에, 외부의 힘도 매끄럽게 가했는데 특이점이 생기는 예를 찾아도 문제를 푼 것으로 인정하도록 했습니다. OpenAI는 자신들이 바로 두 번째 경우를 증명했다고 주장합니다.

3. 88시간의 진짜 모습
그렇다면 AI는 88시간 동안 뭘 한 걸까요? 중요한 건, AI 하나가 사흘 동안 고민한 게 아니라는 겁니다. OpenAI는 9월 1일부터
수많은 AI에게 서로 다른 방법을 동시에 시험하게 했습니다. 어떤 AI는 유체가 끝까지 매끄럽다는 걸 증명하려 했고, 다른 AI는 특이점이 생기는 경우를 찾았습니다. 관련된 조금 단순한 문제에서 실마리가 나오자 다른 곳의 자원까지 끌어와 나비에-스토크스에 집중했습니다. 최종적으로는 약 1만 개의 AI 에이전트가 동시에 여러 방법을 시험했고, 9월 5일, 약 88시간 만에 증명에 도달했다고 밝혔습니다. 그러니까 88시간은 천재 AI 하나의 고민 시간이라기보다, 수천 명이 동시에 연구하는 거대한 연구소를 압축해서 돌린 시간에 가깝습니다.

4. 첫 번째 반전, 정말 90년을 88시간 만에?
그런데 여기서 첫 번째 반전이 있습니다. 지금까지만 들으면, 90년 동안 아무도 길을 찾지 못했던 곳에 AI가 갑자기 정답을 내놓은 것처럼 보입니다. 실제로는 그렇지 않습니다.

[강문진 / KAIST 교수 : 배경지식도 없이 그냥 AI가 88시간 만에 풀었다, 이렇게 얘기할 수 없고요. 많은 수학자들이 사실 굉장히 많은 진보를 이뤘고, 최근에는 진짜 거의 다 온 상황이었거든요.]

코르도바와 마르티네스-소로아 같은 수학자들은 이미 여러 해 동안 외부의 힘을 이용해 유체에 특이점을 만드는 방법을 발전시켜 왔습니다. 다만 그 힘이 이번 난제가 요구하는 만큼 매끄럽지는 않았습니다. 다른 수학자들도 AI를 이용해 그 마지막 간극을 좁히고 있었죠. OpenAI가 정말 그 간극을 메웠다면 엄청난 성과인 건 분명합니다. 하지만 'AI가 아무 배경 없이 90년의 난제를 88시간 만에 풀었다'고 보는 것도 정확하진 않습니다. 그 출발점에는 인간 수학자들이 오랫동안 쌓은 연구가 있었습니다.

5. 정말 문제는 끝난 걸까
그렇다면 이제 나비에-스토크스 문제는 끝난 걸까요? 아직은 아닙니다. OpenAI는 166쪽짜리 논문과 함께, 증명을 컴퓨터가 확인할 수 있는 형태로 바꾼 검증 자료도 공개했습니다. 하지만 컴퓨터는 입력된 내용의 논리가 맞는지를 검사하는 겁니다. 원래 수학 내용을 컴퓨터가 읽는 형태로 정확하게 옮겼는지도 확인해야 하고, 166쪽짜리 논문 자체도 다른 수학자들이 독립적으로 검토해야 합니다. 그래서 현재로서는 "OpenAI가 해법을 제시했다"라고 말하는 것이 가장 정확합니다.

6. 두 번째 반전, 수학자들은 왜 걱정했나
그런데 더 흥미로운 반전은 이 다음입니다. OpenAI 발표 사흘 뒤인 9월 11일, 허준이 교수와 테런스 타오 등 수학계의 노벨상이라 불리는 필즈상 수상자 25명이 공동성명을 냈습니다. 제목부터 센데요. '수학에서 AI의 심각한 목표 불일치.' 이들이 문제 삼은 건 AI가 수학을 못한다는 게 아닙니다. 너무 잘하기 시작했기 때문에 새로운 문제가 생겼다는 거죠. 공동선언의 핵심은 이렇습니다. 문제를 푸는 건 수학을 이해하기 위한 수단이지, 그 자체가 최종 목적은 아니라는 겁니다. 무슨 뜻일까요? 2022년 필즈상을 수상하고 이번 공동성명에 참여한 허준이 프린스턴대 교수에게 물었습니다.

[허준이 / 미국 프린스턴대 수학과 교수 : 우리가 수학 문제집을 학창 시절에 열심히 풀고 있는데…어려운 문제에 대해서 고민하고 있을 때 문제집에 있는 문제를 다 푸는 게 목적이었다면 답지를 보고서 문제집에 있는 모든 문제를 다 풀면 되겠죠.]

답지만 있으면 정답 칸은 전부 채울 수 있습니다. 하지만 그걸 수학을 이해했다고 할 수 있을까요?

[허준이 / 미국 프린스턴대 수학과 교수 : 답을 구하는 것만이 연구의 전부는 아니거든요. 사실은 그거는 아주 작은 부분이라고도 할 수 있는데, 특히 수학에서 난제라고 부르는 것들의 가장 큰 용도 중 하나는 우리가 지금 어떤 부분을 모르고 있는지를 알려주는 그런 용도가 가장 중요하거든요.]

난제가 중요한 건 마지막 정답 한 줄 때문만은 아닙니다. 왜 안 풀리는지 고민하면서 기존 수학의 빈틈을 발견하고, 새로운 방법과 개념을 만들고, 그 과정에서 다음 질문이 나옵니다. 그런데 AI가 막대한 자원을 써서 정답으로 너무 빨리 건너가 버리면, 인간은 답은 얻었지만 왜 그 답이 나왔는지, 무엇을 새로 배웠는지, 다음에는 무엇을 물어야 하는지 충분히 소화하지 못할 수 있다는 게 이 수학자들의 걱정입니다.

7. 인간 수학자에게 남는 문제
허준이 교수가 특히 걱정한 건 다음 세대였습니다.

[허준이 / 미국 프린스턴대 수학과 교수 : 내가 지금 이 연구를 시작해서 5년, 6년, 7년, 10년 후에 결과를 바라는 것이 '이게 의미가 있는 일일까'라는 회의감에 젖어들게 하거든요.]

연구 기회의 문제도 있습니다. 수학은 오랫동안 종이와 연필, 좋은 아이디어가 있다면 누구나 뛰어들 수 있는 학문이었습니다. 하지만 가장 강력한 AI와 막대한 연산 자원을 가진 곳만 최전선의 난제를 풀 수 있게 된다면 연구의 출발선도 달라질 수 있습니다. 그렇다고 허 교수가 AI를 반대하는 건 아닙니다. 자신도 매일 AI를 이용해 연구하고 있고, 오히려 지금이 수학자로 살아가기에 가장 흥미로운 시대라고 말했습니다.

문제는 AI의 속도가 아니라, 그 속도를 따라가면서 인간이 무엇을 놓칠 수 있느냐는 겁니다. OpenAI는 9월 8일, 이번 결과를 공개한 이유에 대해 AI가 얼마나 빠르게 발전하고 있고, 앞으로 나올 모델에서 무엇을 기대할 수 있는지 알리는 것이 중요하다고 밝혔습니다. 그 말대로라면, 이번 사건은 수학 문제 하나의 해답보다 훨씬 큰 변화를 보여주는 사건일 수 있습니다. AI가 수많은 지식을 읽고, 수천 가지 가능성을 동시에 시험하고, 며칠 만에 새로운 증명까지 내놓는 시대 그런 시대에 인간에게 남는 역할은 무엇일까요?

[허준이 / 미국 프린스턴대 수학과 교수 : 끊임없이 궁금증을 갖고 지적 호기심을 계속 유지하고 새로운 지평선을 만들 것을 요구하는, 현재로서는 그것이 인간의, 수학자의 가장 중요한 역할이라고 생각합니다.]

90년 넘게 풀리지 않던 난제에 AI가 불과 88시간 만에 해답을 내놓는 시대가 시작됐습니다. 어쩌면 이제 인간에게 더 중요한 능력은 정답을 가장 빨리 내놓는 것이 아니라, 그 답을 이해하고, 아직 아무도 묻지 않은 다음 질문을 찾는 것인지도 모릅니다.

(취재 : 최승훈, 구성 : 신희숙, 촬영 : VJ이지환, 영상편집 : 홍진영, 디자인 : 양혜민, 출처 : 3d-retro, 제작 : 디지털뉴스부)