AI가 수학 난제를 풀었다는데, 필즈상 수상자 25명은 왜 경고했을까요?

"AI가 수학 난제를 88시간 만에 풀었다"는 소식, 보신 적 있으신가요? 보통이라면 박수받을 성과인데, 정작 세계 최고의 수학자들은 손뼉 대신 경고장을 꺼내 들었습니다. 지난 11일(현지시간) 필즈상 수상자 25명이 공동서한을 내고 "AI의 수학 문제 풀이 경쟁이 수학이라는 학문 자체를 해칠 수 있다"고 밝힌 건데요. 한국계 수학자 허준이 프린스턴대 교수와 '살아있는 전설' 테런스 타오 UCLA 교수도 이름을 올렸습니다. 도대체 무슨 일이 있었던 걸까요?

오픈AI, 밀레니엄 문제를 88시간 만에 풀다

발단은 오픈AI였습니다. 오픈AI는 최근 수학계의 7대 난제로 꼽히는 '밀레니엄 문제' 중 하나인 나비에-스토크스 방정식 문제를 AI로 88시간 만에 풀었다고 발표했습니다. 이 문제 해결에는 수천 개의 AI 에이전트가 동시에 투입돼 270만 개의 메시지를 주고받고, 약 1,300억 개의 토큰을 썼다고 하는데요. 인간 연구자 한 명이 평생을 매달려도 못 풀 수 있는 문제를, AI 군단이 사흘 남짓 만에 정리해버린 셈입니다.

그런데 이 발표 직후 잡음이 나왔습니다. 오픈AI가 다른 수학자들의 연구 아이디어를 가져다 썼다는 논란이 불거진 겁니다. 실제로 뉴욕대(NYU)의 한 수학자가 관련 방정식을 몇 달째 연구해왔는데, 공동 연구자였던 또 다른 연구자(공교롭게도 경쟁사인 앤트로픽 소속)와 함께 개발해온 독특한 접근법이 공개되자마자 오픈AI가 그대로 가져다 썼다고 문제를 제기했습니다. 오픈AI 측은 해당 연구에 접근한 적이 없다고 부인했지만, "누구의 연구인가"를 둘러싼 논쟁 자체가 필즈상 수상자들의 경고에 불을 붙인 배경이 됐습니다. AI 기업들끼리도 서로의 연구를 베꼈다고 의심하는 상황이니, 인간 연구자의 몫이 얼마나 빨리 지워질 수 있는지 짐작이 가시죠.

필즈상 수상자 25인, "도구가 목적을 해치고 있다"

허준이, 테런스 타오 교수를 비롯한 필즈상 수상자 25명은 '수학에서 AI의 심각한 불일치(A Severe Misalignment of AI in Mathematics)'라는 제목의 공동서한을 발표했습니다. 핵심 메시지는 명확합니다. "수학에서 문제를 푸는 행위는 개념적 이해와 통찰이라는 근본적인 목표를 이루기 위한 도구이자 대리 수단일 뿐인데, 이를 잊으면 도구가 오히려 본래 목적을 해칠 수 있다"는 것입니다.

이들은 AI 기업들이 미해결 난제를 성능 자랑용 벤치마크로 삼는 경쟁 자체가 수학 공동체의 목표와 심각하게 어긋나 있다고 짚었습니다. 원래 수학계에서 난제 하나가 풀리면, 그 안에서 나온 새로운 개념과 방법론을 두고 학자들이 오랜 시간 토론하고 검증하고 다듬어서 후대에 물려줍니다. 강연, 논쟁, 세심한 논문 작성 같은 사람과 사람 사이의 상호작용이 이 과정의 핵심이라는 거죠. 그런데 AI가 순식간에 수많은 문제를 풀어치우면, 그 방법론이 왜 중요한지 해석할 시간도, 원래 아이디어의 출처를 제대로 표시할 여유도 사라질 수 있다는 게 이들의 우려입니다.

이걸 비유하자면 이런 느낌입니다. 컨베이어 벨트에서 빵을 만드는 자동화 기계가 있다고 해볼게요. 기계는 사람보다 훨씬 빨리, 훨씬 많은 빵을 찍어냅니다. 그런데 정작 "왜 이 반죽 비율이 맛있는지", "이 발효 방식이 어떤 원리로 작동하는지"를 설명할 수 있는 사람은 아무도 남지 않게 됩니다. 필즈상 수상자들이 걱정하는 건 바로 이 지점입니다. 결과물은 쏟아지는데, 그 결과물이 왜 의미 있는지 이해하고 다음 세대에 전달할 '사람의 자리'가 사라질 수 있다는 것이죠.

AI 수학, 이미 곳곳에서 증명되고 있다

사실 AI의 수학 실력이 화제가 된 게 이번이 처음은 아닙니다. 올해 초에는 아직 대학에 진학하지도 않은 영국의 한 학생이 GPT의 도움을 받아 헝가리 수학자 에르되시가 남긴 60년 묵은 난제를 풀어낸 사례가 국제학술지 네이처에 소개되기도 했습니다. 당시 테런스 타오 교수는 AI가 기존 학계가 당연하게 여겨온 접근법을 따르지 않고 전혀 다른 방식으로 문제를 풀어냈다며, 그 풀이 방식에 의미를 부여하기도 했습니다. AI의 수학적 잠재력을 가장 먼저 인정한 사람 중 하나가 이번엔 경고장에 이름을 올렸다는 점이 이 사안의 무게를 보여줍니다.

그래서 이 논쟁, 어떻게 봐야 할까요?

이번 서한이 말하는 건 "AI가 수학을 하면 안 된다"가 아닙니다. 필즈상 수상자들도 AI가 수학적 이해와 학습을 돕고 가속할 잠재력이 있다는 점은 인정합니다. 문제는 그 변화가 학문에 도움이 될지, 오히려 해가 될지는 결국 이 기술을 다루는 사람들의 선택에 달려 있다는 점입니다. 이들은 서한 말미에 수학 공동체와 AI 기업, 그리고 사회 전체가 이 문제를 서둘러 논의해야 한다고 촉구했습니다.

이 논쟁은 수학만의 이야기로 끝나지 않을 가능성이 큽니다. 코드를 짜는 일, 글을 쓰는 일, 연구 논문을 리뷰하는 일까지, AI가 '결과'를 빠르게 만들어내는 모든 지적 활동에서 비슷한 질문이 제기될 수 있습니다. 속도와 효율을 얻는 대신 우리가 무엇을 잃고 있는지, 한 번쯤 짚어볼 시점인 것 같습니다. 여러분은 AI가 만들어낸 '빠른 정답'과 사람이 시간을 들여 이해한 '느린 통찰' 중 어느 쪽에 더 가치를 두시나요?

📌 오늘의 핵심 요약

• 오픈AI가 AI로 밀레니엄 문제 중 하나인 나비에-스토크스 방정식을 88시간 만에 풀었다고 발표했습니다.
• 발표 직후 다른 연구자의 아이디어를 가져다 썼다는 논란이 불거졌고, 오픈AI는 이를 부인했습니다.
• 허준이, 테런스 타오 등 필즈상 수상자 25명이 "AI의 문제 풀이 경쟁이 수학 공동체의 목표와 어긋난다"는 공동서한을 발표했습니다.
• 핵심 우려는 결과물의 속도가 빨라질수록 그 의미를 해석하고 다음 세대에 전달하는 '사람의 역할'이 사라질 수 있다는 점입니다.
• 이 논쟁은 수학을 넘어 AI가 개입하는 모든 지적 활동 전반에 던지는 질문이라는 점에서 주목할 만합니다.