7개월 전, OpenAI가 비슷한 주장을 했다가 망신당한 일이 있었어요. 당시 부사장이 “GPT-5가 에르되시 미해결 문제 10개를 풀었다”고 올렸는데, 수학자들이 확인해보니 이미 알려진 해법을 찾아낸 것에 불과했어요. “심각한 오해를 불러일으키는 주장”이라는 비판을 받고 그 글은 삭제됐어요.
그래서 5월 20일 ‘OpenAI 수학 난제 해결’이라는 발표가 또 나왔을 때, 처음 반응은 ‘또?’였어요.
이번엔 달랐어요.
80년 동안 아무도 틀렸다고 증명하지 못했어요
문제 자체는 단순해요. 종이에 점을 찍어요. 그 점들 사이에 거리가 정확히 1인 쌍을 최대 몇 개 만들 수 있을까요. 1946년 헝가리 수학자 폴 에르되시가 처음 제시한 질문이에요.
에르되시는 정사각형 격자 배열이 거의 최선이라고 주장했어요. 80년 동안 수학자들도 대체로 그렇게 믿었어요. 아무도 맞는지 틀렸는지 증명하지 못했을 뿐이에요.
OpenAI 수학자 두 명이 이 수학 난제를 내부 추론 모델에 넣어봤어요. 모델은 수백 페이지 분량의 논리 전개 끝에 에르되시의 주장이 틀렸다는 반례를 찾아냈어요. 격자 배열보다 더 나은 배열이 있다는 걸 증명한 거예요. 모델이 택한 방법은 고차원 격자를 구성해서 2D 평면으로 투영하는 방식이었는데, 결과물이 너무 복잡해서 적은 수의 점으로도 실제로 그릴 수 없을 정도라고 해요.
검증은 외부 수학자들이 맡았어요. 7개월 전 OpenAI의 주장을 “심각한 오해”라고 비판했던 수학자 토마스 블룸이 이번엔 증명을 지지했어요. 케임브리지대학교의 필즈상 수상자 팀 가워스는 사람이 했어도 최고 수학 저널에 게재될 수준이라고 평가했어요.
80년이 걸린 진짜 이유가 있었어요
이 소식에서 가장 흥미로운 부분은 따로 있어요.
하버드대학교 수학자 멜라니 우드는 Scientific American 인터뷰에서 이렇게 말했어요. 검증에 참여했던 수학자들이 처음부터 반례를 찾는 쪽에 시간을 썼다면 진작에 찾았을 거라고요. 80년 동안 해결이 안 됐던 건 문제가 너무 어려워서가 아니었어요. 에르되시가 옳다고 믿고 그걸 증명하는 방향만 봤기 때문이었어요.
AI는 그 믿음이 없었어요. 어느 방향이 더 그럴듯하다는 선입관 없이, 수학자들이 너무 지루하거나 가망 없다고 피했던 경로를 그냥 밟아갔어요. OpenAI 수학자는 “모델이 완전히 새로운 걸 발명한 게 아니에요. 그냥 놀라운 수학자처럼 실행한 거예요”라고 했어요.
AI의 원본 출력은 수학자들이 읽고 다듬는 과정이 필요했어요. 수학자들은 그 과정이 없었다면 지금만큼 설득력 있는 증명이 되지 않았을 거라고 했어요. AI가 방향을 찾고, 사람이 그 길을 닦았다는 거죠.
80년 동안 해결 못 했던 문제의 답이 처음부터 거기 있었다면, 전문가들이 당연하다고 믿어온 것들 중에 그 믿음 자체가 답을 막고 있는 게 또 얼마나 있을까요?