"The proof is out there."
위 문장이 현대 수학자들이 AI에 대해 느끼는 두려움을 상징한다고 합니다. 의역하면, "증명은 되었으나 저 너머에 존재한다."
이게 무슨 말이냐 하면, 가령 "리만가설"을 1억개의 수식으로 증명했다고 해 봅시다. 그리고, 그 수식도 3차원 공간이 아닌 가장 대칭성이 높은 19만 몬스터 차원에서의 기하학적 수식이라고 해 봅시다. 인간은 이를 이해할 수 없죠. 수천명의 수학자들이 달라 붙어도 절대 이해할 수 없습니다.
수학에서 증명은 단순히 참/거짓을 판별하는 것이 아니라, "왜 참인지"를 인간의 지성으로 이해하는 과정도 포함됩니다. 위와 같은 방식은 인간이 검토가 불가능하기 때문에, 이를 증명이라고 봐야 할지 의문입니다. 이러한 증명을 몇몇 수학자들은 "신탁(Oracle)"이라고 이름까지 붙여놨습니다.
인간이 이해할 수 없다면, 결국 다른 AI에게 검증을 맡길 수 밖에 없습니다. 이미 현대 수학자들은 이것도 대비해 놓고 있습니다. "린(Lean) 언어" 또는 "코크(Coq)"같은 형식 검증(Formal Verification) 도구를 만들어서, AI의 증명 논리를 하나하나 체크하는 AI 소프트웨어까지 만들어 놓았습니다.
인류가 풀지 못한 수학 난제들을 Lean 언어로 변환해서 수학 DB에 이미 쌓고 있는 중입니다. 하지만 이는 인간의 판정이 아니라, 또 다른 기계의 판정일 뿐이지요.
이런 미래가 곧 도래할 것이라고 최선두의 현대 수학자들은 예견하고 있습니다. 수학자가 아닌 인문학자 또는 일반인들은 이를 어떻게 받아 들여야 할까요? "그냥 닥치고 믿어"라고 해야 할까요?
수학 분야에서 이러한 블랙박스 증명이 보편화된다면, 후행하는 물리학 이론도 마찬가지가 될 것입니다. 또한 물리학 이론에 후행하는 공학적 지식, 생물학적 지식도 마찬가지일 겁니다. 결국 미래의 공학은 마법같은 현실이 되겠죠.
수학자들이 가장 사용하고 싶은 도구인 몬스터군이 무려 19만 차원입니다. 19만 차원이 머릿속에 그려지시나요? 수학자들이 무려 50년동안 수백명이 동원되서 "가장 유한 대칭성이 높은 차원을 찾아낸게 19만차원입니다" 찾아는 냈지만, 이 거대 차원에서의 수학논리를 자유자재로 사용할 수는 없습니다. 인간의 한계입니다.
왜 몬스터군을 수학자들이 그토록 탐구하고 싶어 하냐면, "대칭성이 가장 높다는 것은 수학정리가 가장 많다"라는 말과 거의 동치입니다.
인류가 지금까지 찾아낸 수학정리가 모르긴 몰라도 수만개일텐데, 몬스터 차원에서 발견할 수 있는 수학정리는 얼마나 거대할지 상상도 못합니다.
만일 AI가 19만 차원에서의 기하학을 리만가설의 해결책으로 들고 나오면 이걸 어떻게 이해하겠습니까? 아무리 쉽게 요약 설명해달라고 해도 인간의 뇌로는 19만 차원을 생각할 수가 없습니다.
The proof is out there <-- 이 말밖에는 할 수가 없다는 겁니다
참고로 끈이론은 몬스터군의 하위군인 24차원 리치군에서 아이디어를 얻은 겁니다. 19만차원의 하위 부분군인 24차원만 해도 인류 최고 지성 수백 수천명의 물리학자들이 달려 들어서 30년동안 끈이론 하나를 만들어 냈는데, 19만 차원 그 자체를 가지고 논다고 생각해보세요.
인간은 불가능합니다.
만약 알파고가 직접 이러이러한 수 앞으로 이러이러한 전략으로 인해서 이러이러한 분석으로 이러한 수를 냈다 라고 하면 사람이 이해 못할까요?
끈이론 사례보면 오히려 가능하죠 인간이 뇌가 인식하지못하는 다차원의 끈이론을 수식으로 이해했다는거는 더큰 다차원도 이해 가능할수 있다는 가능성이 더 커지게 만드는거죠 . 그러니까 인간의 뇌가 직관적으로 이해못하는것을 추상적으로는 이해할수있다는 의밉니다.
그리고, 최신 현대 수학자들이 이해할 수 있다면, 왜 The proof is out there라는 말을 되뇌이고 있겠습니까?
24차원 리치군 이론에 아이큐 180이 넘는 수백 수천명의 물리학자들이 30년동안 파고들어서 만든게 끈이론이라니까요. 19만차원에서의 수학이론을 전개하면 도대체 누가 이해한다는 말입니까?
그런데, 수학정리가 가장 많이 나올 거라고 이미 증명된 몬스터 차원은 196,883차원입니다. 몬스터 차원에서 위치 하나를 특정하기 위한 벡터의 원소수가 196,883개라는 말입니다. 이러한 벡터하고, 우리 3차원의 기본 벡터인 (1,1,1)을 비교해보세요.
이 숫자가 가늠이 되세요? 저는 확답을 못한다는 말이 오히려 더 이상합니다만.
이제는 논쟁이 아니라, 두려워 하면서도 대비를 하고 있을 뿐.
현존하는 가장 명망높은 수학자인 테렌스 타오가 이미 AI로 수학난제들을 해결하기 위한 작업을 시작했고, 제미나이의 아버지인 데미스 허샤비스가 바로 이런 생각을 하는 대표적인 학자입니다.
참고로 최근에는 72차원에 대한 수학연구가 조금씩 이루어지고 있습니다만, 과연 인간이 뭔가 수학적 업적을 이룰 수 있는지는 미지수입니다.
1. Ganesalingam & Gowers, "A Fully Automatic Theorem Prover with Human-Style Output" (Journal of Automated Reasoning, 2017) 출처: https://link.springer.com/article/10.1007/s10817-016-9377-1 → 자동 정리증명기가 거리공간 이론 등 기초 수학 문제를 풀고, 그 풀이를 "인간 수학자가 쓴 것과 구별하기 어려운 형태"로 출력하도록 설계한 프로그램에 관한 논문이라고 합니다. 단순히 맞는 증명이 아니라 무슨 일이 벌어지는지 설명해주는 좋은 증명을 내는 게 목표라고 명시되어 있다네요. → 즉 AI가 찾은 증명을 사람이 읽을 수 있는 형태로 재구성하는 게 원리적으로 가능하다는 이론적 출발점입니다.
2. AlphaGeometry, "Solving olympiad geometry without human demonstrations" (Nature, 2024) 출처: https://www.nature.com/articles/s41586-023-06747-5 → 구글 딥마인드가 만든 기하 증명 AI인데, 최근 IMO 30문제 중 25문제를 풀어 평균 금메달리스트 수준에 도달했고, 결정적으로 "human-readable proofs"(인간이 읽을 수 있는 증명)를 명시적으로 생성한다고 논문에 적혀 있다고 합니다. → AI가 증명을 찾는 일과 그 결과를 인간이 따라갈 수 있는 형태로 출력하는 일이 동시에 가능하다는 실증 사례입니다. "AI가 증명하면 인간은 원리적으로 못 이해한다"는 주장에 대한 직접적인 반례 쪽이에요.
3. NaturalProver (NeurIPS 2022) 출처: https://arxiv.org/abs/2205.12910 → 수학 증명을 자연어와 기호가 섞인 형태로 단계별 생성하는 모델 연구라고 합니다. 대학 수준 수학 전공 학생들을 대상으로 평가한 결과, AI의 다음 단계 제안과 증명 생성 품질이 GPT-3 미세조정 모델보다 더 좋게 평가됐다는 측정 결과가 나왔다고 하네요. → "단계별로 풀면 사람이 따라갈 수 있다"는 게 직관이 아니라 실제 학생 평가로 확인됐다는 근거입니다. 제 논지에서 "긴 시간 동안 소통과 학습을 통해서"에 해당하는 부분이에요.
4. LeanTutor (2026) 출처: https://arxiv.org/abs/2506.08321 → Lean이라는 형식 증명 언어, LLM, 자연어 피드백 생성기를 결합한 시스템이라고 합니다. 학생이 자연어로 쓴 증명을 자동으로 Lean 형식으로 바꾸고, 다음에 가능한 증명 단계를 생성한 뒤, 학생이 알아들을 자연어 피드백으로 다시 풀어주는 구조라고 하네요. → Triend님이 본문에서 언급하신 Lean 언어 — 그 형식 증명을 인간이 이해 가능한 단계로 풀어주는 시스템의 거의 직접적인 구현 사례입니다. "수천만 줄 논법을 사람이 어떻게 이해하냐"는 질문에 대한 학계의 실제 답이 이런 방향이에요.
5. NaturalProver GitHub 저장소 (실제 구현 코드와 데이터) 출처: https://github.com/wellecks/naturalprover → 위 NaturalProver 논문의 실제 동작 코드, 학습된 모델, 데이터셋이 공개돼 있는 저장소라고 합니다. 논문 주장에 대한 재현 가능성을 직접 검증할 수 있다는 뜻이고요. → 이론만 있는 게 아니라 실제로 돌아가는 시스템이 이미 공개돼 있다는 근거입니다. "언젠가 가능할지도 모른다"가 아니라 "지금 부분적으로 작동한다"는 단계예요.
======
위는 ai가 작성한거긴 한데요 ㅡㅡ;; 펙트 체크도 ai한테 했고.. 내용자체는 뭐 실제 내용과 다르지는 않을겁니다. 솔직히 제가 전부 읽어보고 내용 확인까지는 못했습니다..
그러니까 ai가 뭔가 이해를 하면 그걸 설명시킬수 있을거고. "모든 AI 증명이 무조건 이해 가능하다" 도 완전히 증명된건 아닌데 그래도 이해할려고 할수있는 도구는 있을거구요 단지 "원리적으로 영구히 이해 불가능하다"는 명제도 똑같이 증명된 적이 없습니다. 전뭐 이해할수 있지 않을까 하는 입장이긴한데 100% 확신은 못하겠다는 입장이긴 합니다. 아직 증명된 바가 없으니까요
지금 제가 제시하는 것은,
인간이 증명하지 못한 것들 중에는 분명 그 증명의 폭이 방대한 난제들이 있을 거라는 가정입니다. 그러니까 난제지요.
그리고 그러한 난제들은 수학자들이 생각하기에, (특히, 테렌스 타오나 데미스 허샤비스 같은 사람) 너무나 증명의 폭이 넓고 깊어서 증명 과정 자체를 인간이 이해못하는 것들이 수없이 많을 거라는 겁니다.
가장 대표적인게, 몬스터군의 기하학 이론(196,883차원의 기하학 이론)으로 무장하면, 수많은 난제들이 풀릴 거라는 믿음입니다.
그런데 문제는 몬스터군의 기하학 이론을 사람은 이해할 수가 없다는 겁니다. 이건 그냥 이해 불가능입니다. 원숭이한테 상대성이론을 이해시키는 것하고 같은 종류의 것입니다. 아니 박테리아한테 이해시키는 것하고 같을겁니다. (이건 내가 한 말이 아니라 수학자들이 실제로 하는 말입니다. "원숭이한테 상대성이론을 이해시키려고 하면, 원숭이의 뇌를 업그레이드하는 수 밖에 없다.")
너무나 자조적이고 비관적인 말입니다.
뭐.. 역사적으로 보면 페르마의 정리도 처음에는 이해하는 사람이 없었는데 지금에는 대학원 커리큘럼에 들어간다고 하네요 그러니까. 증명을 찾는건 어려운거지 누가 찾아놓으면 이해하는건 다른 차원의 문제라는거죠. 지금 반도체 만드는것도 200년전 사람들에게 갑자기 만들라고 하면 못만들겠죠. 하지만 원리를 시간을 들여서 설명하면 이해는 할수있을겁니다.
그니까 정리하면
"AI가 설명을 안 해서 인간이 이해 못 한다" → 사례 있음 (알파고, 미해석 신경망)
"AI가 설명을 했는데 인간이 이해 못 한다" → 확인된 사례 없음
"AI가 설명을 해도 원리적으로 인간이 이해 못 한다" → 가설일 뿐, 검증된 적 없음
저는 이정도로 생각하고 있습니다. 불가능하다라고 단언 할수있는 증거는 없어요
마찬가지로 아주 어려운 난제의 경우에도 3단논법을 사용하는 그 논법 자체는 단순합니다.
계속 제가 드리는 말씀이지만,
풀리지 않은 난제의 증명과정이 너무나 깊고 폭이 넓어서,
증명과정이 1억개의 수식으로 이루어져 있다거나(폭의 방대함), 그 수식이 몬스터군의 기하학적 수식이라면(깊이의 방대함), 인간은 AI가 출력한 3단 논법 자체의 흠결은 판정할지언정, 그 논법의 "수학적 의미"를 모른다는 겁니다.
제 말을 전혀 이해를 못 하시는 것 같아서 답답하군요.
테렌스 타오가 왜 Lean 언어를 만들었겠습니까? 인간이 이해하지 못하더라도, 논리적으로 증명과정이 옳은지 그른지를 판별하기 위해서 만든겁니다. 그는 애초부터 인간이 이해못하는 난제들이 분명 존재할 것이고, 혹시나 인간이 부분부분이라도 이해할 수 있도록, 이러한 증명 판별기를 만든거에요.
+
네 물리학자 라고 자랑하시는게 본인의 주장에 대한 근거인가요? ㅋㅋ
호모사피앤스에게 이해시킬 수 있나요?
“현재”의 ai를 걱정하는게 아니라
“미래”의 ai를 걱정하는거라서요.
아인슈타인 이하의 지능을 가진 사람이 평생 공부하고 이해하려고 해도 시간이 부족할 수 있죠. 그정도로 격차가 벌어질거란 얘기죠
만약 인공지능이 흔히 SF나오는 외계 기술 같은걸 만들고 가져왔을때 저는 인류 모두가 인류 전체 과학자 모두가 그것을 이해하고 활용하기위해 목숨을 걸고 노력할거 라는것을 믿어 의심치 않습니다. 그리고 저는 그것을 이해하고 방법을 찾을거라 믿습니다.
/// 당연히 똑똑하지 못한 대다수는 이해 못하겠죠 ^^ 이해를 다할수 있냐의 논제가 아니라 인류가 이해할수 있냐 없냐의 이야깁니다. 그리고 만약 비~범한 1인이 이해만 한다면 그것은 곧 다수의 인류가 이해할수 있다는 이야깁니다.
"솔직히 제가 전부 읽어보고 내용 확인까지는 못했습니다.."
이게 핵심입니다.
수학자들은, '본인들이 전부 읽어보고 확인해야' 하는 사람입니다.
제가 묻겠습니다. AI가 정리해준 그 내용들을, 왜 직접 읽고 확인하지 않으셨죠?
혹시 그걸 이해할만한 지적 능력이 없어서일까요?
아니겠죠? 충분히 다 이해하실 수 있으셨을 겁니다. 그런데, 아무래도 뇌도 혹사해야 하고, 시간적으로 너무 오래걸리고 해서 하지 '않은' 것이겠죠.
수학자들은 훨씬 뛰어난 두뇌와 수학에 투자할 훨씬 많은 시간을 보유한 사람들입니다만,
그 대신 그들이 다루어야 하는 문제도 그만큼 훨씬 더 난해합니다.
proof is out there 는, 인간이 그걸 이해할 수 있는 지능 자체가 없다라기보다는, 님이 이번에 직면했던, "솔직히 제가 전부 읽어보고 내용 확인까지는 못했습니다.." 의 문제가 19만 승 정도로 더 심화된 것이라고 생각하시면 될 듯 합니다.
인간이 이해할 가능성? 있죠. 만약 무한히 살 수 있다면. 예를 들어 5억년 방 같은거 말이죠.
그런데 현실은 그게 아니잖아요? 현실에선 그냥 가능성 0이라고 말할 수 있는겁니다.
애초에 뭐 하는 얘기겠지만 양자역학을 이해한 사람이 전 세계에 3명이던 시절도 있었고, 지금도 진지한 과학자들은 여전히 0명이라고 하겠죠.
이런 최상급의 수학을 겨우 이해라도 할 수 있는 사람들 역시 인류 전체에서 극소수이며 그 극소수조차도 따라가기 버거워하고 앞으로는 도저히 답이 안 보인다고 토로하고 있다는 겁니다.
다시한번 말씀드리지만 지금의 ai 가 아니라 미래의 ai에 대한 얘기죠..
모든게 다 “손” 정도가 아닐거라서요.
강아지의 지능으로 이해 가능한 수준이 있듯,
인간의 지능으로 이해 가능한 수준이 정해져 있는거죠.
ai의 지능이 초지능으로 넘어가면 얘기가 달라질겁니다.
축적된 히스토리 + 인간의 지능 = 새로운 진실의 발견.
축적된 히스토리가 평생을 연구해도 부족한 분량이라면??
ㅎㅎ 결론이 날 토론은 아니겠네요. 즐거운 토론이였습니다
뮈토스 생각하시면 되지 않을까요.
뭐 뮈토스 이전에도 있던 일이긴 하지만, 아무튼 이전에는 인간이 발견하지 못했던.. 그것도 연 단위를 넘어서 아예 전혀 몰랐던 버그들을 뮈토스는 바로 찾아냈잖아요.
인간 개발자가 그 버그들을 찾아낼 가능성이 없었을까요? 아니죠. 분명 찾아낼 확률은 0이 아니었습니다.
하지만 현실은 보다시피입니다.
앞으로 뮈토스는 발톱의 때보다도 못할 정도의 고성능 AI들이 분명히 나오겠죠.
개발자들은 확실하게 교체됩니다.
그 개발자들이 코딩을 못해서 교체되는게 아니라, 그냥 따라갈 수가 없어서입니다.
그렇게 되다가 나중 되면 이제 이해를 못하는 단계에 들어서는거죠.
여전히 그 시점에도 개발자들은 '원리적으로는' AI가 짠 코드를 이해할 지성 자체는 가지고 있을 겁니다. 마찬가지로 5억년 방에서, 원래 설정과는 다르게 원하는 모든 도구를 제공하면 당연히 이해를 하겠죠. 자기가 짤 수도 있을겁니다.
하지만 현실에선 불가능입니다.
같은 일이 수학자들에게도 일어날겁니다.
반도체 얘기 하셨는데, 현대 반도체는 물론 기계를 쓰지만 인간이 만듭니다. 차도 마찬가지고요.
AI가 반도체를 만드는 세상이 되면, 인간은 우선 이해 자체가 불가능한건 아닌데, 물리적으로 따라가기가 힘들고, 결국 이해 자체가 불가능해지는 시점이 올 겁니다사실 지금 반도체 산업도 워낙 복잡해서 아슬아슬하잖아요? 님 말대로 모든 과정을 전부 다 이해하는 사람은 없을겁니다. 사실 차도 마찬가지일거고요.
하지만 돌아가죠. 미래도 마찬가지일겁니다.
단백질 연구도 이미 인간이 아니라 AI가 하고, 돌아갑니다.
다만 수학자들은 처음에 언급한대로, '왜 그런지 내가 직접 들여다보고 이해해야' 하는게 종특인데, 그게 요원해진다는거죠.
차의 작동원리를 정확히 알고 차를 타는 사람이 몇이며, 컴퓨터 작동원리를 모두 알고 쓰는 사람이 몇이겠습니까만, 수학자들은 그래야만 하는 사람들이니까요.
제 사고 실험에는 인공지능이 설명도 진짜 자기 입장에서는 진짜 쉽게 설명하고 지금 수준만해도 복잡한 내용 쉽게 설명해달라고하면 이해 하기 쉽습니다. 그러니까 인공지능이 다 이해한다고 쳤을때 그런상황에서 인공지능이 각잡고 세계 일류 과학자들 앞에서 각잡고 자 설명한다 하고 설명했을때 진짜 쉽게 설명해도 이해 못할까? 라는 생각은 있습니다 시간 충분히 주고요
어찌되었든 이해 못해도 활용은 할수있겠죠 뭐 공식만 받으면 되는거니까. 그리고 인공지능도 그냥 이해 못하고 발견한것 일수도 있죠 인간이 우연히 발견한 것들이 많은 것 처럼요
그러니 토론이 안 되죠. 처음엔 이해할 수 있을것이다 였는데, 나중엔 결과는 아직 모른다가 팩트라하시니…
그리고 글쓴이가 인정한게 아니라, 그냥 피한거 같은데요??? 의미가 없어진 토론이라.. 저 또한 마찬가지입니다.
그건 완전 차이가 다른겁니다. 만약 처음부터 앞으로 어떻게 될지는 모르죠 인간이 이해할수도 있는 상황이 올수도 있을겁니다 하지만..
으로 시작했다면 이야기가 여기까지 안왔겠죠.
별명이 "Enormous Theorem"입니다. 약 100명이 넘는 수학자가 30년에 걸쳐 분담해서 증명했고, 총 분량이 500편 이상의 논문, 1만~1만5천 페이지로 추정됩니다. 단 한 사람도 전체 증명을 다 읽고 이해한 적이 없습니다.
=====
라고 하네요
AI가 쉽게 설명해줘도 그게 맞는 설명인지를 검증할 수 없을테고, 그렇다면 그건 수학자에게는 모르는 것과 다를 바 없는거죠.
특이점이 오면 정말 ai와 인간의 격차가 인간과 강아지만큼 벌어지겠네요..
아주 이세돌 스럽다고 해야하나......멋진....퇴장의 모습도 멋지죠.
기계한테 뭐 지면 뭐 어떻습니까.
그들이 증명해 놓은 수식 잘 사용하고 쓰는데 딱히 불쾌감도 없어서
수학자들도 마찬가지 상태가 되는 것 뿐이라서 크게 불쾌감 없이 잘 쓰실 거 같습니다.
증명이 복잡할 뿐이지 개념은 간단한 것들이 대부분이라...
수학자도 우리 직업처럼 AI로 대체되는 과정일 뿐이죠.
리만가설이 AI로 증명되면 리만가설이 틀렸다라든지 ZFC 공리계에서 증명이 불가능하다라든지 틀린 목표를 향하고 있던 수많은 사람들의 뻘짓을 막는 긍정적인 부분도 있겠고요.
정말로 이해를 하지 못했다기 보다는 단순한 하나의 이론만으로는 설명이 불가능하다에 가깝습니다.
더 효율적인 비행기를 수많은 요소를 조합하여 만든 소프트웨어를 통해 설계하는게 가능하기 때문입니다.
다만 이해한 바를 인간의 언어로 옮기기 어려울 뿐입니다.
모든 인간은 그냥 수포자 일뿐이네요
마음이 ..편해지군요
아직도 빛의속도는 왜 불변인지 이해하지 못했지만 그건 실험적으로 사실임을 알고 있죠. 앞으로 인간은 이해못하지만 ai는 풀수 있는 수학, 물리학 문제들 문제들, 그리고 그렇게 공식으로 만들어진 것들을 인간이 활용할 순 있을 겁니다.
그리고 학자들은 인간의 힘으로 하나씩 증명해보려 도전 하겠죠.