Source-linked AI summary
Mathematics in the age of AI
Terence Tao
TL;DR
이 논문은 AI 도구가 연구 수준의 과제를 수행할 수 있게 된다면 수학이 어떻게 대응해야 하는지 묻고, 수학 연구를 이끄는 목표와 가치에 초점을 맞춘다. 문제 해결을 사례 연구로 삼아, AI가 증명을 풍부하게 제공하는 시대에는 증명 생성보다 증명 소화에 더 큰 비중을 두어야 한다고 주장한다. 또한 현재 AI의 증명 서술은 어려운 단계를 가리는 경우가 많고 유용한 문헌 맥락이 부족하다고 지적한다.
문제
이 논문은 대중, 학생, 연구비 지원자에게 명시적으로 전달되는 목표를 넘어, 수학 연구가 실제로 최적화하는 목표와 가치가 무엇인지 묻는다.
방법
이 에세이는 상당히 강력한 AI 능력을 조건부로 가정하고, 수학의 암묵적 목표와 관행을 살펴보기 위한 사례 연구로 문제 해결을 검토한다.
결과
AI는 수학을 증명 희소성에서 증명 풍부성으로 전환할 수 있으며, 그 결과 희소성을 전제로 설계된 검증, 서술, 동료평가, 정전화 시스템이 감당하기 어려운 부담을 받을 수 있다.
시사점 및 한계
수학 문화는 증명 생성과 우선권에는 비중을 덜 두고, 서술, 심사, 출판, 정전화에는 더 큰 비중을 두어야 한다.
시사점 및 한계
현재 AI가 생성하는 수학적 서술은 새로운 논증을 가리는 경우가 많고, 결과를 기존 문헌 속에 위치시키거나 유용한 상위 수준의 개요를 제공하지 못한다.
Abstract
from arXiv · showhide
An essay, based on a public lecture delivered at the 2026 International Congress of Mathematicians, on how the mathematical community might respond to the arrival of artificial intelligence tools that are capable of performing research-level mathematical tasks. Rather than debating the capabilities of such tools, we condition on the hypothesis that these capabilities will arrive, and examine instead a question that is orthogonal to it: what the goals and values of mathematical research actually are. The problem-solving component of mathematics is used as a case study.
1. 역사적 서문
Mathematics once operated on implicit foundations, but early-twentieth-century paradoxes and incompleteness results forced the subject to formalize its objects and rules. The resulting framework is explicit, standardized, inspectable, and trusted, while AI now threatens to unsettle mathematics’ implicit values and practices.
- Before the twentieth century, mathematicians generally worked with sets, numbers, infinities, and proofs without precisely specifying their foundations.
- Russell의 역설과 Gödel의 불완전성 정리는 수학에 관한 기존의 암묵적 가정에 내재한 모순과 한계를 드러냈다.
- 기초론의 위기는 대상과 추론 규칙을 검토하고 가르치며 기계화할 수 있는 명시적이고 엄밀하며 표준화된 체계를 낳았다.
- AI는 무엇이 기여로 간주되는지, 무엇이 보상받는지, 그리고 누가 또는 무엇이 그 작업의 공로를 인정받는지를 포함해 수학의 암묵적 가치와 관행을 시험하고 있다.
- 이 글은 이러한 암묵적인 목표를 명시적으로 만들고 성문화하면 수학 공동체가 더 강하고 회복력 있게 될 수 있다고 주장한다.
2. 동기를 부여하는 질문
이 글은 현대 AI 기술과 그것이 수학적 과제를 수행할 수 있다는 주장 또는 실제 능력에 수학 공동체가 어떻게 대응해야 하는지 묻는다. 이는 수학적 논리만으로 결론 내릴 수 없는 공동체 전체의 문제로 다룬다.
- 동기를 부여하는 질문은 수학적 과제를 수행할 수 있거나 수행할 수 있다고 주장되는 AI 기술에 수학이 어떻게 대응해야 하는지에 관한 것이다.
- 이 질문은 공동체 전체에 속하며, 이 글은 모든 답을 제시한다고 주장하기보다 하나의 접근법을 제시한다.
- 이 질문은 순전히 수학적인 것이 아니라 메타수학적, 정치적, 윤리적, 사회학적, 문화적 성격을 지닌다.
- 이 글은 질문의 구조를 명확히 하기 위해 conjectures와 hypotheses 같은 수학적 언어를 차용한다.
3. 첫 번째 하위 질문: AI capability
첫 번째 하위 질문은 AI 도구가 수학 연구에서 실제로 무엇을 할 수 있게 될 것인가이다. 그러나 이 글은 가정된 capability 시나리오에서 수학 공동체의 대응에 초점을 맞추므로 capability 논쟁은 제쳐 둔다. 기존 증거는 통제되지 않고 편향되어 있으며 불완전하게 보고되는 경우가 많아 해석하기 어렵다.
- AI capability 하위 질문은 도구가 실제로 무엇을 성취할 수 있게 될지에 관한 것으로, 많은 자유 매개변수를 가진 conjecture family로 표현된다.
- capability conjecture는 일부 AI 도구가 일부 연구 수준 과제를 제한적으로 성공시키는 경우부터 현재의 수학 문화를 위협할 수 있는 더 강한 형태까지 아우른다.
- 공개 논쟁은 주로 AI Capability Conjecture의 어떤 버전이 참인지에 집중되어 왔으며, 쟁점이 논쟁적인 상태로 남아 있는 동안 공동체의 대응에 관한 건설적 논의를 어렵게 만든다.
- 범위에는 수학을 넘어선 AI의 영향이 제외되며, 이 글은 이를 다루기에는 너무 광범위한 문제로 본다.
- AI capability에 관한 증거는 통제되지 않은 경우가 많고, reporting bias, 공개되지 않은 비용과 변수, 그리고 진실성과 바람직함의 혼동에 영향을 받는다.
- 이 글은 capability conjecture를 확립하려는 것이 아니며, 새로운 연구 수준 문제를 사용한 독립적 평가로 First Proof project를 간략히 인용한다.
4. 능력 추측에 대한 보완
이 글은 AI 능력과 직교하는 AI 대응 문제의 요소로서 수학 공동체의 목표와 가치를 분리해 살핀다. 합리적으로 강력한 AI 능력이 곧 등장하리라는 가정을 조건부로 두고, 독자가 그 가정을 믿지 않아도 그 결과를 분석한다.
- 이 글은 AI 능력의 “orthogonal complement”인, 능력 있는 AI 도구에 대한 수학의 대응을 형성하는 목표와 가치를 연구한다.
- Working Hypothesis는 AI 도구가 곧 연구 수준의 수학 과제 중 reasonable fraction을 합리적인 성공도, 품질, 감독, 비용으로 수행하리라고 가정한다.
- 이 분석은 conditional하다. 독자는 Working Hypothesis를 원하거나 믿거나 받아들일 필요가 없으며, 이를 지지하거나 반대하는 증거는 이 논의와 직교한다.
5. 직교하는 하위 질문: 우리의 목표와 가치
Working Hypothesis를 전제로 하면 수학 연구의 목표와 가치가 근본적인 질문으로 부각된다. 이 글은 AI-driven 과잉 최적화가 역사적으로 서로 부합해 온 목표들을 분열시킬 수 있다고 주장한다.
- 핵심 질문은 수학 공동체가 실제로 연구 관행에서 최적화하는 명시적·암묵적 목표, 목적, 가치는 무엇인가이다.
- 이 글은 AI가 수학이 과거에 이 질문을 인문학에 위임할 수 있게 했던 능력을 없앨 수 있으므로, 이 질문을 직접 검토하자고 제안한다.Working Hypothesis의 성립 여부와 무관하게 이러한 검토는 가치가 있다고 주장한다.
- 제안된 부분적 목표 목록에는 문제 해결, 이론 개발, 세계 이해, 공동체 유지, 수학자 양성, 지식 축적, 미적 작품 창작이 포함된다.
- 역사적으로 하나의 수학적 목표를 향한 진전은 다른 목표들을 향한 진전의 유용한 대리지표로 기능하는 경우가 많았다.
- AI 도구는 만족스러워 보이는 산출물을 최적화하고, 산업계의 인센티브가 입증 가능하고 benchmarkable한 성과를 보상하기 때문에 Goodhart의 법칙 위험을 높인다.이러한 기술적·경제적 압력은 역사적으로 대리지표로 기능해 온 metric을 겨냥한다.
- 하나 또는 두 목표를 과도하게 최적화하면, 이전에 서로 부합했던 수학의 목표들이 서로 diverge할 수 있다.Figure 2는 이러한 divergence를 의도적으로 지나치게 단순화한 도식으로 제시한다.
6. 사례 연구: 문제 해결
이 에세이는 문제 해결을 해답 생성 너머의 암묵적 목표들이 이어지는 과정으로 다룬다. 여기에는 검증, 설명, 공동체의 수용, 확립된 이론으로의 편입이 포함된다. AI의 등장은 이러한 단계를 명시적으로 드러낼 필요를 키운다. 올바른 증명도 불투명하거나, 맥락 속에 적절히 자리 잡지 못하거나, 충분히 소화되지 않은 상태로 남을 수 있기 때문이다.
- 목표 6.1에서 목표 6.2로: 문제 해결은 미해결 문제의 해답을 생성하는 데서 시작하지만, 이 목표만으로는 틀린 증명이라고 주장되는 것들이 많이 생겨난다.에세이는 리만 가설의 증명이라고 주장되는 결과가 끊임없이 나오는 현상을, 해답 생성 흐름의 극대화만으로는 부족하다는 증거로 제시한다.
- 목표 6.1에서 목표 6.2로: 두 번째 목표는 정확성을 추가한다. 즉, 미해결 문제를 풀고 그 해답을 검증하는 것이다.
- 목표 6.3: AI가 생성한 증명은 형식적으로는 정확하지만 이해할 수 없을 수 있으며, 이에 따라 명확한 소통과 공동체의 이해까지 요구하는 목표가 필요해진다.Formal verification은 저자의 평판에 의존하지 않게 해 주지만, 그 결과로 나온 증명을 인간이 이해하도록 보장하지는 않는다.
- 목표 6.3: 증명 설명은 여전히 어렵다. AI의 글쓰기는 형식상 흠잡을 데 없으면서도 새로운 단계를 가리고, 문헌의 맥락을 생략하며, 유익한 마찰을 없앨 수 있기 때문이다.인간의 설명에서 나타나는 어색함과 어려운 단계를 세심하게 다루는 방식은 독자가 어디에서 속도를 늦춰야 하는지 알려 줄 수 있다.
- 목표 6.4: 증명은 정확하고 읽기 쉬울 때만이 아니라, 수학자들이 이를 소화하고 받아들이며 집단적 지식에 편입할 때 비로소 해당 분야에 기여한다.인간 편집자와 심사자는 개인의 성취가 집단적 진보와 이해로 바뀌는 느린 외부 과정을 제공한다.
- 목표 6.5: 마지막으로 제안된 목표는 canonicalization을 통해 파이프라인을 확장한다. 결과가 자연스러운 일반성으로 확립된 이론에 들어가고, 적절한 증명과 연결 및 교과서 통합을 갖추도록 하는 것이다.에세이는 canonicalization을 가장 느리고 AI로 최적화하기 가장 어려우며 가장 가치 있는 단계로 설명하는 한편, AI가 학습 데이터로 canonical theory에 의존한다는 점도 지적한다.
- 파이프라인의 함의: 다섯 단계의 파이프라인은 지나치게 단순화된 것일 수 있지만, 문제 해결을 분해하면 과정 전반의 암묵적 하위 목표와 가능한 임피던스 불일치가 드러난다.
7. 증명의 희소성과 풍요
Working Hypothesis하에서 AI가 생성한 수학적 증명은 검증, 읽기 쉬운 형태로의 서술, 동료 심사, 정본화보다 빠르게 증가할 수 있으며, 증명의 희소성에서 풍요로의 전환을 초래할 수 있다. 이러한 압력은 문헌의 증가, 점점 더 길고 전문화되는 증명, 심사 업무의 부담으로 이미 발생한 긴장을 더욱 심화할 것이다.
- 증명의 풍요: AI가 생성한 증명은 검증되거나, 읽기 쉬운 형태로 작성되거나, 심사를 받거나, 확정적인 형태로 통합되는 속도보다 더 빠르게 축적될 수 있다.그 결과 발생하는 불일치는 수학적 파이프라인의 여러 단계에서 나타난다.
- 증명의 풍요: 수학 공동체는 증명이 희소한 시대에서 증명이 풍부하지만 소화하기 어려운 시대로 전환할 수 있다.
- 기존의 긴장: AI는 문헌의 증가, 점점 더 길고 전문화되는 증명, 심사 체계의 부담에서 비롯된 기존의 긴장을 현저히 악화할 것이다.
8. 목표에서 권고로
이 글은 문제 해결의 목표를 AI 시대의 수학 실천에 맞게 조정하기 위한 권고와 연결한다. 공개, 검토 지원, 인간 저자성과 공로 귀속을 지지하며, 증명의 소화와 설명 가능성을 더 강조한다.
- 권고: 이 글은 개별 수학자를 위한 권고의 근거로 Leiden Declaration on Artificial Intelligence and Mathematics를 활용한다.
- 공개와 검토: 수학자는 large language model, machine learning system, proof assistant, mathematical software를 포함한 자동화 도구 사용을 투명하게 공개해야 한다.
- 공개와 검토: 저자는 도구 사용을 공개하고, 정확한 참고문헌을 제공하며, 가능하고 적절한 경우 formal proof를 제시함으로써 검토를 지원해야 한다.
- 증명의 소화: 수학 문화는 proof generation과 최초 발표에는 덜 강조점을 두고, exposition, refereeing, publication, canonicalization에는 더 큰 강조점을 두어야 한다.
- 인간 저자성과 공로 귀속: 공로와 책임은 인간 저자에게 남아 있어야 하며, 저자는 출처를 선제적으로 식별하고 공로를 인정하며, 해결되지 않은 귀속 문제를 공개해야 한다.
- 설명 가능성: 저자가 어떤 formally verified result에 대해서도 명확하고 정확하며 전문가 수준이고 적절하게 출처가 귀속된 설명을 제시할 수 없다면, 그 결과를 출판해서는 안 된다.
9. 맺음말
이 글은 AI의 영향이 문제 해결을 넘어 교육, 멘토링, 채용, 연구비 신청, 논문 심사, 대중 소통 전반에서 검토되어야 하며, 대응은 각 영역에 맞게 설계되어야 한다고 주장한다. 또한 AI의 역량과 수학 연구의 목표 및 가치에 관한 공개적인 공동체 논의와 대중의 참여를 촉구한다.
- 더 넓은 함의: AI의 잠재적 영향은 문제 해결을 넘어 교육, 멘토링, 채용, 연구비 신청, 논문 심사, 대중 소통으로 확대된다.
- 더 넓은 함의: 대응은 영역에 따라 달라져야 한다. 교육에는 엄격한 제한이 필요할 수 있지만, 다른 영역에서는 수학자들이 자체적인 AI 모범 관행을 정립해야 할 수 있다.이 글은 정답인 숙제를 만들어 내는 것만으로는 수학자를 훈련하기에 충분하지 않다고 말한다.
- 공동체의 대응: 수학 공동체는 AI의 역량과 수학 공동체 자체의 목표 및 가치에 관해 개방적이고 정직한 논의를 진행해야 한다.
- 공동체의 대응: 수학자들은 AI 보조 방법과 결과를 설명하고 맥락화함으로써 대중 담론에 참여해야 하며, 특히 전문적 식견이 필요한 영역에서 그러해야 한다.
부록 A. 새로운 워크플로와 인프라의 사례
이 부록은 새로운 수학 인프라를 보여 주는 기존 프로젝트를 소개한다. 여기에는 형식화된 수학, 동료 심사를 거친 비디오 커뮤니케이션, 문제 및 상수 데이터베이스, 경시대회, First Proof 프로젝트가 포함된다.
- 예시: Mathlib은 통합된 형식화 수학 라이브러리를 보여 준다.
- 예시: Mathematical Discourse는 연구 강연을 위한 동료 심사 비디오 저널을 보여 준다.
- 예시: Erdős problems database와 optimization constants database는 수학 문제와 최적화 상수를 위한 저장소를 보여 준다.
- 예시: SAIR Foundation mathematics competitions와 First Proof project는 수학 경시대회와 연구 수준 문제 평가를 위한 인프라를 보여 준다.