AI发展你慢一些,等一等你的数学家!
来源:李建秋的世界(ID:lijianqiudeshijie)
这几天有个新闻,新闻如下:
9月11日,陶哲轩、邓煜等25位菲尔兹奖得主联合发表文章《人工智能在数学中的严重错位》,指出AI公司把解决数学问题当作基准测试推进,对数学共同体有害。声明承认AI有加速数学研究的潜力,但反对匆忙公布结果:来不及写论文、提炼新方法、引用在先工作。 导火索是9月8日OpenAI宣布其模型用1万个智能体、88小时完成Navier-Stokes千禧年难题证明,而数学家Tristan Buckmaster同日公布同类成果,质疑OpenAI获取了其研究信息。 文章诉求包括给写作与思想提炼留时间、标注先前工作、承认需要人类数学家接手消化。
科学网
昨天发了微博,有不少人留言。有些人还在就AI是不是能解数学争执,这根本没必要,你看数学家说的最后一句话:“不要因为AI能够越来越快地产生正确答案,就把数学研究变成答案竞赛”。
也就是说数学家已经完全承认AI可以越来越快地产生正确答案。他们只是希望速度慢一点。所以不存在留言区所说的AI这个干不来那个干不来。
AI确实可以产生正确答案,而且速度很快。
“文章诉求包括给写作与思想提炼留时间、标注先前工作、承认需要人类数学家接手消化”
也就是《AI发展你慢一些,等一等你的数学家》
这口吻我好像之前看过。
什么是数学?
早先数学是:发现 → 思考 → 与同行交流 → 写论文 → 引用前人 → 提炼方法 → 同行验证 → 形成新的数学知识。
AI是:提出基准测试 → 大规模算力搜索 → 得到结果 → 验证 → 立即公布。
AI发现 → AI写证明 → AI形式化 → Lean验证
数学家会问:这个证明到底意味着什么?
假设AI找到:
A → B → C → D → …… → 10,000,000个步骤 → Z
每一步都是严格正确的。
那么从形式逻辑上:Z是真的。
但人类数学家可能只理解:A、B、C,以及最后的Z。
中间那一千万步,对人类来说可能完全没有形成“数学理解”。
证明已经存在,但人类数学知识还没有真正吸收这个证明。
数学家的意思是:AI可能开始产生不可读数学
传统数学有一个前提是:一个优秀证明最终应该能够被另一个数学家理解。
AI时代这个前提可能不再成立。
比如AI花10万个agent探索出来一种人类从来没有见过的结构。
它自己知道:“这样做能证明定理。”
但是人类问:“为什么?”
AI给出的回答可能只是另外几十万步推导。
这实际上没有解决问题。因为解释本身也需要压缩。
数学家的意思是,你不能搞100万步,有没有一个人类能够理解的10步核心思想,把这100万个步骤压缩掉?
不要把“计算上的发现”直接等同于“数学上的发现”。
数学家当然是拿AI公司毫无办法,所以他们只能要求:“别这么快发表。”
AI已经解决了100个数学问题,但数学界还没有理解其中20个。
数学家希望的是:
AI负责发现,人类负责理解。
进一步:
AI负责证明,人类负责提炼定理。
再进一步:
AI产生原始数学,人类数学家负责把它翻译成人类数学。
我的问题是:当AI产生的越来越多,人类是否追得上?
Anthropic将怀尔斯的费马大定理证明转化为1300万行的Lean代码。这个规模的人类不可读证明,已经真实存在。
我核心想说的:
第一,这不太可能。数学家追不上的。而且差距越来越大
第二,以后累计的解释会越来越多。因为数学家即便是理解也要费很久的时间。最终在某一个追不上的时间点放弃。
第三,这牵扯到如何定义数学的问题,实际上已经解出来了,只是人类无法理解。
所以就存在一个定义问题:什么叫数学?
一般认为:如果你认为数学是人类可理解、可交流、可传承的知识活动。
那AI产生的正确结果就不是数学,因为那不能被人类理解。
如果你认为:数学是能生成证明、预测、连接的形式系统。
那AI产生的正确结果就是数学,只是你无法理解。
因此实际上存在一个“形式真理层”和“人类理解层”。
真理层是毫无问题的,只是难以被人理解。
问题是难以被人理解,这不是真理层的问题,这是人类理解的问题。
人类的科学观是:观察 → 建模 → 理解 → 再发现。
AI的科学观是:观察 → 建模 → 验证 → 继续推导。
它不一定需要形成“人类意义上的理解”。
举个例子:假设AI发现一个极其复杂的理论,里面有几十亿个变量和数百万层关系。人类可能无法理解。
但AI可以直接把这个理论接入另一个模型,然后预测:
“在条件Q下,粒子应该出现R。”
实验一做:
真的出现R。
那你说这东西算不算真正的物理学?
自然界并没有规定理论必须能够被人类直观理解。
你要是真的理解不来呢?
自然界并不欠人类一个“可理解性”
我们长期以来都有一个假设:宇宙的终极真理,一定能被写成像 E=mc² 这样优雅、简洁、人类能看懂的公式。
但是宇宙中存在着海量的、绝对无法被压缩的真理。
人类之所以热爱“简洁”与“优雅”,并非因为宇宙本身简洁优雅,而是因为作为碳基生物,我们的大脑实在太落后了。
人类所谓的“理解”,本质上是一种高失真、有损的压缩。
如果说数学还在还存在争论,物理学早就躺平了。
物理学界确实比数学界更早、更普遍地接受了“能算,但不懂”的状态。物理学家照常使用这些理论,因为它们的预测精度惊人。
这么多年来,量子力学各式各样的科普,很多人都知道了费曼的那句名言:“没有人理解量子力学”
波函数到底是什么?测量为何导致坍缩?叠加态在宏观为何消失?
没人说得清,实际上量子力学这类说不清的比比皆是。
物理学界几十年来一直习惯使用他们不完全理解的理论,而且这种行为是以哥本哈根诠释的方式表现出来,计算成功,不等于理解自然。这么多年基础物理学迟迟没有进步,说不定根本不是物理学家懒惰,有可能是下一次突破可能需要的数据和技术,已经超出了当前人类经济和技术能力的极限。
这次数学家的集体发言,给我一种“输不起”的感觉。不过没关系,搞编程的已经适应了,搞物理的,搞化学的都适应了,数学界适应也是迟早的事情。
最后还是强调一下:
客观世界是什么样的,不是必须都是简洁和优雅的,那不过是人大脑算力有限。
万一不简洁不优雅呢?万一真的必须是一百万步呢?
万一就算你压缩到七八步,但是丢失很多重要信息呢?
万一复杂性就是真理的本质呢?
真理就是真理,当然存在以人类大脑理解不了的复杂真理。
没有人规定物质世界的运行必然要以人类大脑认知为前提。
物理学这么多年也没有揭示本质,揭示不来怎么办?
那就揭示不来,没什么不得了的,能用即可。

