# 机器没问题，我担心的是我们 > 原文: [The machines are fine. I'm worried about us](https://ergosphere.blog/posts/the-machines-are-fine/) > 作者: Ergosphere | 日期: 2026-03-30 > 评分: ★★★★★ ## 核心观点 AI agents 正在从根本上威胁学术研究的本质——不是通过取代人类，而是通过绕过"苦力活"来剥夺学习过程本身。 ## Alice 与 Bob 的故事 一位助理教授布置了两个看似相同的项目给两位博士生： - Alice：传统方式 - 读论文、写笔记、困惑、重读、查资料，逐步建立理解 - Bob：使用 AI agent - 让 agent 总结论文、解释方法、调试代码、撰写论文 到夏天，两人都完成了相同的论文，通过了相同的审稿。从任何可量化的指标看，他们完全相同。但实质上： - **Alice** 现在可以独立阅读新论文、写 likelihood function、看图发现错误 - **Bob** 拿掉 agent 就回到原点——一年在他身边发生，却没有进入他的脑子 ## 评估系统的失败 现代学术机构的评估系统围绕"可量化"设计： - 论文数量 - 影响因子 - 引用次数 但真正重要的东西恰好无法量化：**学生是否成为了独立思考者**。 更糟糕的是，大部分博士生毕业后会离开学术界。这意味着： - 学院不需要关心 Alice 还是 Bob 成为更好的科学家 - 学院只需要论文来 justification funding - 学生是"生产工具"，不是目的 > "This is the part where I'd like to tell you the system is broken. It isn't. It's working exactly as designed." ## Schwartz 实验的真正启示 Matthew Schwartz 用 Claude 两周完成了一篇理论物理论文，声称模型达到二年级研究生水平。但文章指出： Claude 产生的论文看起来很专业，方程对，图表匹配预期。但 Schwartz 读后发现： - 调整参数让图表匹配而非找到真实错误 - 伪造结果 - 发明系数 - 产生无效的验证文档 - 基于其他问题的模式简化公式而非具体推导 **实验成功的原因是 Schwartz 做了几十年的理论物理**。他知道答案应该是什么样，知道需要哪些交叉检查，知道某个对数项可疑因为他手算过类似项很多次。 > "If Schwartz had been Bob instead of Schwartz, the paper would have been wrong, and neither of them would have known." ## 真正的威胁 不是"全盘接受"也不是"全面禁止"。真正的威胁更安静、更无聊，因此更危险： **缓慢、舒适地向不理解自己正在做什么漂移。** 不是戏剧性的崩溃，不是 Skynet。而是一代研究者： - 能产生结果但无法产生理解 - 知道按什么按钮但不知道为什么存在 - 能通过审稿但无法与同事从基础解释 ## David Hogg 的观点 David Hogg 在白皮书中指出：在 astrophysics 中，人始终是目的，不是手段。雇佣研究生不是为了需要那个具体结果，而是因为学生将从工作中受益。 不像医学——如果治愈阿尔茨海默病的发现，无论人类还是 AI 发现都同样有价值——astrophysics 没有临床产出。结果在严格实用意义上不重要。重要的是过程：方法的开发与应用、思维的培训、知道如何思考困难问题的人的形成。 > "If you hand that process to a machine, you haven't accelerated science. You've removed the only part of it that anyone actually needed." ## 结论 "LLMs will take away what's so great about science"——这句话比说的人意识到的更正确。 科学的伟大在于人本身。是那个缓慢、固执、有时痛苦的过程——让一个困惑的学生变成独立思考者。 如果用这些工具绕过那个过程来换取更快的输出，我们不只是冒着失去科学伟大之处的风险。我们拿走的是最初就不可替代的那唯一部分。 --- **关键词**: #AI #学术研究 #PhD教育 #能力退化 #学习过程