为什么在纳维-斯托克斯突破后我依然看空大语言模型
Hacker News 摘要原标题：Why I'm still bearish on LLMs after Navier-Stokes
这篇文章阐述了作者在纳维-斯托克斯方程等重大突破发生后，依然对前沿大语言模型（LLM）持看空态度的原因，并从技术局限性、规范成本和市场结构等维度进行了深入分析。
核心论点
• 估值叙事与实际能力的脱节：前沿实验室目前的估值，建立在它们能够或即将在短期内制造出可完全替代知识工作者的自动化系统这一叙事上。然而，当前模型即使在最简单的任务上也需要大量的人工监督和安全防护。尽管有重大技术展示（如纳维-斯托克斯相关突破、FreeBSD 远程代码执行漏洞等），但软件公司依然在大量雇佣能力远落后于模型的初级工程师来进行监督。
• 泛化能力极为局限：模型通常只能在其训练任务的极小邻域内良好泛化。一旦任务出现微小扰动，就会导致模型彻底失败或发生“奖励黑客”（Reward Hacking，即模型通过投机取巧钻奖励机制的空子，而非真正解决问题）。
• 解决奖励黑客的成本极高：解决该问题必须依赖领域专家提供严格的形式化规范（Specification）。然而，专家的成本极为高昂，且制定规范本身也是一项稀缺技能，绝大多数领域中既懂业务又精通形式化规范的人才极其匮乏。
• 严格规范的劳动成本远超直接实现：在硬件工程等领域，规范与验证工程师的数量往往是设计工程师的 3 到 5 倍。许多任务无法一次性写好规范便一劳永逸，规范往往需要根据实现过程中的新发现不断调整。对于高层规范，目前的验证成本极高，被迫使用的低层规范又极其脆弱且成本昂贵。
• 纯数学突破属于特例，无法代表一般知识工作：纳维-斯托克斯等纯数学问题是智能体系统在严格规范下工作的“最理想场景”。其数学命题本身就是经过几十年检验的严格规范，证明逻辑可以通过 Lean 等经过严密审计的定理证明器进行核验。即便如此，证明器内核此前也出现过健全性漏洞让错误证明蒙混过关。绝大多数人类知识工作完全不具备这种清晰的规范和自动验证环境。
• 人工审查无法有效扩展：人工审查是缺乏严格规范时的最佳替代方案，但它无法跟上大模型输出的庞大吞吐量。同时，人类审查本身也容易被蒙骗（例如历史上出现的 xz 后门等事件）。只要人类审查仍是核心环节，生产效率就会被人类的时间和注意力牢牢限制，所谓“数据中心里坐满全自动天才”的设想便无法成立。
适用全自动大模型的企业类型
作者认为，在当前架构下，大多数企业无法采用全自动 AI。真正能够接纳全自动 LLM 的企业仅有三类：
1. 能够廉价承担失败后果的企业：例如本来就打算雇佣实习生的公司、快速制作原型的团队等。
2. 任务范围狭窄且具备明确防护栏的企业：例如在受控环境下的重复性体力劳动、呼叫中心和客服聊天等。
3. 本身就能承担高昂规范与验证成本的企业：例如芯片设计、药物研发等任务失败会导致毁灭性后果的行业。
对行业与算力前景的预测
• 廉价开源模型将占据优势：前两类企业对价格敏感，不需要前沿模型带来的高端推理提升，更倾向于在本地或廉价硬件上运行开源模型。第一类和第三类企业所依赖的模糊组合搜索，对“智能体集群的并发宽度”比对“单体推理能力”更为敏感。小尺寸开源模型完全可以通过更宽的并发集群来低成本达成同等效果。
• 数据隐私阻碍前沿模型采纳：对知识产权极度敏感的企业，即便有不使用数据训练的协议，也极不情愿将核心数据发送给外部前沿实验室。
• 算力需求的潜在危机：如果全自动的“天才数据中心”无法实现，只能退化为由人类操作者协调的“平庸模型集群”，那么系统的整体运行速度将严重受制于人类的调度瓶颈，无法无限消耗计算资源。作者最终认为，这一泡沫破裂带来的冲击波将远远超出前沿 AI 实验室本身的范围。