Mozilla:开源 AI 现状
Hacker News 摘要原标题:Mozilla: The state of open source AI
Mozilla 首席技术官 Raffi Krikorian 在信中指出,开源 AI 的核心在于竞争、互操作性和所有权。从新西兰毛利语语音模型,到普华永道微调的金融模型,再到东非农民离线诊断木薯疾病的手机模型,开发者无需许可即可拥有并运行这些技术。Mozilla 曾为了万维网的开放而诞生,如今面对试图垄断 AI 入口的趋势,他们再次押注开源。
01 开源 AI 的现状
目前开源模型已经达到了性能持平的阶段。
• 能力差距消失:开源权重模型在编码能力上已与顶级闭源模型持平,但在推理能力上仍有 3.3% 的微弱差距。2025 年 2 月,DeepSeek-R1 曾一度追平美国顶级模型。
• 推理成本大幅下降:在 36 个月内,GPT-4 级别的推理成本下降了 50 倍,从每百万代币(Tokens)20 美元降至 0.40 美元。
• 流量领先:在 OpenRouter 平台上,开源权重的代币流量已经占据多数,前五名高流量模型均为开源模型。闭源模型在推理和多模态领域领先,但大多数实际工作负载并不需要这些前沿能力。
开发者采纳情况:
• 79% 的开发者在使用开源模型,71% 使用闭源模型,50% 的开发者两者同时使用。
• 生产环境落地难:闭源模型团队有 63% 能进入生产阶段,而开源模型团队仅为 51%。主要障碍在于运维工具和信任,而非模型能力。
• 主要挑战:开发者面临性能不足、系统集成困难、维护更新繁琐以及高昂的算力成本等问题。
02 开源 AI 技术栈评估
开源技术栈在能力上得分很高,但在操作层面得分较低。通过对 9 个层级、48 个组件的评估发现:
1. 基础设施:云计算和硬件芯片层由闭源主导。机器学习框架(如 TensorFlow、PyTorch)是开源的绝对强项。
2. 数据集:基准评估数据具有竞争力,但在预训练数据处理方面,闭源系统仍有优势。
3. 代码:推理代码(如 Ollama、vLLM)和微调代码(如 Unsloth)表现强劲,具有很高的社区认可度。
4. 模型权重:基础预训练模型和压缩权重表现优秀,但在垂直领域和多模态权重上闭源依然领先。
5. 产品与用户体验:编排代理(Agents)和部署工具(如 LangChain、Dify)发展迅速,但在遥测和界面 API 方面闭源系统更成熟。
6. 安全防护:访问发布和内容审核具有竞争力,但在治理、审计和安全对齐方面相对较弱。
7. 智能体层:标准栈(如 MCP 协议)表现突出,但权限模型是目前最大的短板。
03 商业模型与投入
开源 AI 已经成为一个数千亿美元规模的商业市场。
• 五大盈利模式:托管推理、企业平台、本地部署授权、微调服务和框架工具。
• 代表企业:Databricks 年营收运行率达 54 亿美元;Mistral AI 年经常性收入约 4 亿美元;DeepSeek 完成了 74 亿美元融资,估值超过 500 亿美元。
• 计费模式的崩溃:闭源模型按代币计费,在大规模生产中会导致预算超支。微软因代币账单过高,于 2026 年 6 月取消了多数 Claude Code 授权,转而探索在 Azure 上托管 DeepSeek。Uber 在四个月内耗尽了全年 AI 编码预算。Stripe 通过在 vLLM 上运行开源模型,将推理成本降低了 73%。
04 数字主权与全球格局
开源不再仅仅是技术选择,而是主权选择。
• 退出权:闭源 API 存在供应商锁定的风险。一旦由于出口管制或政策变动断供,依赖该模型的系统会立即瘫痪。开源权重可以在自有机器上运行,是防止被“关停”的对冲手段。
• 中国开源力量:中国是开源权重的最大来源。阿里巴巴的 Qwen 下载量在 2026 年 3 月超过了紧随其后的八家机构之和。DeepSeek 拥有超过 2.6 万个企业账户。
• 国家战略:全球有 70 多个国家制定了 AI 战略。欧盟通过《AI 法案》豁免开源,并资助开发拥有 24 种官方语言的 EUROPA 开源模型。加拿大、印度、德国等国也在投入巨资建设主权计算能力。
05 智能体框架:新的疆场
智能体框架(Harness)包括编排循环、工具、内存、沙箱和权限模型,是目前生产环境中最难突破的环节。
• 模型融合趋势:闭源实验室正将框架与模型焊接在一起。在 Terminal-Bench 测试中,使用实验室自有框架的模型得分远高于第三方框架。这种紧密集成形成了护城河,增加了迁移难度。
• 性能与成本:在公平的第三方框架下,开源模型 GLM 5.2 的表现与顶级闭源模型差距极小,但成本仅为后者的五分之一。
• 权限难题:智能体在执行“写入”操作(如发送邮件、支付、修改记录)时缺乏标准化的权限管理。现有的协议(如 MCP)解决了认证问题,但没有解决授权问题。
06 未来机会与建议
Mozilla 提出了五个核心建议:
1. 构建开源框架:开发专门针对开源权重设计的智能体框架。
2. 掌控内存层:当模型权重趋于廉价,积累的上下文内存将成为最核心的资产。
3. 解决可移植权限:建立智能体写入权限的标准。
4. 打破计费陷阱:在成本低廉时建立第二供应商方案,实现本地托管。
5. 保持多元化:确保开源生态不被单一源头垄断,维持公共资源的多元供应。
07 观测清单
• 能力与采用:关注开源模型在推理和智能体任务上的份额,如果代币份额停滞则代表风险。
• 框架发展:观察实验室自有框架与独立框架之间的差距是否扩大。
• 市场结构:关注开源实验室的财务健康状况和主权投资的持续性。
• 信任与安全:监测开源权重被滥用的情况,以及监管政策是否从“监控”转向“限制”。