戴米斯·哈萨比斯提出了一个安全治理 AI 的方案

Google DeepMind 的首席执行官 Demis Hassabis 在 X（原推特）上发布了一篇关于安全构建人工智能（AI）方案的文章，引发了广泛讨论。

Demis Hassabis 的核心观点

Demis Hassabis 认为人类正处于历史的关键时刻。通用人工智能（AGI）即具备大脑所有认知能力的系统，可能在短短几年内就会实现。

他提出了一个关于前沿 AI 的治理框架，旨在平衡技术进步与安全风险。该提议的核心点包括：

• 建立标准机构：建议参考金融业监管局（FINRA）的模式，建立一个由行业资助但具备独立监管职能的标准机构。

• 自愿审查机制：前沿 AI 实验室在发布新模型前，应进行为期 30 天的自愿审查。

• 动态调整安全标准：随着技术的发展，监管力度和安全基准应当能够灵活升级。

• 国际协作：虽然目前的竞争非常激烈，但需要建立一种国际共识来防止恶性竞争导致的安全疏忽。

社交媒体上的不同声音

该提议在评论区引发了激烈的争论，涵盖了支持、质疑以及深度的技术和政治分析：

1. 支持与乐观派

• 部分用户认为这是一个深思熟虑的方案，对于管理 AGI 时代的到来至关重要。

• 有人指出，后稀缺时代意味着物质极大丰裕，只有拥有万亿资源的巨头公司才有能力承担起造福人类的责任。

2. 政治与执行层面的质疑

• 国际竞争：多位用户指出，目前处于地缘政治竞争中，竞争对手（如中国）可能不会遵守这类由美国或西方主导的框架。人类本性倾向于优先考虑国家利益而非全球协作。

• 监管机构的有效性：有观点认为现有的国际组织在处理生物或核扩散问题上尚且困难，AI 领域的监管将更加复杂。有人直言不讳地批评 FINRA 并不是一个好的效仿对象，因为它曾未能及时察觉重大的金融诈骗。

3. 技术与经济学视角的深度抨击

• 监管捕获风险：不少评论者担心，由行业资助的监管机构会导致“监管捕获”，即大公司通过制定高门槛的标准来排挤竞争对手，建立保护自己的“护城河”。

• 知识的分散性：一位医学博士（Chandra Duggirala）发表了长篇评述，引用哈耶克的观点批评 Demis Hassabis 试图用“中央集权”的方式来解决分散的知识问题。他认为 AI 的风险和能力往往在部署后才被发现，预先测试无法穷尽所有风险。

• 替代方案：有反对者建议通过市场机制而非行政机构来解决安全问题。例如，强制要求训练超大规模模型的实体购买高额的第三方责任保险，让保险公司通过保费这一价格信号来评估和约束风险。

4. 关于 AGI 定义的讨论

• 有用户提醒 Demis Hassabis 需要更清晰地定义 AGI，因为目前的定义过于高层级。

• 有人质疑“具备大脑所有认知能力”的具体含义，认为目前的 AI 在某些领域（如蛋白质折叠）远超人类，但在简单任务上仍不及人类，能力分布是不均匀的。

5. 经济影响与税收

• 部分讨论转向了 AI 导致的失业问题。有人建议应当对 AI 智能体进行标准化管理并对其征税，以填补人类员工流失造成的税收缺口。

总的来说，Demis Hassabis 的方案虽然被视为一种负责任的姿态，但面临着来自去中心化支持者、地缘政治现实主义者以及市场派学者的多重挑战。争议的焦点在于：AI 的安全究竟应该靠统一的行政监管，还是靠竞争、保险机制以及物理层面的算力管控。

Report Page