彭博：美情报局希望借助AI打击中国等竞争对手

彭博社报道，美国国家情报局正在利用最新的人工智能（AI）技术，应对来自中国等全球竞争对手的威胁，但同时又须确保情报人员使用AI技术的过程安全可靠。

美国国家情报总监办公室旗下一部门正在利用各家科企和大学机构快速发展的AI技术，助力应对中国等全球竞争对手。但核心挑战在于，须确保开发出来的新AI技术具备可靠性和安全性，不会对国家的最高机密打开后门或生成虚假数据，

负责管理国家情报总监办公室其中一个项目Bengal的数据科学家麦金农（Tim McKinnon）说：情报界希望利用现有的大语言模型，但有很多未知数……最终目标是能与一个值得信赖的模型合作。”

美国战略与国际研究中心的情报、国家安全和技术项目主任哈丁（Emily Harding）说：“情报界对AI抱有健康的怀疑态度和一定程度的热情。”她举例称，分析师可以利用AI处理大量信息，但对当前技术模型的可靠性存有疑虑。

麦金农指出，AI既容易受到内部威胁也容易受到外部干预。这些威胁可能是人类试图诱骗系统泄露机密信息，也就是让模型“越狱”。或者反过来，遭入侵的系统“试图从人类那里刺探它不应该获取的信息”。

麦金农补充说：“目前只有少数模型可以公开使用，但它们会变得更加普遍，而且它们的训练方式可能会有偏差……如果模型中毒，我们希望能够缓解这种情况。”