经济学人:英美情报界如何使用AI模型?,英美情报共享
就在唐纳德·特朗普宣誓就任总统的那一天,一家名为深度求索(DeepSeek)的中国公司发布了一款世界级的大语言模型(LLM)。特朗普后来形容,这对美国AI行业敲响了“警钟”。美国参议院情报委员会副主席马克·华纳(Mark Warner)表示,美国情报界(由18个机构和组织组成)对这件事“措手不及”。
这些前沿实验室不仅活跃在军事领域,也正深度介入欧美的情报界。早期的大多数应用都集中在利用大语言模型分析机密数据这方面。今年1月,微软公司表示,其26款云计算产品已获准用于美国情报机构。6月,Anthropic宣布推出Claude Gov,并称该模型“已部署在拥有最高国家安全保密级别的情报机构中”。目前,美国所有的情报机构都在广泛使用AI模型,其中不乏来自多个实验室的竞品。
AI公司通常会根据情报机构的需求对模型进行“微调”。例如,出于安全考虑,Anthropic面向公众开放的Claude模型可能会拒绝处理带有“机密”标识的文件;而Claude Gov版本则会被调校成允许处理此类材料。此外,Claude Gov还加强了对政府用户可能需要的外语及方言的识别与理解能力。这类模型大多运行在与互联网隔离的安全服务器上。如今,一批新的智能体模型正在情报机构内部悄然构建。
尽管各方在推进,进展却并不如预期的那样迅速。OpenAI负责该领域合作的卡特里娜·穆利根(Katrina Mulligan)曾在美国国防和情报部门任职,她坦言:“AI在国家安全领域的应用,还远没有达到我们期望的水平。”据一位内部人士透露,负责处理信号情报的美国国家安全局(NSA)在语音识别等早期AI技术应用上已深耕数十年,被视为业界典范。但不少情报机构仍在试图为现成的聊天机器人构建自己的“封装器”(wrappers),这种做法常常使其大幅落后于公共领域中最先进的模型。
曾在拜登政府的国家安全委员会主管科技政策、现任Anthropic国家安全政策负责人的塔伦·查布拉(Tarun Chhabra)指出:“真正的变革不只是把AI当成聊天工具。真正的变革在于——一旦开始使用它,我们该如何重构完成原先使命的手段?”
卡特博士警告说,智能体模型的风险在于,它们会递归地为分配到的每个任务自行生成提示词,这使其更难预测,错误也可能层层累积。根据OpenAI发布的评估结果,其最新的智能体模型ChatGPT agent的幻觉率约为8%,甚至高于早前发布的o3模型。
一些AI实验室认为,这些担忧不过是来自官僚的保守作风,但卡特博士表示,这其实是“一种健康的谨慎态度”。他说:“尤其在英国政府通信总部(GCHQ,即美国国家安全局的英国对应机构)内部,你会发现一批极其出色的工程人员,他们本能地对新技术持怀疑态度。”
与此同时,有人警告说,中国可能正在这个领域领先。位于硅谷的安全与技术研究所(Institute for Security and Technology)的菲利普·赖纳(Philip Reiner)指出:“我们至今仍不清楚中国是如何、在多大程度上将DeepSeek应用于军事和情报领域。”他补充说:“他们的模型可能没有我们这样的护栏,因此他们可能更快地获得强大的洞察能力。”
7月23日,特朗普政府下令五角大楼与情报机构定期评估美国国家安全体系在AI领域的应用速度,是否赶得上中国等竞争对手,并要求“制定持续适应的机制”。
在这一点上,几乎所有人都达成共识。参议员华纳直言,美国情报界在监测中国相关进展方面做得“一塌糊涂”。“我们在获取中国技术、渗透中国科技企业方面的进展仍然相当有限。”穆利根则指出,最大的问题并不是美国在风险不明的情况下贸然推进AI技术,而是“国防部和情报界继续按老办法做事”。
“让我夜不能寐的是——我们可能真的赢下了通用人工智能(AGI)的竞赛……却输掉了实际应用的竞赛。”
1、国家网信办约谈英伟达,要求提交H20芯片安全风险材料,英伟达最新芯片
2、据我所知,整个电影界都为《南京照相馆》的成绩感到振奋,不存在犯酸郁闷的情况
3、也门胡塞武装称向以色列发射5架无人机,也门胡塞武装是谁支持的