美国政府与科技巨头达成协议：前沿AI模型发布前须经国家安全审查

当地时间5月5日，美国商务部下属的人工智能标准与创新中心（CAISI）宣布，已与谷歌DeepMind、微软以及埃隆·马斯克旗下的xAI达成协议，这三家科技巨头将在新一代人工智能模型正式公开发布前，提前向美国政府开放模型权限，以便开展国家安全风险审查。

根据CAISI发布的声明，新协议允许该中心在人工智能模型投入应用前开展评估，并通过专项研究研判模型能力及潜在安全风险。协议核心条款要求实验室在模型公开发布前，向CAISI开放完整版本，部分测试对象甚至是尚未命名的内部迭代版本。

CAISI主任克里斯·福尔在声明中明确表示：“独立且严谨的测量科学对于理解前沿人工智能及其国家安全影响至关重要。”他进一步指出，“这些扩大的行业合作帮助我们在关键时刻扩大公共利益方面的工作。”

值得注意的是，此次合作举措是在2024年拜登政府与OpenAI、Anthropic达成相关协议的基础上进一步扩展而来。加上此次新签约的三家公司，美国五大主流AI实验室——OpenAI、Anthropic、谷歌DeepMind、微软和xAI——已全部纳入同一套预发布审查框架。

作为美国政府人工智能模型测试的核心机构，CAISI透露目前已完成40余次模型评估，其中涵盖多款尚未向公众开放的尖端AI模型。测试场景不仅包括常规版本，也包括实验室主动提供的“减配安全护栏”版本——目的是探测模型在约束松动时的行为边界。

该机构表示，人工智能企业开发者常会提交移除安全防护机制的模型版本，供该中心深入排查国家安全层面的潜在风险。部分测试甚至转入机密环境进行，以确保评估的全面性和安全性。

微软方面表示，公司将与美国政府科学家合作，以更深入的测试方式观察AI系统在极端情境下是否出现预期外行为，双方也将共同建立测试数据集与验证流程，强化模型安全性。微软先前也曾与英国AI安全研究机构签署类似合作协议。

据CNBC报道，除CAISI周二的声明外，白宫一直在考虑成立一个新的AI工作组，该工作组将探索潜在的监督程序，包括在模型向公众发布之前对其进行审查的计划。一位知情人士透露，该工作组将汇聚多位科技公司高管和政府官员，由于细节属于机密，该人士要求匿名。该工作组可能会通过行政命令成立。

不过，白宫表示，有关可能发布的行政命令的讨论纯属猜测，任何政策声明都将直接来自唐纳德·特朗普总统。这一安排也兑现了特朗普政府于2025年7月提出的与科技企业合作审查AI“国家安全风险”的政策承诺。

近期，美国政府对高阶AI模型可能带来的安全威胁明显升温，尤其Anthropic日前推出新一代AI模型“Mythos”后，其大幅提升黑客攻击与自动化渗透能力，引发美国政府与企业界高度关注。

近几周，包括Anthropic公司Mythos在内的先进人工智能系统研发成果在全球引发热议，美国政府官员及美国企业界普遍担忧，这类模型会极大助长黑客的攻击能力。据Anthropic公司称，Mythos擅长识别软件中的弱点和安全漏洞，因此该公司决定将其推广范围限制在部分公司，作为一项名为“Glasswing项目”的新网络安全计划的一部分。

Anthropic公司首席执行官达里奥·阿莫迪在Mythos项目宣布启动几天后，便在白宫与特朗普政府高级官员会面，讨论了该项目。

值得一提的是，此前美国国防部已将Anthropic公司列为供应链风险企业。美国国防部上周宣布，已与七家人工智能企业达成合作协议，将这些企业的先进AI技术部署至国防部涉密网络，意在扩充服务军方的人工智能服务商队伍。然而，此次国防部合作名单并未纳入Anthropic公司。该公司正因军方对其AI工具的使用权限与安全约束问题，和美国国防部陷入纠纷。

CAISI表示，这些协议支持信息共享，推动自愿产品改进，并确保政府对人工智能能力和国际人工智能竞争状况的清晰理解。为了全面评估国家安全相关能力和风险，开发者经常向CAISI提供减少或取消保障措施的模型。

行业观察人士指出，这一系列协议虽然被表述为“自愿合作”，但实际上已经形成了事实上的强制性预审查机制。