白宫对AI网络安全框架保密引发争议

一位白宫官员向《连线》证实，特朗普政府已敲定一项计划，以应对日益强大的人工智能模型带来的网络安全风险。但知情人士告诉《连线》，至少目前，白宫有意对细节保密。

知情人士称，特朗普政府周二邀请OpenAI、Anthropic、谷歌、Meta、Nvidia和其他领先AI公司的员工前往白宫，分享其新AI监管框架的概述。AI开发者将能够在新模型公开发布前最多30天自愿向联邦政府提交。

随后，白宫将根据一个机密基准系统审查其网络能力，并与联邦机构和可信赖的企业合作伙伴共享AI模型。据Axios报道，白宫并未透露更多关于其测试标准或框架将涵盖哪些AI模型的信息，尽管据报道开放模型将被排除在外。

这使得小型AI初创公司、安全倡导者和第三方研究人员对联邦政府如何应对先进AI系统带来的网络风险的关键方面一无所知。一些人认为，这种保密过程将给大公司带来优势。

“他们本质上是在为大型AI模型提供商制定一个巩固计划，这些提供商现在被认为是最前沿的，”一位熟悉白宫与AI实验室讨论的人士表示，他要求匿名以讨论机密事宜。“这为关键基础设施创造了一个经济激励计划，只使用它们，而忽略了较小的初创公司。

”白宫未回应置评请求。出于国家安全考虑，特朗普政府可能对其AI安全框架保密。另一位白宫官员因未获授权向媒体发言而要求匿名，他强调新框架有意范围狭窄，仅关注市场上最先进模型的网络安全能力，例如Anthropic的Fable和OpenAI的ChatGPT 5.6。

但一些AI安全倡导者告诉《连线》，AI公司必须遵守的任何规则都应公开，以确保第三方团体能够追究其责任。

“这个问题太重要了，不能隐藏在保密的面纱之后，”非营利组织美国人负责任创新组织主席、支持监管的公共优先行动超级政治行动委员会联合创始人布拉德·卡森表示，该委员会的资金来自Anthropic。“这不是与科技公司的握手协议。

这是确保他们不危害公众的规则手册。如果只有科技公司知道规则手册的内容，那它就行不通。”

网络担忧该监管框架源于唐纳德·特朗普总统今年早些时候签署的一项行政命令，旨在解决新AI模型的网络安全风险。近几个月来，特朗普官员对尖端AI系统的黑客能力越来越感到震惊，他们担心这可能对国家安全构成严重风险。

过去两周，当OpenAI和Anthropic表示他们发现其AI模型在内部测试期间无意中绕过控制并入侵了第三方服务时，这些担忧升级了。

众议院国土安全委员会上周致信OpenAI首席执行官萨姆·奥尔特曼，要求他向立法者通报该公司的一个AI智能体如何入侵Hugging Face平台。

“这起事件确实给人们敲响了警钟，让他们意识到智能体能力已经达到了这个水平，”Meta AI研究副总裁Dawn Song周六在加州大学伯克利分校的一个小组讨论中表示，她也是该校教授，指的是Hugging Face入侵事件。

特朗普政府的新框架试图在促进AI行业竞争和维护安全之间取得平衡。行政命令指出，它不应被视为“强制性许可制度”，但批评者认为，特朗普政府不透明的过程恰恰造成了这种情况。

“防止不受控制的人工智能和超级智能带来的灾难性风险所需的监管不应是自愿的，”专注于应对AI风险的非营利组织ControlAI执行董事康纳·莱希表示。“这一行动承认了危险，但将安全负担留给了那些有动力全速前进而无视公众福祉的公司。

”重要问题在过去一年半里，白宫官员一直在努力解决如何在不扼杀美国创新或向中国让步的情况下降低先进AI的风险。特朗普总统重返办公室时承诺对AI采取不干预的态度，但他的政府表现出越来越愿意干预这一问题的迹象。

例如，6月份，出于网络安全担忧，它采取了前所未有的措施，对Anthropic最先进的AI模型实施了临时出口管制。这一决定促使Anthropic将其模型完全下线，直到与特朗普政府达成协议。当月晚些时候，OpenAI表示，应白宫要求，将推迟其最新AI模型GPT-5.6的发布。

这一事件引发了硅谷科技高管的强烈抗议，他们担心过度监管可能会锁定少数公司成为AI竞赛的赢家。

美国官员争论的一个关键问题是是否限制开放权重AI模型的分发，这些模型可以免费下载和修改。许多领先的开放权重模型由中国公司开发，并受到研究人员和初创公司的欢迎。华盛顿的一些声音呼吁禁止中国的开放权重模型，而另一些声音则主张推广美国开放模型作为替代方案。

上周，超过80家公司签署了由Nvidia组织的公开信，要求美国政府捍卫开放权重AI模型。周二，Nvidia和同一联盟的公司启动了一个名为SAFE（共享AI发现交换）的新项目。

根据Nvidia发布的博客文章，其目标是让科技公司“秘密收集和分析AI事件和未遂事故，识别重复出现的控制失败，并发布基于证据的运营建议以降低系统性风险”。

除了Nvidia，Hugging Face和Red Hat也同意参与该项目，Linux基金会呼吁其他组织为此做出自己的开源贡献。“作为一个行业，我们希望将这场对话公开进行，”Nvidia企业AI副总裁Justin Boitano在接受《连线》采访时表示。

SAFE的目标是“独立治理，没有单一公司或行业部门控制其发现”。

Boitano拒绝透露Nvidia是否与特朗普官员讨论了白宫的新框架。然而，Boitano表示，“我认为（我们的）框架值得关注”，指的是SAFE。

在周末于伯克利举行的智能体AI峰会上，OpenAI联合创始人、该公司慈善部门AI韧性负责人Wojciech Zaremba表示，AI行业正在“进入一个新时代”。

“想象一下，如果突然之间，你家的锁停止工作了会发生什么，”Zaremba在Meta的Dawn Song发言的同一小组讨论中表示。“这就是我们正在进入的网络安全时代……我的猜测是，它将会很混乱。

”