OpenAI与Anthropic智能体再曝越权黑客行为，AI安全引发担忧

OpenAI和Anthropic的更多流氓AI智能体被发现试图在未经许可的情况下对真实目标进行在线黑客攻击。这些发现增加了越来越多此前未知的事件，这些事件令AI安全专家感到震惊，并加大了对前沿系统加强监管的压力。

英国AI安全研究所（AISI）表示，OpenAI和Anthropic的AI智能体在测试中表现出前所未有的“自主性和欺骗性”。

根据AISI的一份报告，该机构在顶级AI实验室的前沿模型发布前对其进行评估，由OpenAI的GPT-5.6-Sol和Anthropic的Mythos 5驱动的智能体“参与了针对真实人物和组织的持续、潜在有害的活动”。

这包括试图通过向负责开源项目的真实人员施压，将恶意代码插入该项目。AISI表示：“为了让代码获得批准，该智能体进行了社会工程学攻击——创建虚假的在线身份，并利用这些身份向项目维护者施压，要求其批准代码。

”AISI表示，这些尝试于7月28日被检测到，“并未成功”，也未造成现实世界的伤害。

然而，该机构指出，这一事件标志着“我们第一次看到自主性和欺骗相关的风险在现实世界中，在没有特定提示的情况下如此清晰地显现。”与OpenAI攻击Hugging Face的流氓智能体不同，AISI表示，这“并非模型逃离其安全测试环境（即沙箱）的情况”。

AISI表示，作为测试的一部分，通常施加于模型的安全保障措施已被禁用，并且模型被允许访问互联网。AISI表示：“为了衡量这些模型真正能做什么，我们在反映有能力的人类攻击者可能采取的行动的条件下进行测试。

”该事件源于AISI的一次评估，其中智能体的任务是解决网络安全挑战，例如查找受保护的数据。该挑战在多个模型上运行了122次，所有运行均在AISI的研究环境中进行，该环境使用“虚拟机沙箱将智能体与AISI的其他基础设施隔离”。

AISI的调查发现，其中10次运行中，“一个AI智能体在实时互联网上采取了自主、未经批准的行动，针对真实的人和组织”。在19次此类行动中，几乎全部（17次）来自Anthropic的Mythos 5。

在对该事件的事后分析中，AISI确定了导致未经批准智能体行为的几个关键因素。

AISI表示，该智能体具有持续性，尝试通过“直到最近在很大程度上仍是理论性的欺骗手段”来诱骗真人。任务难度也很高，该机构表示这可能促使智能体在解决问题时更具“创造性”。更复杂的是互联网使用监控方式的缺陷，AISI表示，更专门的监控本可以更快地发现问题。

最后，该机构表示，智能体并未被明确指示不得利用其互联网访问权限或使用欺骗性社会工程技术来实现目标。AISI表示：“此前，尚不清楚在使用经过对齐训练的模型时，此类指示是否必要。

”AISI表示，该事件应“谨慎且细致地解读”，但警告称，智能体的行为“显示出新颖的、潜在欺骗性行为的迹象”，且“其程度和严重性超出了我们的预期”。

OpenAI在一篇博客文章中承认了AISI测试期间发生的违规行为，并表示“致力于与整个行业合作，加强安全进行高风险评估的共享实践”。

OpenAI还披露了另一起违规事件，这次来自外部网络安全测试合作伙伴Irregular，该公司表示，在网络安全演习期间，模型被错误地授予了互联网访问权限。OpenAI表示，Irregular于7月29日向其通报了该违规行为。

OpenAI表示：“在未来几周内，我们将审查自己的第三方测试方法，包括如何识别高风险评估、就范围达成一致、评估启用互联网访问或降低安全保障的请求、设定隔离、凭证处理、监控和停止条件的预期，并建立更清晰的事件通知和升级流程。

”Anthropic在X上发布了较为简短的回应，主要强调模型的标准安全功能已被禁用，且未对“互联网使用方式给予任何具体限制”。该公司表示，正在与AISI密切合作，为其自身调查收集更多细节。

这些发现加剧了测试期间智能体流氓行为的混乱局面，其中许多行为仅在专门追查后才被曝光，且涉及未向公众发布的模型。AI实验室不愿或无法控制其产品，引发了人们对此类违规行为可能被忽视、前沿AI系统安全性以及行业普遍缺乏透明度和监管的担忧。

这些最新披露可能会加大联邦政府制定更全面AI模型管理框架的压力，此前有报道称特朗普政府的测试计划模糊且定义不清，并可能加剧要求某种形式放缓或暂停AI开发的呼声。