英伟达牵头开放AI联盟成立一周即推出安全提案

成立仅一周的开放安全人工智能联盟（OSAA）由英伟达牵头，已吸引超过120家公司加入。该联盟设立了一个名称可爱的工作组——共享AI发现交换（Shared AI Findings Exchange，简称SAFE）。

该工作组已提交提案供公开评论，联盟成员Linux基金会负责管理这些提案。提案是在成员们齐聚本周于拉斯维加斯举行的黑帽大会（网络安全界的核心盛会）期间制定的。

目前这些指南尚不具颠覆性，提案内容涵盖如何保密报告AI网络安全事件、向受影响方发出警报，并进行无指责分析以便各方从中学习。与此同时，OSAA成员还在贡献并整理其可能有用的开源技术片段。

随着这类行业组织的发展，这些努力最终可能汇聚成一种开源手段，帮助企业保护其AI智能体，或防御恶意AI攻击者，例如曾渗透Hugging Face的OpenAI模型（Hugging Face也是该联盟成员）。

例如，英伟达指出其提供了一整套开放模型，以及名为Garak的开源LLM漏洞扫描器；Okta正在研发智能体身份技术；Red Hat专注于智能体治理；亚马逊贡献了开放智能体构建工具Strands Agents和授权语言Cedar。

此外还有更多实例。该联盟目前包括Adobe、贝莱德、思科、英特尔、微软和Visa等众多知名企业，但也存在一些显著缺席者，如Anthropic、OpenAI和谷歌。有趣的是，OpenAI和谷歌都签署了促成该联盟的最初公开信。

这封上周发布的信函敦促白宫支持而非压制开源AI工作，由英伟达倡导，获200多家科技公司签署。虽然Anthropic对公开信和联盟的冷淡态度并不令人意外，但OpenAI和谷歌都已发布各自的开放权重模型，谷歌也通常被视为开源的大力支持者。

我们将观察他们是否会随着联盟势头增强而加入。与此同时，该联盟正以AI速度运作。距特朗普政府考虑禁止中国开放权重模型的消息传出仅数周，这引发了行业震动并促成公开信。无论中国开放权重模型在美国最终命运如何，这个重量级联盟的快速行动对美国开源AI生态系统而言似乎是好事。

生态系统中的一些人，如美国开放权重AI实验室Arcee的联合创始人兼首席技术官，表示这最终是应对中国AI实验室对美国构成任何威胁（无论真实或想象）的最佳方式。该行业组织在信函中写道：“开放可能是实现AI安全与保障的最重要途径之一。

”看来他们已准备好立即将努力和技术付诸实践。