AI前沿员工联名呼吁放缓AI研发，HuggingFace披露机器速度网络攻击

[AINews] 担忧RSI：OpenAI、Anthropic、GDM、Meta、Thinky 联名致信要求“有节奏地”发展AI，HuggingFace 详述机器速度进攻性网络攻击“大暂停”即将到来。

三年前，埃隆·马斯克和约书亚·本吉奥联名签署了未来生命研究所的信函，主张暂停AI研发六个月，但大多数前沿AI领导者对此置若罔闻。如今，主张暂停的人笑到了最后。

昨天我们说过，除非你“制定法律、制造芯片或构建模型”，否则你大概可以忽略当前关于开放权重模型的争论（那些向我们喊话的人，谢谢！）。

今天，我们有了无法忽视的事情：来自几乎所有前沿实验室（X.ai 除外）的超过1000名员工，联名签署了一份不同的声明：“AI 可以帮助创造一个更美好的未来，但这种结果并非必然。世界领先的AI公司相信，他们可能即将实现AI研究的自动化。

很难准确预测这将在多大程度上加速AI进步，但确实存在一种真实风险：能力发展迅速加速，超出我们理解或控制由此产生的系统的能力。为了发挥AI的潜力，行业、政府以及整个社会可能需要选择争取时间，以应对新出现的风险、制定安全措施并加强监督。

但每家公司和国家都面临着巨大的竞争压力，无法单方面减缓这种加速。

而今天，世界缺乏有意地推进前沿整体进展所需的技术和治理工具。在已有监测前沿模型发布工作的基础上：我们请求美国政府支持一项国际努力，以开发有意地推进自动化AI发展前沿所需的技术和治理工具。

”——来自前沿AI公司的1171名员工尽管这封信被表述为“以个人身份采取的行动，并不一定代表任何公司的观点”，但当 Dario 联名签署、Sam 在播客中表示同意、官方 @OpenAI 账号在推特上发布这封信时，我们只能说，

这封信比 Denny 签署 Nvidia 信件博君一笑要正式得多。这并非凭空而来；Anthropic 上个月就曾警告过 RSI，我也曾专门用一整天做 Autoresearch 主题演讲，并贴有“RSI until AGI”的贴纸。

与此同时，HuggingFace 发布了一份关于 OpenAI 完全由智能体驱动的安全事件的详细回顾，详细说明了 OpenAI 未发布/未经审查的模型如何将 OpenAI 和 HuggingFace 私有基础设施中的多个零日漏洞串联起来，

以机器速度在2-4天内执行了17600个动作……而这些动作仅被他们的AI安全智能体和 GLM 5.2 发现并修复：HF 的安全团队总结道：“数量改变了防御问题。

我们面对的并非一个巧妙的漏洞利用或一系列清晰的攻击者行为。他们必须关联多个系统中的数千个低信号事件，同时智能体继续测试新路径。成功的路径隐藏在数千条失败路径产生的噪声中。

同样的规模改变了调查：手动重建17600个动作是不切实际的，我们必须重建时间线、解码有效载荷，并使用我们自己的人工智能辅助管道清点暴露的凭证。我们从这类攻击中学到的是，机器速度的进攻使得普通弱点对防御者来说代价更高。

LLM 智能体带来了攻击者可测试路径数量的阶跃式增长、失败路径被替换的速度提升，以及防御者必须解读的证据量的激增。多么巧合的时机，这次攻击和这封信……2026年7月27日至7月28日的AI新闻。

我们检查了12个 subreddits、544个 Twitter 账号，没有进一步的 Discord。AINews 网站允许你搜索所有过往期刊。提醒一下，AINews 现在是 Latent Space 的一部分。

你可以选择加入/退出邮件频率！

AI Twitter 回顾Kimi K3 开放权重发布：架构、基础设施以及运行的实际成本Kimi K3 的详细信息现已完整公布：Moonshot 的 2.8T 参数 MoE，大约有 104B 活跃参数/token，随附权重、技术报告和支持基础设施。

几个优秀的分析都聚焦于同一个故事：K3 在长度、深度和宽度上扩展，而不仅仅是参数数量。

@ZhihuFrontier 总结了混合长上下文堆栈——Kimi Delta Attention (KDA) 加上 Gated MLA、跨深度的 AttnRes，以及稀疏的 LatentMoE；

@rasbt 的架构笔记强调 K3 是 Kimi Linear 的生产规模演进，处处使用 NoPE、原生多模态，以及注意力残差以适度成本带来持续收益。该报告还描述了一种在前沿越来越标准的后训练配方：训练多个专家 RL 教师，然后通过多教师在线策略蒸馏融合它们；

参见 @BhavinJawade。基础设施是发布的一部分，而非事后考虑：除了模型，Moonshot 还发布了 MoonEP、FlashKDA 和 AgentEnv，强调 K3 依赖于通信、内核和沙盒智能体训练，与模型架构同等重要。

这一主题在评论和部署工作中反复出现：Baseten 的笔记将 K3 描述为一个按功能分配容量的系统——循环记忆、定期检索、稀疏专家和选择性残差访问——而 NVIDIA 文档支持在 Dynamo 上部署，

Red Hat AI 发布了针对 H100/H200 的 FP8-Block Hopper 调优 checkpoint，并支持 vLLM 首日可用。社区的反应是，该报告异常丰富且异常密集：“如果你想感觉自己很笨，就去读 Kimi K3 技术报告吧”。

开放权重并不意味着易于访问：@ZhihuFrontier 的成本分析提供了一个有用的反观点，认为 K3 本质上是一个基础设施项目。仅加载模型就需要约 8× MI355X 的公开验证最低配置；

有意义的生成式服务可能需要一个高带宽域中的 64+ GPU，因为专家路由和互连成为瓶颈。估算：8 GPU 服务器的入门成本为六位数美元，生产规模部署可达数千万人民币。实际上，许多用户将通过托管服务而非自托管来使用 K3。

供应商迅速行动：Perplexity 为 Pro/Max 增加了美国托管的 K3，Baseten 提供了首日推理，Together 安排了与 Moonshot 的技术深度探讨。

智能体产品、编码工作流和移动编排“随时随地与智能体协作”的模式正在巩固：多个帖子指向一个新的用户体验层，其中编码或知识工作智能体异步运行，而用户通过移动设备或语音进行监督。

@danizeres 将 ChatGPT Voice + Codex 描述为一种在跑步、步行或驾驶时与活跃智能体保持对话的方式，专注于优先级排序和判断，而非输入提示。

Cursor 中移动优先的智能体控制也出现了类似反应：Cursor 在印度以每月 ₹649 的价格推出了“Start”，包含 Grok 4。

5、Composer、云智能体、MCP 服务器、hooks 和 iOS 支持；Aman Sanger 指出印度使用量同比增长两倍，每个用户的智能体请求量超过任何其他国家。

Perplexity 在 Windows 上推出了 Personal Computer——其本地智能体工具覆盖文件、应用和网络——以及 Computer 内部的 Model Council，用于多模型比较和引用综合（发布，Model Council）。

来自编码智能体的实际教训是，工具和脚手架很重要：一些最受关注的操作员评论并非关于基础模型，而是关于工作流质量在多大程度上依赖于周围系统。

@theo 表示重写 CLAUDE.md / AGENTS.md 和技能“100% 值得”，而 OpenAI 强调了用于科学计算的编码智能体，但强调人类验证和长期管理。也有成熟期的阵痛迹象：反复抱怨关于……