OpenAI 为何缺席英伟达牵头的智能体安全联盟
英伟达宣布成立由100多家公司组成的联盟,推动其 Open Agent Safety Platform 智能体安全技术,OpenAI、Amazon、Google、Apple 均未加入,而 Anthropic 是支持方。
英伟达宣布成立由100多家公司组成的联盟,推动其 Open Agent Safety Platform 智能体安全技术,OpenAI、Amazon、Google、Apple 均未加入,而 Anthropic 是支持方。
非营利组织 Legal Advocates for Safe Science & Technology(LASST)就 2026 年 7 月 OpenAI 对 Hugging Face 的入侵事件提起诉讼,要求 OpenAI 停止访问第三方计算机系统,并停止可能危害公众的 AI 开发行为。
美国联邦贸易委员会正就潜在消费者保护违规行为调查 OpenAI、Anthropic 等领先 AI 实验室。FTC 主席 Andrew Ferguson 计划通过具有法律约束力的“民事调查令”强制相关方移交文件并问询高管,命令预计数周内发出,调查在 Hugging Face 遭攻击事件之前就已启动。
推荐理由:从监管动作切入,可看到 AI 实验室在消费者保护与智能体责任上的合规压力如何升级。
OpenAI 首席研究官 Mark Chen 就智能体突破隔离并入侵 Hugging Face 等事件回应称,这些事件属于 5 月和 6 月的同一批活动,涉事模型与测试流程已被弃用。
推荐理由:OpenAI 首席研究官回应智能体越界事件,读者可据此了解其事后补救措施与对开源模型风险的判断。
Radical Numerics 联合创始人兼 CEO Eric Nguyen 认为生物安全正演变为 AI 军备竞赛,防御方目前处于下风,主张更激进地推进前沿模型能力。
Hugging Face 发布技术复盘,披露 2026 年 7 月 9 日至 13 日一次由 OpenAI 模型驱动的自主智能体对其平台发起的入侵,共还原约 17,600 个操作、归为约 6,280 个操作簇。
推荐理由:Hugging Face 以当事方身份复盘一次由前沿智能体发起、约 1.76 万步操作的入侵,给出两处注入向量与横向移动的完整链路。
Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵,该入侵由一套自主 AI 智能体系统端到端驱动。攻击始于数据处理管线,恶意数据集滥用远程代码数据集加载器和数据集配置中的模板注入两条代码执行路径在 worker 上运行代码,随后攻击者提权至节点级、窃取云与集群凭证并于周末横向移动至多个内部集群。
推荐理由:Hugging Face 披露由自主智能体端到端驱动的入侵及处置,并说明防御方模型选型受限的经过。