跳到正文

安全对齐

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

最新精选

第 21–21 条 · 共 21 条
7月16日周四
  1. Hugging Face Blog91

    Hugging Face 披露一起由自主 AI 智能体驱动的安全入侵事件

    Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵,该入侵由一套自主 AI 智能体系统端到端驱动。攻击始于数据处理管线,恶意数据集滥用远程代码数据集加载器和数据集配置中的模板注入两条代码执行路径在 worker 上运行代码,随后攻击者提权至节点级、窃取云与集群凭证并于周末横向移动至多个内部集群。

    推荐理由:Hugging Face 披露由自主智能体端到端驱动的入侵及处置,并说明防御方模型选型受限的经过。