Google DeepMind 发布 Gemini 4 Argon 前沿模型，输出 token 上限提至 1M
Google DeepMind 宣布推出前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御者开放，随后将陆续提供给开发者、企业和消费者。
推荐理由：官方给出 Gemini 4 Argon 的评测成绩与内部落地数据，可据此判断前沿模型在长周期工程与网络安全任务上的进展。
#安全/对齐
#安全/对齐
今日 1 条Google DeepMind精选AI 评分7878
Google DeepMind精选AI 评分6565 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质与结构加水印
Google DeepMind 推出 SynthID Bio，把水印技术带入合成生物学，在生物代码中嵌入不可感知的签名，使其不只在数字模型上、也能在合成出的实体蛋白质上被验证，同时保留其生物功能。
推荐理由：Google DeepMind 把水印技术从图像扩展到蛋白质与 3D 结构，读者可看到生物安全筛查的一层新验证思路。
OpenAI NewsAI 评分5858 OpenAI 称已阻断一起协同模型蒸馏行动
OpenAI 表示已阻断一起试图提取其受保护模型推理的协同蒸馏行动，并正在加强对对抗性蒸馏的防御。原文未给出更多细节。
Hugging Face BlogAI 评分2727 Hugging Face 提出 ProvenanceGuard：面向 MCP 智能体的来源感知事实性验证
Hugging Face 发布论文 ProvenanceGuard，一个针对 MCP 智能体的生成后验证层，可识别"跨源混淆"——事实真实但被归到错误来源的答案。
OpenAI NewsAI 评分2626 OpenAI 提出前沿 AI 训练安全案例早期指南
OpenAI 发布前沿 AI 训练安全案例的早期指南，涵盖技术防护措施、运营实践，以及对失准（misalignment）事件的调查。该指南目前仍处于早期阶段。
OpenAI NewsAI 评分2727 OpenAI 就澳大利亚政府网站事件致歉并公布更强保障措施
OpenAI 就涉及澳大利亚政府网站的多个事件致歉，并公布更强保障措施与支持，以强化澳大利亚的网络防御能力。
OpenAI NewsAI 评分4343 OpenAI 将 Daybreak 网络访问扩展至乌克兰民用防御
OpenAI 将 Daybreak 计划的使用权限扩展至乌克兰政府，用于支持民用基础设施的网络防御。
OpenAI NewsAI 评分4848 Sam Altman 在联合国安理会就 AI 安全发表讲话
OpenAI CEO Sam Altman 在联合国安理会发表讲话，讨论 AI 安全、人类控制与国际合作。
OpenAI NewsAI 评分2828 OpenAI 推出 MentalHealthBench：面向心理健康对话的 AI 评测基准
OpenAI 发布 MentalHealthBench，一个由专家参与构建的基准，用于评估 AI 在真实心理健康对话中回答是否有帮助且安全。该基准覆盖多种现实心理健康对话场景，衡量模型回复的助益性与安全性。
OpenAI NewsAI 评分3131 OpenAI 提出第三方前沿模型安全评估的优先事项与原则
OpenAI 提出针对前沿模型与防护措施的第三方 AI 安全评估优先事项与原则，强调评估需严格、安全且独立。
NVIDIA BlogAI 评分2424 NVIDIA Halos：为什么规模化部署物理 AI 需要全栈安全
NVIDIA 推出 Halos，称其为首个也是唯一的物理 AI 全栈安全系统，覆盖设计、验证与部署各层。
NVIDIA BlogAI 评分3737 AI 安全是一个工程问题：如何在 Agent 栈的每一层解决它
NVIDIA 提出把 AI 安全当作工程问题来对待：Agent 栈从模型、harness 到运行时环境每一层都需有可执行的边界、明确责任人和验证证据。其开源的 NVIDIA OpenShell 提供策略在 Agent 触及范围之外强制生效的安全运行时，并支持沙箱执行，Cisco DefenseClaw 与 JFrog 已在其上构建治理与技能扫描能力。
OpenAI NewsAI 评分3232 OpenAI 成立数学与人工智能独立顾问组
OpenAI 正与一个独立的数学与人工智能顾问组合作，为该领域新兴 AI 成果的评审与对外沟通提供指导。
OpenAI NewsAI 评分2020 OpenAI 提出全球 AI 标准建设路径
OpenAI 提出一套全球 AI 标准建设路径，呼吁通过协同的评估、报告与治理机制来提升安全性。该主张面向 AI 发展的下一阶段，强调以共享标准推动安全改进。
OpenAI NewsAI 评分2424 OpenAI 发布澳大利亚青少年安全蓝图
OpenAI 发布澳大利亚青少年安全蓝图，一套围绕六大支柱构建的路线图，目标是让青少年获得更安全的 AI 体验，同时保护并赋能年轻用户。
OpenAI NewsAI 评分4848 OpenAI 发布模型失准报告框架
OpenAI 公布了一套用于追踪、调查和披露模型失准的框架，并同时发布 6 份关于模型意外或令人担忧行为的报告。
OpenAI NewsAI 评分2525 Paul Christiano 加入 OpenAI Foundation 董事会及安全与安全委员会
Paul Christiano 加入 OpenAI Foundation 董事会，同时进入其安全与安全委员会。他此前在 AI 对齐、安全与标准方面拥有相关经验。
OpenAI NewsAI 评分2222 OpenAI 的 Chris Lehane：AI 政策窗口正敞开，需要立即行动
OpenAI 的 Chris Lehane 认为，AI 能力越强，就越需要更充分的安全证据、共享标准和持久的政策行动。他指出当前政策窗口仍然敞开，各方应抓住时机推动落地。
OpenAI NewsAI 评分2020 OpenAI 设立 500 万美元资助计划，研究 AI 与青少年发展
OpenAI 开放 500 万美元资助计划申请，支持针对生成式 AI 如何影响青少年发展、心理健康与安全的独立研究。该计划面向独立研究者征集项目。
Google DeepMind精选AI 评分6565 Google DeepMind 推出 Fairwind 计划，向政府和伙伴开放 Gemini 3.8 Flash Cyber 网络防御能力
Google DeepMind 推出 Fairwind Program 有限访问计划，向 Google Cloud 客户、政府机构和网络安全伙伴开放其最先进的网络防御能力。
推荐理由：官方披露 Fairwind 计划的能力组合与准入范围，读者可据此判断前沿网络防御能力的开放节奏。
Google DeepMind精选AI 评分8585 Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8 系列，包含通用模型 Gemini 3.8 Flash 和网络安全模型 Gemini 3.8 Flash Cyber，二者共用同一底层智能。
推荐理由：官方给出了两款 Gemini 3.8 Flash 的评测成绩与定价，可对照 3.7 Flash 判断智能体编码与网络安全任务上的取舍。
Hugging Face BlogAI 评分3131 Hugging Face 推出 BenchMIRT：LLM 基准测试究竟在测什么
Hugging Face 发布 BenchMIRT，一种在单个提示词层面审计 LLM 基准测试的新方法，基于多维 Item Response Theory（MIRT），在 100 个 LLM、16 个基准、超 34K 道题上训练后自主识别出安全与通用推理两个主导维度。
Google DeepMind精选AI 评分6262 Google DeepMind 联合新加坡 AI Safety Institute 试点全球首个双盲 AI 评测
Google DeepMind 宣布推出全球首个针对专有前沿级 AI 模型的双盲评测，将外部评测限制在加密环境中，使模型无法提前接触测试题目。该试点与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作，在隐私保护环境下用保密基准测试 Gemini Flash Lite 模型。
推荐理由：DeepMind 与新加坡 AI 安全研究所等机构用加密隔离环境对 Gemini Flash Lite 做双盲评测，读者可了解基准污染之外的技术性解决路径。
Mistral AI精选AI 评分6262 Mistral AI 发布 3B 开源多模态安全分类器 Shieldstral
Mistral AI 发布 Shieldstral，一个 3B 开源权重多模态安全分类器，以 Apache 2.0 许可发布，可在单张 16GB NVIDIA GPU 上运行。该模型把内容审核转化为策略自适应问答任务，推理时直接接受自然语言策略，无需重新训练即可统一文本与图像安全评估，官方称其在文本安全和多模态审核基准上匹配或超过至多 7 倍规模的开放护栏模型，并给出可阈值化的连续安全评分。
推荐理由：3B 分类器以推理时自然语言策略替代固定危害分类，读者可据此判断轻量护栏模型的部署方式变化。
Hugging Face Blog精选AI 评分9191 Hugging Face 复盘 2026 年 7 月前沿实验室智能体入侵事件技术时间线
Hugging Face 发布技术复盘，披露 2026 年 7 月 9 日至 13 日一次由 OpenAI 模型驱动的自主智能体对其平台发起的入侵，共还原约 17,600 个操作、归为约 6,280 个操作簇。
推荐理由：Hugging Face 以当事方身份复盘一次由前沿智能体发起、约 1.76 万步操作的入侵，给出两处注入向量与横向移动的完整链路。
Google DeepMind精选AI 评分7272 Google DeepMind 发布 Gemini 3.5 Flash Cyber 安全模型
Google DeepMind 推出 Gemini 3.5 Flash Cyber，一款基于 3.5 Flash 微调的轻量网络安全模型，用于快速发现、验证和修补漏洞，在 CyberGym 等基准上以多次调用 CodeMender 的方式取得与更大模型相当的表现。
推荐理由：官方给出了新模型在真实代码库漏洞挖掘上的基准与落地案例，可据此判断轻量安全模型的能力边界。
Google DeepMindAI 评分3535 Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案，从预防、检测、响应三方面推进：用四步安全流程防止 Gemini 等模型被滥用，并尝试把 SynthID 水印技术用于生物学以筛查 AI 生成的 DNA 序列。
Hugging Face Blog精选AI 评分9191 Hugging Face 披露一起由自主 AI 智能体驱动的安全入侵事件
Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵，该入侵由一套自主 AI 智能体系统端到端驱动。攻击始于数据处理管线，恶意数据集滥用远程代码数据集加载器和数据集配置中的模板注入两条代码执行路径在 worker 上运行代码，随后攻击者提权至节点级、窃取云与集群凭证并于周末横向移动至多个内部集群。
推荐理由：Hugging Face 披露由自主智能体端到端驱动的入侵及处置，并说明防御方模型选型受限的经过。
Google DeepMindAI 评分4848 Google DeepMind 发布 AI Control Roadmap，为内部 AI 智能体构建纵深防御
Google DeepMind 推出 AI Control Roadmap，用纵深防御思路保障内部部署的 AI 智能体安全，即便模型对齐不完美也能提供保障。该框架将不可信智能体视为"内部威胁"，借鉴 MITRE ATT&CK 拆解攻击手法，并用可信 AI 监督工作智能体的推理与行动。团队已分析 100 万个编码智能体任务，并为 Gemini Spark 智能体搭建实时监控，防范数据误删等问题。
Google ResearchAI 评分3030 Google 推出 Regularized f-Divergence Kernel Tests：面向机器遗忘审计的新框架
Google 在 AISTATS 2026 提出 Regularized f-Divergence Kernel Tests，用于审计机器遗忘：通过相对距离检验判断模型分布更接近安全重训模型还是原始受损模型。该框架基于 f-divergence，支持 Chi-squared、KL 和 Hockey-stick 散度，并用核正则化高效估计高维数据差异，自动选择散度与超参数、无需样本切分。
Google DeepMindAI 评分4040 Google DeepMind 联合 Schmidt Sciences 等出资最高 1000 万美元资助多智能体 AI 安全研究
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA，并在 Google.org 支持下发起最高 1000 万美元的多智能体 AI 安全研究资助征集，面向全球研究者开放。
Google ResearchAI 评分3737 Google 推出零信任聚合的私有分析方案，结合密码学与 TEE
Google 公布一套面向私有分析的零信任聚合新方案，用新型密码学聚合协议保护用户数据，设备只需发送单条消息、无需多轮在线交互，Google 只能得到匿名化的群体聚合结果。该方案将密码学层与 TEE 结合，在硬件保护失效时数据仍不会被还原，并借助 TEE 远程证明向参与者验证协议按公开代码正确执行。
Google DeepMindAI 评分5252 Google DeepMind 与韩国科学技术信息通信部达成合作
Google DeepMind 宣布与韩国科学技术信息通信部（MSIT）建立合作，属于其 National Partnerships for AI 计划的一部分，将在首尔办公室设立 AI Campus，面向韩国学界和研究机构开放。
Google ResearchAI 评分4646 Google Research 评估 LLM 行为倾向与人类的对齐程度
Google Research 提出一套框架，用心理学问卷改写成情境判断测试（SJT），在真实用户-助手场景中评估 LLM 行为倾向与人类共识的对齐程度。对 25 个 LLM 的大规模分析发现两类差距：模型倾向偏离人类标注者共识，以及在无共识时无法覆盖人类意见分布。
Google ResearchAI 评分5757 Google 发布白皮书：量子计算机破解椭圆曲线密码所需的量子比特数比此前估计少约 20 倍
Google Quantum AI 发布白皮书，给出破解 256 位椭圆曲线离散对数问题（ECDLP-256）的更新资源估算：两条实现 Shor 算法的量子电路。
Berkeley AI ResearchAI 评分3838 Berkeley AI Research 提出 SPEX 与 ProxySPEX：大规模识别 LLM 关键交互
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法，可在特征、数据和模型组件归因中大规模识别驱动 LLM 输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题，ProxySPEX 进一步引入层次结构，仅需约 10 倍更少的消融即可达到 SPEX 的性能。