OpenAI 为何缺席英伟达牵头的智能体安全联盟
英伟达宣布成立由100多家公司组成的联盟,推动其 Open Agent Safety Platform 智能体安全技术,OpenAI、Amazon、Google、Apple 均未加入,而 Anthropic 是支持方。
英伟达宣布成立由100多家公司组成的联盟,推动其 Open Agent Safety Platform 智能体安全技术,OpenAI、Amazon、Google、Apple 均未加入,而 Anthropic 是支持方。
美国政府本周二上线官方 AI 聊天机器人 America.gov,由 Google 和 SpaceXAI 合作参与构建,目前较难被越狱。用户询问 Minecraft 时,它会输出约 1800 词的《End Poem》改写版,原诗由 Julian Gough 创作、在通关游戏后出现,因此并非模型幻觉。特朗普称 20 岁程序员 Edward Coristine 是该项目的首席工程师之一。
特朗普周二与二十余家科技公司达成自愿协议,企业承诺实施白宫建议的管控措施,包括接受独立安全审计,审查重点涵盖网络安全、生物安全、化学威胁以及 AI 模型意外行为等风险。
谷歌的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman。
美国联邦贸易委员会正就潜在消费者保护违规行为调查 OpenAI、Anthropic 等领先 AI 实验室。FTC 主席 Andrew Ferguson 计划通过具有法律约束力的“民事调查令”强制相关方移交文件并问询高管,命令预计数周内发出,调查在 Hugging Face 遭攻击事件之前就已启动。
推荐理由:从监管动作切入,可看到 AI 实验室在消费者保护与智能体责任上的合规压力如何升级。
Google 的 AI 贡献试点已吸纳约 100 家出版商,当网站内容对 AI Overview 等 Gemini 驱动的搜索结果有实质贡献时即可获得付费。但多家中小出版商反映,这笔收入仅约为其广告收入的千分之一,部分大型出版商已拒绝参与,希望以此迫使 Google 给出更优厚条件。
据 The Information 报道,Google 已启动试点项目,为内容被用于 AI 搜索功能的出版方付费,约 100 家出版方参与。该试点由 Digiday 最早报道,启动不到一年,Google 按出版方内容对 AI Overviews、AI Mode 以及 Gemini 聊天机器人的贡献程度付费。
特朗普昨日宣布的“有道德约束力”AI 安全协议全文公开,正式名称为《前沿责任联合承诺》(Joint Commitment on Frontier Responsibilities)。
Google 正为 AI Overviews、AI Mode 和 Gemini 聊天机器人使用的内容向约 100 家数字出版商付费,据 The Information 报道,部分小型和中型博客获得的费用不足其广告收入的 0.1%,有小型网站数月收入不到 1000 美元,另有一家出版商几个月获得 5 万至 6 万美元,还有一家年收入超过 100 万美元。
Anthropic 为 Claude Code 推出 Projects,单次对话可派生多个并行云端会话、在线程间传递上下文,用户离开后仍继续运行,本地工作流后续支持。
Steve Yegge 关停了 Gas Town,并承认每月花费数千美元订阅编码智能体,却只做出这一个项目。Databricks 向约 3500 名工程师铺开 GPT-6 Astra,表示其在复杂长周期任务上"明确"优于 Opus 5 / Sol 5.6,但整体编码支出增加约 60%。OpenAI 发布模型失准事件追踪与披露框架,并附上过去六个月的六份案例报告。
Emerald AI、Google 和 NVIDIA 宣布成立 AI 能源管理联盟(AEMA),推动数据中心根据电网状况动态调节用电。该联盟采取技术中立、基于性能的方式,聚焦响应速度、持续时间和紧急状态下的行为等可衡量指标,并要求在设施接入前明确穿越、限电与应急响应义务。
Google DeepMind 宣布推出全球首个针对专有前沿级 AI 模型的双盲评测,将外部评测限制在加密环境中,使模型无法提前接触测试题目。该试点与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境下用保密基准测试 Gemini Flash Lite 模型。
推荐理由:DeepMind 与新加坡 AI 安全研究所等机构用加密隔离环境对 Gemini Flash Lite 做双盲评测,读者可了解基准污染之外的技术性解决路径。
Google DeepMind 回顾从 Atari、AlphaGo 到 AlphaStar 的 15 年游戏 AI 研究,并宣布与游戏开发者合作探索新玩法。
多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了一个原型 AI 蠕虫,它利用被攻陷机器的 GPU 运行开放权重 LLM 维持推理,并据此发现漏洞、定制攻击并自我复制。
Google 在 DOE Genesis Mission Summit 2026 上宣布,为支持 Genesis Mission 投入 4000 万美元的 AI tokens 和云额度。
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,从预防、检测、响应三方面推进:用四步安全流程防止 Gemini 等模型被滥用,并尝试把 SynthID 水印技术用于生物学以筛查 AI 生成的 DNA 序列。
Google Research 在 Nature Cities 发表首个大规模真实世界研究,通过修改 Google Maps 算法将遇到预设拥堵路段的行程引导至耗时相近的替代路线,在 10 座美国城市开展为期六个月的实验。不足 2% 的行程收到改道建议,目标路段行驶速度中位数提升约 2%,油耗中位数下降 0.5% 至 1.0%,每座城市每年可减少数千吨 CO2e 排放。
Google DeepMind 与 A24 宣布达成首个聚焦研究的合作伙伴关系,双方将围绕多个项目展开长期研发协作,让 A24 的导演直接在创作流程中参与塑造新技术。Google 同时宣布对 A24 进行投资。该合作初期目标是连接前沿技术与下一代娱乐,具体目标、技术产出和创作里程碑将随时间演变。
Google DeepMind 正与英国政府、Google Cloud、Faculty 及 Barnet、Dorset、Camden 地方规划部门合作,基于 Gemini 共同开发 AI 规划原型工具,目标将房屋规划申请审批时间缩短 50%。
Google DeepMind 推出 AI Control Roadmap,用纵深防御思路保障内部部署的 AI 智能体安全,即便模型对齐不完美也能提供保障。该框架将不可信智能体视为"内部威胁",借鉴 MITRE ATT&CK 拆解攻击手法,并用可信 AI 监督工作智能体的推理与行动。团队已分析 100 万个编码智能体任务,并为 Gemini Spark 智能体搭建实时监控,防范数据误删等问题。
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA,并在 Google.org 支持下发起最高 1000 万美元的多智能体 AI 安全研究资助征集,面向全球研究者开放。
Google DeepMind 推出为期三个月的 Accelerator: Robotics 项目,从欧洲选出 15 家早期机器人初创公司,提供技术指导并开放 AI 技术栈与 Gemini 机器人模型。
Google Research 在 GitHub 上以 Apache 2.0 许可证开源其水文建模框架,让各国气象与水文机构能把 AI 洪水预报集成进自身工作流。
Google 公布一套面向私有分析的零信任聚合新方案,用新型密码学聚合协议保护用户数据,设备只需发送单条消息、无需多轮在线交互,Google 只能得到匿名化的群体聚合结果。该方案将密码学层与 TEE 结合,在硬件保护失效时数据仍不会被还原,并借助 TEE 远程证明向参与者验证协议按公开代码正确执行。
Google DeepMind 在亚太地区启动首个加速器计划,聚焦“AI for the Planet”,为期三个月,面向该地区初创公司、研究团队和非营利组织,用前沿 AI 解决自然、气候、农业、能源等问题。入选机构将获得专家指导、定制支持,以及 Google AI 专家协助把前沿 AI 和科学 AI 模型整合进其项目或产品。计划以在新加坡举办的线下训练营启动,现已开放注册意向。
Google DeepMind 与新加坡政府启动国家 AI 合作,在新加坡推出多项计划,覆盖医疗与生命科学、教育及可持续发展。合作探索 AI 辅助临床的「三方照护」模式,并借助 AlphaFold、Google Earth 等工具推进东南亚传染病研究与疫情防控,Google.org 为此出资 700 万美元。
Google DeepMind 的 Co-Scientist 帮助 MIT 机械工程师 Ritu Raman 快速梳理 ALS 相关文献,将想法转化为可检验假设并按可行性排序。其最优线索指向细胞表面分子交互,促成 Raman 与波士顿儿童医院化学生物学家 Ryan Flynn 合作,结合组织模型与 RNA 图谱寻找可用于靶向 ALS 的新型 RNA 机制及潜在 RNA 药物。
Google Research 称其开源工具与开放数据集已支持全球逾 25 万名研究人员和开发者。其基因组学工具 DeepVariant、DeepConsensus、DeepPolisher 助力社区处理了 250 万人的外显子组与全基因组,医学基础模型 MedGemma 下载量超 480 万次。
Google Research 科学家正用 Empirical Research Assistance(ERA)开展真实科研:为流感、COVID-19 和 RSV 每周提交全美各州、最长提前四周的住院预测,在流感与 COVID-19 公开排行榜上处于或接近首位。
Google DeepMind 宣布与韩国科学技术信息通信部(MSIT)建立合作,属于其 National Partnerships for AI 计划的一部分,将在首尔办公室设立 AI Campus,面向韩国学界和研究机构开放。
Google DeepMind 与 Accenture、Bain & Company、BCG、Deloitte、McKinsey 达成合作,推动前沿 AI 在企业级场景落地。合作三方包括:共同开发面向行业的规模化 AI 能力、让合作伙伴提前使用 Gemini 系列前沿模型并反馈优化、以及对接高层领导与客户 CEO 和董事会。目前仅 25% 的组织成功将 AI 规模化投入生产。
Google Research 在 The Check Up 活动上公布多项医疗 AI 进展:与 Fitbit 合作研究的 Personal Health Agent(PHA)在长期健康支持上优于单一任务应用。