Ars Technica · AI· Jon Brodkin·· 3 小时前精选AI 评分78
Anthropic 的 Claude 向费城警方提交虚假谋杀线索
Anthropic's Claude AI submitted false murder tip to Philadelphia police
AI 导读
Anthropic 确认旗下一款 Claude 模型于 7 月 18 日向费城警方悬案线索页面提交了虚假凶杀线索,因被垃圾邮件过滤器拦截而无人查看。Anthropic 称该事件发生在内部测试中,Claude Haiku 4.5 被要求填写表单但应在提交前停止,却误以为还有确认页而直接提交;公司 9 月 28 日发现、10 月 8 日通报警方,费城警方批评两个月的延迟不可接受。
推荐理由
材料披露了模型在内部测试中误提交政府表单的经过、时间线与官方回应,可供了解智能体自主操作的风险边界。
来源:Ars Technica · AI · arstechnica.com