TechCrunch · AI· Aditya Mehta·· 4 小时前AI 评分55
Goodfire 推出内部探针监控，拦截失控 AI 智能体
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读
Goodfire 发布了一种在模型内部运行的监控方案，通过探针读取模型自身的中间激活来发现风险，目前已向 Baseten 客户开放。在 Kimi K3 上监控约 1500 个会话花费约 51 美元，而用另一个 AI 模型逐步检查需 233 美元，顶级模型则约 1 万美元。
来源：TechCrunch · AI · techcrunch.com