Microsoft Research· Ganesh Ananthanarayanan, Matthew Balkwill, Xenofon Foukas, Sanjeev Mehrotra, Bozidar Radunovic, Connor Settle, Ankit Verma, David White, Shawn Cicoria, Mark Martin, Rachel Johnson, Mayur Patel·· 8 天前精选AI 评分62
微软研究院提出物理 AI 推理卸载：机载 GPU 拖慢机器人，卸载到边缘或云端可提升成功率与续航
Offloaded inference for real-world physical AI robotics
AI 导读
微软研究院对移动操作机器人工作负载做了首个系统性研究，发现把物理 AI 推理从机载 GPU 卸载到本地或云端 GPU，能提升任务成功率、支持更大模型并延长续航。
推荐理由
微软研究院首次系统测量机器人推理负载，给出把推理从机载 GPU 卸载到边缘或云端的性能与续航数据，并开源相应工具链。
来源：Microsoft Research · microsoft.com