跳到正文
Microsoft Research· Ganesh Ananthanarayanan, Matthew Balkwill, Xenofon Foukas, Sanjeev Mehrotra, Bozidar Radunovic, Connor Settle, Ankit Verma, David White, Shawn Cicoria, Mark Martin, Rachel Johnson, Mayur Patel·· 23 天前精选AI 评分62

微软研究院:把机器人推理卸载到边缘或云端可提升任务成功率与续航

Offloaded inference for real-world physical AI robotics

AI 导读

微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU,可提升任务成功率、支持更大模型并延长续航。

推荐理由

微软研究院系统测量了机器人端侧 GPU 推理的瓶颈,并给出把推理卸载到边缘或云端的开源工具链。

来源:Microsoft Research · microsoft.com