Hugging Face Blog·· 23 小时前精选AI 评分60
Hugging Face 推出 TorchNeuron,让模型在 AWS Trainium 上原生运行
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face 发布 TorchNeuron,这是 AWS Trainium 上的 PyTorch 原生后端,10 月 20 日起进入公开测试,可通过 pip install torch-neuronx 安装。
推荐理由
Hugging Face 给出了 Trainium 原生后端的支持范围和与旧方案的能力对比,读者可据此判断迁移成本。
来源:Hugging Face Blog · huggingface.co