Hugging Face Blog·· 18 小时前AI 评分59
PyTorch 2.15 为 MPS 后端带来 FP8 与更快的 LLM 解码
MPS in PyTorch 2.15
AI 导读
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 在 MPS 后端的更新,新增 torch.float8_e4m3fn 张量与 F.scaled_mm 支持,FP8 张量占用为 BF16 一半。
来源:Hugging Face Blog · huggingface.co