Hugging Face Blog·· 21 小时前精选AI 评分82
PyTorch 2.15 为 MPS 带来 FP8、更快的模型解码和 Metal 内核
MPS in PyTorch 2.15
AI 导读
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 的 MPS 改进:新增 FP8 支持,并为语言模型解码、线性代数、音频、视频和训练等工作负载加入更快的 Metal 路径。
推荐理由
PyTorch 2.15 将多项 MPS 运算迁移到 Metal,并给出模型解码速度与视频解码内存的实测对比,呈现 Mac 本地运行模型的具体变化。
来源:Hugging Face Blog · huggingface.co