跳到正文
千机 API
原文
Hugging Face Blog·· 21 小时前精选AI 评分82

PyTorch 2.15 为 MPS 带来 FP8、更快的模型解码和 Metal 内核

MPS in PyTorch 2.15

AI 导读

Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 的 MPS 改进:新增 FP8 支持,并为语言模型解码、线性代数、音频、视频和训练等工作负载加入更快的 Metal 路径。

推荐理由

PyTorch 2.15 将多项 MPS 运算迁移到 Metal,并给出模型解码速度与视频解码内存的实测对比,呈现 Mac 本地运行模型的具体变化。

来源:Hugging Face Blog · huggingface.co