Hugging Face Blog·· 18 小时前精选AI 评分66
Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU
Hugging Face ❤️ TorchTPU: TPUs, Natively
AI 导读
Hugging Face 宣布接入原生 PyTorch 后端 TorchTPU,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,模型通过 device_map="tpu" 或 pipe.to("tpu") 加载,不再需要 torch_xla 或 Optimum TPU。
推荐理由
原文给出了安装命令、各库的接入方式和实测吞吐数据,读者可据此判断 PyTorch 在 TPU 上的迁移成本。
来源:Hugging Face Blog · huggingface.co