跳到正文
原文
Hugging Face Blog·· 18 小时前精选AI 评分66

Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 宣布接入原生 PyTorch 后端 TorchTPU,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,模型通过 device_map="tpu" 或 pipe.to("tpu") 加载,不再需要 torch_xla 或 Optimum TPU。

推荐理由

原文给出了安装命令、各库的接入方式和实测吞吐数据,读者可据此判断 PyTorch 在 TPU 上的迁移成本。

来源:Hugging Face Blog · huggingface.co