Hugging Face Blog·· 29 天前AI 评分31
TorchNeuron 性能剖析(上):在 AWS Trainium 上做系统级 profiling
Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.
AI 导读
Hugging Face 博客发布《Profiling TorchNeuron》系列第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 抓取干净的推理性能 trace。
来源:Hugging Face Blog · huggingface.co