热点事件持续更新
Exa在AWS AI芯片上优化嵌入吞吐提升50%
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
2026年11月19日,AWS机器学习博客披露,Exa借助AWS AI芯片将嵌入吞吐提升约50%(约1.5倍),用于支撑数十亿级网页文档的语义索引。优化在AWS Inferentia2与Trainium2上进行,措施包括权重布局调整、autocast降精度(输出与参考的余弦相似度达0.999)、NKI注意力kernel,以及自研weight-stationary融合SwiGLU MLP kernel以消除HBM读写停顿。目前该优化已用于数十亿文档索引场景。
AI 根据报道生成 · 19 小时前更新
最新进展11月19日 07:58
Exa在Inferentia2与Trainium2上优化嵌入,吞吐提升约50%。报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AWS Machine Learning BlogExa 借助 AWS AI 芯片将嵌入吞吐提升 50%,支撑数十亿文档索引
Exa 在 AWS Inferentia2 与 Trainium2 上把嵌入吞吐提升约 1.5 倍(50%),用于支撑数十亿级网页文档的语义索引。优化包括权重布局调整、autocast 降精度(输出与参考的余弦相似度达 0.999)、NKI 注意力 kernel,以及自研 weight-stationary 融合 SwiGLU MLP kernel 消除 HBM 读写停顿。
本事件热度走势
当前热度 6·可比范围峰值 10(11月19日 09:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。