返回    放大 +    缩小 -
腾讯混元AI Infra核心技术开源:推理吞吐提升30%
推荐
9
利好
18
利淡
6
格隆汇新闻
2月4日|腾讯混元AI Infra团队正式推出开源生产级高性能LLM推理核心算子库 HPC-Ops。在真实场景下,基于HPC-Ops,混元模型推理 QPM 提升30%,DeepSeek模型 QPM 提升17%。同时,在单算子性能方面,HPC-Ops实现Attention相比 FlashInfer/FlashAttention 最高提升2.22倍;GroupGEMM 相比 DeepGEMM 最高提升1.88倍;FusedMoE 相比 TensorRT-LLM 最高提升1.49倍。
新闻来源 (不包括新闻图片): 格隆汇