AI INSIGHT

蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming

前沿资讯 vLLM 官方博客 2026-10-22 08:00
AI 摘要

蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming，仓库为 github.com/vllm-project/humming。

蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming，仓库为 github.com/vllm-project/humming。

来源：vLLM 官方博客
阅读原文