当前位置:首页 » AI资讯 » AI快讯

vLLM 发布 vllm-metal v0.28.0:在 Apple Silicon 上支持并发推理服务

2026-09-23 3

vLLM 官方发布 vllm-metal v0.28.0,把 vLLM 的 V1 调度器、paged KV cache 和 OpenAI 兼容服务器带到 Apple Silicon,由 MLX 和 Metal 执行模型,版本号与上游 vLLM 对齐。

来源:vLLM 官方博客(RSS)

相关推荐

扫码关注

qrcode

联系我们

回顶部