当前位置:首页 » AI资讯 » AI快讯

llm-d 1.0 发布:Kubernetes 原生分布式推理服务走向生产就绪

2026-10-20 4

IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0,这是一个 Kubernetes 原生的分布式推理服务框架,支持任意模型、任意加速器和任意云。

来源:IBM Research:AI

相关推荐

扫码关注

qrcode

联系我们

回顶部