当前位置:首页 » AI资讯 » AI快讯

统一 Radix 缓存:为混合模型前缀缓存构建单一树结构

2026-08-11 21

LMSYS 团队提出 Unified Radix Cache,用单一 token 键控 radix 拓扑统一管理混合模型的 FULL、SWA 和 MAMBA 组件缓存,各组件独立执行路径、滑动窗口和检查点复用语义。

来源:LMSYS:Blog(Chatbot Arena 团队)

相关推荐

扫码关注

qrcode

联系我们

回顶部