腾讯混元开源端到端投机解码框架 AngelSpec，支持训练与部署。在 Hy3-A21B 模型上，其 DFly 方案相比自回归解码实现 1.98-2.40 倍端到端加速，吞吐量比 DFlash 高 10.5-11.8%。训练代码及 Hy3-A21B MTP/DFly 草稿模型权重已开源。
查看原文：https://x.com/TencentHunyuan/status/2082447023626944936
来源：X：腾讯混元 (@TencentHunyuan)
未经允许不得转载：AI之家 » 腾讯混元开源 AngelSpec 投机解码框架
