当前位置:首页 » AI资讯 » AI快讯

SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightning

2026-08-11 20

SGLang 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,该开源模型为 30B 总参数、3B 激活参数的混合专家架构,支持最长 1M token 上下文,可从 Hugging Face 下载 BF16 和 NVFP4 权重。模型支持 MTP、DFlash、DSpark 三种投机解码技术,并可通过 OpenAI 兼容 API 接入智能体工作流。

来源:LMSYS:Blog(Chatbot Arena 团队)

相关推荐

扫码关注

qrcode

联系我们

回顶部