9月30日产品亮相时,外界的不满情绪相当直接:免费体验仅开放25.6万token的上下文长度,百万token的窗口需要付费才能使用,而开源更是被列为“未来计划”——先吸引用户、再发布模型权重,这一顺序激怒了不少人。
10月15日,蚂蚁集团履行了承诺:Ling-3.1-flash的模型权重正式开源,FP8检查点以MIT许可协议上传至Hugging Face和ModelScope,同时仓库中提供了SGLang、vLLM的部署方案。
先看参数:560B的总规模,25B的计算成本
Ling-3.1-flash是一款典型的“大参数量、小激活量”MoE模型:共有72层、512个路由专家,每个token仅激活其中8个,激活参数约为25B——仅占总参数的二十二分之一。它采用混合线性架构,官方标称最高支持100万token的上下文长度。
这一设计的意图很明确:推理成本取决于激活参数,而模型能力上限则由总参数决定。用25B的成本,借助560B的“大脑”。上一代Ling-3.0-flash的参数为124B/5B,这一代这两个数字都提升了四五倍,并加入了混合推理模式。
部署策略:为何敢将专家压缩至4-bit
此次开源中最具技术含量的部分,是一套混合量化方案:
该策略的逻辑清晰:512个路由专家占据了参数的绝大部分,而MoE专家本身是稀疏激活的,对量化的敏感度相对较低,压缩至MXFP4后损失可控;密集层每个token都需要经过,是模型的“主干道”,因此保守地保留在block-FP8。两者结合后,权重占用减少了45%,服务部署在官方测试配置中从8张显卡降为4张。
需要冷静看待的是,官方也明确表示:实际所需显卡数量会根据上下文长度、并发量和服务配置而变化,4张显卡是在特定测试条件下的数值,不能直接作为采购依据。另一个社区已发现的细节是:仓库中发布的配置max_position_embeddings为262,144,“百万上下文”目前仅写在模型卡的目标栏中——今天可验证的是256K这一档。
跑分表现:官方榜单之外,听听实际使用者的说法
第三方数据方面,Artificial Analysis给出的智能指数为41,输出速度约为每秒210个token,评价是“在高频业务场景中智能与效率兼备”。Kilo Code的定价为输入每百万token $0.30、输出$0.90,缓存读取$0.06——属于典型的执行层定价。
厂商自报的分数需要特别注意:Terminal-Bench 4、SWE-bench Pro等成绩都是在百灵自家的LingCode框架上跑出的——该框架基于开源编码智能体Pi改造,而LingCode本身尚未开源。使用未开源的测试工具得出的分数,其他人暂时无法复现。
独立使用者的反馈更加立体。MindStudio的实测显示,它在SQL调优上能单点命中最高影响的修复方案,单次生成的SVG质量不错,模拟急救医疗问答时结构完整;但在需要长链条工具调用的复杂Agent任务中——例如从Blender到Godot搭建一个完整的游戏管线——结果是“能跑完,但游戏是坏的”。低资源语言同样是其短板。
信号:开源战场在同一天撞车
10月15日这一天格外拥挤:英伟达开源了主打“始终在线”Agent的Nemotron 3.5 Super VL,阶跃星辰放出了600B的Step 5 Preview权重,蚂蚁集团开源了Ling-3.1-flash。三家在同一天出手,指向同一块阵地——能部署在自有基础设施中的Agent执行层。
合理的推测是,竞争的计量单位正在从“跑分”转向“每张显卡每天能完成多少任务”。蚂蚁这张牌的差异化优势在于:医疗沟通、办公、研发等蚂蚁自有业务所训练出的场景能力,加上一套从量化到长上下文并行的完整部署方案。能否成功,取决于LingCode何时开源,以及4张显卡的配置在真实业务并发下能否稳定运行。
公开资料的边界需要说明:百万上下文是目标值而非当前配置,官方跑分无第三方复现,量化方案的精度损耗数据尚未随仓库公布。
权重已经发布。剩下的问题,将由开发者自己的任务给出答案。
本文来自微信公众号“AI唱反调”,36氪经授权发布。

评论与讨论