跳到正文
北京时间
原文
蚂蚁百灵:Developer Blog·· 5 天前精选AI 评分65

蚂蚁百灵开源 Ling-3.1-flash:总参数约 560B、每 Token 激活约 25B,支持 1M 上下文

Ling-3.1-flash 正式开源:让真实业务需求更快变成可用成果

AI 导读

蚂蚁百灵正式开源 Ling-3.1-flash,权重可在 Hugging Face 和 ModelScope 获取。模型总参数约 560B、每 Token 激活约 25B、最高支持 1M 上下文;经 MXFP4 与 block-FP8 量化后权重占用从约 534GB 降至 292GB,Hopper GPU 测试中服务部署由 8 卡降至 4 卡。

推荐理由

官方开源公告给出权重入口、Artificial Analysis 与 Design Arena 评测数据和 4 卡部署实测,便于评估自部署可行性。

正文

企业把模型接入业务,要回答两层问题:

  • 模型能否把不完整的需求推进成可用成果;
  • 能否部署在自有基础设施中,以可接受的等待时间和算力成本持续提供服务?

今天,蚂蚁百灵正式开源 Ling-3.1-flash,让团队能够在自己的任务和算力环境中,检验模型能力与推理效率。

图

从真实需求出发:把目标推进为成果

百灵在 9 月30 日发布 Ling-3.1-flash  时,就把模型放到办公、医疗沟通和软件研发等场景里:面对分散资料,它可以协助整理报告与汇报材料;面对零散症状,帮助梳理病史和就诊问题;面对旧代码,能够读懂原有实现、编写新功能,并依据测试结果继续修正。

这次开源,百灵希望更多团队能够在自有环境中部署和接入 Ling-3.1-flash,把这些场景能力融入自己的业务流程,更灵活地服务真实需求。

让高频业务调用兼顾能力、速度与成本

企业知识助手和代码助手经常要连续处理资料、生成内容,并根据反馈修改结果。模型既要具备处理这些任务的通用能力,也要让多轮调用保持足够快的响应。在 Artificial Analysis 的公开评测 中,Ling-3.1-flash 的智能指数为 41、输出速度约为每秒 210 Token,面向高频业务场景提供智能指数与生成效率的双重能力。

图

图 1 Artificial Analysis:智能指数与输出速度

当模型需要持续处理大量请求,团队还要估算调用预算。Ling-3.1-flash 的混合调用价格约为每百万 Token 0.19 美元,在图示对照模型中位于较快输出、较低价格区间,面向高频调用场景提供生成效率与成本优势。

图

图 2 Artificial Analysis:输出速度与价格

从需求生成界面、视觉素材与交互原型

产品团队要验证一个想法,往往需要先看到页面布局和交互方式。Ling-3.1-flash 可以根据需求生成 React Native 移动应用的界面与组件初稿,让产品和研发围绕具体页面继续调整。在 Design Arena 的 Open Weights(开放权重模型) 分类评测中,Ling-3.1-flash 在数据可视化、React Native 移动应用、3D 设计和游戏开发四个方向均位列第三,并在 SVG 生成和网站制作方向分别位列第四和第五(图 3)。这组公开评测结果,为模型在移动应用、交互图表、三维场景、游戏原型、矢量素材及网站构建等多种场景中的生成能力提供了参考。

图

图3 Design Arena Open Weights 分类榜单

更多场景:让创意形成可运行的初稿

营销团队需要快速搭建活动页面,产品团队要把移动应用想法变成可讨论的界面,设计团队需要可继续调整的图形素材。Ling-3.1-flash 可以根据文字需求辅助生成营销页面、SaaS 界面、React Native 移动应用页面和可编辑的 SVG 素材,也能制作 Web 3D 交互原型与轻量化 H5 游戏。下面的视频选取部分示例,展示模型如何将想法转化为可以继续打磨的初稿。

🎬 视频演示(见原文)

模型能推进任务之后,还要能用企业现有算力提供服务。Ling-3.1-flash 总参数约 560B,每个 Token 激活约 25B,最高支持 1M 上下文。针对本地部署,团队对 routed experts 采用 MXFP4 量化、dense 层保持 block-FP8,权重占用从约 534GB 降至 292GB。在对应的 Hopper GPU 测试配置中,服务部署由 8 卡降至 4 卡,让具备服务器级 GPU 的团队以更少卡数运行模型;实际需求仍随上下文、并发量和服务配置而变。

针对长资料处理,团队提供长上下文并行推理方案(PCP/DCP);工具调用也加强了对 JSON Schema 的支持,方便与现有业务接口对接。

企业知识问答、办公助手常要先读取较长资料,用户仍希望尽快看到回复。团队通过算子融合与 DSpark 投机解码减少推理开销:在平均输入约 25.47K Token、输出约 224 Token、缓存命中率为 76% 的模拟生产请求中,8 卡 Hopper 配置下的平均首 Token 时间为 604 毫秒,相邻输出 Token 平均间隔为 3.28 毫秒。这为长资料输入后的交互响应提供测试参考。

持续提供服务的业务系统,还需要在固定 GPU 预算内评估单实例能承接多少请求。在平均输入约 8.5K Token、输出约 800 Token 的 4 卡 Hopper 吞吐测试中,模型达到约 1.36 QPS,同时满足首 Token 时间 P50 小于 3 秒、相邻输出 Token 间隔 P90 小于 70 毫秒的测试约束。这为自有部署的容量规划提供参考。

Ling-3.1-flash 在对应测试配置中的服务卡数降至 4 卡。面向不同设备与运行框架,还需要社区继续适配。上一代 Ling 3.0 系列已有具体实践:

社区还提供 Flash GGUF 、Tiny GGUF 、Flash MLX 4bit 、Tiny MLX 4bit 、Flash NVFP4 ,以及 Flash-Fin 、Flash-VL  的 GGUF 适配,方便按设备和推理框架选择。

百灵团队根据 Hugging Face 公开仓库的下载读数估算,截至 2026 年 10 月 14 日,Ling 3.0 系列官方模型及社区适配仓库的近 30 天滚动下载计数接近 100 万次。社区讨论 中,开发者认可多工具调研体验,也提醒复杂代码仍需检查。感谢大家持续试用与分享;这些实践为 Ling-3.1-flash 开源后的业务应用提供了参照。

Ling-3.1-flash 目前提供限时 2.5 折优惠。欢迎通过如下入口体验和使用模型,在具体任务中验证效果。

需要在自有环境部署的开发者,可前往 Hugging Face 或 ModelScope 获取开源权重,查看模型说明。

活动价格(每百万 Token):

  • OpenRouter(美元计价): 输入 $0.30 $0.075;输出 $0.90 $0.225;缓存读取 $0.06 $0.015。
  • Ling Studio(人民币计价): 输入 ¥2 ¥0.5;输出 ¥6 ¥1.5;缓存读取 ¥0.4 ¥0.1。

各渠道的优惠时间和实际计费以平台页面为准。

图

图

来源:蚂蚁百灵:Developer Blog · developer.ant-ling.com