当前位置:首页 >  科技 >  互联网 >  正文

蚂蚁开源560B的Ling-3.1-flash,每百万token约0.19美元

 2026-10-16 16:10  来源: 互联网   我来投稿 撤稿纠错

  一键部署OpenClaw

A5站长网10月16日消息,蚂蚁百灵团队开源了Ling-3.1-flash,总参数约5600亿,每个token激活约250亿,上下文窗口最高支持100万token。权重已经上传到Hugging Face与ModelScope,可以直接下载。

参数结构上它走的是MoE架构,配合线性注意力做混合。每8层里有7层是线性注意力、1层是门控注意力;一共512个路由专家,每个token选8个,外加1个共享专家。这种设计的直接好处是推理成本压得低,每次只激活一小部分网络。

官方给的场景定位是真实可用,也就是把模糊的业务需求更快变成能交付的结果。文档、表格、网页、代码这几类环境它都能跑,可以生成Excel和PPT,也能读旧代码、写新功能、按测试结果继续修正。蚂蚁内部已经把它接进了桌面协作智能体。

评测数据分几块。办公任务基准GDPVal-AA V2.1上拿到1673分,医疗场景基准HealthBench Professional得65.35分,软件工程和终端操作两个基准上也展示了处理复杂工程任务的能力。第三方评测机构Artificial Analysis的记录里,它的智能指数是41,输出速度约每秒210个token。

价格是它最直接的卖点。混合调用成本落在每百万token约0.19美元这一档,又快又便宜。为了降低部署门槛,团队对路由专家用了MXFP4量化,稠密层仍走block-FP8,权重占用从约534GB压到292GB;对应的GPU测试配置里,服务部署从8卡降到4卡。

开源许可是MIT,任何人都可以下载、修改,并在商业产品里使用,不需要额外付费或签协议。百灵这条线此前已经在做多设备验证:服务器上单台机器能跑flash版本驱动编码智能体,个人电脑上16GB的MacBook Air能跑tiny版本,移动端也有适配。这一系列放到Hugging Face上之后,最近30天的下载量快到100万次。

这份开源的分量,主要不在参数大小上。5600亿的规模在国内开源模型里不算最大,但它把便宜和能干活这两件事同时摆到了台面上,单价压到每百万token不到两毛钱,同时把办公、医疗、软件工程几个场景的分数一起给出来。需要留一句的是,这些分数都是蚂蚁自己的口径,目前还没有独立的第三方评测。权重放出来之后,能不能经得住别人复现,才是它值不值钱的答案。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
开源模型
ai技术

相关文章

  • Opus5.5极速版全面解禁,等待名单取消价格还降了

    A5站长网10月16日消息,Anthropic把ClaudeOpus5.5的极速模式正式从研究预览阶段放了出来,取消等待名单。开发者现在不用申请、不用带测试版请求头,在API请求里加一行参数就能开启。这项功能在预览期只对申请通过的用户开放,等待名单一度排得很长。极速模式不是缩水版。Anthropic

  • Meta开源816B大模型,两台Mac Studio就能在桌面跑起来

    A5站长网10月16日消息,Meta在官方博客把MuseSparkOpen的模型权重放了出来,这是一款开源大模型。这家公司给它的定位是迄今能力最强的美国开放权重模型。它是原生多模态模型,总参数8160亿,每个token激活420亿,上下文窗口100万token,目标场景是编程和智能体任务。真正让人意

    标签:
    ai技术
    ai智能
  • APUS开源Reflex Agent,把智能体的决策交给一个小模型

    10月13日,APUSAI宣布把自家的个人智能体ReflexAgent开源出来。这家公司还有一个中文名,叫麒麟合盛,此前更多以出海工具类产品为人所知。这次放出来的东西是一套完整的智能体运行框架,采用MIT协议,同时提供桌面端、网页端和SDK三种形态。它的做法和当下主流方案有一处明显分歧。常见的智能体

    标签:
    ai技术
    ai智能
  • AI初创公司元环智能四个月连拿两轮数亿元

    10月15日,AI初创公司元环智能宣布完成连续两轮融资,合计金额为数亿元。种子轮由顺为资本领投,跟投方有上海未来产业基金,还有星连资本与君礼资本;种子+轮的投资方里,既有上海半导体产投和360战投这类产业方,也有首程资本这类机构,加上上海的人工智能产业系列基金等国资背景方,还有云时资本、山行资本、B

    标签:
    ai技术
  • OpenCode白送DeepSeek V4.1 Flash:200K上下文,但TPS先劝退一批人

    10月15日,OpenCode宣布DeepSeekV4.1Flash现已在其平台免费提供,免费版实测支持200K上下文窗口,相比1M上下文版本有所降低。此次免费开放是在此前“OperationCheepseek”计划基础上的进一步动作。据公开信息,今年9月OpenCode曾把V4.1Flash在Op

    标签:
    ai智能
    ai技术

热门排行

信息推荐