您现在的位置是:热点 >>正文

蚂蚁百灵推出开源高效思考模型,推理成本大幅降低

热点739762人已围观

简介...

蚂蚁百灵大模型团队近日宣布,正式开源两款全新的高效思考模型:Ring-flash-l蚂蚁inear-2.0和 Ring-mini-linear-2.0。这些模型专为提高深度推理效率百灵而设计,同时发布的还有两款自主研发的高性能融合算子,分别是 FP8融合算子和线性 Attent推出ion 推理融合算子,旨在实现 “大参数、低激活” 的高效推理与超长上下文支持。

根据团队介开源绍,得益于架构的优化与高性能算子的协同工作,这两款新模型在深度推理场景下的成本仅为同高效等规模的密集模型的十分之一,而与之前的 Ring 系列相比,推理成本也降低了超过50%。这意味思考着,用户在进行复杂推理时,可以大幅降低计算资源的消耗,提升工作效率。

新模型的优势不仅在模型于成本的降低,另外一个重要因素是其训练与推理引擎算子的高度对齐。这种对齐允许模型在强化,推学习阶段进行长周期、稳定且高效的优化,使得这些模型在多个高难度推理榜单中持续保持最佳表现(S理成OTA)。这无疑为使用者在需要进行复杂推理任务时提供了更强大的工具。

作为开源项目,Ring-本大flash-linear-2.0和 Ring-mini-linear-2.0已在多个平台上发布幅降,包括 Hugging Face 和 ModelScope。对此,开发者们可以在这些平台上获取蚂蚁更多信息并进行尝试。

随着这次开源,蚂蚁百灵大模型团队不仅展示了其在 AI 领域的技术实力,也百灵为广大开发者提供了更为高效的工具,助力他们在未来的 AI 开发与研究中取得更大的突破。

Tags:

相关文章

  • AI算法工程师的一些含泪经验

    热点

    前一段时间一直在优化部署模型。这几天终于来了需求,又要开始重操训练一些新模型了。趁着这次机会总结了下之前的一些训练模型的笔记,可能比较杂,抛砖引玉!当然这是不完全统计的经验,除了训练部分,还有很多部署...

    【热点】

    阅读更多
  • 标签: 豆包 抖音集团 鸡腿菇 大青褶伞

    热点

    云梦级6月5日云梦级消息,6月5日,针对“豆包误判蘑菇导致用户中毒”一事,抖音集团副总裁李亮在社交平台发文表示,豆包的同事联系上了当事用户,根据反馈,用户使用豆包拍照识别从小区摘到的蘑菇时,豆包识别为...

    【热点】

    阅读更多
  • 标签: LamResearch 泛林 半导体设备 财报

    热点

    云梦级4月24日云梦级消息,半导体制造设备供应商 Lam Research(泛林)美国加州当地时间 4 月 22 日宣布,其在 2026 年 3 月季度(截至 2026 年 3 月 29 日)实现 5...

    【热点】

    阅读更多


友情链接