您现在的位置是:热点 >>正文

​IBM 发布 Granite 4.0 Nano 模型,突破小型 AI 模型的性能极限

热点24466345人已围观

简介...

近日,IBM 推出了四款新的 Granite4.0Nano 模型,这一系列模型的参数规模从350万到15亿不等,展示了公司在人工智能领域​I对高效与可及性的重视。与行业中大型模型普遍依赖云计算的趋势不同,Granite4.0Nano 模型可以在普通的笔记本电脑上运行,甚至可以在浏BM览器中本地运行。这使得开发者能够在不依赖云服务的情况下,构建适用于消费者硬件或边缘设备的应用。

所有 Granite4.0Nano 模型均在 发 Apache2.0许可下发布,适合研究人员、企业和独立开发者使用,且支持商业用途。这些模型与各种工具兼容,如 llama.cpp、vL布 LM 和 MLX,并获得了 ISO42001负责任 AI 开发的认证。

Granite4.0Nano 家族包括四款模型:Granite-4.0-GrH-1B(约1.5亿参数)、Granite-4.0-H-350M(约350万参数)、Granite-4.0-1B(接近2亿参数的变种)和 Grananite-4.0-350M(变种)。其中,H 系列模型采用混合状态空间架构,适用于低延迟的边缘环境,而标准的变压器模型则提供了更广泛的it兼容性。

尽管市场上已有许多小型语言模型,但 IBM 的 Nano 家族凭借卓越的性能脱颖而出。最新的基准测试显示,Granite4.0模型在e 多个领域的表现优于同类竞争对手。IBM 的研究团队表示,这些模型在指令跟随和功能调用任务中表现突出,并且在内存需求和运行速度上具有优势,能够4.在移动设备或 CPU 上流畅运行。

值得一提的是,IBM 不仅发布了这些模型,还积极与开发者社区进行互动,收集反馈并讨论未来的开发计划。Gra0 nite 团队在 Reddit 平台上与用户进行交流,展现了公司在推动开放源代码 AI 发展方面的努力。

huggingface:https://hNauggingface.co/blog/ibm-granite/granite-4-nano

划重点:

IBM 发布了 Granite4.0Nanono 模型,支持在普通硬件上运行,提升了小型 AI 模型的可用性。  

️ 所有模型均在 Apache2.0许可下发布,适合研究和 模商业用途,确保了开放性和兼容性。  

最新基准测试显示,Granite4.0模型在性能上超越同类产品,展现了高效型,的处理能力。

Tags:

相关文章



友情链接