蚂蚁集团旗下的百灵大模型团队最近在蚂蚁技术日上宣布了一项重磅消息:他们将全面开源统一多模态大模型Ming-lite-omni。这不仅是一次技术的开放,更是国内首个能在模态支持方面与GPT-4o媲美的开源模型。

220亿参数的硬核配置

Ming-lite-omni基于Ling-lite构建,采用MoE(专家混合)架构,拥有220亿总参数和30亿激活参数,这一参数规模在开源多模态模型中堪称顶级,展现了蚂蚁集团在大模型领域的深厚积累。

开源战略再进一步

今年以来,百灵团队已开源多个重要模型,包括Ling-lite、Ling-plus、Ming-lite-uni以及预览版Ming-lite-omni。其中,Ling-lite-1.5版本性能接近SOTA水平,成功验证了国产GPU在训练300B尺寸MoE大语言模型上的可行性。

性能比肩国际顶尖模型

Ming-lite-omni在多项评测中表现优异,性能与10B量级领先多模态大模型相当甚至更优。百灵团队负责人西亭表示,他们通过大量使用非高端算力平台,证明了国产GPU也能训练出媲美GPT-4o的模型,为全球开发者提供了新的选择和技术参考。

[hhw123pingdao]

温馨提示:
  • 请注意,下载的资源可能包含广告宣传。本站不对此提供任何担保,请用户自行甄别。
  • 任何资源严禁网盘中解压缩,一经发现删除会员资格封禁IP,感谢配合。
  • 压缩格式:支持 Zip、7z、Rar 等常见格式。请注意,下载后部分资源可能需要更改扩展名才能成功解压。
声明:
  • 本站用户禁止分享任何违反国家法律规定的相关影像资料。
  • 内容来源于网络,如若本站内容侵犯了原著者的合法权益,可联系我们进行处理,联系微信:a-000000