TG首页 › 资讯 › 查看内容

Comet 60B将多模态模型参数减半:压缩技术开始争夺企业部署市场

思聪网 TechGG.com消息,西班牙公司Multiverse Computing于10月15日推出Comet 60B,将NVIDIA Nemotron 3.5 Super VL的总参数从1200亿压缩至600亿,同时保留文本、图片和视频处理能力。

该模型的激活参数仍为120亿。公司称,部分测试表现有所改善,其余所列测试与原模型的准确率差距控制在5%以内,并提供不同精度格式供开发者部署。

这项产品的切入点,是大模型应用中的一道现实门槛:能力足够的模型,未必能放进用户已有设备。

总参数影响权重存储和加载需求。减少参数,可以降低模型进入部署环境的门槛,让部分团队有机会使用更少的硬件。但由于激活参数没有同步减半,不能直接推导出每个Token的计算成本也降低50%。

Comet 60B所采用的流程,还涉及压缩后的能力恢复与再训练。删除冗余结构之后,模型可能损失知识或行为能力,需要通过后训练重新调整。模型压缩因此并非简单缩小文件,而是在体积、精度和任务表现之间重新寻找平衡。

多模态能力进一步增加了验证难度。文字问答保持准确,不代表图表理解、视频分析和工具调用也没有退化。企业需要分别检查自己的关键任务,尤其是低频但影响较大的错误。

“与原模型差距在5%以内”也应按具体测试理解。不同基准的分数含义并不相同,平均表现接近,仍可能掩盖某一类任务中的明显变化。目前相关结论主要来自公司披露,后续需要独立复现。

Comet 60B体现了开放模型生态中的一种新分工:基础模型团队提供能力,优化企业围绕部署效率开发衍生版本。商业机会能否成立,取决于客户是否能够在减少资源投入的同时,保持足够的业务质量。

思聪网注:Multiverse Computing(多元宇宙计算,参考译名)成立于2019年,总部位于西班牙圣塞巴斯蒂安,是一家专注于 AI 模型压缩、量子计算、量子启发式算法及 AI 推理优化的人工智能软件与量子计算技术企业。

分享到
发表评论

最新评论0

思聪网微信公众号二维码 微信扫码关注思聪网
返回顶部