![]() 思聪网 TechGG.com消息,西班牙公司Multiverse Computing于10月15日推出Comet 60B,将NVIDIA Nemotron 3.5 Super VL的总参数从1200亿压缩至600亿,同时保留文本、图片和视频处理能力。 该模型的激活参数仍为120亿。公司称,部分测试表现有所改善,其余所列测试与原模型的准确率差距控制在5%以内,并提供不同精度格式供开发者部署。 这项产品的切入点,是大模型应用中的一道现实门槛:能力足够的模型,未必能放进用户已有设备。 总参数影响权重存储和加载需求。减少参数,可以降低模型进入部署环境的门槛,让部分团队有机会使用更少的硬件。但由于激活参数没有同步减半,不能直接推导出每个Token的计算成本也降低50%。 Comet 60B所采用的流程,还涉及压缩后的能力恢复与再训练。删除冗余结构之后,模型可能损失知识或行为能力,需要通过后训练重新调整。模型压缩因此并非简单缩小文件,而是在体积、精度和任务表现之间重新寻找平衡。 多模态能力进一步增加了验证难度。文字问答保持准确,不代表图表理解、视频分析和工具调用也没有退化。企业需要分别检查自己的关键任务,尤其是低频但影响较大的错误。 “与原模型差距在5%以内”也应按具体测试理解。不同基准的分数含义并不相同,平均表现接近,仍可能掩盖某一类任务中的明显变化。目前相关结论主要来自公司披露,后续需要独立复现。 Comet 60B体现了开放模型生态中的一种新分工:基础模型团队提供能力,优化企业围绕部署效率开发衍生版本。商业机会能否成立,取决于客户是否能够在减少资源投入的同时,保持足够的业务质量。 思聪网注:Multiverse Computing(多元宇宙计算,参考译名)成立于2019年,总部位于西班牙圣塞巴斯蒂安,是一家专注于 AI 模型压缩、量子计算、量子启发式算法及 AI 推理优化的人工智能软件与量子计算技术企业。 |
© 2017-2026 思聪网 · TechGG.com 保留所有权利 基于 Discuz X8.8 设计 京ICP备14029665号-4
最新评论0