TG首页 › 资讯 › 查看内容

NVIDIA发布Nemotron 3.5:开放模型竞争转向企业智能体与本地部署

思聪网 TechGG.com消息,NVIDIA于10月15日发布Nemotron 3.5 Super VL及Bolt系列模型,将开放模型的部署范围进一步延伸至企业服务器、工作站和边缘设备。

其中,Super VL拥有1200亿总参数,重点处理文档、图表、视觉信息及多步骤工具调用;Bolt 74B-A9B通过量化将模型压入24GB内存,面向本地智能体。两款模型已开放,更小的Bolt E4B计划于10月23日推出。

这次更新体现出一种更具体的产品分工。企业处理大量文件和业务流程,需要能够理解多种资料的模型;个人电脑和嵌入式设备,则更在意内存占用、响应速度和持续运行成本。模型厂商开始围绕这些条件设计产品,而不是只提供一个规模不断扩大的通用模型。

Super VL瞄准的典型问题,是业务资料并不总以纯文本存在。发票、报告和网页可能同时包含表格、图片及版式信息。模型如果能够在同一流程中读取这些内容,就有机会减少文字识别、视觉分析与语言推理之间的系统切换。

Bolt的意义则在部署端。压缩后的模型可以让部分任务留在本地执行,降低对网络和外部接口的依赖。不过,能够装进24GB内存,不代表完整智能体只需这些资源。上下文缓存、工具、浏览器和其他应用,也会占用设备能力。

开放权重与定制工具,为企业调整模型提供了空间。真正形成效果,还需要准备业务样本、设计评测,并处理模型更新后的回归问题。私有部署提供控制权,同时也把一部分维护责任交给了用户。

NVIDIA公布的速度和能力优势,仍应结合测试条件理解。企业更需要比较的是,一项完整任务经过重试和审核后,最终消耗多少时间与费用。

Nemotron 3.5的竞争重点因此落在“适合在哪里运行、能够稳定完成什么”。后续采用规模,将取决于这些模型能否帮助开发者减少工程负担,并在真实流程中保持可靠表现。

分享到
发表评论

最新评论0

思聪网微信公众号二维码 微信扫码关注思聪网
返回顶部