🤖
🤖
核心导读
英伟达推出Nemotron 3.5 Super VL及两款Bolt开放权重模型,覆盖企业常驻智能体、边缘计算与本地AI PC。Super VL主打企业级智能体,可基于自有数据后训练并本地部署;Bolt可在PC端运行,强调隐私和低云端依赖。英伟达称Super VL在特定任务上快于Anthropic、OpenAI竞品,并已获多家企业采用。
英伟达周四发布了新的开放权重模型,专为常驻智能体和边缘计算而设计。
Nemotron 3.5 Super VL 是一款大型的1200亿参数模型,面向企业使用的智能体。尽管其参数量少于 Nemotron 3 Ultra,英伟达称其在指令遵循和工具调用任务上可达到相近的准确率。
另一端,公司还发布了两款轻量级 Bolt 模型。这些模型旨在在新款 AI PC(搭载英伟达 RTX Spark 芯片)和运行 DGX Spark 的工作站上本地运行。此类 PC 面向消费者、程序员和企业知识工作者,目前正通过微软、戴尔等合作伙伴推向市场。
“任何希望英伟达基础设施上运行智能体的组织,现在都能获得一款面向其层级、开放且经过优化的模型,无需在能力与可部署性之间二选一。”英伟达开放模型与软件副总裁 Kari Briski 在宣布这些模型的博客文章中写道。
英伟达称,在针对特定智能体任务进行后训练后,Super VL 完成任务的速度快于 Anthropic 和 OpenAI 的竞品模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。这些任务包括文档智能、财务会计、科学实验、医疗保险理赔和安全攻击抵御能力。
尽管此类声明在大型科技公司发布新模型时司空见惯,但英伟达以一份重量级企业名单作为佐证,称这些企业正在使用 Super VL,包括 Skydance、安永、Ramp、CrowdStrike、Perplexity 和 Salesforce。
当然,这并不是英伟达首次发布与专有前沿实验室竞争的开放权重模型——这些实验室既是其客户,也是其投资对象。这家 GPU 巨头拥有完整的 Nemotron 模型家族,能力覆盖多模态人工智能、推理、编程、数学和企业自动化等。
然而,这些快速增长的专有 AI 实验室如今正把目光投向英伟达之外的众多芯片和 AI 系统厂商,以满足其算力需求(例如 AWS 的 Trainium、Cerebras,以及自研芯片)。
因此,英伟达正大力押注企业希望在自己的数据中心运行自有开放模型的趋势。Briski 写道:“与封闭的前沿模型不同,组织可以基于自身数据对 Super VL 进行后训练,将其部署在自己的基础设施上,并拥有自己所构建的成果。”
但通过发布面向本地 PC 的更小模型,英伟达也在推动消费级 AI 助手这一初兴趋势。尽管初创公司和大型科技公司似乎每天都在推出新的 AI 助手,但注重隐私的消费者可能并不愿意让此类智能体如此深入地介入自己的生活,访问有关家庭、健康、财务等信息。
因此,英伟达希望通过打造能在本地运行模型和智能体的机器,为搭载其芯片的 PC 开辟新市场。Briski 写道,PC 用户“可以委派日常项目……而无需将这些工作负载发送到云端”。
在两款 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B(24GB)是一款740亿参数模型,专为本地智能体任务设计,旨在平衡速度与推理能力,以处理多步推理、工具调用和网页浏览。最小的 Bolt E4B 则面向对话式智能体。
英伟达表示,Super VL 和 Bolt 74B-A9B 现已可用,Bolt E4B 将于本月晚些时候推出。
分享这篇文章: