英伟达 1200 亿参数开放模型来了:单卡跑智能体,营销团队的本地 AI 要抬头
10月15日英伟达发布开放多模态模型Nemotron 3.5 Super VL:120B参数、单GPU跑智能体任务吞吐最高5倍,配套Lightning与Bolt。模型下沉到单卡,营销团队本地AI的门槛在降。
英伟达 1200 亿参数开放模型来了:单卡跑智能体,营销团队的本地 AI 要抬头
> 系列:AI 营销观察 · 2026.10
> 栏目:AI 行业动态
昨天(10 月 15 号),英伟达发布了一款新的开放模型——Nemotron 3.5 Super VL。名字很拗口,参数也不小:总参 1200 亿,激活 120 亿,混合专家架构,多模态,能看图能读文档。但真正让行业侧目的不是参数,而是那句官方表述:在单张 GPU 上执行智能体任务,吞吐量最高能到同类开放模型的 5 倍。
翻译成人话就是:以前想跑一个能自己干活、连续干好几个步骤的 AI 智能体,你得准备一堆服务器;现在,一块显卡就有点够得着的意思了。
这事跟做营销的人有关系吗?有,而且可能比想象中近。
一、英伟达这次发了什么
不是一款,是一组。
主角是 Nemotron 3.5 Super VL:120B 总参、12B 激活的 MoE 模型,主打“常驻智能体”——就是那种挂在后台、一跑就是几小时甚至几天的任务型 AI。英伟达说它是同类开放模型里最快的智能体模型,吞吐量最多快 5 倍,还能做多模态推理,给智能体看截图、看图表、看合同扫描件都行。
配角有两个:一个是 Nemotron 3.5 Lightning,主打高并发、专用任务,输出速度最高提 4 倍,智能体任务完成时间最快缩短 30%;另一个是 Nemotron 3.5 Bolt,只有 74B 总参、9B 激活,专门为本地端侧设计,24GB 显存就能跑,连 RTX 级别的显卡都能带得动。
三款合在一起,英伟达的意图很清楚:从数据中心到桌面,把“能干活”的 AI 全线铺开。
二、强在哪:速度,以及“能自己定制”
先说速度。官方给的数据是,在单张 GB200 GPU 上,Super 跑一个 20 轮的智能体代理任务,每秒能输出接近 4900 个 token,同时还能保证每个用户至少每秒 50 个 token 的响应。这个数字对不对口,普通人没必要较真,但它说明一件事:跑智能体的成本结构在变,以前按天算的活儿,现在可能按小时算。
再说定制.开放模型最大的价值从来不是“拿来就用”,而是“改完再用”。英伟达官方博客里点名了三家合作方:Scale AI、Ramp 和 AI21,都用 Super VL 做了行业定制。按官方口径,定制后的效果是:推理成本降 40 倍、延迟降 10 倍、准确率提升 40%。这几个数字是厂商自己说的,看看就好,但方向值得信——开放模型 + 行业数据微调,确实能出效果。
对营销团队来说,这里的关键词是“私有数据”。你的投放数据、客户对话、历史内容,这些最值钱的东西,喂给闭源大模型,多少有点不踏实;喂给一个部署在自己机器上的开放模型,边界就清楚的多了。
三、跟营销人有什么关系
往大了说,这是“AI 从工具变成员工”的又一脚油门。
营销团队里那些重复性高、步骤多、又需要上下文的工作,正是智能体最擅长的:比如把当天的投放数据拉出来、对比上一周、生成一份分析摘要再发到群里——这种多步骤的活,以前要人一个一个点,现在一个常驻智能体可以自己连着干。再比如客服场景,一个能看截图、能翻知识库、能连续处理多轮对话的智能体,跟以前那种“关键词触发”的机器人不是一个物种。
本地化部署的意义,对很多企业是“安全感”。数据不出域.按自己的节奏升级、用自己积累的行业知识微调——这些对重视数据边界的营销团队来说,是实打实的加分项。再加上英伟达自家的 DGX Spark 这类桌面设备(之前我们聊过,4999 美元,号称能本地跑千亿参数),模型侧和硬件侧凑到一起,中小团队自己养一个专属营销智能体,第一次显得不那么科幻。
具体到营销场景,有三个方向最值得先试:一是内容工厂,把选题、初稿、配图建议串成一条自动流水线;二是投放复盘,每天定时把账户数据拉出来、自动生成带结论的日报;三是私域客服,训练一个懂你产品、能翻你知识库的接待智能体。这三个方向都不需要特别大的算力,恰恰是开放模型加本地部署最能发力的地方。
四、也别急着冲
有几句冷静话得说在前头。
第一,开放模型不等于免费。 模型本身开放,但你要跑起来,得有人懂部署、懂微调、懂运维。英伟达给了 NeMo 这类工具,降低了不少门槛,但跟“打开网页直接用”的差距还是很大。团队里没有技术底子的,先别上头。
第二,“吞吐量 5 倍”是在特定条件下的。 官方数据是在他们自己的测试环境里跑出来的,换成你的数据、你的显卡、你的任务类型,数字可能完全不一样。拿它当参考可以,当承诺就危险了。
第三,智能体的成熟度还不到“放手用”。 连续跑几小时的任务,中间出错、跑偏、需要人救场的概率,比想象的高。现阶段更现实的姿势,是把智能体当“能干的下属”,不当“甩手掌柜”——它干活,你验收。
五、收个尾
这一轮英伟达的动作,给营销人最大的提示其实是节奏:大模型的能力还在快速下探,下沉到一块显卡就能带动的程度。这意味着两件事——第一,营销自动化的成本门槛在肉眼可见地下降;第二,那些真正靠 AI 拉开差距的团队,拼的已经不是“用不用 AI”,而是“怎么用自己的数据把 AI 调教得更懂自己”。
本地 AI 这件事,值得开始看了。不用马上买显卡,但可以先想想:如果手头有一个能自己跑、用自家数据训练的智能体,你最想让它干哪件活?想清楚了,等它真正便宜下来的时候,你就是第一批用上的人。
想交流 AI 营销,欢迎加微信 chunxichage,备注“公众号”更快通过。