福大大架构师每日一题
08-13·AI领域创作者
AI创作者AMA知无不言
ollama v0.32.9发布:Nemotron 3.5 Lightning上线,Nemotron 3架构、工具调用解析与流式推理全面升级一、NVIDIA Nemotron 3.5 Lightning 正式可用v0.32.9 中最受关注的新增模型之一,是 NVIDIA Nemotron 3.5 Lightning。该模型是一个开源的 300 亿参数混合专家模型,也就是 MoE 模型,但每次推理仅激活约 30 亿参数。它的定位并非单纯追求大模型对话能力,而是面向始终在线运行的智能体执行层。这意味着,它更适合承担 Agent 的长期运行、任务分发、工具调用、流程执行以及持续响应等工作负载。该模型可以通过以下命令直接运行:ollama run nemotron-3.5-lightning从更新信息可以看出,Nemotron 3.5 Lightning 的设计目标是服务于常驻型 Agent 场景,并面向 OpenClaw、Hermes Agent 一类的智能体运行框架。同时,它也与 NVIDIA NemoClaw 开源安全与管理栈形成配合,用于支持常驻 AI Agent 的安全运行和管理。在本次更新中,ollama 不只是加入了一个新模型名称,而是同步补足了 Nemotron 3 系列相关的解析器、渲染器与提示词布局支持。这使得模型在实际工具调用、思考输出和上下文拼接时,能够与其预期格式保持更高一致性。
发布于 北京
1
评论
1
未登录
友善发言
image-upload
评论
加载中