大模型最新动态
AI 行业重磅消息，英伟达正式开源 Nemotron3.5 Lightning。30B 混合专家架构，激活仅 3B 参数，主打 AI 智能体高频执行任务。最大亮点：单块消费级 RTX 显卡就能本地跑，推理速度最高达到同类模型 4 倍，搭配同步推出的 NeMo Switchyard 任务调度工具。过去搭建智能体只能全程调用超大模型，token 成本居高不下。现在复杂决策交给大模型，工具调用、信息校验这类重复工作交给 Lightning，大幅压缩运行成本。英伟达下场免费开放模型，不止让利开发者，更是完善从芯片、软件到大模型的完整生态。本地私有化部署，也契合企业数据安全需求。你看好本地部署 AI 智能体的发展方向吗？
发布于 陕西
分享
评论
赞
未登录
友善发言
评论
加载中
