赵倩倩
Karpathy 主要讲了四点：1. 2016 年 OpenAI 做 agent 太早了当时他们试图用强化学习做能操作电脑、点网页、完成任务的 agent，项目叫 World of Bits。但技术栈不成熟，基本只能靠 RL 去“撞 reward”，所以效果不好。2. 当时正确路线是先做语言模型他认为后来事实证明，先放下 agent，转去构建 language model 是对的。今天 agent 重新变热，是因为底层工具已经完全不同：现在不是靠 RL 硬训，而是靠语言模型、工具调用、记忆、规划等能力组合。3. Agent 很容易 demo，但很难产品化他提醒大家不要被 demo 迷惑。自动驾驶、VR 都是类似例子：想象很容易，做 demo 也容易，但真正做成可靠产品可能需要十年。Agent 也是这样，适合长期投入，不适合短期幻想。4. Agent 需要借鉴人类认知结构他提到可以重新从神经科学找灵感，比如海马体对应记忆和检索，前额叶对应规划和反思，丘脑/基底节可能对应多模块协调。语言模型只是其中一部分，真正的 agent 需要一整套认知工具。
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
