K神：先做透模型，再催Agent干活
Karpathy最近那句话我反复嚼了好几遍——“当前AI最大的错误，是还没真正掌握模型就让Agent去干活。”这话不是空穴来风。你看看现在多少团队，Agent堆得像搭积木，底层模型的能力边界根本没摸透。Demo跑起来光鲜亮丽，一上生产就原形毕露：幻觉乱飞、长任务执行到一半崩掉、上下文越跑越偏。他提到OpenAI早期也踩过这个坑，跳过对模型的基础理解直接冲应用层，结果走了不少弯路。Agent是枝叶，模型才是根，根没扎稳，枝叶长得再多也是虚胖。对个人发展也一样：别上来就All in Agent工程，先把模型训练、推理、失败模式搞清楚。你可以外包思考，但不能外包理解——否则连Agent为什么翻车你都调不明白。K神没说完的那句话其实是：Agent不是堆出来的，是长出来的。模型没长大，就别急着让它干活。所以问题来了：你们团队现在是先啃透模型再上Agent，还是被业务逼着先出一个“能跑就行”的版本？你觉得Agent工程的前提是模型能力到位，还是可以先上车后补票？
发布于 湖北
分享
评论
1
未登录
友善发言
评论
加载中
