AI创作者AMA知无不言
前两天面了个AI应用开发的岗，候选人prompt工程讲得头头是道，few-shot、chain of thought、CO-STAR，背得很熟。我问了一个问题：如果模型调用外部工具失败了你怎么处理？他卡住了。这就是现在很多人卡住的地方。prompt工程解决的是怎么让模型说对话，但真实业务里模型还得做对事。我自己做agent项目最大的感受是，架构设计比prompt调参重要十倍。工具调用的编排顺序、错误重试策略、上下文窗口怎么分配、多步推理的中间状态存哪，这些东西prompt写得再好也救不了。今年明显感觉到，单纯会写prompt的竞争力在下降，能搭agent架构的人开始值钱了。OpenAI推的PADER框架也是这思路，第一步永远让agent先出计划再动手。我现在写agent代码，花在错误处理和状态管理上的时间比写prompt多得多。与其调prompt措辞，不如把功夫花在工程架构上。你们觉得prompt工程的天花板在哪？评论区聊聊。
发布于 福建
分享
评论
赞
未登录
友善发言
评论
加载中
