格子灰
08-04·后端开发·10年+
被裁后端,现阶段要不要主攻AI方向?
AI工程化的坑,比想象中更多做了多年服务端开发之后,接触了一些AI接入业务后端系统的项目,说几个真实的坑。第一个坑是接口稳定性。大模型API的延迟和成功率比普通服务端接口差很多,P99延迟有时候会到十几秒。业务系统里没做好超时处理、重试策略、降级逻辑,线上就容易出问题。第二个坑是数据库设计。AI应用里有大量非结构化数据,向量数据库的选型和传统关系型数据库的搭配,很多团队一开始没想清楚,后来改起来很麻烦。第三个坑是微服务拆分时机。有些团队一上来就把AI能力单独拆成微服务,但业务还没稳定,每次模型换了、Prompt改了,服务接口就要跟着改,联调成本反而高。这些坑,熟悉业务后端系统的人更容易提前意识到。被裁的后端工程师转AI方向,不是去跟算法抢位置,而是填上AI落地工程化里的这些空白。这块目前市场上真的缺人,不是说说而已。
发布于 湖南
分享
评论
未登录
友善发言
image-upload
评论
加载中