logo
坏坏的托比里
1天前·项目管理·5年+
后端接入AI大模型，会重塑服务开发模式吗
AI大模型接入后端，接口设计确实得重新考量，原来简单的请求响应变成流式或异步，业务后端系统得兼容多种模型调用方式，还得处理token限流和降级。数据库层面也麻烦，上下文记忆怎么存、怎么查，直接影响微服务拆分粒度。别被“重塑”忽悠了，基础架构不扎实，接个模型只会让分布式链路更脆弱，缓存和熔断先配好再说。
发布于 广东
分享
评论
1
未登录
友善发言
image-upload
评论
加载中