Charles
面拼多多AI客服开发岗被问懵：高并发设计与接口稳定性保障上周面了拼多多的AI客服后端开发岗，面试官上来就问："你做过的客服系统，最大支撑过多少QPS？怎么保障高并发下的接口性能和稳定性？"说实话这个问题我准备了，但现场回答的时候还是卡壳了。回来复盘了一下，整理了一套完整的答题思路，分享给大家。核心思路：接入层限流 + 消息队列削峰 + 无状态服务 + Redis会话存储接入层：Spring Cloud Gateway 统一入口，做限流、熔断、灰度消息队列：Kafka/RocketMQ 削峰填谷，把5000 QPS高峰匀成500 QPS对话服务：无状态微服务，水平扩容，本地不存会话状态仓库：Redis Cluster 存会话快照，带TTL+互斥锁性能优化从1.6s降到380ms：1. 异步化改造原来：用户请求 → 网关 → NLU服务 → 业务规则 → 返回（同步阻塞，1.6s）现在：用户请求 → 网关 → Kafka → 异步处理 → WebSocket推送（380ms）2. 多级缓存本地缓存（Caffeine）：热点FAQ，访问耗时微秒级分布式缓存（Redis）：会话状态、用户画像缓存穿透：布隆过滤器过滤无效请求缓存击穿：互斥锁避免并发击穿3. 连接池优化HTTP/2连接池，maxConnections=500，keep-alive=60s数据库连接池，合理配置最小/最大连接数Redis连接池，Pipeline批量操作稳定性保障：超时率从18%降到0.4%1. 限流熔断网关层：令牌桶限流，单IP 50 QPS服务层：Resilience4j熔断，失败率50%熔断10s降级策略：AI模型超时自动切关键词模板2. 分布式会话锁SETNX抢锁，防止并发写脏3. 全链路监控Prometheus + Grafana 实时监控链路追踪：MDC.put("userId", userId)压测常态化：每周JMeter回归测试面试官想听的三个潜台词：1. 你有没有实战经验：讲清楚QPS、延迟、超时率这些具体数据2. 你有没有架构思维：从接入层到存储层，讲清楚每一层的设计3. 你有没有踩过坑：讲一个真实的故障案例，以及怎么解决的
发布于 江苏
1
3
3
未登录
友善发言
评论
加载中
