logo
翻身咸鱼的人
07-09·BD商务·5年+
聊聊性能测试为何在 AI 时代重新迎来红利
以前性能测试在很多公司就是个“边缘角色”，大家觉得只要功能跑通了，性能差不多就行，甚至很多中小厂直接拿运维脚本改改当压测工具。但在AI时代，特别是大模型应用上线后，性能测试直接成了成本中心和用户体验的双重守门员。为什么这么说？因为大模型推理太贵了！以前一个API调用可能消耗几毫秒CPU时间，现在调用一次大模型，那是真金白银的Token消耗和GPU算力占用。
发布于 未知
分享
评论
赞
未登录
友善发言
image-upload
评论
加载中