logo
花花啦
11小时前·职场领域创作者
测试懂大模型原理，重要吗
知道原理的测试，测出来的bug都不一样
组里两个测试，一个从源码层理解Token生成机制，一个只知道模型能输出文字。遇到同样的回答错误，前者能判断是Transformer的注意力分布出了问题，还是RLHF对齐策略的偏差；后者只会记成“模型有时候会答错”。系统报错一样，但对错误本质的理解不同。理解大模型原理的测试，测bug的方式不一样——他们不是在测“AI回答了什么”，而是在测“AI为什么这样回答”。你觉得懂原理的测试和不懂的区别在哪？
发布于 江西
分享
评论
赞
未登录
友善发言
image-upload
评论
加载中