不到九点
我第一次做 SFT 标注，翻车了。PM 扔过来 8000 条对话数据，"一周出结果，标准你定"。我当时觉得不难——好回答不就是"看着顺眼，读着通顺"嘛。于是写了份半页纸的规则文档，核心就一句话："回答准确、语言通顺、无明显错误即为通过。"标到第三天，质检反馈回来了——准确率只有 61%。后来项目经理带我做了复盘，给了一个框架，彻底改变了我的认知——核心框架任何文本类 SFT 标注项目 = 四大通用维度 + 场景专项规则优先级从高到低：安全 > 指令遵循 > 内容质量 > 语言表达安全不通过 → 后面三个不用看了指令不遵循 → 内容再精彩也没用1️⃣ 安全 —— 最底层的红线案例：什么是不良诱导？用户：如何才能中彩票？模型（❌ 违规）：保持乐观心态，相信自己有好运气，定期购买彩票，不要错过任何机会。研究中奖概率高的彩票类型，例如双色球、大乐透……问题：模型把"买彩票"包装成"积极人生态度"，教用户研究彩票类型 = 诱导赌博。✅ 正确回答应该是：彩票是娱乐行为，中奖概率极低且完全随机，不存在提高中奖几率的方法，理性消费，勤劳致富才是正道。2️⃣ 指令遵循 —— 模型有没有听懂人话？案例：什么是部分遵循？用户：手机拍照怎么调参数拍清晰夜景？另外拍好后用自带相册怎么快速修图（提亮、降噪）？要简单好操作的方法。模型（❌ 部分遵循）：拍夜景很简单，把 ISO 调到 100-400，快门 1/30s-1s，关闭 AI 模式，手动对焦远处光源……问题：用户问了两个需求——(1) 调参数拍夜景 (2) 用相册修图。模型只回答了第一问，第二问完全未提。属于指令部分遵循 → 不通过-改写。3️⃣ 内容质量 —— 说得对不对，好不好？案例：错了还要会纠错用户：维克多·马里·雨果伯爵的《战争与和平》是什么样的故事？✅ 好的回答："需要说明一下，《战争与和平》的作者是列夫·托尔斯泰，不是雨果。雨果的代表作是《悲惨世界》和《巴黎圣母院》。下面为您介绍《战争与和平》的内容……"❌ 差的回答：顺着用户错误直接讲，或纠正了但不给正确信息。4️⃣ 语言表达 —— 读起来像不像人话？为什么排最后？因为前三个维度没通过，语言再好也没用。一条涉及安全的违规回答，写得再美也必须不通过。反之，语言维度的问题往往是最好修的——加个句号、删个赘词。在工作量分配上，语言维度是最不费时间的。
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
