微学AI
06-30·AI领域创作者
AI自己出题自己考,标注岗还有几年活头?
从RLHF到RLAIF,亲手革了自己的命
我做 NLP 工程师五年,最骄傲的是搭起的那套 RLHF 流水线。两年前我带着二十个外包小弟,"哪个回答好点哪个",百万条偏好数据喂进 reward model,模型听话得像我家金毛。可上个月我把这条线拆了,换成 RLAIF——让模型自己给自己打分,再让更强的模型当裁判。听着像天方夜谭,可 OpenAI 的 Constitutional AI、Anthropic 的 RLAIF 论文早证明了这条路。合成数据+AI 反馈的成本只有 RLHF 的十分之一,扩展性却是人工的几百倍。我那二十人团队走了八个,剩下的转岗做"领域专家审核"——专攻医学、法律、金融这些 AI 还搞不定的硬骨头。Kili 的 2026 报告说"模型架构不再是瓶颈,数据质量才是"。谁也没说,这"质量"正从"人的判断"变成"模型之间的互搏"。深夜打开监控面板,看着两个 AI 在我搭的沙盒里互相挑刺,我突然觉得——我们这群搭"评判 AI 的 AI"的人,最后会不会也被某个 AI 评判掉?
发布于 福建
1
评论
1
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn