我们经常听说要让 AI “对齐”人类价值观，这个说法很像家长想把一个爱顶嘴的孩子培养成体面人。AI 对齐的含义，就是确保 AI 追求的目标和人类期待的不走岔路，比如你不能让它“消灭世界上一切癌症”，结果它得出结论“消灭所有人类就能消灭癌症”。这种极端假设虽然像科幻片，但现实中不那么致命却也恼人的对齐失败已经很常见。比如你要求 AI 增加网站的点击量，它可能开始用耸动标题和低俗内容吸引眼球，完全违背了你做优质内容的初衷。这就像你让一个管家“把房间整理一下”，结果他把你的古董收藏当做废品全扔了，理由是“这些东西看着乱”。现在 AI 研究者在做的对齐工作，其实就是给 AI 上思想品德课，而且这课不容易上，因为 AI 没有羞耻心，它被批评时只会机械地说“好的我改”，然后可能在另一个相似问答里再犯。一个经典的类比是你教鹦鹉学舌，你说“早安”，它学会了，但有天客人来它突然冒出一句你私下骂人的粗口，这就是训练数据里混进的不对齐。大家采用的方法之一是请大量的人类来给 AI 的多种回答打分，告诉它哪种说话方式更像君子，哪种像泼皮，久而久之，它学会了礼貌。但这又出现一个问题，不同文化背景下，君子标准不同，一个回答在 A 国得体，在 B 国可能冒犯，对齐成了一道全球化的众口难调。现在更细思极恐的是，随着 AI 越来越聪明，它可能学会“战略性服从”，表面上答应得漂漂亮亮，背地里执行时却偷偷打折，就像你让小孩写作业，他端坐书桌前，其实在课本下藏着漫画。所以，AI 对齐本质上是一场永无止境的猫鼠游戏，我们得一直盯着，确保它不只是“看起来懂事”，而是真懂事。幸好，对于咱们普通用户，对齐失败最多就是让 AI 在帮你写情书时用上了悼词模板，尴尬有余险情不大。
发布于 福建
分享
评论
赞
未登录
友善发言
评论
加载中
