Charles
候选人大壮面阿里AI岗被问懵：SFT监督微调是什么鬼？候选人大壮最近面了阿里AI实验室的P7岗，开场30秒就被SFT问题干懵了。以下是他的面试吐槽和复盘笔记。面试死亡现场面试官："说说SFT是啥？为啥要做SFT？"大壮（内心OS）：卧槽卧槽卧槽...SFT...Supervised Fine-Tuning？监督微调？这题我看过啊！大壮（回答）："SFT...就是用数据微调模型吧？"面试官："那数据怎么准备？"大壮："呃...爬数据？标注？"面试官："还有呢？"大壮："..."（空气死一般的寂静）大壮说："我真的栓Q了，明明看过LLM训练的文章，也知道SFT是重要环节，但面试官一追问原理，我直接卡壳了，想找个地缝钻进去..."事后复盘（我悟了）SFT到底是什么？一句话：SFT就是给模型看"标准答案"，让它学会"按要求回答"。打个比方：- 基座模型是个野孩子，说话没规矩，不懂人话指令- SFT就是家教，给它看"用户问→助手答"的标准对话- 训练完模型就"听话"了原理：其实就是普通的分类任务，Loss函数和训练LLM一样，只是数据集不同。SFT数据怎么搞？这步是关键！好数据比好模型更重要。数据格式：每条样本是一个对话，包含system、user、assistant三个角色。构建流程：1. 收集：爬取公开对话（ShareGPT、GPT4ALL等）2. 清洗：去重、去脏数据、Bad Case分析3. 格式化：转成SFT需要的system/user/assistant格式4. 抽检：人工审核质量核心原则：**进，**出。数据脏了模型就学歪，数据干净模型才听话。大壮的面试避雷清单1. AI题不能只背概念，要理解本质——SFT的核心是"让模型听话"2. 数据比模型重要——这句话不是白说的，面试必问数据构建3. 承认不足+讲逻辑，比硬撑强一万倍4. 没项目就自己搭，用LlamaFactory跑一遍Demo就行大壮最后说："面试被问懵不丢人，丢人的是不复盘。把这次教训分享出来，希望大家别踩同样的坑。"
发布于 江苏
分享
评论
赞
未登录
友善发言
评论
加载中
