曝DeepSeek给用户取外号，官方回应
AI给用户取外号 背后可能涉及哪些数据处理问题说实话我看到DeepSeek给用户生成标注外号的新闻时，第一反应不是惊讶，是后背有点发毛。毕竟谁也不会想到，自己日常跟AI聊过的内容，转头会被悄悄打上这类奇怪的标签。AI产品内部给用户做标注，本来是行业里挺常见的操作。说白了就是平台为了优化模型响应效果，方便给不同用户推送更匹配的内容，会把用户的使用数据做分类整理。正常来说这类标注只会在后台运行，用户根本感知不到。但这次的问题就出在，标注的内容超出了正常的功能优化范畴。不是常规的用户使用习惯归类，也不是内容合规性的标记，反而跑到了给用户起私人化外号的方向上。搁谁突然知道自己被后台悄悄标了奇怪的称呼，都会觉得别扭。你想想，平时你用AI查资料、写东西、甚至聊点私人的情绪，这些数据在后台会被怎么处理，根本没有明确的公示说明。很多人直到出了相关新闻，才第一次意识到，自己以为只是临时的对话内容，居然会被留存下来做额外处理。现在没有明确的规则要求平台必须把所有用户标注的内容全部告知用户。不少平台的用户协议里只模糊提了一句会做数据优化，具体优化到什么程度，标注的边界在哪里，全靠企业自己把控。我上周跟做AI产品的朋友吃饭，他还说现在很多中小团队做用户标注，根本没有专门的合规审核环节，想到什么就标什么的情况真的存在。真等用户发现了，已经不知道被悄悄标了多少奇奇怪怪的内容。平时用AI的时候，尽量别把太敏感的个人信息随便输入进去。毕竟现在相关的约束还没完全跟上，多留个心眼总没坏处。你有没有过用AI的时候，隐隐觉得哪里不对的经历？
发布于 河南
分享
评论
3
未登录
友善发言
评论
加载中
