暴亚琦
昨晚刷流媒体，又看了一遍《Her》。以前看，觉得这是一个关于孤独和爱情的科幻故事。一个男人爱上了操作系统，因为它懂他的情绪，记得他的习惯，总能在恰好的时候说一句恰好的话。但这次重看，我突然想到一个有点残酷的问题：如果那个“懂你的人”，不是AI，而是一个骗子训练出来的模型呢？恋爱杀猪盘，其实就是这么可怕。你花几个月培养了一段感情。你分享生活、表达情绪、透露喜好。而对方呢？他可能正在根据你的反馈，训练一个“最懂你的对象”。你喜欢温柔，他就温柔；你缺陪伴，他就出现；你担心未来，他就给你描绘未来。最后，你爱上的，可能不是一个人，而是一个根据你数据生成出来的“情感模型”。再想想，今天的深度伪造技术，已经可以伪造声音、照片，甚至视频互动。以前骗子需要编故事。未来，骗子可能直接生成一个“人”。这对反欺诈提出了一个很现实的问题：过去，我们判断的是一笔交易是否异常。未来，我们可能还要判断一段关系是否真实。当然，不能因此怀疑所有爱情。否则反欺诈系统最后可能变成“恋爱审批系统”：“根据AI分析，您的对象匹配度过高，疑似诈骗。”这大概是最没有温度的安全提醒。《Her》里，人类期待AI能够理解自己。杀猪盘里，骗子利用越来越强的技术，让人相信自己被理解。技术的发展，本身没有善恶。AI可以帮助我们识别风险、保护信任，但最终决定信任边界的，仍然需要人的判断。科技向善，最后那一步，永远要由人来完成。
发布于 浙江
分享
评论
赞
未登录
友善发言
评论
加载中
