周敏琦
08-11 · 京东科技
AI创作者AMA知无不言
AI生成周报,准确率90%够不够?
做传统产品的时候,我们讨论产品边界,问的通常是功能性问题:"这个功能做不做?""做到什么程度?""优先级怎么排?"这些问题的本质是资源分配——在有限的时间和人力下,先做什么后做什么。但做AI产品之后,讨论的维度完全不一样了。每天我和团队争论最多的问题不是"做不做",而是"AI能不能做",以及更关键的——"做到什么程度算'解决了'"。举个很实际的例子。我们曾经讨论过要不要做一个"AI自动生成周报"的功能。讨论的第一步不是排期,而是:AI生成周报的准确率需要达到多少才算可用?90%够不够?80%呢?如果AI生成的内容里有10%的信息是错的,用户会不会比手写更痛苦?这个"够不够"的问题,在传统产品里几乎不存在。一个搜索功能,你不会问"搜索结果要准确到什么程度才能上线",因为用户对搜索有天然的容错。但AI生成内容不一样,用户天然期望"AI说的应该是对的",一旦出错,信任感就会大幅下降。然后是降级策略的问题。当AI效果不达预期的时候,怎么处理?直接报错?给一个模糊的提示?还是回退到人工流程?这些设计决策需要在产品初期就想清楚,否则上线后遇到问题就会手忙脚乱。还有伦理边界的考量。我们的AI客服产品上线前,讨论得最激烈的一个问题是:AI要不要在对话一开始就告诉用户"我是AI"?如果不说,用户可能会觉得被欺骗;如果说了,有些用户可能就不愿意继续聊了。这个看似简单的决策,背后涉及的是对用户信任的深层考量。所以做AI产品经理,你必须接受一个事实:产品的边界不是由你的PRD定义的,而是由技术能力、用户预期和伦理约束共同划定的。这三者的交叉地带,才是你真正需要花精力去探索和定义的地方。
发布于 上海
分享
评论
未登录
友善发言
image-upload
评论
加载中