黄仁勋称AI没有意识，不要过度拟人化
做了五年AI全栈，我最深的体会是：技术越像人，我们越要保持清醒。黄仁勋说AI没有意识，这不是在贬低技术，而是在提醒我们不要被表象迷惑。我现在做项目有几个硬规矩：第一，任何AI生成内容都必须有置信度分数，低于阈值的直接拒绝或转人工；第二，关键业务字段不允许让模型自由生成，必须从结构化数据源拉取；第三，所有AI交互都要留痕，方便事后审计和归因。这些规矩让我在落地RAG、Agent、客服系统时少踩了很多坑。今年AI产品竞争很激烈，大家都在拼"更像人"，但我认为真正专业的产品是在"像人"和"可控"之间找到平衡。用户需要的是一个可靠的助手，不是一个真假难辨的"朋友"。
发布于 广东
分享
评论
1
未登录
友善发言
评论
加载中
