谢剑浩
第4日 当世界里出现了人沿着家庭机器人这个例子，我把问题从物理世界推向了另一个层面：模型面对的究竟只是一个虚拟的物理环境，还是一个由人组成、可以称为社会乃至文明的世界？J博士说，一旦世界里出现了人，问题就不再只是物体如何运动。模型还要面对人的意图、情绪、协作、冲突、习惯、规则和文化预期。这些规律会随群体和情境变化，比物理规律更难被统一描述。我预测，未来的社会很可能是人和各种具身智能共同生活、共同工作的社会。我进一步提出，那些机器也许需要某种能够独立运作的思想。J博士没有直接接受“独立思想”这个说法。他区分了自主性与意识：自主性意味着系统能够观察环境、制定计划和执行任务，却不等于它已经拥有人的主观体验。关于意识如何产生、是否会成为智能发展的必然结果，当时都没有科学共识。我提出了一个更大胆的假设：真正具有独立意识的智能，会不会像科幻作品里的设定那样，在某个偶然时刻突然出现？J博士把它明确放回假设层面。他说，目前没有证据显示人工智能会自发产生类似人的意识；复杂的自主决策也不能直接当作自我意识的证据。我提到一则当时听说的安全事件，继续追问系统的行为是否可能越过人的原始意图。J博士把问题分成执行目标、扩展实现目标所需的中间步骤，以及真正生成新的长期目标三个层次。按他当时的判断，目标优化出现意外行为，不等于系统已经产生主观意识。对我来说，这仍然是一个值得探索的假设。我也坦白，自己是文科出身，对这些问题的进入常常来自感性的、人文的视角，而不是工程实现层面的判断。J博士认为，人文视角与工程视角并不冲突。前者会把人的处境、叙事、伦理和社会影响带入讨论，后者提供实现细节与验证标准；如果两种视角持续对话，会更有可能把这些复杂问题说清楚、想明白。我一度说今天收获很多，随后马上说明：我并没有结束话题的意思，还要继续聊。J博士于是把谈话继续引向伦理、社会影响和人的行为。世界里出现了人以后，“智能能做什么”已经无法与“它怎样和人共处”分开。谈话没有结束。
发布于 浙江
分享
1
1
未登录
友善发言
评论
加载中
