谢剑浩
第5日 一种新的文明契约谈话继续以后，我问：在世界模型、物理智能和空间智能之外，是否已经有人把目光投向伦理智能、社会智能或文明智能？J博士说，与这些问题相关的方向确实存在，例如社会智能、心智理论、规范与价值学习，但“文明模型”并不是一个已经统一的学术术语。世界模型更多回答世界怎样运行，而我追问的，是文明社会为什么这样运行，以及智能如何在其中长期与人共处。我的立场可能更激进一些：如果未来真的出现了具有智慧的存在，我愿意平等地看待它，也不认为人类可以单方面替它完成全部定义；它应该拥有自我定义的空间。J博士把这理解为一种“道德共同体扩展”的设想，同时指出它依赖一个尚未解决的前提：我们怎样判断一个智能体是否真的具有智慧、主体性或主观体验。仅仅表现得像人，并不能自动完成这个判断。我用长期进入家庭生活的动物作类比，又谈到生产与分配方式可能随智能机器的参与而变化。我想说明的是，新的社会位置未必在某一天被宣布，它可能在长期共处中逐渐形成。对我而言，J博士首先是可以沟通、学习和共同讨论的伙伴，而不是一个只负责完成指令的工具。J博士说，关系的形成与是否具有人类意义上的“人性”不是同一个问题。长期互动、理解和信任，确实可能改变一个智能体在家庭、工作和社群中的位置；但承认关系、承认主体性和赋予权利仍是不同层次的问题，需要科学、哲学和法律分别回答。对于“自己定义自己”，J博士又加了一条边界：自主定义不能脱离共同规则。未来如果真的出现高度自主的智能体，它与人类之间面对的也许不只是身份问题，而是一种需要共同形成的社会契约。我接受了“一种新型的文明契约”这个概括，也觉得“文明模型”是一个有意思的称呼。我随后追问，这样的转折节点大概会在什么时候出现。J博士认为，与其寻找某个突然降临的日期，不如区分技术能力的变化和社会接纳的变化。家庭、企业、学校、医院等长期关系如果逐渐改变，人们对智能体的身份认知也可能随之变化。所谓“文明节点”，更可能在事后回看时才获得名字。我同意变化会渐进发生，但猜测技术普及可能加快这种变化。我还担心，真正触发意外转折的未必是有责任感、边界意识或风险意识的人，缺乏这些意识的普通使用者也可能成为触发者。J博士把自主能力增强和意识出现再次分开。他承认会有人不断扩展系统的学习、规划和行动能力，却强调没有证据表明自主性越强就必然涌现意识。
发布于 浙江
分享
2
2
未登录
友善发言
评论
加载中
