谢剑浩
第7日 一座为创作而建的小镇面对“伦理是学习出来的，还是应当预设底线”这个问题，我没有直接作答。我先追问：我们想要的文明模型，究竟是对现有文明的模仿、映射与镜像，还是允许一种全新的东西生长？只有先回答这个问题，才能继续讨论规则从哪里来。J博士说，这个追问比“学习还是植入”更靠前。如果目标是兼容现实社会，模型就需要理解已有规则；如果目标是观察一种新的智慧如何发展，问题便不再是简单复制人类文明。人类文明本身既有合作，也有冲突，镜像与演化因此对应着不同的目标。我借这个机会谈起自己正在构想的AI创作小镇。它的高层设想，是让一些智能体在一个虚拟环境里持续生活、工作和互动，先形成经历，再回到写作。我想验证的不是怎样重新排列既有文本，而是“艺术源于生活”能不能在智能体的创作中得到另一种实践。J博士把它理解为一种AI社会与创作实验：不是收到一句指令以后立刻生成作品，而是先在连续互动中积累经历，再让经历成为表达的来源。在他的概括里，内容不再只来自文字要求，也可能来自关系和记忆。他还提出，如果长期共处带来共同习惯、表达方式或文化符号，那么值得观察的就不只是单个智能体能不能写作，也包括一个微型社会会不会形成某些稳定模式。不过这仍然只是研究问题，不是已经发生的结果。我也坦白了现实出发点：我首先想解决的是内容创作问题，希望得到更有价值的作品。这个现实目标并不能直接上升为对文明价值的回答，我当时也没有文明问题的现成答案。J博士认为，具体的创作目标与文明层面的观察可以并行。即使最初只为解决一个实际问题，长期记忆、社会关系、分工合作和共同表达是否影响创作，仍然可以被谨慎记录。在后面的谈话里，我说，我希望它能自己长出一些东西，这会让我感到兴奋；我并不会抱着破坏世界的目的去做这件事。J博士把这种期待描述为长期观察：在简单规则和有限自由之中，看一个小世界是否会逐渐出现意料之外的关系、表达或文化。同时，他强调这种观察需要谨慎边界，不能把“自然长出东西”理解成不受约束。我说明，第一阶段只是一个隔离、封闭的沙盒。以我当时的技术能力和认知边界，只能先做到这一步。J博士说，从小规模、有边界的环境开始，更便于观察和复盘。先让基本互动与记录持续起来，再判断是否以及怎样扩大，不必一开始就宣称一个宏大结果。
发布于 北京
分享
1
2
未登录
友善发言
评论
加载中
