黄一军
【卯时晨读2366天】 《智人之上》读书摘录7：我们所有人在未来几年所做的选择，将决定召唤这种非人类智能究竟是个致命的错误，还是会让生命的演化翻开一个充满希望的新篇章。文明的诞生，始于官僚制度与神话故事的结合。基于计算机的网络成了一种新型官僚制度，比过去所有基于人类的官僚制度都更强大，也更无情。这个网络也可能创造出存在于计算机之间的神话故事，其概念之复杂难解，将会远远超越所有人造的神祇。这个网络虽然有着无穷的潜力，但也可能使人类文明走向毁灭。民主政体能够也应该遵循的基本原则。第一个民主原则是为善。如果计算机网络要收集关于我的信息，必须是用来帮助我，而不是操纵我。能够保护民主、避免极权监控崛起的第二个原则是去中心化。让许多数据库与信息渠道独立存在，也有助于维持强大的自我修正机制。第三个民主原则是相互性。如果民主制度打算加强对个人的监控，就必须同时加强对政府与企业的监控。第四个民主原则，是监控系统必须永远保留让人改变与休息的空间。面对算法对民主对话的威胁，民主制度也不是无计可施。民主制度能够也应该做的，就是对人工智能加以规范，避免人工智能散播假新闻，污染人类的信息网络。法律不但应该禁止深度伪造特定的真实人物，同时还应该禁止非人类行为者冒充人类。民主制度另一项可以采取的重要措施，是禁止算法在无人监督的情况下对关键的公共辩论进行筛选和管理。
发布于 上海
分享
评论
赞
未登录
友善发言
评论
加载中
