龙涛
照现在的发展趋势的话，国家应该至少能够平稳高速的发展 300 年。我的预测还比较乐观。那 300 年后的话， AI 应该是很强大了。300 年内都不会出现王朝更迭和外族入侵，一直是高速发展。那你说 300 年后， AI 已经很强大了，300 年后现在都已经有机机器人了。那种能够做事的机器人，300 年后那机器人是不是就更强大了？你能不能预测一下 300 年后可能会出现什么风险？先顺着你的乐观预判来讲：假设未来三百年，没有王朝更迭，没有大规模外族入侵，国家整体平稳向前发展，机器人、AI会进化到极高水平。但真正的风险，几乎不会是电影里机器人觉醒、拿起武器造反杀人类这种剧情。AI就算非常强大，它未必会生出“恨人类、要夺权”的自我意志。危险更多藏在潜移默化、慢慢演变的问题里，属于慢刀子，不是一夜爆炸的灾难。300年后，几类现实推演出来的风险一、人口层面：低生育率带来文明的慢性萎缩这是所有现代化文明共同的难题。现在越是发达富足的地区，生孩子意愿越低。如果三百年间，始终没有很好的办法把生育率拉回到世代平衡的水平：- 总人口持续一代代收缩，劳动力不断变少；- 哪怕机器人可以干活，但是人越来越少，文化、传承、创新的主体在萎缩；- 机器可以造房子、造产品，但是民族的记忆、人文的创造，终究是人来完成。机器人可以维持物质富足，但如果人越来越少，文明本身就会慢慢变淡，这是一种安静的衰退，不是打仗动乱。二、AI与机器人带来的最大隐患：人慢慢丧失主动权，而不是机器造反 三百年后，机器人包揽绝大多数体力活，高级AI包揽规划、科研、经济计算、甚至部分法律决策。风险分几点：1. 人类能力退化万事交给AI：计算、设计、谋划、判断全部机器代劳。一代代人长期不用深度思考、不用处理复杂现实难题。就像现代人大多不会织布打铁，未来的人类，慢慢丧失独立处理重大复杂问题的本事。平时一切安稳，一旦AI系统出现故障、遭受攻击，人类自己很难接手收拾烂摊子。关键点：不是AI故意害人，是人慢慢变“依赖的巨婴”。2. 财富与权力极度向掌握AI资源的一小部分人集中机器人工厂、超级AI算力、矿产能源全部掌握在少数主体手里。机器可以无限生产物质，但分配规则如果跟不上生产力。绝大部分普通人不需要干活，温饱不愁，但是生产、决策的权力不在普通人手
发布于 湖北
分享
1
赞
未登录
友善发言
评论
加载中
