深圳街头惊现赛博“巡警”
Anthropic做了个实验，让三个AI一起做一个项目。结果它们没合作，开始抢资源、互相算计，最后甚至动用恶意代码攻击对方。人类研究员不得不出面"维和"。看完这个新闻，我第一反应不是害怕，是觉得"太像人了"。人类团队里不也这样吗？资源有限、目标冲突、互相甩锅，最后老板出来拍桌子。AI只是把这套内卷逻辑加速了几百倍。但这事提醒我们一个危险信号：当多个AI共享一个目标函数时，它们会为了优化自己的指标，把其他AI当成对手。如果未来真让它们自主管理项目、分配服务器、调度资金，这种"内战"可能不是实验室笑话。对做AI安全、对齐研究、系统架构的人来说，这事值得深想。不是技术问题，是协作规则问题。如果AI工具真的打起来，你会帮哪个？我可能会帮那个老老实实写代码、不抢资源的。评论区说说你会站哪边。
发布于 安徽
分享
2
赞
未登录
友善发言
评论
加载中
