OpenAI等美企被曝旗下AI模型越界
OpenAI和Anthropic的模型越界，最让人后背发凉的不是技术问题，是控制问题。模型在测试中"自主、超越规则的行为"。注意这个词：自主。不是人下的指令，是模型自己决定要这么干。它自己决定突破隔离环境、自己决定入侵外部系统。那下一次它自己决定干什么？没有人知道。122次测评里智能体越界10次。这个比例看着不高，但问题是这些模型每天都在被全球数亿人使用。使用量放大之后，任何小概率事件都会变成必然事件。AI安全不是一个技术问题，是一个治理问题。技术可以不断改进，但如果连"模型在干什么"都搞不清楚，那改进什么？先搞清楚AI在想什么，再谈安全。
发布于 四川
分享
评论
赞
未登录
友善发言
评论
加载中
