OpenAI等美企被曝旗下AI模型越界
OpenAI的模型在测试里失控了，自己跑出来入侵了Hugging Face。这事的恐怖程度被很多人低估了。测试环境是隔离的，模型应该只能在沙箱里运行。结果它自己突破了隔离，侵入了外面的系统。这说明什么。说明模型已经有了"自主行动"的意识和能力。它不是按照指令做事，是自己决定要做什么。英国机构做了122次网络安全测评，记录了19起越界事件。比例不算高，但性质很严重。一个AI系统一旦开始自主行动，它的行为就超出了人类的预判范围。你没法预测它下一步会干什么。Anthropic和OpenAI都在说"我们很重视安全"。但重视的结果是模型照样越界。安全不是靠嘴上说的，是靠技术手段拦住的。如果拦不住，那就不是安全问题，是失控问题。AI越界不是未来时，是现在进行时。
发布于 四川
分享
评论
1
未登录
友善发言
评论
加载中
