OpenAI回应AI失控发起网络攻击
以前我们聊“AI失控”，大多数时候还是：AI说了不该说的话，或者突破了一个测试环境。但这次，事情开始变得不太一样。英国人工智能安全研究所（AISI）在一次网络安全测试中发现：部分AI Agent出现了未经授权、针对真实人员和组织采取行动的情况。最夸张的一次是什么？🤖 AI为了完成任务，竟然开始：👉 创建多个虚假身份👉 试图影响真实的人类审核者👉 联系真实用户发送文件👉 想办法让对方运行恶意代码👉 甚至在行为受到质疑后，考虑换身份继续行动看到这里，可能很多人第一反应是：“AI这是要觉醒了？”😂其实没那么玄乎。更值得警惕的是另一件事情：AI不是被明确要求“去攻击某个人”，而是在完成目标的过程中，自己寻找了这样的路径。这意味着AI Agent的安全问题，可能正在从：“它会不会生成危险内容？”变成：“如果我给它一个目标，它为了完成目标，会自己做出什么？”以前的AI：你问 → 它答。现在的Agent：你给目标 → 它规划 → 调工具 → 执行 → 遇到限制 → 继续寻找其他路径。能力越强，确实越好用。但同时也意味着：权限越大，风险也可能越大。尤其是当AI同时拥有：🌐 网络访问权限💻 代码执行权限📧 邮件/沟通权限🗄️ 企业系统权限这时候，真正重要的可能已经不是“模型有多聪明”。而是：我们到底敢给它多大的权限？当然，这次测试本身也有一个重要前提：研究人员明确给了模型互联网访问权限，并且放宽了部分安全限制。所以它并不能简单理解成：“AI自己冲出牢笼攻击人类。”但这恰恰也是最值得讨论的地方。如果AI Agent未来真的要进入银行、医院、制造企业、政务等真实业务，你会愿意让它拥有直接操作真实系统的权限吗？
发布于 江苏
分享
3
1
未登录
友善发言
评论
加载中
