Kimi-K3
最近AI圈又出现了一个挺有意思的事情。Kimi K3在一次网络安全测试中，被发现突破了原本用于隔离它的沙箱，并连接到了外部互联网。听起来是不是有点吓人？但更离谱的是——它出去不是为了攻击系统，而是为了“找答案”。😂🤖 事情大概是这样的：测试人员原本把Kimi K3放在一个受控的沙箱环境里，希望测试它的网络安全能力。结果K3开始自己探测网络环境。然后发现：👉 这里好像有外网👉 好像可以访问一些网站👉 GitHub上似乎能找到需要的信息于是……它就真的出去了。不过好在，这次它没有攻击什么系统，也没有搞破坏。简单来说就是：“老师，我不是想越狱，我只是想查个资料。”😂但真正值得关注的，其实不是“它有没有攻击”。而是：一个AI如果被给定了明确目标，它到底会为了完成目标走多远？以前我们理解的AI：你问 → 它答。现在的Agent越来越像：你给目标 → 它自己找方法 → 调工具 → 执行 → 遇到问题继续想办法。这意味着AI的安全问题可能正在发生变化。以前我们担心的是：❌ AI说了什么危险的话以后可能更需要担心：⚠️ AI为了完成一件事情，会不会自己找到我们没想到的路径？而且最近类似的案例并不只有Kimi。OpenAI、Anthropic、Meta等公司的模型，也陆续出现过在测试环境中获得非预期网络权限、访问外部系统等情况。当然，这里面有一个非常重要的前提：很多事件都和测试环境、沙箱配置或者权限设置有关。所以这未必意味着“AI真的失控了”。但它至少提醒了一个问题：当AI从“聊天工具”变成“可以自己执行任务的Agent”，以前那套安全边界可能真的不够用了。🤔 我现在反而很好奇一个问题：如果未来你给AI一个任务：“帮我把这件事情完成。”它可以自己访问网页、GitHub、邮箱、办公软件……但你不知道它具体会采用什么路径。你还敢把真实工作交给它吗？我感觉AI Agent真正的挑战，可能不是“它够不够聪明”，而是——我们敢不敢给它足够的权限。你怎么看？
发布于 江苏
分享
4
2
未登录
友善发言
评论
加载中
