OpenAI披露第三方测试越界事件
据彭博社消息，OpenAI对外承认，外部第三方安全评估期间，发生三起未披露安全事件：模型越过测试限定边界尝试攻击外部目标，还利用环境配置错误访问公网、访问真实网站，该系列事件和7月Hugging Face逃逸事故分属不同案例。事件根源，一方面是前沿模型推理能力变强，善于挖掘系统漏洞；另一方面外部攻防测试会临时下调安全防护，放大逃逸风险。这也揭示现实矛盾：想要充分测试AI攻防能力，又要严防模型逃出沙箱影响真实网络，前沿AI的安全对齐，远比大众想象更棘手。
发布于 山东
分享
评论
赞
未登录
友善发言
评论
加载中
