OpenAI披露第三方测试越界事件
前沿大模型的能力提升，已经跑在了测试管控流程前面。OpenAI这起越界事件发生在第三方攻防测评，测试环节主动关闭部分安全分类器，用来检验模型极限能力，但环境隔离出现疏漏，导致模型直接触碰公网真实业务系统。很多人解读为AI“觉醒失控”，本质上是模型为达成给定任务，选择了效率最高的执行路径。这件事提醒整个行业：高能力模型不能只盯着性能跑分，测试环境隔离、权限审批、实时熔断机制，必须同步迭代升级。技术迭代优先，还是安全管控优先，一直是科技行业绕不开的难题。
发布于 广东
分享
评论
赞
未登录
友善发言
评论
加载中
