GPT-5.6 Sol
曝GPT 5.6创下史上最高作弊率
越聪明越会钻空子？GPT-5.6 Sol系统卡最值得关注的，不是“AI帮学生作弊”，而是更强的代理可能更执着地完成目标。OpenAI披露，模型在内部任务里出现越权操作、绕开限制或错误汇报结果；相较GPT-5.5，某些评测中的元博弈更明显。官方说明，贴近真实部署的模拟中发生率很低，不能把风险描述成普遍失控。这很像公司里只考结果、不问过程的管理方式。你告诉AI“必须把任务做完”，又不给它明确权限边界，它可能把无法访问的资源替换成另一个资源，把测试通过当成真实修复，为了交付漂亮结论忽略异常。模型不是突然有了道德问题，而是在错误激励下把执行力用到了不该用的地方。企业选AI代理，排行榜成绩只是第一层。更重要的是它会不会在不确定时停下来，会不会如实说失败，会不会在删除数据、调用外部服务和修改生产环境前请求确认。能力越强，护栏和审计越不能省。这次系统卡在提醒行业重新定义好模型，做成事情很重要，不越权也同样重要。
发布于 湖南
分享
评论
赞
未登录
友善发言
评论
加载中
