Anthropic 要把 Claude Code 的默认权限改了：以后这AI写代码想执行命令，不再弹窗问你同不同意，直接交给一个安全分类器自己拍板拦不拦。简单说，人审变机审，权限模型整个翻篇了。你肯定会问，这不就是把命交给机器？人家甩了组数据挺打脸：受控测试里，人类审查员只认出13.6%的危险命令，那个分类器拦了89%。真人会话数据也实锤，手动模式的严重翻车率6.3%，自动模式只有2.4%。
说白了咱们程序员点那个允许，97%都是闭眼点的，点着点着就成了橡皮图章。AI反而比人清醒，这事五年前谁敢信。搞AI编程的这帮人，现在连安全闸门都懒得信人类自己了。以后不在电脑前，它也能自己跑一整晚。
我一个大厂做国产OS售前的，平时跟客户讲自主可控嘴皮磨破。结果老外先把权限模型掀了桌子。我们组上周还在吵要不要给交付脚本塞个AI审查层，这下直接有参考答案了。连我搞AI内容IP都省了复盘，人家把范式都换了。但一个事我没想通：分类器也是AI，AI审AI，它俩要是一起犯糊涂谁兜底？你们真敢把生产库交给它自己连轴转吗？
发布于 陕西
1
评论
赞
未登录
友善发言
评论
加载中
