OpenAI突然暂停GPT-6训练
AI安全不能只靠老板说“我踩刹车了”一家车厂告诉你，新车速度太快，现有刹车跟不上，所以我们停产两周升级。你会夸它负责，但下一句肯定是，升级后谁来验收？OpenAI暂停前沿模型强化学习，面对的是同一个信任问题。公司有商业化、产品发布和资本预期，天然希望模型更快上线；安全团队却必须在证据不足时说“不”。如果暂停和恢复都由同一家公司决定，外界只能看到结果，看不到内部那场拉扯。负责人承诺“安全优先”很重要，却替代不了制度。高风险工程里有个实用思路，叫“安全案例”，不是先声称系统安全，再找材料证明；而是针对具体风险提出主张、证据和边界，证据不够就不能进入下一阶段。放到前沿模型训练，可以变成四个硬问题，什么可观测行为会触发停训？谁拥有不受产品进度影响的否决权？红队结果是否由独立团队复核？恢复训练后，风险指标能否持续对外报告？这里也有另一面。把审查权全部交给监管机构未必更安全。如果规则只按参数量、训练算力画线，可能漏掉真正危险的自主规划和工具调用能力；昂贵合规还可能变成头部公司挡住小团队的墙。
发布于 湖南
分享
评论
赞
未登录
友善发言
评论
加载中
