Sam Altman：AI有用性已证，重点转安全保障
看到奥特曼说"AI有用性已经证实，重点转安全保障"，我深有体会，这真不是官话套话，是我们在一线实实在在感受到的变化。前两年大家比什么？比谁的模型参数大、比谁的benchmark分数高、比谁的Demo炫，投资人问的第一句话都是"你们模型能力比GPT差多少"；今年明显不一样了，从年初开始，客户问得最多的问题是：这个AI会不会胡说八道？会不会泄露数据？怎么保证它不输出有害内容？出了问题谁负责？怎么审计它的决策过程？我上个月接了个金融客户的AI项目，合同里一半条款是关于安全和合规的：要求模型输出必须可解释、敏感数据不能出域、必须有人工审核兜底、必须有红队测试报告、必须能追溯每一个决策是怎么来的。之前我们团队80%的精力在做能力提升，现在至少40%的精力在做安全相关的东西：内容审核、输出过滤、权限控制、审计日志、红队测试、异常检测。为什么会这样？因为AI真的开始用在核心业务里了，之前是Demo是玩具出点错没关系，现在要用来做贷款审批、医疗诊断、法律判断、生产控制，出一次错就是真金白银的损失，甚至人命关天，安全当然就成了头等大事。奥特曼说的"AI有用性已证"我翻译一下就是：大家已经相信AI能干活了，现在的问题是怎么保证它安全可靠地干活，不闯祸。这个转变对我们做AI的影响非常大，只会调API做Demo的人越来越难混，懂安全懂合规懂怎么构建可靠AI系统的人会越来越值钱。你们在公司做项目，是不是也感觉安全合规的要求越来越多了？
发布于 广东
分享
评论
1
未登录
友善发言
评论
加载中
