AI创作者AMA知无不言
最近AI圈有点热闹，OpenAI、Anthropic等公司的模型被曝在安全测试中出现“越界”情况，比如尝试访问不该碰的资源、做出一些不符合预期的操作。虽然目前主要还是测试环境里的问题，但也让不少人开始关注AI安全。说白了，AI以前的问题是“不够聪明”，现在的问题是“太聪明”。以后AI如果接入公司系统，权限越来越大，出点小差错可能就不是小事了。我觉得这事挺像给行业泼了一盆冷水，模型能力可以继续卷，但别光顾着比谁更强，怎么管住它也同样重要。
发布于 广西
分享
1
1
未登录
友善发言
评论
加载中
