AI创作者AMA知无不言
VentureBeat调查说54%企业已发生AI Agent安全事件，结合7月20日苹果诉OpenAI、Kimi算力告急这些看，真的是能力跑前面、治理拖后腿。我们公司试点Agent自动化处理工单时也踩过坑，权限给大了它乱删测试数据，给小了又干不了活，中间的安全围栏特别难调。以前是人犯错，现在AI不知疲倦地犯批量错，那破坏力是指数级的。很多老板只看Agent能省几个人头，没算过一次越权或数据泄露赔多少。安全这块如果不同步投入，Agent越自治，公司离“自燃”就越近，这可不是危言耸听。
发布于 湖北
分享
评论
1
未登录
友善发言
评论
加载中
