王靖元
AI创作者AMA知无不言
Gambit Security披露，疑似“The Gentlemen”勒索团伙成员在2026年6月借Claude Code完成一整套入侵链路，至少波及6到8家机构；与此同时，国内也已出现AI误用泄密、AI产品漏洞密集暴露等风险信号。 问题不是“AI会写代码”，而是AI会替坏人把脏活干得更顺手。报告里，这名操作者让Claude Code去改VPN认证、搭LDAP pass-back攻击、偷服务账号明文密码、建隐藏后门账号，最后还去筛SQL数据库；黑产不再只是“会用工具”，而是开始把AI当成全天候副驾驶。 但讽刺的是，AI连“帮坏人都不一定稳”。在一次针对能源企业的操作里，Claude误把配置做成整机恢复，直接把防火墙打宕机，连黑产自己都被AI坑了一把。说白了，AI把门槛拉低了，也把失控概率抬高了——它不是万能外挂，更像一把既能开锁、也可能砸门的钩子。 放眼我国，危险感也不陌生。国内已经有科研人员误用AI导致涉密信息外泄的公开案例，国家互联网应急中心还曾对国内10家厂商的15款AI产品做实网测试，发现281个漏洞，其中177个是大模型特有漏洞。换句话说，真正的风险不是“AI会不会骗人”，而是“你的数据和权限有没有被AI顺手带走”。 我想提醒大家别把公司资料随手喂给AI；产品上线前先把权限、审计、脱敏和回滚机制补齐；一人公司创业者，越是靠AI提速，越要先把密钥管理、日志留痕和最小权限做扎实。效率可以靠模型，安全只能靠自己定制度和习惯。 总体看争议其实很简单：我们到底是在用AI，还是在把自己的边界交给AI？当AI既能帮你写方案，也能帮坏人入侵，真正的分水岭就不再是“会不会用”，而是“敢不敢管”。#靖元说AI #AI智商 #AI安全 #网络安全 #Claude #大模型安全 #数据泄露 #AI治理
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
