最近斯坦福联合MIT、CMU发布了全球首个AI系统提示词审计框架AISPA，顺便建了个全球最大的系统提示词库——收录400+AI产品的1000+条系统提示词。审计了88个真实产品，结论很扎眼：1⃣ 近40%的产品系统提示词至少违反一项审计标准2⃣ 只有23.9%的产品覆盖了全部8个合规维度3⃣ 系统提示词平均长度从9000字符涨到30000字符，约束变厚了，但漏洞没消失4⃣ 信息真实性和用户主体性是违规"重灾区"说白了，很多AI产品一边在加保护，一边在留漏洞。AI"装得很懂"但不承认局限、用亲密话术让用户产生依赖——这些不是bug，是写进系统提示词里的"设计选择"。做AI产品的同学该想想了：你的系统提示词，经得起审计吗？尤其是做出海业务的——欧盟AI法案已经要求透明度，这个方向只会越来越严。#AI合规 #智能体 #大模型 #数据合规
发布于 上海
分享
评论
赞
未登录
友善发言
评论
加载中
