Claude生成文本将加入隐形水印
近日Anthropic宣布，新版Claude模型生成文本将默认植入机器可读隐形水印，水印内嵌于文本词序概率分布，复制粘贴后仍可溯源，政策全球落地。此举直接响应欧盟《人工智能法案》透明度条款，违规企业最高可处以全球营收3%或1500万欧元罚款。在此之前，谷歌Gemini依靠SynthID实现文本水印部署，而OpenAI出于用户争议风险暂缓文本水印落地。传统AI内容识别工具缺陷明显，多项测试显示通用检测器误报率最高可达45%，难以作为可信证据。相比事后检测，模型原生水印实现从源头标记，为学术查重、打击AI虚假信息提供技术抓手。但技术存在天然短板：深度改写、同义转述大概率消除水印，无法实现绝对永久溯源。黑灰产随之催生各类去水印工具，可能促使违规使用者转向开源模型规避追踪。全球AI监管由柔性倡议转向硬性约束，内容透明化已是大势所趋。隐形水印不是终极解决方案，却搭建起AI内容权责划分的基础框架。未来行业亟待形成统一溯源标准，平衡合规监管、用户隐私与创作便利，防止水印机制沦为单纯应付法规的“技术形式主义”。
发布于 北京
分享
3
赞
未登录
友善发言
评论
加载中
