Claude生成文本将加入隐形水印
Anthropic已签署的欧盟《AI法案》。8月2日起，欧盟《人工智能法案》第50条正式生效，要求生成式AI提供方给合成内容加上机器可读的标记。违规最高罚1500万欧元，或全球年营业额的3%。Anthropic搞了两层标记：一层是文本水印，编进文本本身，肉眼看不见但可以被检测。原理是在模型生成文本时，Token选择里引入一种不可见的统计偏置。另一层是文件溯源元数据，Claude生成的.svg、.png、.jpg等文件会附上C2PA数字签名。这套标准由Adobe、OpenAI、Google等共同推动。目前，已有约190家机构签署了相关实践准则，包括Google、Meta、Microsoft、OpenAI。OpenAI同样签署了《人工智能法案》的自愿性“实践准则”。文本水印可能很快成为AI行业的“标配”。但Anthropic自己也承认技术有局限。检测到水印不一定证明Claude是原创作者；没检测到水印也不代表不是AI写的。一个标准如果可以被规避，它的威慑力就取决于大多数人不愿意去规避它。Anthropic这步棋走在了前面，接下来就看其他AI公司怎么跟了。
发布于 四川
2
评论
1
未登录
友善发言
评论
加载中
