Anthropic将为Claude生成文本加入AI水印,全球上线并适配欧盟AI法案要求

8月14日,Anthropic宣布将为未来Claude模型生成的文本加入不可见文本水印。这套机制主要用于判断一段文字是否可能由Claude参与生成,也是Anthropic为满足欧盟AI法案相关透明度要求而推进的新措施。由于目前难以按地区稳定区分是否启用,Anthropic表示水印机制在上线初期将面向全球用户实施。

与图片上的可见水印不同,Claude文本水印不会插入隐藏字符,也不会在文本中添加肉眼可见的标记。Anthropic表示,该机制主要通过调整模型在多个合理词语之间进行随机选择的方式嵌入统计特征,采用的是基于Google DeepMind SynthID-Text思路的技术方案。普通读者基本无法从文字表面判断是否存在水印。

Anthropic还强调,水印不会携带用户姓名、公司、聊天记录等身份信息,也无法追踪到具体个人或某一次对话。其主要作用是帮助检测工具判断“Claude参与生成这段文字的可能性”,而不是证明所有AI生成内容的来源。对于代码、事实性较强或可选词较少的文本,检测效果也可能受到限制。

这意味着生成式AI正在从单纯比拼模型能力,进一步进入内容来源标记和可追溯性阶段。随着欧盟AI法案等监管规则推进,未来OpenAI、Anthropic、Google等大型AI厂商如何标识机器生成内容,可能逐渐成为模型产品的基础合规能力之一。


上一篇:

发表回复

评论列表

    Loading...

    联系我们

    在线咨询: QQ交谈

    微信:叁叁

    邮件:794033364@qq.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信