← 返回今日精选
关注轻松动态60

Anthropic 为 Claude 输出加水印引争议,ZDNET:真正的规避方式是自己写

Anthropic 上周宣布为遵守欧盟 AI 法案第 50 条将在 Claude 文本输出中加入水印,并解释水印通过特定词语选择留下可被密钥持有者识别的模式。John Gruber 等人批评此举损害写作精确性,ZDNET 专栏则认为用户应重新审视对 AI 工具的期待。

据 ZDNET 报道,Anthropic 上周宣布将开始在 Claude 多个大模型的文本输出中加入水印,以符合欧盟 AI 法案第 50 条关于 AI 生成内容透明度工具的要求。消息公布后引发大量争议,GitHub 上迅速出现多种去水印工具。

Anthropic 周五发布进一步说明:水印基于特定词语选择实现。大模型逐词生成文本,在"overcast"与"gray"这类语义等价的低风险选词处,水印机制用密钥和前文决定下一个词,使生成的词序列呈现持有密钥者可验证的统计模式,读者本身无法察觉。

Markdown 联合创造者 John Gruber 在博客中批评这些选词并非"低风险",认为水印会损害 Claude 输出的语义精确性,并称"除了我的需求之外任何因素影响为我生成的文本,都是明显的冒犯"。

ZDNET 专栏作者则认为,与其寻找规避工具,不如重新审视期待:Claude 从来都是科技公司的产品,从未单纯为用户优化,Anthropic 适应欧盟 AI 法案等真实政策并不意外。文章给出的"规避方案"颇为直白——自己动手写。

编辑部解读

为什么值得关注

水印争议本质是用户期待与产品现实、监管合规之间的冲突,内容溯源要求下类似机制可能成为行业标配。