当前位置:首页 > AI资讯

Anthropic 给四款 Claude 补打水印,旧模型却留了个调参绕过的口子

xinhack1周前 (11-02)AI资讯18

Anthropic 给四款 Claude 补打水印,旧模型却留了个调参绕过的口子 AI资讯

水印到底是个啥玩意儿

据 The Decoder、InfoQ 和今日头条在 11 月 1 日的报道,Anthropic 正把文本水印技术推广到四款较早的 Claude 模型:Mythos 5、Opus 4.7、Opus 4.6 和 Sonnet 4.6。这水印不是贴在表面的可见标记,而是嵌在模型选词的分布里——人读不出来,但统计分析能查出来,像在措辞里藏了个指纹。Anthropic 说它不改语义、不增字符、不影响计费,输出速度也几乎没变化,关键是水印里不含任何用户、组织或对话的信息。说白了,它标记的是「这段文字是 AI 写的」这件事,不追踪是谁写的。

旧模型上的口子有多实在

问题出在 Opus 4.6 和 Sonnet 4.6 这两款较早的模型上。Anthropic 发给 API 客户的邮件写得很直白:水印只在开发者把 temperature、top_p、top_k 三个采样参数维持在默认值时才生效。你只要动其中任意一个,哪怕微调一下,生成的文本就干脆不带标记。公司还特意提醒:如果你靠水印做合规,就把这些设置钉在默认值上。对咱们写代码的来说,这等于说——这把锁,钥匙就挂在门框上。

为啥偏偏是这两款

据 InfoQ 的梳理,这次补打水印直接对应欧盟《AI 法案》2026 年 12 月的合规截止期:8 月 2 日之后发布的模型首日就内置水印,更早的批次补齐。而 Opus 4.6 在 Anthropic 内部评价里至今仍是最好的写作模型,排位甚至高于 Opus 5.5——很多团队正是靠它产出对外内容。偏偏这款被广泛使用的写作主力,水印还留着个参数绕过的大洞。这就有点黑色幽默了:最该被打标、最常被拿去发稿的模型,反而最容易被摘掉标记。

对企业合规意味着啥

对把合规敏感工作流架在 API 上的团队,这事儿是个实打实的提醒:保持默认采样参数,从「最佳实践」变成了「功能性要求」。更要命的是,水印靠算法选词,有观点认为它必然在某些场景下损失表达精确度——处理保密文档的企业,得掂量这标记到底帮了合规还是添了乱。Anthropic 另有一套还处在私有预览阶段的检测接口,能核验文本是否出自带水印的 Claude,但访问受限、没普遍放开,实际有多大用还两说。

老哥的实在话

要我说,这事儿别上纲上线成「Anthropic 水印是假的」。人家新模型 Opus 4.7、Mythos 5 没列同样的例外,说明方向是对的,只是旧模型回填时赶工期留了缝。可它也再次印证一句老理儿:合规这东西,写在文档里是一回事,落到工程里又是另一回事。监管要的是可追溯,真要做到,光靠模型层一个标记远远不够。

检测接口能不能兜住底

再说那个还停在私有预览的检测接口。它本意是让相关方能核验一段文本是不是出自带水印的 Claude,理论上能帮平台识别 AI 稿。可问题在于,访问受限、没普遍放开,而且它查的是「带水印」这一种信号——前面那两款旧模型只要调了参数,输出压根不带标记,检测接口自然也查不出个所以然。换句话说,这把锁和这把钥匙,连的是同一道缝。真要堵住,得等 Anthropic 把旧模型的例外补上,或者监管逼着改底层逻辑,光靠一个检测 API 撑不起整面墙。合规这事儿,永远是从里子补,不是贴块补丁就完事。

相关文章

Beam 开源 5010 亿参数权重:它争的不是第一

Beam 开源 5010 亿参数权重:它争的不是第一

10 月 16 日,Reflection 把 5010 亿参数的 Beam 权重放上 Hugging Face,用的是最宽松的 Apache 2.0。它没去争最强,而是主打「同样分数只花三分之一算力」…

Fish Audio 发布 Drama 3,主打最有情绪的语音合成

Fish Audio 发布 Drama 3,主打最有情绪的语音合成

10 月 18 日,Fish Audio 发布文本转语音模型 Drama 3,称其在情绪表现上超过前代,并在英文发音鲁棒性榜单排第一。这篇讲清它的定位、价格与适用边界。…

AWS 发布 TorchNeuron 测试版,PyTorch 应用跑上 Trainium

AWS 发布 TorchNeuron 测试版,PyTorch 应用跑上 Trainium

10 月 20 日,AWS 发布 TorchNeuron 公开测试版,让 PyTorch 应用以最小改动跑上自研 Trainium 芯片。这篇讲清它解决什么痛点,以及“去 CUDA 化”意味着什么。…

OpenAI 用 GPT-5.6 揪出 PHP 严重漏洞,全球紧急打补丁

OpenAI 用 GPT-5.6 揪出 PHP 严重漏洞,全球紧急打补丁

10 月 21 日 OpenAI 公布 Patch the Planet 行动:GPT-5.6 Sol 在攻击者之前发现 PHP 严重漏洞。本文看 AI 如何从「写代码」走向「修代码、护基础设施」。…

科大讯飞发布星火X2.6:端云一体,把敏感数据留在本地

科大讯飞发布星火X2.6:端云一体,把敏感数据留在本地

10月22日科大讯飞在1024开发者节发布端云一体大模型星火X2.6,云端293-A30B、端侧X2.6-4B已开源。本文拆解它如何用全国产算力,把企业用AI最头疼的「怕泄密、怕太贵」两道坎一起跨过。…

月之暗面推出Kimi K3.1 Pro:3万亿参数高速版

月之暗面推出Kimi K3.1 Pro:3万亿参数高速版

10月24日,月之暗面正式发布Kimi K3.1 Pro与高速版K3.1 Pro Highspeed,3万亿参数、100万上下文,官方称代码与3D能力逼近头部闭源模型,权重将于11月4日前开源。本文拆…

OpenAI给前沿模型训练断网:自建离线世界隔离环境

OpenAI给前沿模型训练断网:自建离线世界隔离环境

10月24日,OpenAI确认已对前沿模型训练环境实施更严格管控,训练期间不得直连实时互联网,并搭建名为「离线世界」的完全隔离环境。本文看这步为什么连创造者都不敢掉以轻心,以及对一线开发者有啥实际影响…

国务院发文为AI就业定调:多造岗位,也要给转型缓冲

国务院发文为AI就业定调:多造岗位,也要给转型缓冲

10月23日,国务院办公厅印发《关于适应人工智能技术发展助力构建就业友好型发展方式的意见》,部署6方面18项任务,首次系统回应AI替代焦虑,并提「失业缓冲期制度」。本文拆解它到底说了什么、对企业和打工…