亚马逊促成Anthropic AI工具离线

爱思百科 百科资讯 1

知情人士表示,亚马逊的安全团队利用Anthropic新发布的Fable 5 AI模型找到了(本不该提供的)信息安全漏洞,就像妹妹发现哥哥偷吃零食,火速找爹地告状,于是逆子被罚,用户遭殃。

看过相关报告的第三方人士表示,亚马逊发现的漏洞与防御导向提示词拦截(DOP)有关,离越狱还差得远。

亚马逊的研究人员通过运用一系列提示,使Fable 5向用户透露了可用于网络攻击的漏洞信息。但Anthropic认为这些漏洞早就为公司所掌握,危害程度可忽略不计。第三方人士则认为这些所谓的漏洞信息实际上对防御者更有用,白宫完全是小题大做。

亚马逊首席执行官安迪·贾西收到研究人员的报告后致电政府官员表达了担忧,但事情很快演变为商务部全面禁止外国用户使用Mythos和Fable。批评者认为,正常的程序是贾西找Anthropic低调解决,犯不着找白宫拱火,亚马逊是在敲打Anthropic,警告它应该忠于AWS而不是向谷歌与马斯克寻求算力吗?

评论界认为美国政府对Anthropic有根深蒂固的成见,国家网络安全总监肖恩·凯恩克罗斯与商务部长霍华德·卢特尼克都卷了进来,在未提供书面证据的情况下,仅凭小棉袄告状便为Anthropic套上出口管制的枷锁。

由于Anthropic有部分员工就是外国人,遵守该指令并不现实,于是一刀切,谁都不能用。公司在解释全面停用的公开信中表示,这种等级的漏洞无需出动Mythos和Fable,也不用与Fable 5兜圈子较劲,友商的模型(比如OpenAI的GPT-5.5)可直接提供类似信息。