![]() |
|
亚马逊作为Anthropic的主要投资者之一,其CEO近日致电美国政府,报告了模型存在的安全隐患。尽管Anthropic在发布前多次通知政府并紧急谈判,美方仍以安全为由实施出口管制,暂停境外访问并全球下架。该事件凸显了美国对前沿AI安全的高度焦虑,以及商业利益与国家安全交织下监管力度的持续升级。
Anthropic的AI模型在公开发布数日内被美国政府叫停,导火索来自其主要投资方亚马逊。
据《华尔街日报》,亚马逊CEO安迪·贾西致电美国财政部长贝森特等高官,称其研究人员通过特定提示词绕过Anthropic旗舰模型Fable 5的安全护栏,获取了可用于网络攻击的敏感信息。白宫随即召开紧急会议,商务部最终对Fable及Mythos模型实施出口管制,禁止境外用户访问。Anthropic随后暂停两模型的所有用户访问,以配合合规要求。
亚马逊深夜致电,引爆AI管制连锁反应
据Axios报道,事件始于当地时间周四深夜。亚马逊致电美国政府官员并提交报告,称其研究人员成功突破Anthropic旗下Mythos模型的安全限制,访问到被认定构成国家安全威胁的内容。
另据《华尔街日报》,亚马逊的报告显示,在特定提示词引导下,Fable 5模型能够挖掘出至少四款软件程序中的安全漏洞,这类信息通常受模型安全机制屏蔽。

网络安全公司GreyNoise Intelligence创始人Andrew Morris指出,这些信息距离真正危险的网络安全情报仍有相当距离,许多公开工具亦可发现类似漏洞。此外,尚无证据表明亚马逊研究人员突破了Fable模型将漏洞信息转化为可执行攻击代码的更深层防护。
Anthropic方面回应称,亚马逊所指出的漏洞属于相对基础的问题,公司已建立充分的安全保障机制,始终将安全置于优先位置。
周五凌晨谈判未果,川普签署出口管制
据Axios,政府官员当地时间周五凌晨与Anthropic进行了数小时谈判,要求其主动下架最新模型,但未达成一致。
据《华尔街日报》报道,Anthropic首席执行官Dario Amodei与部分政府官员在周五的通话中,进一步加深了后者的疑虑。官员们认为,Anthropic表现出不愿与政府安全专家合作解决问题的态度,这与政府长期以来对其在安全风险管理方面缺乏可信度的判断相互印证。
最终,川普总统尽管对限制创新有所保留,仍签署批准了此次管制行动。白宫AI顾问、风险投资人David Sacks在社交媒体上表示,这一限制措施实属“不情愿”之举,并称政府“现在的希望是Anthropic修复安全问题,出口管制得以解除,Fable模型重新公开发布”。
值得注意的是,Anthropic在Fable模型发布前已多次通知美国政府,并与政府关键AI测试机构合作,采取分阶段开放策略,优先向亚马逊等科技公司提供预览访问权限,以便在更大范围公开前用于软件漏洞排查。
利益交织,亚马逊既是股东又是“吹哨人”
此次事件的复杂性在于,亚马逊既是Anthropic的主要投资方,也是其芯片供应商,同时还将Anthropic最优质的模型部署于自身的软件漏洞识别业务中。
据《华尔街日报》援引部分知情人士,亚马逊CEO贾西致电政府官员的本意是一般性安全预警,但事态迅速升级为商务部对境外用户的全面封禁。亚马逊发言人表示,作为服务大量公私营客户的领先云服务提供商,政府就潜在安全风险征询其意见并不罕见,并称此类情况下公司不会披露相关讨论细节。
部分分析人士指出,白宫对Anthropic的不信任由来已久,涉及该公司与自由派政治捐款人的关联、其对AI危险性的公开警告,以及此前雇用多名拜登政府官员等因素。
估值承压、用户分流,OpenAI或成潜在受益方
此次管制在Anthropic冲刺IPO的关键节点落地,时机尤为敏感。
据报道,该公司最早计划于今年秋季上市,旗舰模型被迫下架可能导致用户流向其他平台,并对公司估值构成压力。OpenAI被视为潜在受益方,该公司拥有自己的强大网络安全模型,正逐步向客户开放,并与川普政府保持积极沟通。
从更宏观的视角看,结合近期赋予安全官员对AI模型更大监管权限的行政令,以及政府就潜在入股AI公司展开的讨论,此次事件标志着政府对AI行业管控力度的显著升级。
| 当前新闻共有0条评论 | 分享到: |
|
||||||||||
| 评论前需要先 登录 或者 注册 哦 |
||||||||||||
| 24小时新闻排行榜 | 更多>> |
| 1 | 去了一趟新加坡,结论是完全不宜居 |
| 2 | 盖子捂不住了,北京终于官宣 |
| 3 | 翁帆近况被曝不到1天 担心的事发生了 |
| 4 | 现状触目惊心,连上海也撑不住了 |
| 5 | 中国球迷泪洒世界杯开幕式 网络炸锅 |
| 48小时新闻排行榜 | 更多>> |
| 一周博客排行 | 更多>> |
| 1 | 赵晓 | 《给阿嬷的情书》:一 | 万维网友来 |
| 2 | 习近平为何不再沿用“第四代领 | 陈家梁子 |
| 3 | 謝松齡:聖經中上帝救恩脈絡的 | 阿詩蘭 |
| 4 | 老高的这个贴,至今读来,让人 | 席琳 |
| 5 | 胡锦涛朱镕基温家宝等正国级高 | 明豪 |
| 6 | 溪猪为何访问北韩? | 山蛟龙 |
| 7 | 谁杀了袁文才、王佐? | 历程历程 |
| 8 | 文革既不是权力斗争,也不是路 | 老贫农 |
| 9 | 为什么中国移民异口同声滴咒骂 | 馋师五代 |
| 10 | 德国制造的屈辱 | 万湖小舟1 |
| 一周博文回复排行榜 | 更多>> |