标签: 特朗普

  • 特朗普政府要把Anthropic’按死’?这事没那么简单

    美国时间上周五下午,一条消息在AI圈炸了锅——特朗普政府以”国家安全”为由,要求Anthropic把刚发布的两款新模型Fable 5和Mythos 5直接下架。理由据说是这两款模型可能被外国 nationals(外籍人士)拿来干坏事,但具体到什么风险,政府那边一个字都没透露。

    Anthropic的处境挺尴尬。他们说自己没法确保模型不被外籍人士使用,毕竟连自家员工都有不少外国人,总不能挨个查身份吧?最后只能把模型整个撤下来,谁都用不了。


    这事是怎么闹大的?

    据TechCrunch的报道,这事的导火索挺戏剧性的。据说亚马逊的研究人员发现了一种可以绕过Fable 5安全防护的方法,然后亚马逊CEO Andy Jassy直接把这事捅到了白宫那里。接下来就是一连串的快速反应——政府周五下午发函,Anthropic周末就得把模型撤下来。

    Timing也很微妙。那天正好是美国对伊朗动手、试图谈判条约的时候,周五下午发布这种消息,很多人觉得这就是故意挑个大家不太注意的时间点。

    Anthropic跟特朗普政府的关系,从一开始就没怎么好过——这一点跟其他AI实验室不太一样,可能是这次被打压的底层原因。

    专家说不靠谱,政府这是报复?

    这事蹊跷的地方在于,很多网络安全专家都站出来替Anthropic说话。一批资深安全研究人员联名写了一封公开信,要求特朗普撤销这个出口管制令。他们的理由是:把这种级别的AI网络安全能力从美国本土的防御者手里拿走,反而是更危险的。

    而且专家们还说,Fable 5能被越狱这个问题,其他几个AI模型也有,不是Anthropic一家的事。如果真的担心安全风险,那应该是对整个行业出台标准,而不是单拎Anthropic出来打。

    于是有人开始猜测,这事儿没那么简单——是不是报复?毕竟之前美国政府把Anthropic列为”供应链风险”,两边还在打官司。搞不好白宫就是想找个由头敲打一下Anthropic。

    Anthropic自己也有点”自作自受”?

    不过话说回来,也有人对Anthropic的处境不太同情。他们的逻辑是这样的:Anthropic一边对外说”这模型太危险了,不能随便发布”,一边又自己把模型做出来、到处宣传它的能力有多强。这不等于自己打自己脸吗?

    有个细节挺讽刺的:Fable 5发布前一周,Anthropic还在那边呼吁”大家慢一点,AI发展太快了,危险”。结果一周后,他们自己就把”史上最强模型”给放出来了。这种言行不一,确实容易招人烦。


    塞翁失马?”被禁”反而成了最好的广告

    但最有意思的事情发生了。之前Anthropic跟特朗普政府闹过一次,结果反而因祸得福——Claude的下载量飙升。很多人原来只知道ChatGPT,那次风波之后,开始把Claude当成”更负责任的选择”、”更有反抗精神的AI”。

    这次说不定也是同理。你想啊,连特朗普都说你的模型”太危险、太强大”,那不是最好的广告词吗?”连总统都怕的AI,你不想试试?”——这种反向营销,花多少钱都买不来。

    TechCrunch那期播客里,主持人Rebecca Bellan说了一句特别精辟的话:”大家都喜欢坏男孩,对吧?”——Anthropic这下在用户眼里,可能反而变得更酷了。

    那么,谁受益了?

    这个问题其实挺关键的。如果Anthropic被按住不动,那OpenAI、Google这些竞争对手是不是就少了一个强力对手?但事情可能没这么简单。

    一方面,Anthropic被禁,确实给其他人留出了空间。但另一方面,这种用行政手段干预AI发展的做法,对所有AI公司来说都是一个警告——今天能对Anthropic下手,明天会不会轮到我?这种不确定性,对整个行业的长期发展未必是好事。

    还有一个角度:这事会不会反而让Anthropic变得更强大?被”打压”的公司往往能激发更强的团队凝聚力,也能在用户心中建立”反抗者”的品牌形象。从商业角度看,这未必是坏事。

  • G7峰会上,Macron和Modi悄悄问了硅谷一个难题

    上周三的G7峰会上,法国总统Macron在午餐时向坐在同桌的Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman,还有特朗普,抛出了一个相当直接的问题:如果美国”从一天到另一天就能关掉开关”,会发生什么?

    这个问题不是空穴来风。几天前,特朗普政府刚刚以国家安全为由,阻止了Anthropic将最新的Mythos 5和Fable 5模型出口到海外。起因是Amazon向白宫报告称,这两个模型的一些安全护栏可能被绕过。

    G7峰会与AI数字主权
    G7领导人讨论AI治理与数字主权

    一个让欧洲和印度都睡不好觉的风险

    Macron的担忧很实际。如果美国明天突然决定切断某个国家对企业级AI模型的访问,受影响的不只是当地公司——整个依赖AI的经济活动都可能停摆。而对Anthropic和OpenAI来说,失去整个欧洲或印度市场,也不是什么好事。

    印度总理Modi也在同一场合表达了类似关切。据《金融时报》报道,他强调民主国家必须不受限制地使用顶级AI模型,才能保护关键基础设施。

    这件事暴露了一个很多国际公司和政府已经在默默应对的风险:任何 build 在美国AI基础设施上的业务,现在都必须面对一个可能性——访问权限可能在没有任何预告的情况下被收回,而且原因永远不会被告知。

    Cohere CEO:这件事我们早就知道了

    加拿大企业AI公司Cohere的联合创始人兼CEO Aidan Gomez借此机会推销了一把自家的”数字主权”叙事。他在给TechCrunch的声明里说:”Anthropic模型访问受限这件事,验证了Cohere一直以来的判断——企业和民主国家继续依赖少数几家大科技公司,对韧性来说是危险的。”

    他接着说,数字主权不只是市场竞争的问题,也不只是某家公司或某个国家的事。关键在于,谁控制了这个将在未来几十年塑造我们经济安全和国家主权的基础技术。

    这话听起来像在给Cohere打广告(某种程度上也是),但背后的逻辑确实站得住脚。如果AI真的像电一样成为基础设施,那”电”的开关捏在别人手里,这事儿怎么想都让人不安。

    G7的”可信伙伴”计划能解决问题吗

    G7领导人在这次会议上讨论了一个”可信伙伴”机制的初步方案。基本思路是:让非美国国家的公司(和政府部门)能够持续获得Anthropic、OpenAI等公司的先进AI模型访问权,同时建立某种开放的贸易网络来绕过美国的单边限制。

    符合条件的”可信伙伴”可以是其他国家政府,也可以是企业,前提是他们用这些模型来加强对中国等竞争对手的防御能力。


    但这个方案到底能覆盖多远,目前完全不清楚。对于巴黎或班加罗尔的某个创业公司来说,如果某天早上起来发现产品突然不能调用Claude API了,这个”可信伙伴”机制能不能帮上忙——答案大概率是不能。

    Macron倒是挺务实的。他说,华盛顿方面支持这个机制、并且更广泛地放开Mythos访问权限,符合所有人的利益。毕竟,如果买来的AI访问权随时可能消失,还有谁敢放心买?

    这番话讲出口的同时,欧洲和其他非美国地区还在努力推动”AI主权”战略。但这件事越来越像一场正在输掉的比赛——美国模型一直在进步,没人愿意被落下,嘴上说着要自主,身体却很诚实地继续订阅ChatGPT Enterprise。

  • 特朗普签了份AI行政令,要让政府提前看到最强模型

    6月2日,美国总统特朗普悄悄签了一份AI行政令,全名叫《推动先进人工智能创新与安全》。名字听上去很宏大,但核心内容其实只有一件事:让AI公司在把最强大的模型放出来之前,先给美国政府看一眼。

    不是强制,但分量不轻

    这份行政令用的是”自愿”框架——政府不会强制审模型,也不会搞审批许可。但话又说回来,当政府开口说”能不能先让我看看”,有几家公司真的敢说”不”?

    具体要求是:AI开发者如果愿意,可以在模型公开发布前最多30天,把模型提供给政府指定的合作伙伴做网络安全测试。这些”可信合作伙伴”再由政府来筛选。OpenAI、谷歌、Anthropic都在被邀请的名单上。

    白宫在情况说明书里写得很明白:目标是”在创新和国家安全之间取得适当平衡”。翻译成人话就是:别让AI跑太快,安全得跟上。


    和拜登那套不一样

    特朗普政府在文案里没少踩前任。情况说明书里直白地写道:拜登政府搞的是”自上而下”的监管,而特朗普要走”与美国产业界携手合作”的路线。

    具体差别在哪?拜登2023年那道行政令要求AI公司主动向政府报告安全测试结果,有一股”我管你”的架势。特朗普这道则换了个说法:”我们不审批,我们只是建议你让我们提前看看,顺便帮你找找漏洞。”

    行政令里还专门写了一句:本命令不得被解释为授权对AI模型的开发、发布、发行或分发设立任何强制性政府许可。这句话大概是律师们吵了好几轮才写进去的。


    具体要做什么

    行政令把任务分给了几个部门,时间节点也定得很清楚:

    • 30天内:国土安全部牵头,给联邦机构、地方政府、关键基础设施运营商(医院、社区银行、公用事业)提供AI赋能的网络安全工具
    • 60天内:财政部、战争部、国土安全部联合建立”AI网络安全信息交换中心”,让AI公司和基础设施运营商能共享漏洞信息
    • 60天内:建立涉密基准测试流程,用来评估前沿模型的网络能力——简单说就是给模型”考个试”,看它有没有可能帮坏人干坏事
    • 自愿框架:AI公司可以自愿把模型提前交给政府认可的合作伙伴做安全测试,时限不超过30天

    此外,司法部被要求优先打击利用AI实施的网络犯罪——非法入侵系统、窃取数据、用AI辅助其他犯罪活动,都在打击范围内。


    业界怎么看

    目前这份行政令是”请求”而非”命令”,业界反应相对克制。Anthropic和OpenAI都曾表示愿意与政府合作做安全测试,但具体的合作框架怎么搭, voluntarily到底volunteer到什么程度,都还是未知数。

    值得关注的是,这道行政令出台的时间点很微妙——Anthropic正在准备IPO,OpenAI的上市计划也箭在弦上。政府在这个节骨眼上伸出手来要”提前看模型”,很难说不会对资本市场的情绪产生影响。

    另一边,欧盟的《人工智能法案》8月2日就要全面生效了,监管铁拳是真真切切地要落下来。相比之下,美国这边还在用”自愿合作”的方式,两头一对比,AI公司的处境确实不太一样。

  • 特朗普签了AI行政令,模型发布前要过政府这一关

    美国总统唐纳德·特朗普在周二签署了一项关于人工智能的行政令,要为AI公司搭一个”自愿框架”——企业可以在前沿模型公开发布之前,先拿给政府看看。官方说法是”促进安全创新,加强关键基础设施网络安全”,听起来挺温和。

    白宫在行政令里明确说了一句话:这”不应被理解为强制许可或者预先审批”。也就是说,企业不配合也不会被罚,完全自愿。

    自愿审查,但谁自愿谁不吃亏

    这个框架最微妙的地方在于”自愿”二字。行政令指示多个联邦机构制定一套流程,在AI模型公开发布之前”评估其高级网络能力”。企业可以自行决定是否把模型交给政府审查,但如果交了,就能获得相应的保密保护——换句话说,不交的企业就得自己承担所有潜在的安全责任。

    实际上,这种”自愿”背后有很现实的考量。上个月,谷歌、微软和xAI已经同意接受商务部下属AI标准与创新中心(CAISI)的发布前审查。先交的企业能拿到政府背书,后交的就可能被视为”不安全”。


    特朗普的态度为什么变了

    这事其实有个背景。特朗普之前曾经推迟签署一项AI行政令,原因是他担心那会”阻碍”美国跟中国的竞争。《纽约时报》的报道说,最初版本的草案允许AI公司在发布前14到90天自愿共享模型,而最终版本把时间压缩到了最多30天。

    更关键的是,此前在特朗普政府中担任白宫AI与加密货币主管的大卫·萨克斯(David Sacks)任内,政府对AI安全问题一直是淡化处理的,基本采取了不干预态度。这次签署行政令,说明白宫的态度在发生微妙转变。

    特朗普签署行政令
    特朗普签署AI行政令,建立模型发布前自愿审查框架(图源:The Verge)

    Anthropic的Mythos模型是关键转折点

    这次态度转变的一个直接诱因,是Anthropic在今年4月有限推出的Mythos模型。Anthropic自己说,这个模型发现了”数千个高危漏洞,包括所有主流操作系统和网页浏览器中都存在的一些漏洞”。

    在此之前,Anthropic曾经因为AI被用于自主致命武器和大规模监控的问题,跟五角大楼闹过法律纠纷。Mythos的出现,似乎为缓和Anthropic跟政府之间的紧张关系创造了一个契机。截至目前,这项行政令甚至获得了一些通常反对限制AI法律的团体的赞扬。

    美国负责任创新组织主席布拉德·卡森(Brad Carson)在声明中说:”白宫正式接受了Mythos模型的影响。”安全AI联盟首席执行官布伦丹·斯坦豪瑟(Brendan Steinhauser)则表示,他的组织”很高兴看到特朗普政府认真对待这些模型的风险”。


    接下来会怎样

    卡森和斯坦豪瑟都在呼吁国会立法,把类似的保护措施变成法律,而不只是靠行政令。毕竟行政令的效力是有限的,下一任总统完全可以把它撤销掉。

    对AI公司来说,这道选择题现在摆在了桌面上:主动配合政府审查,换取某种程度的背书和保护;或者坚持不交,但要面对市场和监管的不确定性。目前看起来,大公司已经用脚投了票。

    📎 原文来源:The Verge — Lauren Feiner