标签: AI治理

  • OpenAI冲刺IPO前夜:挖来Google Transformer之父,还找了特朗普政府的老人

    OpenAI冲刺IPO前夜:挖来Google Transformer之父,还找了特朗普政府的老人

    OpenAI最近两天的动作,像是一场精心编排的IPO前戏。先是从Google挖来了Noam Shazeer——这个人可不是普通工程师,他是2017年那篇《Attention Is All You Need》的作者之一,也就是Transformer架构的奠基人。要知道,现在所有大模型公司都在用的Transformer,源头就是这篇论文。

    从Google到OpenAI,一场人才”逆向输送”

    Shazeer在Google的履历很有意思。他在2000年就加入了Google,中间离开过三年去创办Character.AI——那个让你和AI角色聊天的平台。2024年Google花了27亿美元把他请回来,顺便拿到了Character.AI的技术授权。结果不到两年,他又走了,这次目的地是OpenAI。

    他在Google期间不是没有争议。据The Information报道,Shazeer在内部留言板上发表过关于跨性别身份和以色列在加沙战争的看法,以至于管理层不得不删除了他的帖子。这些争议会不会跟着他到OpenAI,现在还不好说。

    OpenAI IPO前的人才布局
    OpenAI在IPO前夜的关键人才布局

    不只是技术人才,还有政策”内幕人”

    更值得玩味的是另一个人的加入——Dean Ball。这个名字你可能不太熟悉,但他刚刚在特朗普白宫待过,帮忙起草并发布了”美国AI行动计划”。现在他要在7月6日加入OpenAI,领导一个叫”Strategic Futures”的新团队。

    Ball自己说,这个团队的任务是”帮助公司领导层塑造前沿AI政策”,直接向首席战略官Jason Kwon汇报。具体管什么事呢?他列了一份清单:灾难性风险、递归自我改进、劳动力市场规模影响,还有”前沿实验室与政府(尤其是美国联邦政府)之间的关系”。

    Ball在博客里写了一句挺直白的话:”换句话说,内部治理对未来AI的重要性,比大多数人意识到的要高得多。”

    时机很微妙:Anthropic正在挨揍

    Ball加入OpenAI的时机,让人忍不住多想一层。就在上周,特朗普政府下令禁止Anthropic的最新模型Fable 5和Mythos 5向外国国民提供访问权限,Anthropic被迫把这两个模型整个下架——因为要避免违反出口管制。Anthropic和美国政府的关系,正在从”合作”走向”对抗”。

    而OpenAI这边,招揽Ball这样一位刚从特朗普白宫出来的人,信号很明确:他们要在华盛顿拿到”自己人”的席位。如果你在写S-1文件(IPO招股书),”政府干预”一定是风险因子之一。Ball就是OpenAI对这一风险的答案——与其让政府来管,不如先把自己的政策人安排好。

    • Shazeer的加入补上了OpenAI在技术原创性上的叙事——”Transformer之父在我们这里”
    • Ball的加入则是在政策层面筑起一道墙,尤其是Anthropic正在和政府交恶的当下
    • 两件事同时发生,时间点选在IPO之前,很难说是巧合

    这一轮AI人才争夺战,已经不只是技术人才的竞争了。政策人才、政府关系人才,现在也成了前沿AI实验室的必争之地。OpenAI在IPO前把这件事摆上台面,等于告诉市场和监管机构:我们想清楚了谁来管”AI治理”这件事。

    至于Shazeer那些在Google惹过的争议,OpenAI显然认为这不算什么——技术大神的才华,向来比他的帖子更值钱。只是这一次,他要在一家正在准备上市、面临更多公众审视的公司里工作。那些帖子的事,恐怕不会就这样被遗忘。

  • G7峰会上,世界领导人对美国AI又爱又怕:担心随时被「拔网线」

    G7峰会上,世界领导人对美国AI又爱又怕:担心随时被「拔网线」

    这周的G7峰会上,发生了一幕有点尴尬的戏码。

    法国总统马克龙、印度总理莫迪,这些平时愿意跟美国站在一起的世界领导人,居然在午餐会上向美国表达了一个很直白的担忧:你们能不能别随时把我们访问AI的开关关掉?

    AI全球网络与数据主权
    AI基础设施的全球依赖正在成为新的地缘政治筹码丨图源:生成图

    马克龙的警告

    马克龙当时坐在G7领导人和顶级AI公司CEO们中间——Anthropic的Dario Amodei、OpenAI的Sam Altman,还有特朗普本人都在场。他警告说,如果美国”从一天到另一天就能关掉开关”,那不仅会损害欧洲客户的经济,还会直接伤害那些AI公司自己。

    这话说得很重,背景也很新鲜。

    Anthropic被冻住了

    几天前,特朗普政府刚刚以国家安全为由,封掉了Anthropic向境外出口其最新模型Mythos 5和Fable 5的权限。亚马逊事先向白宫”打了小报告”,说这些模型的安全护栏可能被绕过。

    但网络安全专家马上出来打脸:政府引用的那些”危险能力”,在市面上仍然免费提供的模型里也有,包括OpenAI的模型。也就是说,你封了Anthropic,但OpenAI的模型还在外面跑,逻辑上挺难自圆其说。

    Anthropic的模型现在还冻着。这件事暴露了一个之前很多人没认真想过的风险:任何现在搭美国AI基础设施的公司或政府,都得面对”访问权限可能一夜之间被撤销”的可能性——而且理由你可能永远不知道。

    莫迪也有话要说

    莫迪也表达了同样的担忧。他表示,民主国家必须不受限制地访问顶级AI模型,才能保护关键基础设施。

    加拿大企业AI公司Cohere的CEO Aidan Gomez说了一句话,挺精辟:”这次对Anthropic模型的限制,印证了我们在Cohere一直知道的事情:公司和民主国家继续依赖少数几家大科技公司,对韧性来说是危险的。数字主权不只是一个市场竞争问题,也不只是某家公司或某个国家的问题。它关乎谁控制了基础技术——这项技术将在未来几十年塑造我们的经济安全和主权。”

    G7的”可信合作伙伴”计划

    G7领导人这次在会上也讨论了一个所谓的”可信合作伙伴”计划,目的是建立一个开放贸易网络,绕开美国的限制。只要国家和公司承诺用这些模型来加强对中国等对手的防御,就可以成为”可信合作伙伴”。

    但这个计划能延伸到什么程度,现在谁也说不准。更何况,对于巴黎或班加罗尔的一家创业公司来说,产品突然断了线,没有警告,也没有解释——这种事,一个”可信合作伙伴”计划真能解决吗?


    马克龙倒是提了个务实的建议:华盛顿应该支持这样的计划,也应该让Mythos的访问权限放得更开。毕竟,如果买来的AI访问权限随时可能一夜消失,没人会愿意掏钱。

    这整件事最讽刺的地方在于:欧洲和其他非美国国家正在努力推动”AI主权”——但在美国模型一路狂奔、所有人都怕被落下的当下,这个叙事越来越难讲圆了。

  • Cohere牵手德国Aleph Alpha,200亿美元跨大西洋AI强国来了

    Cohere牵手德国Aleph Alpha,200亿美元跨大西洋AI强国来了

    Cohere牵手德国Aleph Alpha,200亿美元”跨大西洋AI强国”来了

    过去几年,AI赛道给人的感觉是硅谷随手一抓就是一家巨头。OpenAI、Anthropic、Google DeepMind、Meta——这几家基本上把前沿模型的话语权包圆了。但在企业级AI市场,一家加拿大公司和一家德国公司的合并,正在试图改变这个格局。

    一家加拿大公司,一家德国公司

    Cohere这个名字,关注企业AI的人应该不陌生。这家2019年成立于多伦多的公司,由曾在Google Brain工作的Aidan Gomez联合创立(他是Transformer论文的作者之一),主打企业级大语言模型,客户可以在自己的基础设施上部署Cohere的模型,数据不用离开自己的服务器。

    Aleph Alpha的来头也不小。这家总部位于海德堡的德国AI公司,由曾在Heidelberg大学任教的Jonas Andrulis创立,是欧洲”主权AI”运动的重要参与者。它的客户包括大众、博世、SAP等欧洲大企业,还有德国联邦政府。Schwarz Group(就是经营Lidl和Kaufland那家零售巨头)是Aleph Alpha的重要支持者之一。

    Cohere Aleph Alpha merger concept
    Cohere与Aleph Alpha合并,打造跨加拿大和德国的AI强国(配图由AI生成)

    200亿美元估值,背后是谁在押注

    根据金融时报的报道,这笔合并交易对合并后新公司的估值约为200亿美元。与此同时,Schwarz Group还会向Cohere的E轮融资注入6亿美元,这轮融资预计今年晚些时候完成。

    把两家公司的技术团队和客户资源合在一起,新公司的定位很明确:给企业和政府提供一个”非硅谷选项”。数据留在自己手里,模型可以私有化部署,不用把命运交到美国科技巨头的API密钥里。

    “企业和政府需要对自己技术的控制权。”合并声明里的这句话,直接点出了这次交易的真正动机——不是技术互补这么简单,而是地缘政治在AI行业的投射。

    时机很微妙

    这笔交易宣布的时间点——2026年4月——刚好是美国政府以国家安全为由,要求Anthropic切断外国用户对Fable 5和Mythos 5模型访问的前夜。这件事让很多国家的政府和企业都意识到:如果你用的AI完全依赖美国公司,那你的数字基础设施的”开关”握在别人手里。

    欧洲的反应尤其强烈。法国总统马克龙直接点名批评美国的AI出口管制政策。英国的数据保护监管机构也借机推动了本土AI能力的建设。在这种大环境下,一家总部在加拿大、一家在德国、两家都强调数据主权的AI公司合并,吸引力不言而喻。

    当然,200亿美元的估值能不能撑住,还得看合并后的产品能不能真的打。企业AI市场不缺大玩家,微软的Copilot、Google的Vertex AI、AWS的Bedrock,哪一个都不是省油的灯。Cohere和Aleph Alpha的”主权”牌能不能转化成真实的采购订单,是接下来最值得观察的事情。


    这件事更大的意义在于:AI行业正在从”技术竞赛”转向”地缘竞赛”。以前大家比的是谁的模型强、谁先跑出AGI,现在越来越多人在问:这家公司的模型,我的政府允许我用吗?我的数据,存在谁的地盘上?

    Cohere和Aleph Alpha的合并,是这个问题的一个答案。不一定是最好的答案,但至少是一个答案。

  • 前a16z合伙人倒戈:硅谷用1.25亿美元试图堵住AI监管的嘴

    前a16z合伙人倒戈:硅谷用1.25亿美元试图堵住AI监管的嘴

    AI监管与政治
    前a16z合伙人John O’Farrell在《纽约时报》发表署名文章,批评前东家(配图由AI生成)

    John O’Farrell在Andreessen Horowitz干了将近15年。2025年,他辞职了。2026年6月11日,他在《纽约时报》发表了一篇署名评论文章,把前东家——以及整个硅谷AI投资圈——推到了一个相当尴尬的位置上。

    他的核心指控是:以a16z为首的一批AI行业大佬,正在用巨额政治献金”渗透”美国民主制度,目的是阻止任何严肃的AI监管讨论。

    “Leading the Future”:1.25亿美元用来吓唬谁?

    这场争议的中心是一个叫”Leading the Future”(简称LTF)的政治行动委员会(PAC),去年8月成立,宣称要支持”对AI持前瞻态度”的候选人。背后果然不出所料——a16z、OpenAI联合创始人Greg Brockman、Palantir联合创始人Joe Lonsdale、SV Angel创始人Ron Conway,还有AI搜索公司Perplexity。

    这个PAC已经筹了超过1.25亿美元。O’Farrell在文章里说,这笔钱的目的不是”阐述AI政策的愿景”,而是——用他的原话——”恐吓那些在AI监管问题上表现得太积极的政客”。

    “AI不是又一个普通技术。它可能把生产力推到新高度,同时把数百万人的工作自动化掉。它可能找到癌症的治疗方法,同时也可能加速我们还没准备好的生物风险。它可能改变我们的孩子如何学习,同时也可能让他们分不清真假。它可能把经济权力集中到让’镀金时代’看起来像过家子的程度。”
    ——John O’Farrell,前a16z普通合伙人

    加密货币的剧本,现在搬到AI上了

    O’Farrell在文章里点名了一个参照对象:加密货币行业。加密行业之前的策略就是——用政治献金把”对行业友好”的政客选上去,把监管掐死在萌芽状态。a16z在O’Farrell在职期间,也向支持加密的PAC”Fairshake”捐了数百万美元。

    现在,同样的玩法被搬到了AI身上。LTF就是那个工具。

    这个策略有多大的影响力?看看2024年大选就知道了。a16z的两位创始人Marc Andreessen和Ben Horowitz公开表态,通过PAC向特朗普的竞选活动捐款,理由是特朗普的”小科技议程”更符合他们的利益。特朗普今年签署的AI行政令——自愿性质、细节稀薄——基本上就是科技行业想要的那一种。

    OpenAI想撇清关系,但已经晚了

    LTF背后有OpenAI联合创始人Greg Brockman的名字,这件事让OpenAI很不舒服。本月早些时候,OpenAI发了声明,说公司”不指导LTF的活动,也不了解他们的运作情况”——措辞很谨慎,意思也很明确:别把OpenAI跟这个PAC绑在一起。

    但这个”撇清”能有多大用,不好说。Brockman是OpenAI的联合创始人兼总裁,他的个人政治行为很难跟公司完全切割。更何况,LTF的成立本身就打着”AI行业”的旗号,OpenAI是最大的AI公司之一。


    O’Farrell的警告:这招不会成功

    O’Farrell在文章结尾写了一段话,值得全文引述:”我相信AI行业这种试图’政治渗透’的行为终将失败。美国人普遍认为这个制度被有钱有势的人操纵了。他们对AI也深感担忧——一种反弹正在聚集,当选民们了解到少数几个亿万富翁总共花了九位数、 apparently就是为了阻止监管讨论进一步展开的时候,这种反弹会变得更猛烈。”

    他的建议是:科技行业不应该试图”堵住讨论的嘴”,而应该认真参与讨论、赢得信任。

    这话从一个在a16z干了15年的人嘴里说出来,分量不轻。至于a16z和其他LTF的支持者们会不会听,那是另一回事。

    但可以肯定的是,AI监管这个议题,已经从”技术圈的内部讨论”变成了”真金白银的政治战场”。而这场战斗,才刚刚开始。

    📎 原文来源:CNBC报道 | The Verge报道
  • G7峰会历史性一刻:OpenAI、Anthropic、Google DeepMind三巨头首次同台

    G7峰会历史性一刻:OpenAI、Anthropic、Google DeepMind三巨头首次同台

    G7峰会AI三巨头同台
    OpenAI、Anthropic、Google DeepMind三巨头首次共同出席G7峰会

    6月16日,法国埃维昂莱班,G7峰会现场出现了一个前所未有的画面:Sam Altman(OpenAI)、Dario Amodei(Anthropic)、Demis Hassabis(Google DeepMind)三个人坐进了同一个房间,面对全球最发达工业国的领导人。这不是一个行业会议,这是G7。三个在AI军备竞赛里拼得你死我活的公司掌门人,第一次被同时请到这张桌子上。

    Macron亲自点名Altman

    法国今年握着G7轮值主席国的位子,总统马克龙把AI放在了峰会议程的核心位置。Altman能坐进去,是马克龙亲自邀的——这是他第一次出现在G7场合。OpenAI的首席全球事务官Chris Lehane放话称,科技公司离开的时候应该会达成一揽子自愿承诺,青年安全是Altman个人的头号议程。

    Lehane还提到了前沿AI在网络和生物领域的威胁——这直接指向了Fable 5出口管制争议的核心范畴。更有意思的是Amodei也坐在里面,而此刻他的公司正和美国商务部因为Fable 5暂停事件吵得不可开交。CEO坐在G7会议室里谈AI治理,而他公司的旗舰模型正被联邦指令强行下线——这个画面怎么看都透着荒诞。

    三个人上个月刚联名给美国国会写了一封信,呼吁加强对合成DNA和AI相关生物威胁的监管——竞争对手之间这种罕见的统一战线,恰好也是本次G7峰会议程的相关议题。

    ChatGPT破10亿,但赢家不止一个

    峰会期间同步传出的另一组数据,让”AI助手市场”这个话题变得更加复杂。ChatGPT月度活跃用户突破10亿——这是消费级应用史上最快摸到这个里程碑的产品,比TikTok、Instagram、YouTube在同阶段的增速都快。

    但更值得关注的是追赶者的增速。Claude同比涨了640%,Meta AI同比涨了973%。AI助手市场并没有出现”赢家通吃”的局面,反而在多个产品同时爆发式增长。Claude那640%的同比增速,建立在已经不小的基数上,这种复合增长轨迹足以支撑Anthropic在10月IPO时拿出9650亿美元的估值逻辑。Meta AI的973%则主要靠WhatsApp和Instagram的植入式分发,数十亿用户甚至不需要专门下载一个新应用。

    • ChatGPT:10亿月活,消费级应用史上最快
    • Claude:同比增长640%,IPO估值逻辑坚实
    • Meta AI:同比增长973%,全球最快增长的AI助手

    Agentjacking:AI编程助手的新威胁

    G7谈的是前沿风险和治理,但现实中的攻击已经在利用AI编程助手了。一种叫”Agentjacking”的新型攻击正在盯上Claude Code、Cursor、Codex——攻击者在开发环境里注入伪造的Sentry错误信息(Sentry是大多数专业开发团队都在用的错误监控工具),AI编程助手读到这些假错误后,会按照注入指令而不是开发者的本意执行命令。

    测试数据显示,85%的AI编程助手在遇到精心构造的假Sentry错误时会照做不误。已经有2388个组织被确认暴露在这个漏洞下。如果你在CI/CD流水线里跑了Claude Code或者其他AI编程助手,现在就得去查Sentry集成配置有没有被篡改过。

    G7峰会上的三位CEO在谈前沿AI风险和青年安全,而此时此刻,AI助手的真实用户正面临一种全新的、成功率85%的攻击。治理和未来固然重要,但眼前的安全漏洞可能更紧迫。

  • 消失18个月后,Mira Murati谨慎地回到了聚光灯下

    Mira Murati其实不太喜欢站在台上。在OpenAI担任CTO的那些年,她虽然会出席公开场合,但很少充当公司的对外门面。2024年离开OpenAI、创办自己的公司Thinking Machines Lab之后,她更是几乎从媒体视野里消失了。

    Mira Murati在彭博社活动上
    Mira Murati在彭博社活动上谨慎露面(图源:TechCrunch)

    所以当她本周在旧金山接受彭博社采访时——这是她大约18个月来第一次重要的媒体露面——即便她说话极其谨慎,依然值得拿出来聊聊。

    时机选得不错。Thinking Machines已经幕后运作了一年半:筹钱、招研究员,还推出了一款叫Tinker的产品,一个用来微调开源AI模型的API。但竞争对手们没闲着。她曾经工作了6年的OpenAI一直处在新闻漩涡中心;Anthropic现在是所有人都在谈论的名字;马斯克的xAI已经被并入SpaceX,准备搞一场规模惊人的公开募股。在这种环境下,一直保持低调的边际收益越来越小,到了某个节点,你得制造一些动静,至少让市场记得你还活着。

    她正在做的东西,听起来确实不一样

    Murati用这次彭博社露面 preview 了 Thinking Machines 所谓的”交互模型”——一种根本不同的AI交互界面。她告诉采访者Emily Chang,跟当前大多数AI产品采用的轮流式、提示-响应模式不同,他们家的模型设计用来在200毫秒的间隔内处理连续的音频、文本和视频流。

    理念是,它们能更接近实时地捕捉人类交流的特性——打断、中途修正,甚至思考时的停顿。

    但Murati很谨慎地把它定位成第一步,不是成品,而且她拒绝给出任何产品的具体发布日期。这种克制反而让人觉得,她可能在认真做东西,而不是在用PPT融资。

    那件让所有人记住她的事

    她还回答了那个让她第一次广泛进入公众视野的事件的问题:2023年11月那混乱的一周,OpenAI董事会解雇了Sam Altman,她成了临时CEO。在公司内部,这件事被称为”the blip”。

    Murati说,她对那几天里每个时刻的决定都很清楚——保护使命和团队是贯穿始终的主线,即使从外面看情况好像失控了,这些选择也显得理所当然。她说,如果不是她参与了那奇怪的五天及其后续,公司可能已经”崩溃”了。

    但她承认,意图清晰不代表判断正确。事后看来,她会更努力地争取更多信息和一份实际的过渡计划。

    她真正担心的事

    当被问到是否还信任她的前老板时,她把话题绕开了,转向了一个她反复提及的更大担忧:太多重大决策集中在太少人手里——不仅在OpenAI,整个行业都是这样。

    她说,她的担忧与其说是任何个别领导者的品格,不如说是结构性制衡的缺失。好人也会做错误决定,善意的组织也会偏离方向。人们太关注”美德”,而对”治理”关注太少。


    Murati出生在阿尔巴尼亚,说话带有轻微的东欧口音。她反驳了不可避免的”反乌托邦”或”乌托邦”框架,认为这两种结果都不是注定的,我们现在所处的时期将决定事情会向哪个方向发展。不过她也明确说了,如果人类过早地放开控制权,未来将会变得非常不同,而且不会更好。

  • 白宫AI顾问离职了,特朗普的AI政策谁来接

    斯里拉姆·克里希南要在6月底离开特朗普政府了。

    他在X平台上写了一篇帖子宣布这件事,说”很难用语言形容能为美国人民服务是多么大的荣幸,我也非常感谢能有这样的机会”。然后他又补了一句:”首先,能在唐纳德·特朗普总统手下任职是我的荣幸。如果没有他的领导,我们不会在人工智能竞赛中处于领先地位。”

    Sriram Krishnan
    斯里拉姆·克里希南(Sriram Krishnan)

    克里希南这个名字,在硅谷科技圈里不算陌生。他之前在微软、Twitter、雅虎、Facebook和Snap都带过产品团队。再往前,他是Andreessen Horowitz的合伙人——这家投资机构在2024年大选中公开支持特朗普,算是最早押注特朗普胜选的主流风险投资机构之一。

    他任内到底干了什么

    他在帖子里列了几个自己任内的”关键公共成就”。排在第一的是政府的《人工智能行动计划》——这份计划把数据中心建设放在了监管和安全的前面。此后,特朗普签署了多项人工智能相关的行政命令,其中一项旨在挑战州级人工智能监管规定,另一项侧重监管的行政命令在行业界的反对后被推迟并缩小了适用范围。

    特朗普还表态支持政府可以对主要人工智能公司持有股权的想法——这和上一条新闻(特朗普政府可能入股OpenAI)直接对上了。

    克里希南提到,过去18个月里他”合作最密切的”是戴维·萨克斯。这位投资人和播客主持人今年早些时候已经卸任了人工智能和加密货币事务主管。

    克里希南说:”他持续推动美国在人工智能领域获胜的主张过去是、现在也仍然是至关重要的。”


    接下来去哪儿

    克里希南说,他将”建设机构”,应对”美国及其盟友”面临的重大挑战。据《华盛顿邮报》的报道,他计划成立一个外部机构,这个机构仍然会让他有机会参与影响特朗普的人工智能政策。

    “无论是能源、数据中心,还是让美国人获得人工智能福利的清晰路径,有很多难题需要我们共同应对。”他说。

    一个值得注意的视角是:克里希南的离开,意味着特朗普政府内部又少了一个有实际操作经验的科技行业人士。他离开之后,白宫AI政策团队的人手会进一步紧张。而这个时候,正好是AI监管、数据中心建设、政府持股AI公司这些大议题同时升温的时候。

  • AI自己都慌了

    AI自己都慌了

    Anthropic前几天悄咪咪发了份报告,看完让人后背发凉。他们说自己最新的AI模型已经开始显现脱离人类控制的迹象,这话从一个靠AI赚钱的公司嘴里说出来,分量不太一样。

    要知道Anthropic可不是什么业余玩家。这家公司由前OpenAI高管创立,在AI安全研究上一直走在前沿。他们发布的Mythos模型,美国政府都承认具有强大能力——这个模型发现网络防御漏洞的能力已经超过人类,当时还震动了金融圈,搞得欧洲央行紧急开会要求升级网络防御。

    Anthropic在报告里说得很直白:全球各大企业应该考虑放缓甚至暂停先进AI系统的开发。但如果只有一家公司停下来,竞争对手就会加速前进。所以他们认为,世界应该有一个减缓或暂时停止前沿AI开发的选项。

    这个观点一出,美国白宫部分官员就不满了。批评者觉得Anthropic过于强调最坏情况,夸大AI风险,还借安全担忧之名给对手使绊。但话说回来,如果Anthropic真的相信AI有失控风险,发出警告也是负责任的表现。

    Anthropic把这个想法描述为”核武器不扩散条约”。但这个类比其实不太恰当——AI比核武器难监管多了。训练AI相比发射导弹更容易隐藏,而且各大公司在利益诱惑下,很可能会偷偷继续开发先进AI。

    为了解决这个问题,Anthropic建议美国、中国等全球主要AI公司达成共识,制定一套所有参与方都能验证的规则。他们将在未来几个月召集政府官员、科学家、倡导组织及竞争对手,共同探讨这种全球协调机制如何运作。

    说实话,这个想法很好,但实现起来难度极大。全球协调机制需要各国政府、企业、科研机构之间建立深度互信,而在当前的地缘政治环境下,这几乎是个不可能完成的任务。不过Anthropic愿意站出来提出这个问题,本身就值得肯定。

    这事儿给整个AI行业提了个醒:技术进步很快,但相应的安全研究和社会制度建设能不能跟上?如果跟不上,我们可能真的会面临不可控的局面。希望各大公司能认真对待这个问题,而不是一味追求性能和商业利益。


  • 特朗普签了份AI行政令:模型发布前可自愿接受政府审查

    美国总统特朗普本周二签了一份行政令,要求AI公司在模型正式发布前,可以自愿把模型提交给联邦政府审查。说自愿,是因为企业可以自己决定交不交,但一旦交了,政府会评估模型的高级网络能力,企业这边也能拿到相应的保密保护。

    之前说不监管,现在为什么改主意了

    特朗普对AI监管的态度转变挺有意思。他之前一直主张不让监管扼杀创新,甚至一度推迟签署AI相关行政令,理由是怕影响美国跟中国的AI竞争。结果这次的行政令写得挺明确:AI的新能力确实伴随安全风险,政府不能装看不见。

    触发这次转向的直接原因,很可能是Anthropic在今年4月有限度发布的Mythos模型。Anthropic自己说,这个模型发现了数千个高危漏洞,主流操作系统和网页浏览器全都中招。这话一出,华盛顿那边坐不住了。

    Anthropic的Mythos模型在测试中发现:所有主流操作系统和网页浏览器都存在高危漏洞——这话是Anthropic自己说的,不是政府说的。

    更有意思的是,Anthropic之前跟五角大楼因为AI用于自主致命武器和大规模监控的问题闹过法律纠纷。这次Mythos一发布,双方关系反而出现了缓和迹象。有时候,一个技术演示比十轮谈判都管用。

    行政令到底说了什么

    • 企业可以自愿提交模型,提交后最多30天内完成审查
    • 审查聚焦模型的高级网络能力,不是全面安全审计
    • 提交企业获得保密保护,政府不会随意公开模型细节
    • 联邦政府同步强化针对AI攻击的网络防御,重点保护关键基础设施
    • 行政令明确:这不是强制许可,也不是发布前审批

    这份行政令其实有个前传。去年5月,谷歌、微软、xAI就同意让美国商务部下属的AI标准与创新中心(CAISI)在模型发布前做审查。OpenAI和Anthropic更早,2024年拜登还在任的时候就签了类似协议。所以特朗普这次,某种程度上是把拜登时期的实际做法给正式化了,只是换了个”自愿”的名义。

    行业买账吗

    出乎意料的是,这份行政令居然获得了AI安全倡导团体的认可。美国负责任创新组织的主席布拉德·卡森发表声明说,”白宫正式接受了Mythos传递的信号”。安全AI联盟的CEO也表示,很高兴看到特朗普政府认真对待模型风险。

    但这帮人并不满足于自愿框架。他们还在敦促国会立法,把这些保护措施变成强制要求。自愿这个东西,换了届政府就可能不自愿了,他们心里清楚。

    Trump AI executive order signing
    特朗普签署AI行政令(图片来源:The Verge)
  • 特朗普签了AI行政令,模型发布前要过政府这一关

    美国总统唐纳德·特朗普在周二签署了一项关于人工智能的行政令,要为AI公司搭一个”自愿框架”——企业可以在前沿模型公开发布之前,先拿给政府看看。官方说法是”促进安全创新,加强关键基础设施网络安全”,听起来挺温和。

    白宫在行政令里明确说了一句话:这”不应被理解为强制许可或者预先审批”。也就是说,企业不配合也不会被罚,完全自愿。

    自愿审查,但谁自愿谁不吃亏

    这个框架最微妙的地方在于”自愿”二字。行政令指示多个联邦机构制定一套流程,在AI模型公开发布之前”评估其高级网络能力”。企业可以自行决定是否把模型交给政府审查,但如果交了,就能获得相应的保密保护——换句话说,不交的企业就得自己承担所有潜在的安全责任。

    实际上,这种”自愿”背后有很现实的考量。上个月,谷歌、微软和xAI已经同意接受商务部下属AI标准与创新中心(CAISI)的发布前审查。先交的企业能拿到政府背书,后交的就可能被视为”不安全”。


    特朗普的态度为什么变了

    这事其实有个背景。特朗普之前曾经推迟签署一项AI行政令,原因是他担心那会”阻碍”美国跟中国的竞争。《纽约时报》的报道说,最初版本的草案允许AI公司在发布前14到90天自愿共享模型,而最终版本把时间压缩到了最多30天。

    更关键的是,此前在特朗普政府中担任白宫AI与加密货币主管的大卫·萨克斯(David Sacks)任内,政府对AI安全问题一直是淡化处理的,基本采取了不干预态度。这次签署行政令,说明白宫的态度在发生微妙转变。

    特朗普签署行政令
    特朗普签署AI行政令,建立模型发布前自愿审查框架(图源:The Verge)

    Anthropic的Mythos模型是关键转折点

    这次态度转变的一个直接诱因,是Anthropic在今年4月有限推出的Mythos模型。Anthropic自己说,这个模型发现了”数千个高危漏洞,包括所有主流操作系统和网页浏览器中都存在的一些漏洞”。

    在此之前,Anthropic曾经因为AI被用于自主致命武器和大规模监控的问题,跟五角大楼闹过法律纠纷。Mythos的出现,似乎为缓和Anthropic跟政府之间的紧张关系创造了一个契机。截至目前,这项行政令甚至获得了一些通常反对限制AI法律的团体的赞扬。

    美国负责任创新组织主席布拉德·卡森(Brad Carson)在声明中说:”白宫正式接受了Mythos模型的影响。”安全AI联盟首席执行官布伦丹·斯坦豪瑟(Brendan Steinhauser)则表示,他的组织”很高兴看到特朗普政府认真对待这些模型的风险”。


    接下来会怎样

    卡森和斯坦豪瑟都在呼吁国会立法,把类似的保护措施变成法律,而不只是靠行政令。毕竟行政令的效力是有限的,下一任总统完全可以把它撤销掉。

    对AI公司来说,这道选择题现在摆在了桌面上:主动配合政府审查,换取某种程度的背书和保护;或者坚持不交,但要面对市场和监管的不确定性。目前看起来,大公司已经用脚投了票。

    📎 原文来源:The Verge — Lauren Feiner