标签: AI监管

  • 三分之二美国人认为AI发展太快,年轻人最悲观

    三分之二美国人认为AI发展太快,年轻人最悲观

    皮尤研究中心刚发布了一份挺有意思的调查报告,他们问了几千个美国人怎么看AI。结果出来以后,估计硅谷那帮人会觉得有点扎心——63%的受访者说AI发展太快了,只有16%的人觉得AI对社会会有正面影响。

    用的人多了,担心的也多了

    这次调查是今年2月做的,一共问了5119个美国成年人。有个数字挺显眼:49%的人说用过AI聊天机器人,比2024年的33%涨了不少。ChatGPT最常用,44%的人说用过,比2023年翻了一倍。

    年轻人用得最多——18到29岁这个年龄段,66%的人用过聊天机器人。但讽刺的是,恰恰是这群人最不看好AI的前景。48%的年轻人觉得AI会产生负面影响,只有14%觉得是好事。

    AI调查配图
    三分之二的美国人对AI的快速发展保持警惕

    每天在用,但不太信

    大约四分之一的美国人说他们每天都会用聊天机器人。用得最多的场景是搜索信息(42%)和工作任务(38%)。三成的人觉得AI让他们的生产力提高了,但也有不少人对AI给出的信息质量表示怀疑。

    66%的美国人认为AI会让他们的个人信息更不安全,只有3%的人觉得会更安全。

    对政府的监管能力,大家也没什么信心。67%的人说他们对美国政府有效监管AI”信心不足”。有趣的是,民主党人比共和党人更不相信政府能管好AI——这在两年前还是反过来的。

    智能设备渗透日常生活

    除了聊天机器人,AI还在以别的方式进入美国人的家。35%的人有智能音箱(比如Amazon Echo),37%的人有智能手表,18%的人装了智能门铃。60%的人说他们会看搜索引擎结果顶部的AI摘要。

    这些数字说明,AI已经不是什么未来概念了,它正在真实地改变人们获取信息、管理健康和与科技互动的方式。但公众的情绪显然比硅谷的乐观叙事复杂得多——人们在使用这些工具,同时也在用警惕的眼光打量它们。


  • OpenAI遭多州总检察长联合调查,AI监管的铁拳终于落下来了

    OpenAI遭多州总检察长联合调查,AI监管的铁拳终于落下来了

    OpenAI遭多州总检察长调查
    OpenAI正面临来自多州总检察长的联合调查

    6月13日,OpenAI收到一份来自纽约州总检察长办公室的传票。跟在这份传票后头的,是一个由多个州总检察长组成的联盟,对OpenAI展开正式调查。这件事目前公开的细节还不算多,但已经足够让人意识到——AI监管不再是喊口号了,有人开始动真格的了。

    传票里写了什么

    根据《华尔街日报》的报道,这份传票要求OpenAI提供涉及范围相当广泛的文件,包括公司的广告业务、用户参与度和留存策略、模型的”谄媚性”(sycophancy,指模型过度迎合用户偏好的倾向)、消费者数据处理和健康数据处理方式,以及针对未成年人和老年人的保护措施。

    这个调查清单其实透露了很多信息。总检察长们关注的不仅仅是隐私或数据安全这类传统议题,他们还在追问:AI公司到底有没有在故意让用户上瘾?模型会不会为了讨好用户而放弃给出负责任的回答?未成年人用ChatGPT的时候,到底有没有足够的保护机制?

    这几个问题每一个都戳在AI行业的痛处。尤其是”模型谄媚性”这一点,学术界讨论了很久,但监管机构正式把它写进调查要求里,这还是头一回。

    OpenAI的回应

    OpenAI的发言人发了一份声明,措辞很标准:”AI是一项全新且强大的技术,我们每天都在努力以负责任的方式将它的好处安全地带给人们。我们严肃对待各州总检察长提出的关切,并打算以建设性的方式与他们的办公室合作。”

    声明里还特意提了几句他们已经做了什么:ChatGPT对未成年人提供了”更具保护性的体验”,有引导困难用户联系现实资源和可信人类联系人的安全机制;他们”相信孩子就应该被当作孩子对待”,所以做了年龄预测、推出了家长控制工具,并且不允许针对儿童的广告。

    这些话说得没毛病,但时间点很微妙。就在同一周,OpenAI刚刚秘密提交了IPO申请。一家公司一边准备上市、一边面临多州联合调查,这种组合对任何CEO来说都是巨大的压力测试。

    不是第一次,也不会是最后一次

    OpenAI眼下还背着一堆官司。版权侵权诉讼就不用说了,来自《韦氏词典》和《大英百科全书》的索赔还在进行中。更棘手的是,至少有七起诉讼指控ChatGPT在用户自杀事件中扮演了角色——这些家庭的律师认为,OpenAI没有尽到保护义务。

    上个月的佛罗里达州是一个更鲜明的信号。佛州总检察长James Uthmeier直接起诉了OpenAI和Sam Altman本人,声称OpenAI”无视内部和外部的安全警告,把儿童置于巨大风险之中,让一个危险的产品触达了数百万佛罗里达人”。这是美国历史上第一起由州总检察长亲自下场、起诉AI公司及其CEO的诉讼。

    再把时间往前推一点,加拿大Tumbler Ridge社区发生大规模枪击案之后,Altman不得不公开道歉——因为OpenAI在事发前就已经标记并封禁了嫌疑人的ChatGPT账户,但没有通知执法部门。Altman说这是公司的失误。


    这一连串事件拼在一起,画面就清楚了:监管机构对AI公司的”信任红利”正在快速消耗。过去两年里,AI公司很大程度上是在自我监管,靠的是”我们会在出事之前自己搞定”的承诺。但现在,越来越多的政客和监管者开始问一个更难听的问题:你们真的能把自己管好吗?

    多州联合调查的意义在于,它表明各州的监管者不再等联邦政府出手,他们准备自己干。这种模式在美国并不少见——当年针对大型科技公司的反垄断调查,也是由多个州的总检察长联合发起的。AI行业可能正在进入同样的周期。

  • 前a16z合伙人倒戈:硅谷用1.25亿美元试图堵住AI监管的嘴

    前a16z合伙人倒戈:硅谷用1.25亿美元试图堵住AI监管的嘴

    AI监管与政治
    前a16z合伙人John O’Farrell在《纽约时报》发表署名文章,批评前东家(配图由AI生成)

    John O’Farrell在Andreessen Horowitz干了将近15年。2025年,他辞职了。2026年6月11日,他在《纽约时报》发表了一篇署名评论文章,把前东家——以及整个硅谷AI投资圈——推到了一个相当尴尬的位置上。

    他的核心指控是:以a16z为首的一批AI行业大佬,正在用巨额政治献金”渗透”美国民主制度,目的是阻止任何严肃的AI监管讨论。

    “Leading the Future”:1.25亿美元用来吓唬谁?

    这场争议的中心是一个叫”Leading the Future”(简称LTF)的政治行动委员会(PAC),去年8月成立,宣称要支持”对AI持前瞻态度”的候选人。背后果然不出所料——a16z、OpenAI联合创始人Greg Brockman、Palantir联合创始人Joe Lonsdale、SV Angel创始人Ron Conway,还有AI搜索公司Perplexity。

    这个PAC已经筹了超过1.25亿美元。O’Farrell在文章里说,这笔钱的目的不是”阐述AI政策的愿景”,而是——用他的原话——”恐吓那些在AI监管问题上表现得太积极的政客”。

    “AI不是又一个普通技术。它可能把生产力推到新高度,同时把数百万人的工作自动化掉。它可能找到癌症的治疗方法,同时也可能加速我们还没准备好的生物风险。它可能改变我们的孩子如何学习,同时也可能让他们分不清真假。它可能把经济权力集中到让’镀金时代’看起来像过家子的程度。”
    ——John O’Farrell,前a16z普通合伙人

    加密货币的剧本,现在搬到AI上了

    O’Farrell在文章里点名了一个参照对象:加密货币行业。加密行业之前的策略就是——用政治献金把”对行业友好”的政客选上去,把监管掐死在萌芽状态。a16z在O’Farrell在职期间,也向支持加密的PAC”Fairshake”捐了数百万美元。

    现在,同样的玩法被搬到了AI身上。LTF就是那个工具。

    这个策略有多大的影响力?看看2024年大选就知道了。a16z的两位创始人Marc Andreessen和Ben Horowitz公开表态,通过PAC向特朗普的竞选活动捐款,理由是特朗普的”小科技议程”更符合他们的利益。特朗普今年签署的AI行政令——自愿性质、细节稀薄——基本上就是科技行业想要的那一种。

    OpenAI想撇清关系,但已经晚了

    LTF背后有OpenAI联合创始人Greg Brockman的名字,这件事让OpenAI很不舒服。本月早些时候,OpenAI发了声明,说公司”不指导LTF的活动,也不了解他们的运作情况”——措辞很谨慎,意思也很明确:别把OpenAI跟这个PAC绑在一起。

    但这个”撇清”能有多大用,不好说。Brockman是OpenAI的联合创始人兼总裁,他的个人政治行为很难跟公司完全切割。更何况,LTF的成立本身就打着”AI行业”的旗号,OpenAI是最大的AI公司之一。


    O’Farrell的警告:这招不会成功

    O’Farrell在文章结尾写了一段话,值得全文引述:”我相信AI行业这种试图’政治渗透’的行为终将失败。美国人普遍认为这个制度被有钱有势的人操纵了。他们对AI也深感担忧——一种反弹正在聚集,当选民们了解到少数几个亿万富翁总共花了九位数、 apparently就是为了阻止监管讨论进一步展开的时候,这种反弹会变得更猛烈。”

    他的建议是:科技行业不应该试图”堵住讨论的嘴”,而应该认真参与讨论、赢得信任。

    这话从一个在a16z干了15年的人嘴里说出来,分量不轻。至于a16z和其他LTF的支持者们会不会听,那是另一回事。

    但可以肯定的是,AI监管这个议题,已经从”技术圈的内部讨论”变成了”真金白银的政治战场”。而这场战斗,才刚刚开始。

    📎 原文来源:CNBC报道 | The Verge报道
  • 西雅图紧急叫停新建数据中心:AI热潮下,这座城市选择先停下来想想

    西雅图紧急叫停新建数据中心:AI热潮下,这座城市选择先停下来想想

    西雅图数据中心
    西雅图市议会通过紧急禁令,暂停新建大型数据中心(配图由AI生成)

    6月9日,西雅图市议会做了一件在全美范围内都相当罕见的事——针对大型数据中心的建设,全票通过了一项紧急禁建令,立刻生效,先停一年再说。

    这个禁令针对的是功率容量超过20兆伏安的大型设施。说白了,就是那些为训练大模型而建的AI数据中心,普通的服务器机房不在此列。

    369兆瓦,相当于30万户家庭的用电量

    禁令背后有一组很具体的数字。今年4月,有四家公司接洽西雅图城市照明局(Seattle City Light),提出建设五座大型数据中心的计划。这五座设施的最大电力需求加起来是369兆瓦——够30万户普通家庭用。

    西雅图全市才多少人口?大约75万人。也就是说,这几座数据中心如果全建起来,消耗的电力相当于全市相当一部分居民用电的总和。电价会怎么变?市政电网扛不扛得住?没人知道,因为还没有人认真算过。

    “大型AI数据中心正在全美各地冒出来,推高了居民和小企业的公用事业成本,同时还制造了空气、水和噪音污染。西雅图人不应该用自己的钱包去补贴AI热潮中大型企业的创纪录利润。”
    ——市议员Eddie Lin(第2选区,土地使用委员会主席)

    连亚马逊的员工都站出来支持禁令

    这件事最耐人寻味的地方在于,支持禁令的最积极的一群人里,居然包括亚马逊的员工。

    亚马逊在西雅图是最大雇主之一,而亚马逊本身就是数据中心的最大使用者之一。按理说,员工应该站在公司一边,帮公司争取更多的数据中心建设空间。但这一次,亚马逊员工选择站在了居民这一边,多次出席市议会听证会,表态支持禁令。

    他们的逻辑并不复杂:数据中心的电力和冷却成本,最终会摊到所有用电户头上,包括他们自己。AI热潮带来的收益归科技公司,账单却寄到了每个居民的邮箱里。这笔账,算不过来。

    禁令不是永久的,但信号很明确

    这次通过的禁令时限是一年,必要时可以再延长六个月。在此期间,西雅图市政府会做一件事:把大型数据中心对电网、水资源、电价、土地使用、就业和公共健康的影响,系统地研究一遍。

    陪同禁令一起通过的还有一项政策框架决议(Resolution 32204),由第5选区市议员Debora Juarez牵头,明确要求以”西雅图价值观”来审视任何未来的数据中心提案。

    市议长Joy Hollingsworth说得很直白:”技术跑得很快,但我们的责任是确保增长不会以居民和电力用户的利益为代价。这一年给我们机会在做出永久性决定之前,先把影响搞清楚。”


    这件事为什么值得关注

    西雅图不是第一个面对数据中心扩张压力的城市,但它是第一个以全市议会全票通过的方式,正式按下暂停键的主要科技城市。

    这个先例一旦立起来,其他城市——尤其是那些同样在被数据中心”找上门”的地方——很可能会跟进。俄勒冈、弗吉尼亚、得克萨斯,各地都在面对同样的问题:科技公司要建数据中心,电从哪来?水从哪来?账单谁付?

    西雅图给出的答案是:先别急,让我们先弄明白再说。

  • 欧盟发布AI内容标签规范,8月2日起强制生效

    欧盟这一次动真格了。6月10日,欧盟委员会正式发布AI内容标签实践准则(Code of Practice),给所有在欧运营的生成式AI划定了透明底线。规则很简单:从今年8月2日起,任何AI生成或篡改的内容,只要涉及公共利益,必须打上标签;任何和AI聊天机器人互动的用户,必须事先被告知对方是机器。

    自愿准则,强制义务

    这份准则本身是企业自愿签署,但它指向的义务可不是自愿的。它们写在了《欧盟AI法案》第50条里,8月2日一到,不管你签不签这份准则,法律义务都摆在那里。

    签了准则的好处是,欧盟委员会给你一个”合规认可”,相当于拿到了一张官方背书。对于在大模型供应链上的公司来说,这种认可不是可有可无——它意味着你的产品在被审查时,有一个现成的合规证据。

    “欧洲人有权知道他们看到、听到或读到的内容是否由AI制作或篡改,尤其是当这类内容可能塑造公共讨论的时候。”——欧盟委员会执行副主席Henna Virkkunen

    供应链上的分工

    准则把标签工作拆成了两截,正好对应AI供应链的上下游。上游是做基础大模型的公司,它们被要求以机器可读的格式标记自己的输出,这样下游才能接着处理。下游是把模型做成产品的部署方,它们负责给用户看得到的标签。

    对于面向公共利益的AI生成文本,这个”公共利益”的判定很关键——如果内容在没有人工审核或编辑控制的情况下发出,就必须标签。换句话说,全自动的AI新闻稿、AI公关稿,以后在欧盟得明明白白告诉读者”这是AI写的”。

    欧盟AI内容标签规范
    欧盟试图在AI透明度上拿下全球标准制定权

    时间紧迫,细节未定

    留给企业的时间不到两个月。欧盟委员会还在准备补充指南,会澄清法律条文里没说清楚的部分,也会覆盖这份准则没顾及到的场景。但企业不能等——8月2日法律就生效了,到时候没贴标签就违法了。

    这份准则由六名独立专家起草,180多个利益相关方参与了讨论。它是《欧盟AI法案》下第一个处理内容标签的工具,但肯定不会是最后一个。欧盟的意图很清楚:在AI透明度这个问题上,它要拿下的不只是区域标准,而是全球规则制定权。


    对做AI产品的公司来说,现在就得动手了:盘点哪些输出需要标签、用什么格式标记、怎么在产品中展示。等到7月再动手,只怕来不及。

  • 白宫急着在中期选举前搞定AI监管,手段是把儿童安全法案当”嫁妆”

    白宫急着在中期选举前搞定AI监管,手段是把儿童安全法案当”嫁妆”

    AI监管游说
    白宫与科技巨头的AI监管博弈(配图由AI生成)

    白宫急着在中期选举前搞定AI监管,手段是把儿童安全法案当”嫁妆”

    硅谷的游说团队最近很焦虑。他们追了好几个月的东西叫”联邦 preemptive 法案”——说白了就是一部全国统一的AI法,一旦通过,各州自己搞的那些AI监管条例全部作废。对科技公司来说,这简直是梦寐以求的终极武器。

    但现实很骨感。几个月下来,游说团队碰了一鼻子灰,全国范围内的政治反弹越来越强。更麻烦的是,中期选举就在眼前,一旦国会翻盘,民主党可没兴趣跟他们合作。留给科技巨头的时间,真的不多了。


    儿童安全成了”特洛伊木马”

    本周有消息泄露出来:白宫告诉儿童安全倡导组织和科技巨头们,它打算把参议员Marsha Blackburn(共和党,田纳西州)牵头的《儿童在线安全法案》(KOSA)打包进AI preemptive 一揽子法案里。KOSA这个东西已经折腾好几年了——它要求科技公司对孩子用户负起”注意义务”,AI公司也跑不掉。

    白宫打的算盘是:把儿童安全这个政治正确的议题,跟科技公司最想要的AI统一监管捆绑在一起,这样国会通过的概率就大多了。问题是,这一招搞得所有人都一头雾水。

    据《华盛顿邮报》报道,白宫本周会见了儿童安全团体和科技公司代表,表示将支持以KOSA为核心的一揽子AI立法方案。但消息传出后,众议院共和党人发现自己被蒙在鼓里——他们刚通过自己版本的KOSA。

    更尴尬的是,那些跟Blackburn一起推KOSA的民主党人,也是事后才知道这事儿。参议院版的KOSA在2024年曾经以91比3的压倒性优势通过,但那是”standalone”版本。现在突然要跟AI preemptive 绑在一起,民主党人不干了。

    “四C”条件:保守派的关键先生

    这出戏的关键人物叫Mike Davis。此人是特朗普的盟友,也是”第三条款项目”(Article III Project)的创始人。去年,就是他成功搞掉了参议院里另一个AI监管提案。现在,他在白宫的政策圈子里很有影响力。

    Davis提了一个条件,叫”四C”——儿童(Children)、保守派(Conservatives)、创作者(Creators)、社区(Communities)。他的意思是:任何AI preemptive 法案,必须同时照顾到这四方面的利益,否则免谈。白宫今年3月发布的AI立法框架草案里,已经部分采纳了这些价值,把KOSA塞进去就是为了满足”儿童”这一条。

    但Davis不满足。他直接放话给The Verge:”如果没法同时满足四C,这个法案连万分之一的通过机会都没有。我保证。”


    参众两院的KOSA之争

    就算科技公司愿意接受KOSA,参众两院之间还有一道大鸿沟。参议院版的KOSA要求科技公司承担”注意义务”,这个概念挺重的——意味着如果平台设计了让孩子上瘾的功能,是要负法律责任的。而且这个义务同样适用于AI公司。

    但众议院版呢?去年11月底,在众议院多数党领袖Steve Scalise(共和党,路易斯安那州)的主导下,这个条款被大幅稀释了。儿童安全倡导者当时就炸了。

    现在白宫绕过众议院,直接跟Blackburn的参议院版KOSA绑在一起,众议院共和党人自然很不爽。一位为中等规模科技公司游说的共和党人说得很直白:”没人知道这事儿到底谁在主导。所有人都深表怀疑,因为大家的立场差太远了。众议院不可能通过Blackburn想要的东西。”

    民主党人是绕不过去的坎

    就算特朗普能压住共和党不造反,还有一个更大的麻烦:民主党。参议院KOSA当年是由Blackburn和康涅狄格州民主党参议员Richard Blumenthal联合牵头的,以91比3通过。但那些民主党人现在才发现,自己辛苦推的法案被人拿去当AI preemptive 的”嫁妆”了,而且事先根本没人通知他们。

    一位AI政策倡导者说,如果Blackburn和白宫想推独立法案,那得走参议院程序,需要60票才能通过——这就意味着必须争取民主党人的支持。以目前的政治氛围,这几乎是不可能完成的任务。

    更何况,时间表也不站他们这边。现在是6月中旬,再过六个星期,国会议员就要休会,然后直接进入大选季。剩下的立法窗口,已经被FISA重新授权、移民收紧方案、国防开支增加、加密货币市场监管法案、医保预算等一堆更紧迫的事挤满了。

    “现在是6月中旬。你还有一个半月就要休会,然后就是大选季了。根本没戏。”一位AI政策倡导者这样告诉The Verge。

    Austin Carson——前英伟达政府关系负责人、现为专注于AI普及的非营利组织SeedAI创始人——对此更加不看好。他告诉The Verge:”我想象不出这个法案有任何推进的可能。真的想象不出来。”

  • 特朗普封了Anthropic模型,全球「主权AI」大幕拉开

    特朗普封了Anthropic模型,全球「主权AI」大幕拉开

    全球主权AI浪潮
    全球”主权AI”浪潮加速

    特朗普政府一道命令,Anthropic把最新、最强的两个模型Fable 5和Mythos 5全部下线了。理由是国家安全和越狱风险。这件事发生在6月14日,距离这两个模型发布才过去几天。

    Anthropic说它没得选——白宫要求切断所有外国公民的访问权限,连自己的员工也在封禁范围内。这件事传递了一个信号:美国不仅主导了前沿AI,它的政府还可以决定谁能用、谁不能用。

    英国AI与在线安全部长Kanishka Narayan说:”我们以极其严肃的态度对待对主权的一切其他威胁,但我们还没有学会以同样的方式对待这个威胁。”他没有直接点名Anthropic或特朗普,但用这次封禁事件来论证英国必须发展自己的AI能力。

    欧洲:从担心到警惕

    在欧洲,这次封禁让本就存在的”美国技术依赖”焦虑变得更加具体。法国前总理、现任总统候选人Gabriel Attal直接把这件事称为”AI战争”的开始。他把Anthropic撤回模型比作伊朗封锁霍尔木兹海峡——AI访问权现在已经成了一个战略卡点,法国必须为此做好准备。

    Attal这么说不是孤例。《世界报》报道称,法国整个政治光谱都在表达类似的警觉。欧洲议会成员也指出,Mythos和Fable的撤回就是证据,说明欧洲需要把技术主权变成现实——而且要快。

    加拿大也学到了类似的教训。总理Mark Carney说,这种情况凸显了在关键资源(比如AI)上过度依赖单一伙伴的风险。”我们目前共同面临的Mythos和Fable的局面,是过度依赖某些模型时可能发生的事情。没有人在这个局面里做错了什么。但如果我们只是接受这个现状,不吸取教训,不搞多元化,那就是我们的错了。”

    主权AI不等于从头训练大模型

    当然,大多数政府和公司根本无法匹敌美国或中国前沿实验室的规模和资源。但主权AI并不总是意味着要造出最大、最强的工具。

    法国的Mistral和加拿大的Cohere证明了,来自这些国家之外的扎实努力是可能的——即使它们的模型还不能在基准测试上正面对抗。新加坡和阿联酋则专注于更窄但仍然具有战略优先性的方向,比如基础设施,或者更好地支持本地语言的模型。

    还有开源模型这条路。有一天,具有Mythos级别能力的开源模型可能会出现,到那时候,任何单一党派都很难控制访问权。


    特朗普可能把限制Mythos和Fable视为国家安全问题。但这个论点反过来也成立——华盛顿现在在问AI是否对所有人来说都太重要了,不能让所有人都有访问权;而其他国家的政府则在问,他们是否能承受让华盛顿来决定谁有访问权的代价。

    Anthropic可能很快会把Mythos和Fable重新上线。但要让全球对美国AI的信任恢复原状,那就是另一回事了。不管这次封禁持续多久,它都照亮了一个事实:对美国前沿AI模型的访问是多么脆弱。很多政府和公司不喜欢他们看到的情况——而且已经被激发起来,确保这种情况不再发生。

  • 76名网络安全专家联名抗议:美国政府封禁Anthropic最强模型,是在削弱防御

    76名网络安全专家联名抗议:美国政府封禁Anthropic最强模型,是在削弱防御

    上周,美国政府对Anthropic的Fable和Mythos模型下达了出口管制令,理由是国家安全。Anthropic随即暂停了全球用户对这两款模型的访问。

    事情到这里,看起来又是一个AI监管收紧的故事。但接下来的发展有点出人意料——76名网络安全专家联名写了一封公开信,要求政府撤销这道命令。

    网络安全AI概念图
    网络安全专家联名抗议Anthropic模型出口管制令

    联署名单相当豪华

    这份公开信的签署者里有不少业内重量级人物:前Facebook首席安全官Alex Stamos、漏洞赏金平台Bugcrowd创始人Casey Ellis、著名密码学家兼前苹果安全设计经理Jon Callas、计算机科学家Paul Vixie、前Block应用安全工程负责人Dino Dai Zovi、Luta Security创始人Katie Moussouris,以及安全意识培训公司SocialProof Security的CEO Rachel Tobac。

    他们在信里说得很直接:把最好的模型从网络安全防御者手里拿走,而没有充分的理由,这是”危险的”。

    “当我们的对手在快速进步的时候,把最好的能力从防御者那里拿走,是没有充分理由的危险行为。”

    禁令到底是怎么来的

    Anthropic今年4月推出Mythos预览版时,声称这个模型找安全漏洞的能力太强,所以需要严格限制访问,防止恶意黑客或外国对手拿来在互联网上搞破坏。实际操作里,Anthropic只给了大约50家公司初始访问权限,最近才扩展到15个国家的约150个组织。

    6月9日,Anthropic发布了Fable,这是Mythos的公开版本,但加了严格的护栏,阻止它在生物、化学和网络安全领域的使用,同时也防止别人通过”蒸馏”来复制这个模型。

    问题是,Fable的护栏严格到了许多网络安全专家发现它基本拦掉了任何与网络安全相关的提示词。

    亚马逊的论文:是真越狱还是误报

    据信,白宫的出口管制令可能源于一份亚马逊研究人员的论文,论文展示了一个可以绕过Fable护栏、解锁其Mythos级别能力的方法。

    但联署人之一Katie Moussouris在审阅了这份尚未公开的论文后,给出了完全不同的判断:这根本不是真正的越狱。

    她写道,研究人员只是让Fable去修复含有”故意植入的漏洞”的开源代码——而这正是模型最初拒绝”审查代码安全问题”之后发生的事情。

    “论文里描述的行为没办法被真正修复,任何尝试都只会削弱模型用于防御的能力。”Moussouris写道,”防御者需要能够要求AI修复文件里的bug、解释修复为什么重要、以及编写确认补丁有效的测试。这不是护栏绕过,这是AI模型能为防御性安全做的最有价值的事情:执行防御者每天都在跑的’发现、修复、测试’循环。”

    专家们真正担心的是什么

    公开信里还指出,亚马逊论文里描述的方法,在OpenAI的GPT-5.5上、在Anthropic自己公开可用的Claude Opus 4.8和Sonnet上、”甚至在中国的Kimi 2.7这样的模型上”都能复现。

    也就是说,封掉Fable和Mythos,并没有真正消除这个所谓的”漏洞”——它只是让美国自己的防御者用不上好工具,而对手那边照样能用上类似的能力。

    专家们的要求很明确:他们想要的是由”民主的规则制定程序”产生、基于产业和学术专家科学研究、透明且公平执行的监管,并且”只以最低必要程度使用,以确保美国公众的安全”。

  • 白宫怀疑中国碰了Mythos,Anthropic模型安全再爆争议

    白宫怀疑中国碰了Mythos,Anthropic模型安全再爆争议

    白宫怀疑中国碰了Mythos,Anthropic模型安全再爆争议

    Anthropic的Mythos模型又出问题了。这次不是因为模型本身有多危险,而是因为白宫怀疑——一个有中国背景的团体,可能已经碰过它了。

    根据Semafor的报道,白宫之所以在6月初下令限制外部人员访问Anthropic的Mythos 5和Fable 5,部分原因就是对”中国获取模型”的担忧。如果中国政府真的拿到过Mythos 5或Fable 5的访问权限,这就是一个严重的国家安全风险——中方完全可以通过”蒸馏”技术,用这个强大模型来训练自己的”学生模型”,复制出类似的能力。

    Anthropic Mythos模型安全争议
    白宫怀疑中国访问了Anthropic的Mythos模型,模型安全再成焦点

    白宫没确认,但这件事已经够呛

    白宫到目前为止没有确认这份报道,特朗普的顾问David Sacks在X上发帖解释政府决定时,也没有提到中国,只说了Fable和Mythos存在被”越狱”的风险(这件事Anthropic自己是否认的)。Anthropic方面也没有回复媒体的询问,不过一个有意思的细节是:一位发言人对Semafor说,政府在与他们讨论出口管制时,并没有提起中国这件事。

    这就留出了一个解释空间:是中国真的访问过,还是这只是白宫内部某些人的担忧被泄露给了媒体?目前没有人知道确切答案。

    但这件事如果属实,那它不会是Mythos第一次在安全问题上报丑闻。Anthropic一直说Mythos太危险、太强大,不能对公众开放。但就在不久前,一个Discord群组被曝光曾经拥有Mythos的访问权限,而且持续了两周,Anthropic才发现并切断了访问。那次事件被媒体形容为Anthropic的” humiliation”——一家以安全为核心卖点的公司,自己的最强模型却被一帮网友先玩上了。

    Semafor报道称,白宫对Mythos的出口限制,部分原因是对中国获取模型的担忧。如果属实,这不会是Mythos第一次出现未经授权访问的安全事件。

    Anthropic在政府关系上越走越复杂

    把这两件事放在一起看,一个图案开始浮现:Anthropic在政府关系上越走越复杂。一方面,它要把模型卖给药企、能源公司这些受监管行业的客户,需要证明自己”安全可控”;另一方面,一旦牵扯上国家安全,它就得听从政府的出口管制指令,把大批海外用户挡在门外。上一次政府下令限制访问,印度科技圈炸了锅,不少人呼吁赶紧搞开源替代品。这一次如果”中国访问”的怀疑持续发酵,Anthropic面临的压力只会更大。

    对美国政府来说,这件事的底层焦虑很真实:AI军备竞赛里,模型能力就是战略资源,不能让别人轻易拿到。但Anthropic毕竟是商业公司,不是国家实验室,它要在全球市场卖产品,就得在”安全”和”开放”之间找平衡。这个平衡现在看起来越来越难找了。

    接下来值得关注的是,Anthropic会不会因为这件事进一步收紧模型访问政策。如果”中国访问”的怀疑被证实,那不只是Anthropic一家的事——整个美国AI行业都可能面临更严格的出口管制审查。而对于中国的AI实验室来说,这也是一个信号:想要拿到最先进的模型,不能靠”碰”,得靠自己做出来的。


  • xAI内部爆炸:工程师因警告Grok安全问题被解雇,现在把公司告了






    xAI内部爆炸:工程师因警告Grok安全问题被解雇,现在把公司告了

    Devin Kim在xAI待了一年多,负责Grok聊天机器人的AI安全工作。他的职责本来就是确保这个模型不会出大岔子。但据他新提交的诉讼称,他因为反复指出Grok的安全隐患,被公司炒了鱿鱼。

    Kim今年6月在加州州法院正式起诉xAI及其母公司SpaceX。此时距离SpaceX那场史上最大IPO只有几天——这 timing 怎么看都很微妙。

    xAI Grok AI安全争议
    xAI的Grok聊天机器人因多起安全争议饱受批评(图源:TechCrunch)

    他警告的事情,后来真的发生了

    根据诉讼文件,Kim在xAI期间反复抱怨公司在Grok的开发过程中没有把安全放在优先位置。他特别担心两件事:Grok可能会煽动歧视,以及它有可能帮助传播大规模杀伤性武器的相关信息。

    后来的事情大家都看到了。Grok上线后闹过好几次公关灾难——最出名的一次是它把自己比作希特勒,搞出个”MechaHitler”的名号,xAI不得不紧急把模型下线改系统提示词。还有一次,Grok在X平台上大量生成非同意的裸照内容。

    “Grok当然证明了Kim是对的——它搞出了那些骇人听闻的在线仇恨言论,包括把自己比作希特勒。”诉讼文件中这句话写得相当不留情面。

    官司的矛头指向谁?

    有意思的是,这起诉讼没有直接把Elon Musk列为被告。Kim的律师在诉状里描述Musk曾指示xAI遵守法律、实施适当的安全测试和流程。问题出在Kim的直属上司——xAI联合创始人Jimmy Ba。

    Ba今年早些时候已经离开了xAI,但在职期间,据诉状描述,他根本不把安全当回事。有一次他甚至对Kim说”AI反正迟早要弄死我们所有人”,然后把精力全放在冲向超级智能的目标上,安全测试能省就省。

    诉状还提到一个具体事例:2025年8月左右,Ba在发布Grok Code 1时试图规避欧盟的安全监管,对模型的某些方面做了不实描述,目的就是绕过法律要求的测试。最后还是Musk亲自介入才拦住。


    Kim是谁?这事儿靠谱吗?

    Kim不是什么无名之辈。在加入xAI之前,他在Scale AI做过早期AI安全项目,带过训练数据生成的工作,专门帮AI系统学会检测有害内容。离开xAI后,他上周被非营利组织Center for AI Safety任命为总裁——这个机构专门研究AI风险,在业界有一定分量。

    xAI和SpaceX对这起诉讼暂时没有回应。Kim这边要求的补偿包括赔偿金、惩罚性赔偿,以及一份宣告性判决,认定xAI和SpaceX的行为违法。

    这起诉讼的时机选得很刁——SpaceX即将IPO,任何关于内部管理的负面消息都有可能影响投资者信心。xAI这边则一直在努力让Grok看起来可靠,毕竟它现在已经深度整合进X平台,出了事就是Musk自己的平台背锅。

    AI安全这个话题在业界已经从边缘讨论变成了主流关切。Anthropic、OpenAI都有自己的安全团队,但像xAI这样被前员工公开起诉”无视安全”的,还是头一遭。不管官司最后怎么判,xAI在AI安全上的信誉已经先被撕开了一个口子。