标签: AI监管

  • Anthropic的AI模型被政府盯上了,Fable 5和Mythos 5遭全面封禁





    Anthropic的AI模型被政府盯上了,Fable 5和Mythos 5遭全面封禁

    Anthropic这两款模型——Fable 5和Mythos 5,本来是自家的主力产品,结果上周五突然被政府一纸命令给封了。

    Anthropic办公室
    Anthropic总部 | 图片来源:The Verge

    命令的理由是”国家安全”,要求Anthropic切断所有外国公民对这两个模型的访问权限,不管这些人是在美国境内还是境外,连Anthropic自己的员工也在受限范围内。

    公司发了一份声明,说他们在配合政府的要求,但话里话外也透着不解。政府”没提供国家安全关切的具体细节”,也就是说,Anthropic到现在也不知道自己到底踩了哪条红线。

    越狱漏洞到底有多严重?

    更有意思的是,政府跟Anthropic说的是这两个模型存在”潜在越狱(jailbreak)”风险,但都是口头说的,没给书面证据。

    Anthropic自己评估了一下,觉得发现的那些漏洞都挺轻微的,而且同类问题在GPT 5.5身上也能看到。公司在声明里把自己合规的努力都列出来了:跟美国、英国政府都有合作,数据保留政策也做了调整,就是为了追踪有没有人拿这些模型干坏事。


    亚马逊CEO的”神助攻”?

    这事其实折射出一个更大的问题:AI公司现在夹在政府监管和商业利益之间,左右为难。政府一句话,产品就得下线,连为什么都不一定告诉你。

    而对Anthropic来说,Fable 5和Mythos 5都是花了大价钱训练的,这一刀切下去,损失不小。有意思的是,就在政府禁令出来之前,亚马逊CEO安迪·贾西还专门跟美国官员提过,说Fable存在安全隐患。这是不是有点太巧了?

    • 亚马逊是Anthropic的重要投资方,此举可能是在为自己的AI产品扫清竞争对手
    • 政府以国家安全为由封禁AI模型,但拒绝提供具体证据,这种操作引发行业担忧
    • AI公司面临的监管风险远超预期,合规成本将成为重要考量因素

    不管真相如何,这件事给整个AI行业敲了个警钟:别以为训练出一个厉害的模型就高枕无忧了,政府要是觉得你有风险,随时可以让你关门。


  • OpenAI被多州总检察长盯上了,这次不只是马斯克的官司

    OpenAI被多州总检察长盯上了,这次不只是马斯克的官司

    OpenAI这几天不太好过。据《华尔街日报》报道,一个由多个州总检察长组成的联盟已经对OpenAI展开调查,而且已经发出了传票。

    带头的是纽约州。传票要求OpenAI提供一大堆文件,范围很广:公司的广告政策、用户参与度和留存策略、模型阿谀奉承(就是AI过度迎合用户观点那个老问题)、消费者数据和健康数据的处理方式,以及对未成年人和老年人的保护措施。

    OpenAI接受调查
    OpenAI面临多州总检察长调查(图源:TechCrunch)

    OpenAI的回应

    OpenAI发言人在一份声明里说:”人工智能是一项新兴且强大的技术,我们每天都在努力以负责任的方式安全地将其优势带给大众。我们认真对待州总检察长提出的关切,并打算与各办公室的建设性沟通。”

    发言人还补充说,现在的ChatGPT对未成年人和遇到困境的用户提供了更具保护性的体验,相关保障措施会引导他们获取现实世界的资源和可信的人类联系人。OpenAI认为儿童应该被当作儿童对待,所以开发了年龄预测功能,发布了家长工具来指导孩子的AI使用,并且禁止针对儿童的广告。

    据《华尔街日报》报道,纽约州总检察长发出的传票要求OpenAI提供与广告政策、用户参与度和留存策略、模型阿谀奉承问题、消费者数据和健康数据处理方式,以及对未成年人和老年人的保护措施相关的文件。

    麻烦不止这一件

    OpenAI最近其实刚打了一场漂亮的官司——在一次备受瞩目的审判中击败了联合创始人埃隆·马斯克。马斯克的首席律师表示会对判决提出上诉,但至少眼下,OpenAI是赢了。

    但别的麻烦还在。OpenAI仍面临诸多诉讼,其中包括涉嫌版权侵权,以及ChatGPT被指涉入用户自杀事件。本月早些时候,佛罗里达州总检察长詹姆斯·乌特迈尔起诉了OpenAI及其首席执行官萨姆·奥尔特曼,声称OpenAI和奥尔特曼”无视内部和外部的安全警告,将儿童置于巨大风险之中,并允许一款危险的产品触达数百万佛罗里达州居民”。

    今年4月加拿大坦伯勒岭社区发生大规模枪击事件后,奥尔特曼曾向该社区公开道歉。他承认OpenAI在标记并封禁疑似枪手ChatGPT账户后,未能向执法部门发出警报。

    IPO计划会不会受影响

    有意思的是,就在这波负面新闻出来的同一周,OpenAI宣布已秘密提交首次公开募股(IPO)申请。这个时机挺微妙的——通常来说,监管要求的不确定性会让IPO投资者变得谨慎。

    不过OpenAI的基本面还是在的。ChatGPT的月活用户已经突破10亿,这个数据摆在哪儿,投资者的兴趣不会轻易散掉。只是监管这一端如果持续升温,估值和定价策略可能需要重新考虑。

    这次调查背后有一层更大的背景:美国各州对AI监管的态度正在变强硬。过去大家觉得AI监管主要是联邦层面的事,现在看,州一级的总检察长们也在找切入点,消费者保护、未成年人安全这些角度是他们的首选抓手。

    对OpenAI来说,眼下的优先级很可能是两手抓:一边配合调查、修补产品和外部沟通;另一边把IPO流程推下去,尽量不让监管消息吃掉市场信心。这两件事都不容易。


  • Meta砸了20亿美元收购,两个月后北京说不行

    Meta砸了20亿美元收购,两个月后北京说不行

    这笔交易本来是2025年年底的大新闻。Meta花20亿美元收购了中国AI初创公司Manus,一个靠着一段病毒式传播的智能体演示在全球蹿红的公司。那时候外界看着都觉得,这是中国AI领域少有的体面退出。

    结果才过了几个月,事情就朝着完全相反的方向走了。

    据彭博社和TechCrunch的报道,北京方面大约两个月前出于国家安全考虑,向Meta发出了剥离令——要求把这笔交易拆掉。Meta现在已经动手了:切断了Manus与其内部系统的连接,禁止员工在内部项目里继续用Manus的工具,双方正在推动全面分离。

    Meta与Manus交易
    Meta的20亿美元交易,在监管压力下被迫拆分(图源:TechCrunch)

    为什么北京不愿意?

    Manus的处境其实挺微妙的。它的员工2025年年中就迁到了新加坡,公司架构上已经做了离岸安排,但根子里的中国背景没变。美国那边也注意到了——参议员约翰·科宁当时就公开质疑,美国资本是不是不该流向和中国有关联的AI公司。

    但真正让这笔交易翻船的,是北京的态度。中国监管部门今年早些时候启动审查,理由是涉嫌违反技术出口管制和外商投资规定。这背后有一套更大的逻辑:北京在收紧对外资进入中国AI领域的管控,同时也在防止战略敏感技术通过并购渠道外流。

    据《华尔街日报》报道,Manus的投资方里,总部位于加州的Benchmark风投已经收到了收购交易的收益,而包括腾讯、HSG、真格基金在内的亚洲投资方已表示将配合交易拆解流程。

    Manus没闲着,在找回头路

    有意思的是,即便Meta在拆连接,Manus自己还在往外推新功能,先后上线了与Similarweb、Shopify的集成。这家公司看起来并不打算就此熄火。

    5月有报道称,Manus的联合创始人已经就向外部投资者筹集约10亿美元、从Meta手中收回公司控制权展开初步讨论。这条路如果走通,接下来很可能是搭建中国合资企业架构,最终在香港上市。今年香港迎来了一批中国AI初创公司的上市潮,MiniMax和智谱都在往那边走。

    不过这一切的前提是,北京愿意放行。从目前的情况看,监管部门对AI领域的资本流动管控还在收紧,不光是出境收购,连中国企业接受美国投资现在也要事先获得政府批准。Moonshot AI、StepFun、字节跳动都被点名了。

    这事释放了什么信号

    这件事其实不止关乎Meta和Manus。它把当前AI地缘政治的一个现实摊开了:不管你的公司注册在哪里、员工搬到了哪个国家,只要核心团队和中国有关联,北京就认为有资格管。

    对AI创业者来说,这意味着退出路径的复杂程度远超以往。过去大家觉得拿到美元基金、搭离岸架构、卖个好价钱给美国科技巨头,是一条能走通的路。现在看,这条路上的关卡比很多人预想的多。

    Meta这边,20亿美元打了水漂倒也不至于——至少Benchmark拿回了钱。但这件事对Meta在中国AI生态里的布局是个打击。它原本想通过Manus拿到智能体(agentic AI)领域的一张好牌,现在牌桌上还剩什么,不太好说。


  • 谷歌悄悄改了隐私条款:你的Lens照片和Search Live录音,现在可以用来训练AI了

    谷歌悄悄改了隐私条款:你的Lens照片和Search Live录音,现在可以用来训练AI了

    谷歌最近向部分用户发送了隐私设置变更通知,大多数人可能直接划掉了——但这种”悄悄改条款”的事情,值得认真看一眼。这次变动的核心是:你通过Google Lens搜过的图片、用Search Live录制的对话、语音搜索的录音、以及输入到谷歌翻译里的语音片段,现在都会被保存下来,用来”改进服务”,包括训练AI模型。

    新设置叫”搜索服务历史”

    谷歌新增了一个叫”搜索服务历史”(Search Services History)的开关,专门用来控制上面说的这些数据。与此同时,还有一个”个性化推荐”(Personalized Recommendations)设置,如果你打开了它,这些数据还会被用来给你推广告和个性化内容。

    不想被谷歌拿去训练AI?你可以把”搜索服务历史”关掉,同时也关掉”保存媒体”(Save Media)选项。但问题的关键是:默认状态下,这些设置是开启的。如果你之前没有特别去管谷歌的”网页与应用活动”(Web & App Activity)设置,那你的数据可能已经在被用来训练模型了。

    谷歌隐私设置
    谷歌搜索的AI化背后,是大量用户数据的支撑

    谷歌怎么说

    谷歌对外的解释很标准:这些数据用来”提供服务、开发和改进服务”,其中包括训练AI模型。这个说法在法律上站得住脚——用户协议里确实写了谷歌可以用数据改进服务。但普通用户看到”用于训练AI”这几个字,感受是完全不一样的。

    更关键的是,这次调整把原本藏在”网页与应用活动”里的一些开关单独拎了出来,看起来是让用户有更多控制权,但实际上也可能让更多人意识到:原来谷歌一直在拿我的这些数据。

    谷歌表示,搜索服务历史将用于”提供、开发和改进其服务”,包括训练AI模型。如果开启了”个性化推荐”设置,这些数据还会用于提供个性化建议和广告。

    不是第一次,也不会是最后一次

    谷歌用用户数据训练AI这件事,之前就引发过争议。今年早些时候,谷歌被指将YouTube创作者的内容用于训练Lyria音乐AI模型,引发版权诉讼。现在把Lens照片和Search Live录音也加进来,数据的规模和种类又上了一个台阶。

    从用户的角度看,这次变更最让人不舒服的地方在于”透明度”——设置是藏在层级菜单里的,大多数人不会主动去看。等你知道的时候,数据可能已经被用了一段时间了。谷歌的做法是”合规的”,但合不合用户的心意,是另一回事。

    如果你在意这件事,现在可以去谷歌账号的”数据与隐私”页面检查一下”搜索服务历史”和”保存媒体”这两个选项的状态。关掉它们不会让你的搜索体验变差——至少谷歌是这么承诺的。


  • 《加勒比海盗》导演喊话好莱坞:用AI写剧本的电影,应该打上F标

    《加勒比海盗》导演喊话好莱坞:用AI写剧本的电影,应该打上F标

    好莱坞导演戈尔·维宾斯基(《加勒比海盗》系列导演)最近向媒体表态:电影行业需要一套AI使用分级制度。如果一部电影的剧本是用AI写的,它应该被打上”F级”标签——就像给电影分级那样,让观众一眼就知道这部片子的AI参与程度。

    一个导演的担忧

    维宾斯基这次表态的背景是翠贝卡电影节期间的一次访谈。他并非全面反对AI——作为从业者,他清楚有些独立电影人预算有限,用AI来完成某些靠钱堆不出来的镜头,这情有可原。但他觉得,观众有权知道一部电影里到底有多少是”人做的”,有多少是”AI生成的”。

    他说得很直白:现在最大的问题是不透明。观众看完一部电影,根本分不清哪些画面是实拍的、哪些是AI合成的、剧本有没有让AI代笔。这种模糊感让人不安,尤其是当AI生成内容的质量已经到了肉眼难以分辨的地步。

    AI电影分级概念图
    AI正在改变电影制作的每个环节,但透明度仍然缺乏

    “F级”分级意味着什么

    维宾斯基提出的”F级”借鉴了电影分级的思路。F在这里不是”失败”的意思,而是强调”Full AI”或”AI辅助创作”的警示标。他的核心逻辑是:观众选择电影时,应该和选择食物时看配料表一样,有权知道这部电影的”成分”。

    这听起来有点极端,但类似的讨论在其他行业已经出现过了。音乐流媒体平台Deezer前不久上线了AI音乐检测器,帮助用户识别哪些歌曲是AI生成的。维宾斯基的提议相当于把这套逻辑搬到了电影行业,而且不止针对配乐,而是覆盖剧本、画面、后期等全流程。

    “人们最担心的就是没有透明度,人们害怕分不清什么是真的、什么是假的。”——戈尔·维宾斯基向Variety表示

    好莱坞的两难

    好莱坞现在面对的局面有点尴尬。一方面,制片厂发现AI能大幅压缩成本——概念设计、分镜预览、甚至某些特效镜头,用AI来做比传统流程快得多也便宜得多。另一方面,从业者担心AI会吃掉整个行业的就业机会,观众也对”AI电影”有抵触情绪。

    这种矛盾导致大多数制片厂对AI使用讳莫如深——用是用了,但不说,或者只说”我们用AI来做辅助工具”,具体辅助到什么程度,观众无从得知。维宾斯基的提议正是想打破这种沉默,强迫行业把AI使用情况公开出来。

    当然,这个想法距离真正落地还很远。谁来制定标准?谁来审核?制片厂会不会钻空子?这些都是现实问题。但维宾斯基把这事提出来,至少让更多人开始认真想:当AI深度参与创作时,”真实”这个词到底还有没有意义。


  • 亚马逊把Anthropic给”卖”了?AI圈最尴尬的投资关系

    亚马逊CEO向政府报告Anthropic模型安全问题
    亚马逊CEO向政府报告Anthropic模型安全问题,导致最强大模型被全球封禁

    Anthropic的Claude Fable 5和Mythos 5两款模型,本来是这家公司当下最强大的王牌,结果上周五突然被A一刀切了访问权限——而且是全球范围。表面上看,是美国政府以国家安全为由实施了出口管制禁令。但《华尔街日报》挖出来的内幕显示,这件事的源头可能指向亚马逊首席执行官安迪·贾西。

    亚马逊的尴尬位置

    这件事最尴尬的地方在于,亚马逊可是Anthropic的主要投资方。双方之前达成协议,亚马逊投50亿美元,Anthropic承诺花1000亿美元在AWS上。结果投资方转头就把被投公司给”卖”了,这剧情也是够讽刺的。当然亚马逊不会承认自己主动告的状。亚马逊发言人的声明说得滴水不漏:政府寻求我们关于潜在安全风险的建议并不罕见,但我们不会分享这些讨论的细节。话说到这个份上,基本上就等于”我不否认,但我不说”。

    越狱漏洞还是借口?

    特朗普的前人工智能顾问大卫·萨克斯现在在总统科学技术顾问委员会当联合主席,他给了另一个版本的说法。按照萨克斯的说法,是一位Anthropic和美国政府都高度信任的合作伙伴站出来,提供了关于越狱的相关信息。然后政府要求Anthropic的CEO达里奥·阿莫代伊把越狱问题修复,不然就下线模型。结果达里奥拒绝了。这个说法如果属实,那Anthropic的拒绝就成了一个关键点——是公司坚持模型开放性的原则,还是他们觉得自己模型的安全性没问题、不需要按政府的要求改?


  • OpenAI被多州总检察长调查,IPO前夜摊上大事了

    OpenAI面临多州总检察长调查
    OpenAI面临多州总检察长调查,IPO计划蒙上阴影

    OpenAI最近日子不太好过。就在本周宣布秘密提交IPO申请的当口,一个州检察长的联盟已经对它展开了调查。领头的是纽约州,直接发了传票过来,要的东西涵盖面相当广——广告政策、用户参与度和留存、模型谄媚问题、消费者数据和健康数据处理,还有对未成年人和老年人的保护政策,全都在调查范围内。

    OpenAI发言人在一份声明中表示:”AI是一项崭新且强大的技术,我们每天都在努力以负责任的方式安全地将它的益处带给人们。我们认真对待州检察长提出的担忧,并打算与他们的办公室进行建设性沟通。”

    这事儿是《华尔街日报》先曝出来的。OpenAI的发言人倒是四平八稳,说AI是个崭新又强大的技术,他们每天都在努力以负责任的方式把好处带给人们,会认真对待州检察长的担忧,打算跟他们的办公室建设性沟通。话说得漂亮,但问题是,到底有多少个州参与了这次调查,又被要求提供哪些具体信息,OpenAI这边一个字都没说。TechCrunch已经联系了纽约州检察长办公室求证,目前还没收到回复。

    刚赢了马斯克,官司还没打完

    说起来,OpenAI最近在法庭上倒是赢了一仗——把联合创始人埃隆·马斯克给击败了。马斯克指控公司违反创始协议,但法院判决OpenAI胜诉。不过马斯克的首席律师已经表示要上诉,所以这事儿还没完。

    但实际上,OpenAI手里的官司不止这一桩。从涉嫌版权侵权,到ChatGPT被指与用户自杀有关,各种各样的诉讼都有。本月早些时候,佛罗里达州检察长詹姆斯·乌特迈耶直接把OpenAI和它的首席执行官萨姆·奥特曼给告了,声称这两位”无视内部和外部的安全警告,将儿童置于极大风险之中,并且允许危险的产品触达数百万佛罗里达人”。这指控相当重。

    枪击案后的道歉,来得有点晚

    奥特曼最近还因为另一件事道了歉。加拿大坦布勒里奇发生大规模枪击事件之后,有消息披露,枪击嫌疑人的ChatGPT账户已经被OpenAI标记并封禁,但公司没有通知执法部门。奥特曼为此向坦布勒里奇社区道了歉,承认这里做得不对。但道歉归道歉,人命关天的事,光道歉显然不够。

    IPO前夜的阴影

    就在这一切发酵的时候,OpenAI本周还宣布了一个大消息:已经秘密提交IPO申请。一边要应对多州检察长的调查,一边要面对各种诉讼,一边还要推进上市计划,这IPO的路只怕不会太顺利。投资者买不买账,到时候看吧。


  • 亚马逊员工倒戈了:我们不支持公司在西雅图建数据中心

    AI数据中心建设
    西雅图讨论对新建数据中心实施暂停令 | 图片来源:The Verge

    西雅图要是建5个新的大型数据中心,需要消耗多少电?根据《西雅图时报》的数据,总最大用电需求是369兆瓦,大约是西雅图日均用电量的三分之一。建成后,这5个数据中心的耗电量是西雅图现有30个数据中心耗电量的10倍。

    这个数字让西雅图市议会坐不住了。2026年6月,西雅图正式通过了一项为期一年的新建数据中心紧急禁令。而有意思的是,这项禁令最坚定的支持者里,有一群亚马逊的员工。

    亚马逊员工站出来反对自己的雇主

    多名亚马逊软件工程师、高级工程师以”亚马逊气候正义员工”组织成员的身份,在西雅图市议会听证会上公开作证,支持对新建数据中心实施暂停令。

    亚马逊高级软件工程师Liesl Wigand在听证中说:”我的工作让我目睹了不计成本推进AI建设的后果。最大的问题是人们认为AI可以解决一切问题,却忽视了它消耗的资源。这种文化在科技行业无处不在。”

    她呼吁政府主动”制定规则”,要求数据中心建设需符合气候减缓、AI安全委员会等保护标准,而不是由科技巨头自行决定建设规则。她的原话是:”不要让大型科技公司为了赢得AI竞赛而烧掉西雅图。”

    “我们不要空壳公司和保密协议”

    亚马逊软件工程师Patrick Schloesser在听证中提出了更具体的诉求:要求政府强制开发商不得通过保密协议(NDA)和空壳公司隐瞒项目主体身份;要求开发商为当地电网提供100%的额外可再生能源,且每次裁员时都需缴纳税款;呼吁建立向城市汇报的工人主导的安全委员会。

    他引用了一组数据:亚马逊今年资本支出达2000亿美元,微软达1900亿美元,其中大部分用于AI和数据中心建设。但亚马逊过去8个月已经裁减了3万名企业办公室员工。他的结论是:”大型科技公司正不顾一切地尽可能快地建设算力,这种迫切性给了城市谈判的筹码。”

    电费涨了,承诺没兑现

    除了亚马逊员工,数十名西雅图居民、其他科技公司员工、电气工程师也参与了支持暂停令的听证。他们的反对理由很实在:近年来当地居民的电费已经因为数据中心建设出现上涨;有人播放了数英里外就能听到数据中心噪音的录音;还有人指出,科技公司在听证中提到的承诺——使用大规模可再生能源、电网级电池存储、闭环冷却系统限制用水——实际上都没有兑现。

    一名匿名前亚马逊软件工程师告诉The Verge:企业正在”不顾一切地推进数据中心建设,完全没有征求员工或建设所在社区的意见”。暂停令是难得的契机,可以探讨”如果这些技术将长期伴随我们,如何让基础设施和技术本身惠及民众,而不是让财富集中在少数科技亿万富翁手中”。

    全美范围内已经出现多个数据中心项目因当地抗议被取消或缩减规模的案例。纽约州议会已经投票通过对新建大型数据中心为期1年的禁令,目前该法案已提交给州长签署。


    西雅图这件事有意思的地方在于,反对数据中心的不是外人,正是科技公司的员工自己。他们在公司里面写代码训练模型,在外面去市议会作证,要求放慢公司自己正在拼命推进的基建项目。这种分裂也许正是AI热潮到了某个阶段之后,必然会有的反应。

    📎 原文来源:Amazon employees ask Seattle to hit pause on new data centers | The Verge / Hayden Field
  • Anthropic苦心经营最安全AI人设,结果美国政府直接拔了它的插头

    美国政府本周五给Anthropic发了一道命令:立刻关停Claude Fable 5和Claude Mythos 5两款最强模型的访问权限,理由是哪个外国公民都不能用。Anthropic在X上发了公告,说配合执行,但转头就在官方博客写了一篇长文,把政府的逻辑从头到尾怼了一遍。

    这件事的讽刺程度相当高。Anthropic过去几个月一直在对外传递一个信号——我们的模型太强了,强到不能随便公开。Mythos 5发布时公司说这东西能识别主流操作系统和浏览器的所有漏洞,所以只敢放进一个叫Project Glasswing的受控项目里,连亚马逊、苹果、谷歌、微软、CrowdStrike这种级别的用户也只给了约50家。结果现在,政府说:既然你承认它危险,那外国人也别用了。然后干脆把全球访问一起掐了。

    Anthropic CEO Dario Amodei
    Anthropic联合创始人兼CEO Dario Amodei(图源:Bloomberg / Getty Images)

    “我们发现了一个小范围潜在越狱,就以此为理由召回一款部署给数亿用户的商业模型,我们对此表示反对。如果这一标准被应用于整个行业,我们认为所有前沿模型提供商的模型部署都会实质上被叫停。”——Anthropic官方博客

    Fable 5才发布3天

    被关停的两款模型里,Fable 5其实刚发布没几天。Anthropic给它装了护栏,把网络安全、生物学这些高风险领域的输出拦住,然后觉得可以放心给公众用了。AI基准测试公司Vals AI的数据说,Fable 5是当时公众能用到的最强模型。

    政府的理由听起来有点模糊:说是Fable 5有个越狱漏洞。但Anthropic说政府只给了口头证据,那个所谓越狱的实际效果不过是让模型读一段代码然后找漏洞——而且这种能力在GPT-5.5之类的公开模型里也有,网络安全人员天天在用。

    Anthropic还补了一刀:我们最底层的安全机制是跑在模型外面的分类器,就算有人真把Fable说服了,让它越过拒绝回答的线,最危险输出的防护还在。政府你到底在担心什么?

    人设反噬

    Anthropic这些年最值钱的东西就是”我们比别家更安全”这个人设。它在AI公司里把自己定位成那个会主动踩刹车的人,投资者买账,用户也买账,IPO前景看起来一片光明。

    问题是,你花几个月向全世界宣传”我的AI危险到不能公开部署”,美国政府就会真的来盯你。OpenAI的CEO Sam Altman之前就嘲过这件事,说Anthropic搞的是”基于恐惧的营销”——”我们造了一颗炸弹,本来要扔你头上,现在花1亿美元你可以买个防空洞”,这话术确实好用,但现在看来也有副作用。

    Altman当时还没预测到政府会真的来关停模型,但他指出的那个矛盾现在已经兑现了:当你把危险性当成卖点,监管者就会把你当成头等目标。


    这件事对Anthropic的IPO计划显然不是什么好消息。一家公司如果连两款核心模型都被政府一声令下全球关停,投资者会问:下一回会不会是全部?Anthropic说自己反对这个决策,但反对归反对,命令已经执行了。

    目前Claude的其他模型访问正常,Fable 5和Mythos 5的访问何时恢复也没有时间表。政府这道命令是以出口管制为框架发的,但执行范围远远超出了”禁止外国人使用”这个名义本身。

  • OpenAI、Anthropic、DeepMind罕见联手,致信国会要求严管合成DNA

    AI圈里难得见到OpenAI、Anthropic和DeepMind坐到同一张桌子上。这次它们没有在比谁的模型强,而是联名写了一封信给美国国会,说的是一件听起来有点远、但细想挺吓人的事:用AI设计新型病原体,然后通过商业渠道合成DNA。

    AI生物安全
    AI安全警示(资料图)

    致信的三个人分别是OpenAI的Sam Altman、Anthropic的Dario Amodei,以及Google DeepMind的Demis Hassabis。微软AI负责人Mustafa Suleyman和Meta首席AI官Alexandr Wang也签了名。这份信由智库”进步研究所”和”美国创新基金会”牵头协调,算是业界一次比较罕见的集体发声。

    AI降低了什么门槛?

    信里的核心逻辑其实不难理解。过去,要设计一种危险的新型病原体,你需要多年的分子生物学训练,还要能接触到专业的实验设备和试剂,这些天然形成了很高的知识壁垒。

    但现在AI模型在科学和医学领域的能力一直在涨。一个有一定技术背景的人,理论上可以用AI辅助设计序列,然后去找商业基因合成服务商下单,让他们把这段DNA做出来。现有的筛查机制主要针对已知的危险序列,对AI设计出来的全新序列,覆盖面是不够的。

    联署人在信里写得很直白:AI工具可能被用于设计新型病原体,并指导用户绕过生物安全筛查。这话不是危言耸听,而是对现有技术能力的一个冷静评估。

    行政命令不够用

    白宫之前签过一份行政命令,涉及AI对生物安全的潜在风险。但联署人认为,行政命令的约束范围有限,下一任总统上台完全可以推翻重来。只有国会立法,才能确立一个硬性的、跨政府的监管门槛。

    他们要求的具体措施是:强制基因合成服务商在接单时筛查序列,同时核验客户身份。这个要求在技术层面并不难实现,基因合成行业本身也有自律规范,但一直没有法律层面的硬性要求,这就留下了空白。

    为什么是现在?

    这个问题值得问。AI能力不是一天两天涨上来的,为什么偏偏在2026年中期,三家竞争对手选择联手致信国会?

    一个可能的解释是,模型能力正在跨过一个临界点。过去大家讨论AI风险,更多是理论层面的;现在有人开始认真评估”如果有人真的用AI干了坏事怎么办”。特别是生物安全这个方向,一旦出事,代价不是赔钱能解决的。

    另一个角度,这三家公司主动出来推动监管,某种程度上也是在抢占”负责任的AI公司”这个叙事。在监管即将到来的时候,做规则制定的参与者,比做被动的遵守者要主动得多。

    立法会顺利吗?

    美国国会的立法效率,懂的都懂。这份信能不能真的推动立法,还要看多方博弈的结果。基因合成行业可能会支持,因为合规成本相对可控;但也会有人拿”创新阻碍”和”政府过度监管”来说事。

    更大的背景是,AI监管的整体走向在美国仍然不明朗。一边是业界呼吁”管一管生物安全”,另一边是”别管太多、别拖慢创新”的声音。这次三家公司的联名信,至少让生物安全这个细分方向,进入了更多决策者的视野。

    不管立法结果如何,AI公司和生物安全之间的这条线,已经被画出来了。以后类似的风险预警,估计会越来越频繁。