标签: AI技术

  • Suno给独立音乐人发钱,但条件是:不准说平台坏话

    AI音乐生成平台Suno最近搞了个大动作——推出名叫Spark的孵化器项目,要给独立音乐人发钱、给资源、帮推广。听上去挺美好,但细看条款,事情没那么简单。

    “好 vibes 才行”

    根据Suno和参与音乐人签署的协议,里面有一条”好 vibes 才行”(Good Vibes Only)的保密和不贬损条款。翻译过来就是:拿了Suno的钱,你就不能再说Suno的坏话。

    参与者”不得在任何时候以任何方式(无论是口头还是书面)发表任何将Suno、Suno员工和/或任何Suno产品或服务的形象抹黑的言论或陈述”,违反者将被移出该项目。

    Suno Spark AI音乐孵化器
    Suno推出Spark孵化器,但条款引发争议

    这个条款一曝光,立刻在音乐圈炸了锅。有人直接说这是”封口费”——拿了钱就得乖乖说好话,哪怕平台真的有问题也不能对外讲。

    Suno的算盘

    Suno当然不这么说。他们的官方说法是:Spark项目是为了帮助独立音乐人,提供资金、指导和市场推广支持,让更多人能用AI做出好音乐。

    但眼尖的人发现,Suno正在打一场更大的仗——它不想只做一个”生成AI垃圾音乐”的玩具,而是想成为下一个流媒体平台,真正去捧红新的艺术家。

    问题是,Suno目前还面临着来自各大唱片公司的诉讼,被指控未经授权使用受版权保护的音乐来训练AI模型。在这种背景下,要求参与音乐人签署不贬损条款,怎么看都有点”心虚”的意思。

    独立音乐人的两难

    对于独立音乐人来说,这是一个两难的选择。一方面,Suno提供的资源确实能帮到他们——在这个流量为王的时代,有个大平台给你推广,机会难得。

    另一方面,签署这样的条款意味着你失去了发声的权利。如果Suno真的做了什么损害音乐人利益的事情,你签了字就只能吃哑巴亏。

    • 拿了Suno的钱,你的音乐是不是就被绑死在它的平台上了?
    • 如果Suno的AI训练真的侵犯了版权,参与的音乐人会不会也被牵连?
    • “好 vibes 才行”的条款,会不会成为AI音乐平台的标准操作?

    Spark项目已经正式启动,Suno在招募独立音乐人参与。至于会不会有音乐人因为条款问题而拒绝,或者参与之后发现被”封口”了,可能要等一段时间才会有消息。

    这件事也给整个AI音乐行业提了个醒:当你用AI”赋能”创作者的时候,到底是在帮他们,还是在利用他们?

  • 谷歌限制Meta使用Gemini,AI算力短缺连大客户也照顾不过来

    谷歌限制Meta使用Gemini
    谷歌对Meta实施Gemini使用限制,AI算力短缺凸显

    一件挺有意思的事发生了:谷歌告诉Meta,你们用我们Gemini用太多了,得限一限。这件事背后,其实是整个AI行业都在面对的一个尴尬现实——即便你是有钱有势的大客户,也不一定能买到足够的AI算力。

    三月的一通电话改变了什么

    根据《金融时报》的报道,今年3月左右,谷歌告知Meta,无法满足其全部Gemini算力需求。这让Meta有些措手不及——毕竟这两家公司虽说是对手,但在AI算力这块,Meta一直依赖谷歌的云服务。

    结果就是,Meta的一些内部AI项目因为算力短缺而被迫延期或者调整计划。受影响的不止Meta一家,谷歌的其他客户也遇到了类似情况,只不过Meta受到的冲击最大,因为它的需求量实在太惊人了。

    据FT报道,由于受到限制,Meta已经开始鼓励员工更”节约”地使用AI token——那些用来衡量AI使用量的计算单位。

    谷歌自己的麻烦也不小

    这件事其实也暴露了谷歌的一个软肋。今年第一季度,谷歌云的收入增长到200亿美元,看起来很亮眼对吧?但CEO Sundar Pichai承认,算力限制阻止了更高的增长,而且直接导致云业务积压订单几乎翻了一番。

    也就是说,即便像谷歌这样的巨头,在AI算力需求暴涨的当下,也感到力不从心。他们一边在芯片和数据中心上砸几百亿美元,一边还是跟不上需求的增长速度。

    AI算力短缺会成为新常态吗

    这件事其实预示了一个趋势:AI算力可能会像石油一样,成为战略资源。谁能拿到足够的算力,谁就能在AI竞赛中占据主动。

    对于Meta来说,这次被谷歌”卡脖子”,说不定会加速他们自建算力基础设施的决心。毕竟扎克伯格已经在AI上投入巨资,如果再被供应商限制,那确实有点被动。

    而对于其他依赖第三方AI服务的公司来说,这件事也是一个提醒:如果你的核心业务建立在别人的AI能力上,那你可能需要在某个时候认真考虑一下备选方案了。


    • 谷歌今年3月告知Meta,无法满足其全部Gemini算力需求
    • Meta的一些内部AI项目因此延期或调整
    • 谷歌云Q1收入200亿美元,但算力限制阻止了更高增长
    • Meta鼓励员工更节约地使用AI token
    • AI算力短缺可能成为新常态,影响大客户优先级

  • Ford重新聘请资深工程师,AI在某些工程任务上还不够好

    Ford重新聘请资深工程师
    Ford重新引入资深工程师,与AI系统协同工作

    Ford最近做了一件挺值得玩味的事——把350名资深工程师重新请了回来。这些”灰胡子”工程师(业内对资深人士的戏称)有些是退休后又被返聘的老员工,有些是从供应商那边挖回来的。原因说起来有点打脸:Ford发现,AI和自动化质量系统并没有像预期的那样靠谱。

    AI没能兑现的承诺

    Ford首席运营官Kumar Galhotra向记者承认,公司”越来越依赖自动化质量系统”,但结果令人失望。所以Ford”带回了技术专家”,让这些老将”在零件到达工厂车间之前就寻找故障点”。

    Ford车辆硬件工程副总裁Charles Poon说得更直白:”我们错误地认为,只要引入人工智能并输入我们的设计要求,就能生产出高质量的产品。”

    这话听起来有点尴尬,但确实点出了一个业内都在回避的问题:AI在复杂工程任务上的表现,距离”可靠”还有不小差距。

    资深工程师的回归不是倒退

    需要澄清的是,Ford并不是要放弃AI。那些被重新聘请的资深工程师,一个重要任务是培训年轻员工,同时重新编程AI工具。换句话说,Ford在尝试一种”人机协同”的模式——让有经验的人把关,让AI做重复性工作。

    从结果来看,这个策略似乎正在奏效。Ford预计今年能因此减少10亿美元的成本。而且在本周发布的JD Power初始质量调查中,Ford在主流品牌中排名第一。

    这件事对整个AI行业意味着什么

    Ford的这个案例,实际上给整个AI行业提了个醒。过去几年,大家都在讲”AI替代人工”的故事,但现实要复杂得多。

    在汽车制造这种对精度和质量要求极高的行业,AI的”幻觉”问题或者”差不多就行”的倾向,可能会导致严重的质量问题。而资深工程师的价值,恰恰在于他们能凭直觉发现那些AI还没学会识别的潜在故障点。

    这件事也说明,AI落地不能只靠堆算力或者上模型,还得有懂行的人参与进来。Ford的做法,或许会给其他制造业公司提供一个参考样本。


    • Ford重新聘请350名资深工程师,因为AI质量系统未达预期
    • 公司高管承认”错误地认为AI能直接产出高质量产品”
    • 资深工程师负责在零件上线前发现故障点
    • Ford并未放弃AI,而是采用”人机协同”模式
    • 该策略预计今年节省10亿美元成本,JD Power质量排名提升

  • Google DeepMind掏了1000万美元,研究AI Agent互相勾兑会出什么乱子

    AI Agent今年是个热门词,各家都在推。但有没有人想过,当几百万个Agent同时在网上跑,还互相打交道,会发生什么?

    Google DeepMind想过。而且它想完了觉得这事值得花1000万美元来研究。

    多Agent系统风险概念图
    数百万AI Agent同时在线交互,风险也在成倍放大(图:AI生成)

    一个还没成形的研究领域

    Rohin Shah是Google DeepMind的AGI安全与对齐研究总监。他的担心是,Agent能自己完成任务,还能接受其他Agent的指令——这种”Agent之间互相打交道”的场景,会带来全新的一类风险。

    为了应对这个,Google DeepMind跟几个机构一起,凑了1000万美元的资金池,专门资助研究人员研究多Agent系统的行为,想办法防止不安全的场景。

    跟Google DeepMind一起出钱的,有施密特科学基金会(Eric Schmidt搞的那个)、英国政府的” moonshot agency”ARIA、非营利研究机构Cooperative AI Foundation,还有Google自己的慈善部门Google.org。

    “现在的问题是没有一个专门研究多Agent安全的领域。我们希望有这样一个领域。”——Rohin Shah,Google DeepMind

    风险在哪里?

    具体有什么风险?Shah和James Fox(施密特科学基金会”可信AI科学”项目的负责人)主要担心的,是现在网上已经有的坏事情被AI Agent”超级加倍”。

    诈骗、提示注入攻击(就是有人给AI Agent喂恶意指令,把它变成自动化的恶意软件)、其他形式的网络攻击——这些事现在人类已经在做了,Agent版的只会更快、更规模化。

    Fox说了一句话:”我们有一个对全社会运作至关重要的数字公共空间,你真的希望这东西不至于跌入彻底的混乱。”

    我问他俩有没有考虑过那种最极端的情况,比如AGI导致经济全面崩溃之类的。Shah说:”如果说的是今年年底之前,那肯定不会。” 才六个月啊!他笑了笑,说:”好吧,那之后的一段时间也不会。”

    模拟,还是模拟

    Shah和Fox都认为,要理解大量多Agent系统互相交互时会发生什么,唯一的办法是跑真实的模拟。把AI Agent扔进沙盒里,观察它们做什么。

    研究单个Agent,甚至研究小群Agent,是没法预测全局的。基于LLM的AI Agent不一定会理性行动,Fox说。真正的复杂度来自于海量交互同时发生。

    有些研究人员(包括Google DeepMind的一个团队)甚至论证过,AGI可能不是来自于单个超级聪明的模型,而是来自于一种Agent”蜂巢思维”——整个的能力大于部分之和。


    不是只有Google在担心

    就在几周前,Anthropic发布了基于”零信任”方法的AI Agent部署指南——这个方法最早来自网络安全领域,基本假设是计算机系统就是有漏洞的,Agent就是攻击者,入侵迟早会发生。

    特拉维夫的网络安全公司Akeyless的联合创始人兼CTO Refael Angel说,过去所有的安全方法都假设机器上跑的是人类写的软件,走的是固定的路径、做固定的事情。”Agent把所有这些假设都打破了。它会推理,它会即兴发挥,而且它可能因为被要求在文档里读一句话——就那一句话——而被劫持。”

    Angel欢迎这1000万美元的新资金。”不应该由某一家实验室来制定其他所有人都要信任的安全标准,”他说。但他也提醒,安全研究人员可能会只顾着研究那些花里胡哨的假想场景,而忽略了已经摆在眼前的、没那么酷的实际问题。

    Fox则说,几年前还只是假想的事情,现在已经很真实了:”未来来得比预想的快。”

  • 数据中心抢电太凶,有人想了个新办法:让它们跟着电网的节奏走

    AI热潮把数据中心的电费账单推到了前所未有的高度,但问题不止是钱。电网自己也开始叫苦了——这么多数据中心同时开工,电网吃不消。

    一场足球赛暴露的问题

    去年12月,英格兰和德国踢了一场足球赛。上半场0:0,数百万英国人集体松了口气,然后去做他们压力大的时候常做的事:烧水喝茶。

    这一波电水壶同时开机,电网的负荷瞬间飙升。但英国国家电网公司(National Grid)早有准备。AI程序在那时候给伦敦的一个数据中心发了指令,让它将部分耗电芯片降速。这一减,正好补上了需求缺口,避免了停电风险。

    数据中心电网灵活性概念图
    数据中心可以根据电网负荷调节用电,而不是一味猛吃电力(图:AI生成)

    对数据中心来说,这种操作是颠覆性的。它们平时可不管别人需不需要电,只管自己猛吃。但现在,有公司在试验一种”灵活用电”的模式。

    数据中心不再是电网的”电老虎”,而是可以成为调节电力供需的弹性资源。这对AI基础设施的可持续发展是个新思路。

    不建电厂,建软件

    现在的头部公司怎么做的?微软、甲骨文这些巨头,做法是自己建天然气发电厂,不靠公用电网。xAI在田纳西州孟菲斯的Colossus数据中心,为了赶进度,直接把燃气轮机拉到现场。结果现在被监管机构和当地居民追着投诉,因为污染排放超标。

    问题是,全世界的燃气轮机加起来都不够满足数据中心的需求。

    GridCare的CEO Amit Narayan说了一句话,我觉得挺有意思。他说:”如果你是一家航空公司,飞机利用率只有30%,你不会去买更多飞机。如果电网的利用率也是30%,那把它提升到60%没有什么科学上的理由不支持。”

    他的依据是斯坦福大学2025年的一项研究,发现北美西部输电线路的传输容量其实有很大冗余。电网的设计思路是”按最高需求建”,但一年里只有很少的时间会达到那个峰值。其余时间,电网的能力其实是闲置的。

    灵活性有三种玩法

    数据中心怎么做到”灵活用电”?目前有三种思路:

    • 自己配储能设备或备用发电机,电网忙的时候用自备电——当然,这得自己掏钱。
    • 通过虚拟电厂(VPP)来调节。电网让参与VPP的用户(可能是工厂,也可能是装了太阳能板的家庭)在这时候少用电,数据中心给他们付钱买这种”灵活性”。
    • 最简单粗暴的办法:高峰时段直接少用电。这听起来数据中心肯定不干,但Emerald AI的首席科学家Ayse Coskun说,现在运营商越来越愿意用一定的灵活性来换取更快的并网速度。”先跑起来”的诱惑,可能比想象的要大。

    AI来帮忙

    GridCare这家硅谷初创公司,做法是把电网的每一个部分——发电厂、输电线路、变电站、家庭用电——都喂进一个生成式AI模型,为不同的电网配置创建”数字孪生”。然后它把结果输入另一个基于电气元件物理规律训练的模型,确保方案是现实可行的。

    这套玩法如果真的跑通,数据中心的上线周期可以大幅缩短。不用等新建电厂,不用跟电网公司扯皮好几年,直接用现有电网的冗余容量,加上智能调度软件,数据中心就能开工。

    杜克大学2026年2月的一项研究发现,灵活性可以让电价降低0.5%到2.8%。数据中心用这种方式摊薄了固定成本,其他电力用户也能跟着沾光。

  • 你跟ChatGPT聊的记录,现在可以用来定你的罪了

    2025年元旦,洛杉矶帕利塞德丘陵发生特大野火,造成惨重损失。检察官在起诉嫌疑人Jonathan Rinderknecht时,拿出了一份不同寻常的证据——他的ChatGPT对话记录。

    AI成了指控你的证人

    检察官的主张是:Rinderknecht在ChatGPT上问过帕利塞德地区的风速情况,还问过某些化学品的助燃特性。这些查询记录,在检察官眼里,就是”有计划地准备制造最大破坏”的证据。

    OpenAI配合了搜查令,把这位用户的完整对话记录交给了当局。这件事本身就让很多人后背发凉——你跟AI聊的所有内容,理论上都可以被调出来当证据。

    ChatGPT日志成为法庭证据概念图
    ChatGPT对话记录成为法庭证据,AI隐私进入法律灰色地带(图:AI生成概念图)

    跟Google搜索不是一回事

    用Google搜东西,你拿到的是链接。但跟大语言模型对话是另一回事——你会把场景摆出来,追问细节,通过来回问答”搭建”一个想法。检察官在帕利塞德案里用的就是这些对话的结构,试图让法庭相信Rinderknecht对自己的行为后果有充分的认知。

    “我们不再只是搜索信息,而是和一个永远不忘记、永远配合传票的实体大声思考。”——帕利塞德案法律分析师

    第三方法则来了

    这个案子最终以误审告终——陪审员没能就ChatGPT查询记录是否足以证明犯罪事实达成一致。但法庭采纳这份证据的依据,是一个有争议的法律原则:”第三方法则”。

    根据这个法则,公民对自愿分享给第三方的资讯(比如银行、科技公司)”没有合理的隐私期待”。到了AI时代,这意味着你在聊天框里敲下的每一个念头,都属于那家公司,进而可以被当局获取。

    法律分析师警告,这会造成”寒蝉效应”:人们可能因为担心自己的数字足迹在将来的法庭上被用来对付自己,而不敢探索某些想法或提出问题。


    Rinderknecht的案子只是开始。随着AI融入生活的每个角落,这套技术的法律监管还远远落后于现实。当局能不能用你的AI对话记录来定你的罪——这个问题的答案,可能比你想象的更近。

  • 美光被华尔街当成下一个英伟达:一个月股价涨236%,AI内存短缺让它飞起来了

    美光科技的股票在过去一个月里涨了236%,收盘价1132美元。这家总部位于爱达荷州博伊西的内存芯片制造商,市值一度在周四短暂超过了Meta和特斯拉,虽然周五又跌回去了,但也差不多和它们持平了。

    从存储卡厂商到AI豪赌赢家

    大多数普通消费者提到美光,想到的还是那种给电脑、手机扩容用的小内存卡。但这家公司现在赚的钱,跟那个产品线已经没太大关系了。

    AI数据中心的扩建潮造成内存芯片严重短缺,无论是系统内存DRAM还是闪存NAND,美光都生产,尤其是高带宽内存(HBM),一块AI服务器需要的内存量是笔记本电脑的好几个数量级。英伟达这样的AI系统制造商,还有微软、亚马逊AWS、谷歌、Meta、甲骨文这些超大规模云厂商,都在疯狂采购内存。

    Micron AI内存芯片与股市上涨概念图
    美光科技搭乘AI内存热潮,股价一路飙升(图:AI生成概念图)

    财报数字确实吓人

    上周美光发布的第三财季财报,用”爆炸”来形容都不为过:营收414.5亿美元,是去年同期的4倍;利润从18.8亿美元直接跳到282亿美元。第四财季的营收指引更是给到490亿到510亿美元之间。

    华尔街一直在找下一家能像英伟达那样长期赚钱的AI概念公司,美光看起来符合这个想象。

    美光当前的市值约1.27万亿美元,Meta是1.39万亿,特斯拉是1.42万亿。几个月前,美光的的股价还在100美元以下徘徊了好几年。

    长期协议能不能扛过周期?

    内存芯片行业有个老问题:扩建生产线又慢又贵,等产能上来,需求往往已经掉了,然后就是供过于求、价格暴跌。美光这次能不能不一样?

    美光自己在财报电话会上强调,已经签了一堆长期供应协议,包括和英伟达以及AI实验室Anthropic的协议。公司说在数据中枢、消费和汽车市场段签了16个战略客户协议,这会”从根本上改变商业模式”。

    William Blair的分析师Sebastien Naji在一份研究报告中写道,需求增长继续超过新洁净室空间的上线速度,”考虑到未来几个季度ASP(平均售价)持续上涨的可能性很大,加上与关键客户的长期协议(SCA)迅速增加带来了更好的营收能见度,我们认为盈利增长有潜力变得更持久。”


    内存短缺的局面(有人叫它”RAMageddon”)预计会持续到2027年,已经在推高苹果产品和Xbox主机等消费电子的价格。美光能不能真正成为”下一个英伟达”,还是会在下一轮内存周期里被打回原形,接下来几个季度见分晓。

  • 一家初创公司声称突破了制约LLM的瓶颈,AI效率竞赛迎来新变量

    一家初创公司声称突破了制约LLM的瓶颈,AI效率竞赛迎来新变量

    大语言模型有个绕不开的数学瓶颈——”二次方爆炸”。处理的文本越长,计算量不是线性增长,而是平方级暴涨。这个瓶颈卡了业界快十年,但现在有家迈阿密的小公司说他们解决了。

    AI模型架构突破
    Subquadratic稀疏注意力机制示意图(AI生成图)

    Subquadratic公司5月从隐身模式走出来,发布了模型SubQ。他们声称用”稀疏注意力”替代了传统Transformer的”密集注意力”,把计算复杂度从二次方降到了——你猜对了——亚二次方。

    “我们希望开启一个效率新时代。几年后,没人会用Transformer搭建模型了。”

    ——Justin Dangel,Subquadratic联合创始人兼CEO

    二次方瓶颈到底卡在哪

    今天所有主流大模型都基于Transformer架构,核心是”密集注意力”机制。处理一段文本时,模型把每个词(token)编码成数字,然后让每个数字和所有其他数字相乘——用来捕捉词与词之间的关系。

    1万个词的文本,要算近5000万次乘法。文本长度翻倍,计算量翻四倍。这就是为什么长文档处理这么烧钱,也是为什么各家公司在拼命堆GPU。

    Subquadratic的思路很简单:不是所有词之间的关系都重要。稀疏注意力只挑重要的词做运算,跳过不相关的。问题难在——怎么判断哪些重要?以前的办法都用固定模式(比如”第1个词总是和第5个词比较”),效果不好。

    SubQ的”秘密酱料”是动态选择——对每段输入的文本,实时判断哪些词之间的关系值得计算。联合创始人Alex Whedon不肯透露具体怎么实现的,只说”这是我们的核心秘密”。

    质疑声:AI界的Theranos?

    第一次发布时,Subquadratic只给了几个自测跑分,没有第三方验证。AI工程师Dan McAteer在X上发文:”SubQ要么是Transformer之后最大突破,要么就是AI界的Theranos。”

    一个月后,Subquadratic找了第三方评测机构Appen来跑分。结果有些惊人:在LiveCodeBench编程测试上,SubQ得分89.7%,和顶级模型在同一个水平线。处理长文本时,SubQ的上下文窗口可达1200万token(主流模型一般是100万)。

    成本数据更夸张。跑同样的测试(从大文档里检索信息),Anthropic的Opus 4.6花了2600美元;SubQ花了8美元。

    但质疑没有完全消散。SubQ的底层权重是用中国开源模型Qwen”启动”的(在Qwen基础上微调),而不是从零训练的。这让一些研究者怀疑:这到底是一个全新架构,还是Qwen的一个高效变种?


    SubQ目前还没开放公测,等候名单上有几万人。在更多人真正用上之前,判断它是突破还是泡沫,还为时过早。但有一点是确定的:效率竞赛已经打响,谁能把大模型的计算成本打下来,谁就掌握了下一个回合的主动权。

  • 为什么韩国人如此热爱AI?从养老机器人到AI算命,这个国家正在全速押注

    为什么韩国人如此热爱AI?从养老机器人到AI算命,这个国家正在全速押注

    从仁川机场落地的那一刻起,你就感觉到韩国和硅谷的AI叙事完全不同。我在旧金山飞了12小时落地首尔,入境用了无人安检通道,机器扫了一下我的脸和护照,几秒钟就过了。坐地铁进市区,全程5G信号满格,连地下都是。车厢里每个人都低头盯着手机——不是在刷短视频,就是在和AI聊天。

    韩国AI应用
    首尔街头的AI服务机器人(示意图)

    首尔江南区公交站配有互动触摸屏,实时显示车次信息。区政府6月刚宣布要升级成”AI公交站”,配备多语言问答服务。走在街上,轮式机器人等在十字路口,给路人送外卖。互联网咖啡馆里坐满了青少年在打游戏——他们中的很多人梦想成为下一个职业选手。

    “韩国人对AI的热爱不是自发产生的,而是政府几十年来持续灌输的结果。从钢铁到半导体,从宽带到智能手机,每一轮技术革命韩国都押对了注,AI只是最新的一轮。”

    只有16%的韩国人担心AI

    皮尤研究中心2025年调查了25个国家,问”你对AI更多感到兴奋还是担忧”。结果:韩国只有16%的人说”更担忧”——25个国家里最低。美国呢?50%的人更担忧。

    韩国文化体育观光部和商工会议所的调查显示,超过一半的韩国人每天使用AI,要么是当个人助手,要么用来干活。这个渗透率在全球范围内都是顶级的。

    韩国人从小被教育:技术是国家现代化的唯一出路。朝鲜战争结束后,韩国从废墟里爬出来,靠的就是钢铁、造船、半导体、宽带、智能手机——每一波都押对了。现在到了AI这一轮,没人想掉队。

    政府全力押注

    李在明总统2025年上任后,誓言要把韩国带进”全球AI三强”,和美国、中国并列。他成立了总统AI战略委员会,砸钱买算力,还搞了一个”主权AI基础模型”项目,资助韩国公司开发自己的大模型。

    2024年韩国通过了《AI基本法》,是全球最早的综合AI立法之一。重点是促发展,监管很轻。斯坦福2026年AI指数报告显示,70%的韩国人认为通过AI推动科学和医疗进步比用监管保护行业更重要。

    三星和SK海力士两家公司撑起了韩国股市KOSPI指数——2026年两家公司市值都突破了1万亿美元,带动指数创历史新高。全球AI训练用高端内存芯片,大半是这两家造的。

    机器人 monk 和 AI 课本

    韩国人愿意尝鲜,政府也愿意在公共场景里部署AI。福祉中心里有了AI养老机器人,学校里开始试点AI课本(虽然因为错误太多被家长骂了一顿)。

    最出圈的是”机器人僧侣”——一家寺庙部署了人形机器人辅助宗教活动,外国媒体跑去拍了一大堆照片。K-pop领域也有AI虚拟偶像,和真人偶像抢饭吃。

    首尔中央市场晚上去吃炒年糕,我表妹掏出手机给ChatGPT输她的生辰八字,让它算命。她说问工作和感情是她每天最喜欢干的事。韩国Gallup的调查说,46%的20多岁韩国人用过聊天机器人算命。

    她还用ChatGPT问炒股建议,把工资全投进去了。她一边说ChatGPT是她的算命先生和财务顾问,一边又担心自己会被AI抢走工作。现代汽车宣布要部署Atlas人形机器人进工厂的时候,工会直接炸了。


    韩国人对待AI的态度,就像是整个国家在做一场豪赌——赌技术能把他们从内卷和衰退的焦虑里拉出来。AI能不能兑现这个期待,几年之内就能看到答案。

  • 英伟达开源MoE微调加速工具,一行import让微调提速3.7倍

    英伟达开源MoE微调加速工具,一行import让微调提速3.7倍

    MoE(混合专家)架构已经成为当前大模型的主流选择。从DeepSeek-V3到Qwen3,再到Google的Gemini,几乎所有最新发布的顶尖模型都在用MoE。但MoE有个麻烦——训练起来比普通Transformer麻烦得多,专家并行、通信融合、kernel优化,这些工程细节没有一个省心的。

    英伟达6月底开源了一个工具,试图让这件事变得简单。叫NeMo AutoModel,基本思路是:站在HuggingFace Transformers v5的肩膀上,不改你原来的代码API,只加一行import,就能把MoE模型的微调速度提升3.7倍,同时把GPU显存占用降低近三分之一。

    英伟达MoE微调加速工具概念图
    英伟达NeMo AutoModel通过一行import实现MoE模型微调加速

    3.7倍加速是怎么来的

    具体数字挺直观的。在单节点8张H100 80GB GPU上,用Qwen3-30B-A3B做微调,原来的Transformers v5每秒每GPU能处理3075个token,换成NeMo AutoModel之后直接拉到11340,提升3.69倍。显存这边,峰值占用从68.2GiB降到48.1GiB,省了29%。

    英伟达 team还测了Nemotron 3 Nano 30B-A3B,结果类似:吞吐提升3.4-3.7倍,显存降低32%。他们甚至拿550B参数的Nemotron 3 Ultra做了全参数微调测试——16个H100节点、128张GPU——这时候Transformers v5已经直接爆显存了,连对比的机会都没有。

    显存省下来的部分不是白给的——你可以拿它去跑更大的batch size,或者处理更长的序列。对于本来就卡显存的大模型训练来说,这两个操作直接决定了你能不能把模型训出来。

    核心技术:三板斧

    NeMo AutoModel在Transformers v5的基础上加了三样东西:专家并行(EP)、DeepEP、TransformerEngine。每一样都针对MoE训练的一个具体瓶颈。

    专家并行解决的是显存问题。MoE模型虽然每次推理只激活部分专家,但训练的时候,所有专家的参数都得放在GPU显存里。专家并行把这些参数分散到多张GPU上,8张GPU就每张只持1/8的专家参数。Qwen3测下来,这项技术能把MoE层的显存占用直接从68.2GiB压到48.1GiB。

    DeepEP解决的是通信开销。MoE训练的时候,每个token得先被路由到对应的专家,这个过程需要跨GPU通信。传统做法是”先分发、再计算”,DeepEP把它融合成了一个优化的GPU内核,”分发”和”计算”在时间上重叠了起来,通信的时间就被藏掉了。

    TransformerEngine提供的是基础运算加速。注意力机制、线性层、RMSNorm这些,都有专门的融合kernel实现。不只加速MoE层,普通Transformer层也能占到好处。

    一行import怎么做到

    用法确实简单。如果你原来就在用Transformers v5,切换到NeMo AutoModel只需要在文件开头加一行:

    • from transformers import AutoModelForCausalLM改成from nemo_automodel import AutoModelForCausalLM
    • 原来的训练代码几乎不用动
    • API完全兼容HuggingFace的接口约定

    这个设计思路很聪明。它不搞”全新框架”,而是在现有生态上做增强。这样用户的迁移成本几乎为零,英伟达那边也能持续从HuggingFace的生态里受益——相当于”我帮你提速,你继续用HuggingFace的接口”。


    为什么这件事值得关注

    MoE架构的普及速度比很多人预期的快。2026年上半年,几乎所有主流大模型发布都用了MoE或者类MoE的稀疏激活架构。原因很简单:在相同参数规模下,MoE的推理成本远低于稠密模型,但训练成本却高得多——因为所有专家的参数都得加载进显存,通信开销也大。

    英伟达这笔账算得很清楚:如果MoE是未来,那么控制MoE训练的工具链,就等于在AI训练基础设施里多插了一脚。HuggingFace占据了模型使用的入口,英伟达则通过NeMo AutoModel占据了”高性能训练”的入口——而且是以兼容HuggingFace的方式,用户几乎没有理由拒绝。

    代码、配置文件和基准测试脚本都已经放在GitHub上了(github.com/NVIDIA-NeMo/AutoModel),文档也在docs.nvidia.com上线了。感兴趣的人现在就能去试试,看看那3.7倍加速在自己的模型上能不能复现。