AMD 买下一家 24 人芯片公司，它想把 AI 模型焊死在硅片里

这周 AI 芯片圈有个不起眼、但挺有意思的收购：AMD 宣布要买下多伦多初创公司 Taalas。这家公司 2023 年才成立，团队只有二十几人，做的事却相当极端——它不造通用的 GPU，而是把训练好的大模型直接刻进芯片里。

不是又一颗 GPU

常规 AI 芯片，无论是英伟达的 GPU 还是 AMD 自家的 Instinct，本质上都是通用处理器。每次推理时，模型权重都要从 HBM 高带宽内存里搬进计算单元，灵活是灵活，代价是巨大的功耗和内存带宽开销。Taalas 把这套逻辑整个翻了过来，它的哲学叫模型即计算机：不再把模型当成随时可换的软件，而是用一套专用设计流程，把模型的数学运算、连线和参数直接固化进 CMOS 逻辑里。公司 CEO Ljubisa Bajic 之前在 AMD 做过芯片架构总监，后来创办了 Tenstorrent，2023 年又拉起 Taalas，想法从头就是围绕模型来造硬件。

速度有多夸张

今年 2 月 Taalas 亮出首颗测试芯片 HC1，用台积电 6 纳米工艺，把整个 Llama 3.1 8B 模型装进单颗芯片。公开基准里，它跑这个模型能到每秒约一万六千九百个 token，Taalas 当时称这比英伟达 H200 快了 73 倍，功耗只有对方的十分之一。按硅片面积算，HC1 和 H100 差不多大，约 815 平方毫米。当然，Llama 3.1 放今天已经算老模型了，这颗芯片更多是验证概念。

我们创立 Taalas，就是为了从零重新思考 AI 推理——围绕模型来构建硬件。——Taalas 联合创始人兼 CEO Ljubisa Bajic

代价是颗芯片只认一个模型

把权重烧进硅片，好处是甩掉了可编程逻辑和外置内存搬运，代价是零灵活性：一颗为某模型定制的芯片，就只能跑那一个模型，模型一更新就得重新流片。对此 Taalas 的说法是没那么贵——一百多层电路里只有两层会随模型变化，配合自研工具，流片周期大约两个月。下一代 HC2 目标把参数规模提到 200 亿，更大的模型则靠多颗芯片流水线并行拼起来。

为什么是现在，为什么是 AMD

过去一年，推理市场彻底成了主角，各家都在想办法从专用硅片里榨更多吞吐。英伟达去年底以约 200 亿美元拿下 Groq 的推理技术，AMD 自己此前也和 Cerebras 搞过拆分式推理合作。买下 Taalas，是 AMD 九个月里的第三笔 AI 收购（前有去年 11 月的 MK1、今年 6 月的 Mext，7 月 FastFlowLM 团队也已并入）。AMD 人工智能事业部高级副总裁 Vamsi Boppana 说，目标是给客户为每种 AI 负载匹配最合适的计算方案。

• Taalas 技术将并入 AMD 的 Instinct 加速器与 Helios 机架级系统
• 解耦思路：提示词处理留在 GPU，token 生成卸载到 Taalas 专用芯片
• 不算替换通用 GPU，而是补上高吞吐、模型固定那一块
• 对反复跑同一批热门开源模型、规模极大的云客户，固定芯片可能比反复搬运权重便宜得多