Databricks前AI负责人出走创业:要把AI的电费砍到千分之一

Naveen Rao在Databricks管了几年AI业务,今年突然跳出来单干,搞了一家叫Unconventional AI的公司。他的目标听起来像在吹牛:把AI推理的功耗降低1000倍。

但凡在AI行业待过的人都知道,这事儿有多离谱。现在跑一个大模型,电费贵到科技公司都在自己建电厂。Rao的答案是重新造一台计算机——不是改良现有芯片,而是从底层换掉整个计算架构。

振荡器架构:不按套路出牌

Unconventional的核心技术叫”振荡器基计算架构”(oscillator-based computer architecture)。这东西跟现在所有CPU、GPU的底层逻辑都不一样。具体原理说出来太硬核,但结果很简单:做同样的事情,耗电只有原来的千分之一。

AI芯片架构与能耗概念图
新型振荡器芯片架构 vs 传统GPU架构

这周他们放出了第一个模型,叫Un-0,做图像生成的。效果跟Stable Diffusion、OpenAI的GPT Image 1差不多,但跑起来的能耗完全不是一个量级。

“这是新型计算机的’Hello World’。接下来一年,你会看到一些相当有意思的消息。” —— Unconventional AI创始人 Naveen Rao

软件模拟只是第一步

目前Un-0还跑在软件模拟的振荡器芯片上,真家伙的电路图还没出来。但公司说很快就会发布实际芯片的设计 schematic,然后从头搭建整套推理堆栈(inference stack)。

最终形态是:Unconventional自己运营算力,用户把prompt从网线灌进来,推理结果从另一头出去——但整件事的耗电只有现在的数据中心的千分之一。

Rao说:”我们会用我们的芯片组建一套新系统,在上面跑AI模型。会有网线插进来,prompt从这边进去,推理结果从那边出来,但耗电量只有千分之一。”

为什么这事值得认真看待

Rao不是随便哪个创业者。他在Databricks主管AI业务期间,亲眼看着客户因为电费问题犹豫要不要上大模型。AI推理的能耗曲线是指数级的,照这个势头下去,电价会成为整个行业的天花板。

现在各家都在自建芯片(OpenAI找博通代工、谷歌TPU、亚马逊Trainium),但基本思路还是在GPU的框架里打转。Unconventional的做法是直接换掉底层逻辑,风险大得多,但如果成了,收益也不是一个量级的。

公司目前不到50人,能拿到顶级VC的钱(具体谁投的这篇文章没说),但能做出Un-0这个demo,说明至少原理验证是过了的。


接下来看什么

  • 实际芯片设计图什么时候发布
  • 除了图像生成,能不能跑LLM推理
  • 功耗数据能不能经得起第三方验证
  • 会不会真的建成那个”千分之一功耗”的推理数据中心

如果Rao吹的牛实现了,AI行业的成本结构会被整个重写。如果没实现,那就是又一家”颠覆性架构”公司 quietly 死掉。

但至少现在,有人认真在解决AI的能耗天花板了。

📎 原文来源:Databricks’ former AI chief thinks he can cut AI’s power bill by 1,000x | TechCrunch

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注