分类： AI资讯

想象一下，你在一间没有电、没有网络的森林小屋里，突然想问AI一个问题。正常情况下，这不可能——AI需要庞大的数据中心、持续的电力、云端连接。但Squeeze Labs的一个两人小团队做了一件有意思的事：他们把AI装进了一个手摇发电的盒子里。

这个项目叫CrankGPT，是一个完全离线、不依赖电网的AI语音助手。整个装置的核心是一块Raspberry Pi 5开发板，配8GB内存和一个散热风扇。没有电池，没有云端，只有一个手摇发电机、一台小电脑，以及一堆在本地运行的小型语音和语言模型。

为什么要做这个

Squeeze Labs在项目说明里写了四条动机。第一条，一个东西要”聪明”，目前的前提是它插着墙上的插座、连着数据中心。CrankGPT是一个小小的反驳，证明这两件事都不一定是真的。

第二条，本地模型是隐私模型，既然不需要，为什么要把自己不想分享的东西给出去？第三条有点意思——他们写道，看到身边的人在把千瓦级电力和成千上万个token砸在那些小模型一样能完成的任务上，这触犯了他们欧洲人对”小型实用车”的审美直觉。第四条更简单：大家都在把东西做大，他们觉得把东西做小也有很多机会。

手摇发电，AI跑起来

硬件部分，他们选了Raspberry Pi 5，不是因为它是最强性能的单板计算机，而是因为它的可及性和软件生态很难被打败。Pi上跑着语音识别、语言模型和文本转语音，全部在CPU上本地运行，没有加速器。

电力部分最有意思。他们选了一款售价不贵的20W手摇发电机，原本是作为应急USB充电设备销售的。Pi的正常工作电流大约1.5A，但当它全力工作的时候，电流需求会大幅上升，导致发电机电压跌到Pi要求的4.8V以下。

你能通过摇把”感觉”到那个负载曲线：当LLM推理和语音合成一起跑的时候，摇把会明显变沉。

为了让Pi在完整推理栈启动时不掉电压，他们做了一块定制的电容板，用来平滑发电机的输出，充当一个短时（约20秒）的电力储备。

软件栈：把大模型塞进小盒子

软件部分，他们用了DietPi——一个极简的、精简掉的基于Debian的镜像，优先考虑快速启动时间。把不需要的无线电服务关掉之后，从Linux启动到可用用户空间只需要大约3秒。

语音管线的结构是经典的：自动语音识别（ASR）→ LLM → 文本转语音（TTS）。他们从零开始写了自己的边缘语音代理，优化目标是在RPi级别开发板上尽可能低的延迟。

LLM部分跑在llama.cpp上。他们偏好的模型是小型的Liquid AI LFM2变体（比如350M或1.2B），以及Gemma 3的1B版本。在Raspberry Pi 5上，LFM2.5 350M的token生成速度能达到约48.86 tok/s。

TTS部分，Piper以很大优势胜出。在Raspberry Pi 5上，Piper合成20个单词的测试语音只需要大约半秒，而Kokoro慢将近9倍。

实际体验：30秒后，你能和它对话

把所有这些放在一起，从你开始摇到你能和CrankGPT对话，大约需要30秒。启动时间包括：Pi 5冷启动约10-15秒；Linux启动到用户空间约3秒；语音代理启动约10-15秒。

延迟测量显示，使用Gemma 3 1B模型时，用户感知的首字节时间约2.9秒；使用LFM2.5 350M时，约0.8秒。这个速度足以让对话感觉接近实时。

CrankGPT目前是一个概念项目，不是商业产品。Squeeze Labs在页面底部留了一个联系邮箱，但你目前还买不到这个盒子。它更多是一个技术演示，一个对当前AI基础设施方向的提问：我们一定要把所有东西都送到云端、都插在墙上吗？

这个项目暗示了一个未来：随着模型变得更小、更高效，AI不一定需要 massive 基础设施。你的下一台AI助手，可能只需要你摇几下把手。

AI写代码的速度越来越快，但代码出了问题谁来修？这个答案正在变成一个价值8500万美元的生意。

企业软件公司Elastic同意以最高8500万美元收购Deductive AI——一家用AI来捕捉和修复软件漏洞的初创公司。这笔交易从Deductive 2023年成立算起，只用了三年就走完了从隐身到退出的全程。

AI写了更多代码，也带来了更多故障

Deductive AI做的生意有一个很直接的出发点：随着AI生成的代码越来越多，软件系统出故障的概率和复杂度都在上升。传统的手工调试方式已经跟不上这个节奏了。Deductive用AI来自动监测性能、实时修复系统故障——这让人类的运维工程师可以从没完没了的救火工作里抽身，把时间花在更有价值的产品开发上。

这家公司2023年才成立，去年11月才正式亮相，当时宣布了由CRV领投的750万美元种子轮融资，投后估值3300万美元。现在以最高8500万美元出售，对早期投资者来说是一个不错的回报，虽然算不上爆炸性的 exit。

AI驱动的站点可靠性工程（AI SRE）正在成为一个重要的赛道，背后是AI生成代码大规模涌入生产环境的现实推动。

老牌科技公司开始买AI原生产品了

这笔收购反映了一个更大的趋势：已经站稳脚跟的科技巨头正在通过收购AI原生初创公司，把自己的产品套件升级成Agent驱动的新版本。Elastic2018年上市，最出名的产品是Elasticsearch——那个帮机构实时存储、搜索和分析海量数据的搜索引擎。它的可观测性软件（让工程师监测软件系统和发现安全威胁的工具）跟Deductive的AI技术整合之后，客户就能拿到自动监测性能和实时修复故障的工具。

Deductive的联合创始人Rakesh Kothari之前是ThoughtSpot的工程副总裁，另一名联合创始人Sameer Agarwal曾在Apache软件基金会和Meta工作，也是Databricks的创始工程师之一。团队的技术背景相当扎实。

不过Deductive的增长其实不算快——年化收入大约100万美元，在同赛道里落后于被Greylock和Lightspeed支持的Resolve AI。那家公司在4月份刚完成4000万美元的A轮扩展融资，投后估值15亿美元。

AI运维赛道才刚刚开始

Elastic收购Deductive只是AI运维赛道整合的开端。随着AI生成的代码在企业生产环境里越来越多，能自动发现、诊断并修复故障的AI工具会变成基础设施的一部分，就像今天的日志分析和性能监控工具一样。

对Elastic来说，把Deductive的技术塞进自己的可观测性平台是一个防守兼进攻的举动——既让自己的产品跟上了AI潮流，也挡住了专门的AI SRE初创公司直接抢客户的路径。

这个赛道里还有不少独立玩家在跑，但大公司已经开始出手了。Deductive的快速退出可能给更多AI SRE初创公司指明了方向：不一定非要走IPO路线，被需要你们技术的大平台收购也是一条很实际的路。

印度在全球AI竞赛里想当选手，不想只做观众。这话说了好几年，但真正有大动作的人，是那个控制着全印度最大移动网络的亿万富翁。

Mukesh Ambani上周在Reliance年度股东大会上宣布了一整套AI新计划。Jio Call Agent——一个可以直接加入电话通话的AI助手——能帮用户记录对话、生成摘要，还能顺手帮你叫车、订餐、预约餐厅。说一声”Hey Jio”就能激活，预计今年晚些时候向Jio的5亿多用户开放。

不是做一个App，是把AI塞进电话本身

Jio的思路和硅谷不太一样。他们不打算做一个独立的AI助手App跟ChatGPT抢用户，而是把AI直接嵌进电信网络。电话打通的那一刻，AI就已经在后台待命了。这种方式让Reliance在一个越来越拥挤的AI市场里拿到了一个很扎实的发行优势——用户不需要额外下载任何东西。

除了通话助手，Reliance还推出了AI版的MyJio应用，用户可以用自然语言激活eSIM、选择漫游套餐。他们还发布了TeleFrame——一款用AI主动推送信息和建议的家庭显示屏，功能类似亚马逊和谷歌都在押注的”环境AI助手”方向。

“印度不应该只是别处创造的AI的消费者。它必须成为AI的创造者、采用者和全球领导者。”——Mukesh Ambani，69岁

110亿美元的赌注

Reliance去年推出了”Reliance Intelligence”，目标是为消费者、企业和政府开发AI基础设施和服务，支持22种印度语言。今年早些时候，公司宣布计划投资1100亿美元建设AI基础设施。他们还跟谷歌、Meta、英伟达结成了伙伴关系。

上周，Reliance还宣布跟Meta合作，在古吉拉特邦建立一个AI数据中心。这个合作建立在Meta早些时候对Jio平台和去年成立的合资企业的投资基础上——那个合资企业的目标是为印度和国外的企业客户开发AI解决方案。

Reliance并不是唯一一个在AI领域押注的印度巨头。Tata咨询服务、Infosys和对手Adani集团都在扩大自己的AI计划，跟Anthropic、谷歌和OpenAI等全球玩家建立合作。但Reliance的赌注尤其高——它正在准备Jio期待已久的股市亮相，需要新的增长引擎。

数据隐私的问号

Reliance的AI野心也带来了关于数据处理的问题。公司说这些服务会在用户同意的情况下运行，但没有回答这些数据是否会被用来训练AI模型，或者是否会跟技术伙伴共享。当一个公司同时控制着你的电话网络、你的应用和你的智能家居设备时，它能看到的用户画像比任何硅谷巨头都要完整。

最近美国政府对Anthropic最新型号的限制，反而让印度公司更加意识到依赖外国AI模型的风险。决定是在海外做出的，但受影响的是在印度做AI产品和服务的创业公司——这类供应链风险正在推动印度大企业走向自建技术栈，而不是租别人的。