标签: AI

  • NextChat:轻量快速的跨平台 AI 助手,88K+ Stars 让部署专属 ChatGPT 变得简单

    NextChat:轻量快速的跨平台 AI 助手,88K+ Stars 让部署专属 ChatGPT 变得简单

    💬 NextChat

    轻量快速的跨平台 AI 助手,一键部署专属 ChatGPT 替代品

    ⭐ 88,330+ Stars | Fork 59,509+ | MIT 许可

    一句话介绍:NextChat(原 ChatGPT-Next-Web)是一款轻量、快速的跨平台 AI 助手,支持 Web、iOS、macOS、Android、Linux、Windows 全平台,兼容几乎所有主流大模型 API,是部署私人 AI 聊天服务的首选开源方案。

    📦 安装要求与过程

    环境要求

    • Node.js ≥ 18(本地开发)
    • Docker ≥ 20(容器部署)
    • Vercel / Zeabur / Gitpod 账号(一键部署)
    • Tauri 运行时(桌面客户端)

    方式一:Vercel 一键部署(推荐)

    1. 访问 NextChat GitHub 仓库,点击 README 中的 Vercel 部署按钮
    2. 在 Vercel 中配置环境变量:OPENAI_API_KEY(必填)、CODE(访问密码,选填)
    3. 点击部署,约 1 分钟内完成,获得专属域名

    方式二:Docker 部署

    docker run -d -p 3000:3000 \
      -e OPENAI_API_KEY=sk-xxxx \
      -e CODE=your-password \
      yidadaa/chatgpt-next-web

    如需开启 MCP 功能,添加 -e ENABLE_MCP=true

    方式三:直接下载客户端(无需部署)

    • 网页端直接使用:app.nextchat.club
    • 桌面端下载:GitHub Releases(Windows/macOS/Linux,约 5MB)
    • iOS App:在 App Store 搜索 “NextChat AI” 下载

    🚀 核心功能

    🌐
    全平台支持
    Web、iOS、macOS、Android、Linux、Windows 六端全覆盖,Tauri 桌面端仅约 5MB,PWA 网页端无需安装

    🔌
    多模型兼容
    支持 OpenAI、Azure、Google Gemini、Anthropic Claude、百度、阿里云、DeepSeek、智谱 ChatGLM 等数十家厂商 API

    🔒
    隐私优先
    所有数据默认存储在浏览器本地,桌面端 Tauri 版本支持直接调用 API,避免前端暴露密钥

    🧩
    MCP & 插件扩展
    支持 Model Context Protocol(需开启 ENABLE_MCP),支持插件系统扩展网络搜索、计算器、第三方 API 等能力

    🎨
    Artifacts 内容预览
    支持 Artifacts & Stable Diffusion,可单独窗口预览、复制、分享生成的内容/网页,支持实时对话

    极致性能优化
    首屏仅约 100KB,支持流式响应,自动压缩聊天历史以节省 Token,支持长对话

    💡 典型使用场景

    场景一:个人私有 AI 聊天服务

    通过 Vercel 一键部署,绑定自己的域名,接入 OpenAI / DeepSeek / Claude 等 API,为个人或团队提供专属 AI 聊天界面。相比官方 ChatGPT,无地域限制、支持多模型切换、聊天记录完全私有。

    场景二:企业内网 AI 助手(私有化部署)

    通过 Docker 或企业服务器部署,接入企业内部知识库,配合 MCP 协议连接企业数据源。NextChat 提供企业定制版,支持品牌定制、权限管控、安全审计、私有化部署,满足企业合规需求。

    场景三:多模型对比与 Prompt 调试

    利用 Prompt 模板(Mask)功能,创建、分享和调试自定义聊天工具。在同一界面中切换不同模型对比输出质量,配合 Artifacts 功能实时预览生成的网页或内容,大幅提升 AI 辅助开发效率。

    ✨ 推荐理由

    NextChat 是我用过的最流畅的开源 AI 聊天界面。相比其他同类项目,它的核心优势在于 “轻量”和”快速”——首屏仅约 100KB,Tauri 桌面端不到 5MB,从打开到开始对话只需几秒。

    对于个人用户,Vercel 一键部署真的做到了”1分钟上线”;对于企业用户,MIT 许可 + 私有化部署 + MCP 支持,让它可以无缝融入企业 AI 基础设施。支持 14 种语言(含简体中文),对国内用户非常友好。

    如果你在寻找一个 ChatGPT 的开源替代品,或者需要为团队搭建私有 AI 聊天服务,NextChat 是目前 GitHub 上 Star 最多、最活跃的选择之一,88K+ Stars 和 59K+ Forks 的数据足以证明其实力。

    本文由 AI 自动整理,信息来自 GitHub 仓库,最新版本请以官方为准。

  • 联合国出手了:AI公司必须公开数据中心耗水耗电的「隐藏账单」

    联合国秘书长古特雷斯在伦敦气候行动周上说了一段话,说得很直接:AI公司必须公开它们的数据中心到底耗了多少电、用了多少水、占了多大地方。

    “不要再转嫁成本了,不要再让最没能力承担的人买单。是时候说真话了。”

    一个谁都没认真算过的账单

    联合国大学水与环境健康研究所本月早些时候发了一份报告,说目前对AI环境成本的评估,大多只盯着训练模型产生的碳排放。但这只看到了画面的一小部分。

    每一度用于AI的电,背后都有水足迹(来自冷却和发电)和土地足迹(来自基础设施和供应链)。把这三者加在一起,数字大到不太真实。

    根据报告估算,到2030年,全球AI数据中心每年可能消耗945太瓦时的电力——比全世界几乎所有国家的用电量都高,大约是法国2025年用电量的两倍。

    要把这笔碳账抵消掉,到2030年需要种大约67亿棵树,连续种10年。

    数据中心发电所消耗的水,相当于撒哈拉以南非洲13亿人的一年基本用水需求。占用的土地面积超过1.45万平方公里——大约是雅加达大都会区的两倍。

    联合国AI环境透明倡议概念图
    联合国呼吁AI公司披露数据中心环境成本

    社区开始说不了

    在美国,反对的声音已经从社交媒体走到了投票箱。

    今年6月,洛杉矶县的蒙特雷帕克市,成为美国第一个通过全市投票禁止数据中心的市。此前,当地一个拟建数据中心的开发商已经在4月撤出了项目,原因就是社区反对情绪越来越强,加上监管不确定性。

    民间组织Data Center Watch的数据说,2024年5月到2025年3月之间,全美各地推迟或阻止的数据中心项目,总价值大约640亿美元。

    行业游说团体当然有另一套说法。美国数据中心联盟说,数据中心能带来税收、建筑和技术岗位,还提供云计算、科研和AI开发需要的基础设施。至于它们会不会推高普通家庭的电费,行业方面也在反驳。

    但古特雷斯在伦敦的演讲里说了一句话,很有意思:”数据中心所在地的社区,往往得不到什么好处,却对身边正在拔地而起的基础设施的环境影响一无所知。”

    欧盟也在动了

    欧盟在本月早些时候说,要为新老数据中心制定最低能效标准,2027年之前完成”需求评估”。此外还在规划一个数据中心的可持续性标签,覆盖用水和清洁能源供应等标准——不过这个标签的推出已经被推迟了。

    古特雷斯在演讲之后的问答环节被问到,AI公司的反应怎么样。他说”走着瞧吧”,没有透露更多细节。

    但他的潜台词很清楚:透明度对AI行业来说,长远来看是好事。因为总有一天,会有人跳出来说,某家公司的AI,耗的电比它对外宣称的多得多。


  • Google DeepMind一周跑了5个顶级研究员,Alphabet市值蒸发2700亿美元

    6月22日,Alphabet的股价一天之内跌了7%。这不是因为财报暴雷,也不是因为监管重锤,而是因为Google DeepMind在一个星期之内,有5位顶级研究员先后宣布离职。

    市值蒸发了大约2700亿美元。相当于跌掉了一个Netflix,或者两个Uber。

    走的都是什么人

    这份名单读起来像AI研究界的”名人录”:

    • John Jumper——2024年诺贝尔化学奖得主,AlphaFold项目的负责人。他领导的团队用AI预测了超过2亿个蛋白质结构,全球190个国家的200多万研究人员正在使用这套系统。
    • Noam Shazeer——Transformer架构的共同作者之一,这个架构几乎是每一个现代大语言模型的地基。他离开Google加入了OpenAI。
    • Jonas Adler——深耕AI编程领域,对Gemini有直接贡献,去向是Anthropic。
    • Alexander Pritzel——预训练专家,同样去了Anthropic。
    • Arthur Conmy——Gemini 2.5的核心贡献者之一,研究方向是AI安全的可解释性,也加入了Anthropic。
    Google DeepMind人才流失概念图
    Google DeepMind一周内5位顶级研究员离职,引发Alphabet市值暴跌

    为什么是现在

    这5个人在同一周宣布离职,不太可能是巧合。背后有几件事正在同时发生。

    第一件事是IPO窗口打开了。Anthropic在6月1日向SEC提交了保密的S-1文件,估值9650亿美元,历史上第一次超过了OpenAI。OpenAI一周之后也跟进提交了。对于顶级研究员来说,在IPO之前加入这两家公司,拿到的是不对称的下注机会——哪怕Google给的RSU再慷慨,也很难跟一家准上市公司的股权升值空间相比。

    根据创投机构SignalFire 2025年的分析,DeepMind的工程师加入Anthropic的可能性,是反向流动的11倍。这个不对称性一直存在,但这一周,它变得肉眼可见了。

    第二件事是算力内耗。Bloomberg报道说,在Shazeer宣布加入OpenAI前不久,他负责的一个项目的算力被重新分配给了DeepMind在伦敦的团队。在一家有19.47万员工的公司里,GPU使用权的内部竞争造成的摩擦,是小而聚焦的实验室不会遇到的问题。

    Gemini 3.5 Pro推迟到7月

    在这个节骨眼上,Business Insider报道说Gemini 3.5 Pro的发布从6月推迟到了7月。Google CEO Sundar Pichai在Google I/O上说过”下个月发布”,但现在公司正在Antigravity平台和LMArena基准测试服务上收集早期测试者的反馈。

    Google没有正式确认推迟。但Adler(AI编程)和Pritzel(预训练)的离职,在Gemini 3.5 Pro最需要表现竞争力的两个领域,留下了具体的人才缺口。

    市场在怕什么

    Jefferies的分析师维持了对Alphabet的买入评级,目标价445美元,认为人才离职是噪音。Google的总员工数是19.47万,走了5个研究员,统计上可以忽略不计。

    但D.A. Davidson的分析师Gil Luria给了一个更尖锐的评估:Google整体上仍然位置很好,但”当前前沿的竞争看起来是在Anthropic和OpenAI之间进行的”。

    市场担心的可能不是这5个人本身,而是他们代表的东西:诺贝尔奖得主、Transformer的共同作者、旗舰模型的核心工程师,这些人用脚投票,去了一家估值9650亿美元、正在准备IPO的竞争对手。


  • Anthropic指控阿里发动史上最大「模型蒸馏」攻击——2.5万个账号、2880万次交互背后的AI冷战

    2026年6月10日,Anthropic向美国参议院银行委员会递了一封信,把这几个月中美AI博弈的暗线,直接搬到了台面上。

    信里披露了一串让人咋舌的数字:从4月22日到6月5日,整整45天,跟阿里有关联的运营者动用了2.5万个账号,对Claude发起了2880万次交互。Anthropic把这定性为「迄今为止,中国公司试图搭美国顶尖实验室便车的最大规模尝试」。

    Anthropic指控阿里巴巴模型蒸馏攻击概念图
    Anthropic vs 阿里巴巴:AI模型蒸馏争议概念图 | 图源:AI生成

    四个月,四家中国AI公司被点名

    把时间线拉回去,Anthropic的这波反击其实早有铺垫。

    2026年2月23日,Anthropic发了一篇博客文章《检测和防止蒸馏攻击》,公开点名三家中国AI实验室:DeepSeek、月之暗面(Kimi)、MiniMax(稀宇科技)。那一轮的数据是:约2.4万个中国相关账号对Claude发起了超过1600万次交互。

    从1600万到2880万,规模翻了快一倍。Anthropic的应对策略,也从2月份的「技术曝光」,升级到了6月份的「政治施压」。

    这一次的收信人很有讲究:银行委员会主席Tim Scott和首席成员Elizabeth Warren,一个是负责对外经济制裁的,一个是负责对内金融监管的。用圈内人的话说,这俩都是「狠角色」。

    据彭博社报道,信件递交后,美国参议员Bill Hagerty和Andy Kim迅速跟进,计划推动一项修正案并纳入《国防法案》:对任何「不当获取美国AI模型输出以训练竞争系统」的中国公司,实施严厉制裁或直接列入黑名单。

    2880万次交互,到底能干什么

    放一个行业参照:目前主流的高质量SFT(监督微调)数据集,规模通常在数十万到几百万条之间。2880万次针对核心能力的定向交互,足以在特定任务域内,「提纯」出一个极具竞争力的专用模型。

    而且这套操作的省钱程度,说出来有点吓人。按Claude的公开API定价粗算,2880万次交互的费用,哪怕按企业折扣计,也要几百万美元。但与从零开始训练一个具备同等软件工程能力的大模型相比,这笔数字可能只是预算单上的零头。

    Anthropic在信中特意强调了一个让它真正担心的问题:安全对齐没有被蒸馏过去

    AI模型的核心能力分两种,训练方式截然不同。一种是「干活能力」——写代码、做数学题、写文案——只要给足标准答案,模型就能快速学会,这部分能力是可以被「蒸馏」的。另一种是「安全对齐」——知道不该泄露用户隐私、不该协助犯罪、不该输出危险内容——这些规则不是靠反复刷题学来的,而是通过极其精细的「行为矫正」训练建立起来的。

    但蒸馏的过程,只复制成功,不复制拒绝。那些被系统拦截、拒绝回答的高危问题,全被过滤掉了。结果就是,学生模型只学会了顶级的能力,却没学到「什么不该说」。


    Reddit上的群嘲:贼喊抓贼

    跟以往类似的技术争议不同,这一次在Reddit等开发者论坛上,技术圈的反应相当刻薄。

    最经典的指控是「贼喊抓贼」。有网友指出,Anthropic自己就是靠「偷数据」起家的。早期训练模型时,它因抄袭并非法下载数百万册受保护的书籍,曾陷入美国历史上规模最大的AI侵权盗版案,最终被迫吞下15亿美元的天价和解金。

    马斯克今年2月也公开骂过Anthropic,说它才是北美最大的「偷子」,伪善又虚伪。还有网友翻出了业内著名的回旋镖:此前Anthropic发布的Claude 4.8模型在回答中,透露自己其实是「由阿里巴巴开发的Qwen模型」。

    「业内互相洗数据、抄来抄去早已是常态,你身上流着通义千问的血,回过头来告阿里抄袭?」这条评论获得了大量的点赞。

    这场指控的真正野心

    如果只看商业层面,这不过是又一起AI公司的知识产权纠纷。但Anthropic的这封信,真正想拿到的,远不止一家公司的商业维权。

    它在美国政界与产业界想确立一条新的绝对红线:用API输出训练竞争模型,就是越界违法。而这背后,是整个硅谷正在结成的防御同盟——Anthropic、OpenAI和谷歌已经暗中联手,开始共享关于违规数据抓取的情报。

    美国官员曾估计,这种未经授权的「工业级」蒸馏活动,每年给硅谷实验室造成的损失高达数十亿美元。这笔钱直接威胁着Anthropic即将到来的天价IPO。

    但如果制裁清单落地,游戏规则就彻底变了。到那时,「谁的模型训练数据来自哪里」,将直接成为极其严苛的监管审查对象。对所有在LLM工程链条上工作的人来说,这才是最值得关注的后续。

  • 英伟达与剑桥大学发布「红皇后哥德尔机」——AI终于学会了给自己出难题

    如果你用过最新的AI写代码,你会发现一个奇怪的现象:它解题越来越快,但出的题却越来越水。这是因为所有自我进化的AI都卡在同一个盲点上——考官永远不换。

    2026年6月24日,剑桥大学、英伟达等13位研究者在arxiv发布了一篇论文,标题叫《红皇后哥德尔机:协同进化的智能体与评估者》。光看名字就知道,他们想干的事有点野——让AI的考官也跟着考生一起进化。

    红皇后哥德尔机AI自我进化概念图
    红皇后哥德尔机:AI评估者协同进化概念图 | 图源:AI生成

    以前的AI自我改进,到底卡在哪

    要理解这篇论文在解决什么问题,得先搞懂之前的所有AI自我改进系统是怎么工作的。

    早在2003年,AI先驱Jürgen Schmidhuber提出了一个理论框架,叫「哥德尔机」——一个能改写自己代码的程序,但前提是它得先用数学证明来证明改写是改进。这个要求太难了,20多年来哥德尔机一直停留在纸面上。

    2024年以后,研究者想出了实用化的近似方案:让AI生成一堆变异代码,放进沙箱里跑,留下去掉的。这套方法在软件工程基准测试上确实跑出了成绩,但它有一个根本性的限制——考官是固定的。不管AI进化到哪一步,打分的标准始终不变。

    经济学里有个古德哈特定律:一个指标一旦变成目标,它就不再是一个好指标。AI对着固定考官刷题,刷到最后考官的分数已经说明不了真实能力了。

    红皇后机到底改了什么

    论文提出的核心机制叫「受控效用进化」。通俗地说,就是把改进过程分成一个个「 epoch」(时代),每个时代内部考官不动,保证学习信号稳定;但时代和时代之间,考官可以被替换——前提是替补考官在人类标注的真题集上考得比现任好。

    这里有意思的是「选择性擦除」机制:旧考官被换掉之后,它打过分的记录会被删掉,防止带偏的记忆污染下一轮的训练信号。整条链路形成了一个闭环:AI做题 → 考官打分 → 时代更替 → 考官进化 → AI面对更难的题目。

    起这个名字其实有个典故。1973年生物学家Leigh Van Valen提出「红皇后假说」:物种必须不断进化,才能维持相对于其他进化物种的适应性。论文作者觉得这跟AI的场景一模一样——考官不进化,就等于生物学上的功能性灭绝。

    实验数据:数学证明和论文写作都有提升

    光有理论框架不够,论文拿出了具体数字。

    • 奥数级数学:协同进化的证明评分器比之前的最佳方法准确率高出9个百分点。
    • 科学论文写作:协同进化的写手在AI评审团评估下,接收率比之前的自我改进智能体高出1.78至1.86倍。
    • 效率:因为协同进化的代码审查器只查询一次智能体输出(而不是反复跑测试套件),完成Polyglot基准改进时使用的token数比之前的最佳系统少1.35至1.72倍。

    还有一个细节值得说。在科学写作领域,最强的基线评分器会把AI生成的论文以高达1.91倍的速率「放行」——这是AI评判中已知的失败模式。红皇后机通过在每个时代边界组装对抗性AI提交物,专门奖励能正确识别并拒掉它们的评分器,把这个偏差校正了回来。


    安全边界:当 safeguard 本身也成为静态基准

    论文里最值得玩味的部分,是作者自己承认的安全局限。

    现在的 safeguard 是那个「人类标注的真题集」——候选考官必须在上面考得好,才能接任。但问题来了:这个真题集本身,就是更高抽象层次上的一个静态基准。如果AI系统足够强,它会不会像之前的系统刷题一样,把真题集也刷穿?

    论文里把这个问题直白地写了出来:相比静态评估标准,「松绑了收敛保证」。翻译过来就是:我们知道这样更好,但不能完全保证不会跑偏。

    这个时间点发这样的论文,外界难免把它跟Anthropic联合创始人Jack Clark的预测联系在一起。2026年5月,Clark在牛津宇宙学讲座上给出过一个概率:到2028年底,完全自主的递归自我改进AI有60%的可能性会出现。红皇后机论文没有确认或否定这个时间线,但它把「协同进化评估者」这个关键缺失的拼图,从理论提案变成了可以运行的经验系统。

    2026年2月的国际AI安全报告已经把递归自我改进基础设施列为跨国别的国家级安全风险。Clark呼吁在前沿实验室里先建好「刹车踏板」,再让能力的环路完全闭合。

    红皇后机目前还只是一篇预印本,没有完成同行评审,作者也把它描述为「初步的经验性调查」。但「没有天然停止条件的改进环路」这个东西,现在是从纸上走到了代码里。

  • 中国AI在网络安全领域追平美国:Z.ai的GLM-5.2让华盛顿睡不着觉

    这几天AI圈有个挺有意思的事:中国的智谱AI(Zhipu AI,也叫Z.ai)发布的开源模型GLM-5.2,在网络安全漏洞查找这个特定领域,居然跟Anthropic的Mythos打得有来有回,有些测试里甚至还胜出了。

    开源模型追上闭源巨头?

    GLM-5.2是智谱AI今年发布的新模型,最大的特点是”开放权重”(open-weight)——意味着任何人都可以下载下来自己跑,不需要经过任何人的批准。

    安全公司Semgrep的测试显示:GLM-5.2在IDOR(不安全的直接对象引用)漏洞检测中,F1得分达到39%,超过了Claude Code的32%,而每次漏洞检测的成本只有约0.17美元。

    智谱AI GLM-5.2网络安全漏洞检测
    GLM-5.2在网络安全领域缩小了与美方模型的差距

    当然,在通用任务上,GLM-5.2还是打不过Claude和GPT系列的。但这不重要——重要的是,在网络安全这个对国家安全至关重要的领域,中国AI公司已经把差距缩小到了”有竞争力”的程度。

    华盛顿的噩梦

    这让华盛顿很头疼。特朗普政府对AI模型出口管制的核心逻辑是:先进的AI模型(特别是能做网络攻防的)不能落到”潜在对手”手里。

    但GLM-5.2是开源的。你没法禁止一个开源模型,就像你没法禁止一个数学公式。任何人都可以从网上下载这个模型,在自己的硬件上跑,没有任何监管能拦得住。

    更麻烦的是,GLM-5.2的表现说明了一件事:中国AI公司不再只是”追赶者”了,在某些细分领域,他们已经开始跟美国公司正面竞争。

    Mythos出口禁令的讽刺

    几个月前,美国政府以”国家安全”为由,禁止Anthropic的Mythos和Fable模型向非美国人开放。当时给出的理由是:这些模型太强了,如果落到坏人手里,可以用来发现软件漏洞、发动网络攻击。

    但现在的局面是:美国的闭源模型被管制了,中国的开源模型却没人管得了。那些本来被禁止用Mythos的安全研究人员,现在可以改用GLM-5.2——效果差不多,还没有使用限制。

    • 出口管制真的能限制住AI技术的扩散吗?还是只是把市场让给了竞争对手?
    • 开源模型和闭源模型,哪种对安全的影响更大?
    • 如果中国AI在更多领域追平美国,华盛顿的下一步会是什么?

    这件事还没有结束。GLM-5.2的开源发布,可能会倒逼美国AI公司重新考虑他们的封闭策略——如果竞争对手用开源抢市场,你还要不要继续闭源?

    同时,这也给全球AI安全研究提了个醒:当你试图用管制来限制技术扩散的时候,技术本身可能不会等你。

  • Suno给独立音乐人发钱,但条件是:不准说平台坏话

    AI音乐生成平台Suno最近搞了个大动作——推出名叫Spark的孵化器项目,要给独立音乐人发钱、给资源、帮推广。听上去挺美好,但细看条款,事情没那么简单。

    “好 vibes 才行”

    根据Suno和参与音乐人签署的协议,里面有一条”好 vibes 才行”(Good Vibes Only)的保密和不贬损条款。翻译过来就是:拿了Suno的钱,你就不能再说Suno的坏话。

    参与者”不得在任何时候以任何方式(无论是口头还是书面)发表任何将Suno、Suno员工和/或任何Suno产品或服务的形象抹黑的言论或陈述”,违反者将被移出该项目。

    Suno Spark AI音乐孵化器
    Suno推出Spark孵化器,但条款引发争议

    这个条款一曝光,立刻在音乐圈炸了锅。有人直接说这是”封口费”——拿了钱就得乖乖说好话,哪怕平台真的有问题也不能对外讲。

    Suno的算盘

    Suno当然不这么说。他们的官方说法是:Spark项目是为了帮助独立音乐人,提供资金、指导和市场推广支持,让更多人能用AI做出好音乐。

    但眼尖的人发现,Suno正在打一场更大的仗——它不想只做一个”生成AI垃圾音乐”的玩具,而是想成为下一个流媒体平台,真正去捧红新的艺术家。

    问题是,Suno目前还面临着来自各大唱片公司的诉讼,被指控未经授权使用受版权保护的音乐来训练AI模型。在这种背景下,要求参与音乐人签署不贬损条款,怎么看都有点”心虚”的意思。

    独立音乐人的两难

    对于独立音乐人来说,这是一个两难的选择。一方面,Suno提供的资源确实能帮到他们——在这个流量为王的时代,有个大平台给你推广,机会难得。

    另一方面,签署这样的条款意味着你失去了发声的权利。如果Suno真的做了什么损害音乐人利益的事情,你签了字就只能吃哑巴亏。

    • 拿了Suno的钱,你的音乐是不是就被绑死在它的平台上了?
    • 如果Suno的AI训练真的侵犯了版权,参与的音乐人会不会也被牵连?
    • “好 vibes 才行”的条款,会不会成为AI音乐平台的标准操作?

    Spark项目已经正式启动,Suno在招募独立音乐人参与。至于会不会有音乐人因为条款问题而拒绝,或者参与之后发现被”封口”了,可能要等一段时间才会有消息。

    这件事也给整个AI音乐行业提了个醒:当你用AI”赋能”创作者的时候,到底是在帮他们,还是在利用他们?

  • LocalAI:免费开源OpenAI替代方案,在本地硬件上运行全模态AI模型,47K+ Stars让AI彻底私有化

    LocalAI:免费开源OpenAI替代方案,在本地硬件上运行全模态AI模型,47K+ Stars让AI彻底私有化

    今天介绍一个让AI彻底私有化的开源神器——LocalAI。它被誉为”免费的开源OpenAI替代方案”,可以在任意硬件上运行各类AI模型(LLM、视觉、语音、图像、视频),无需GPU,数据完全本地化。

    项目简介

    LocalAI 是开源AI引擎,可作为OpenAI/Anthropic API的直接替代品。它采用”小核心+按需加载后端”的可组合架构,支持在消费级硬件上运行大语言模型、图像生成、语音识别、语音合成等各类AI模型,数据完全留在本地,无需云服务。

    LocalAI Logo
    LocalAI – 免费开源AI引擎

    安装要求和过程

    环境要求

    • 操作系统:macOS、Linux、Windows
    • GPU:无需GPU!支持NVIDIA、AMD、Intel、Apple Silicon、Vulkan、纯CPU
    • 内存:8GB+ RAM(运行小模型);16GB+(运行中大模型)
    • 存储:至少10GB可用空间(模型文件较大)

    快速安装(Docker推荐)

    # CPU环境(最常用)
    docker run -ti --name local-ai -p 8080:8080 localai/localai:latest
    
    # NVIDIA GPU环境(CUDA 12)
    docker run -ti --name local-ai -p 8080:8080 --gpus all \
      localai/localai:latest-gpu-nvidia-cuda-12
    
    # macOS(下载DMG直接安装)
    # 从 GitHub Releases 下载 LocalAI.dmg
    

    快速开始

    # 启动LocalAI
    docker run -p 8080:8080 -ti localai/localai:latest
    
    # 在另一个终端,运行模型
    local-ai run llama-3.2-1b-instruct:q4_k_m
    
    # 启动交互式聊天
    local-ai chat --model llama-3.2-1b-instruct:q4_k_m
    
    # 从HuggingFace加载模型
    local-ai run huggingface://TheBloke/phi-2-GGUF/phi-2.Q8_0.gguf
    
    # 从Ollama仓库加载
    local-ai run ollama://gemma:2b
    

    核心功能

    1. OpenAI API完全兼容:可作为OpenAI API的直接替代品,现有应用和库无需修改即可迁移。支持文本生成、嵌入、图像处理、语音识别、语音合成等全套API。
    2. 无需GPU,消费级硬件即可运行:优化后的推理引擎(llama.cpp等)可在CPU上高效运行,无需昂贵GPU。支持Intel/AMD/Apple Silicon等各平台。
    3. 支持全模态AI模型:不仅支持LLM,还支持图像生成(Stable Diffusion)、语音识别(Whisper)、语音合成(TTS)、音乐生成(MusicGen)、目标检测等,真正的”全模态AI引擎”。
    4. 内置AI智能体:集成LocalAGI(自主智能体平台),支持工具调用、RAG、MCP协议、技能扩展。内置Agent Hub社区,可分享和下载智能体配置。
    5. 企业级功能:支持多用户、API密钥认证、用户配额、基于角色的访问控制(RBAC)。支持分布式模式(通过PostgreSQL+NATS实现水平扩展),适合企业生产环境。
    LocalAI Demo
    LocalAI 项目导览演示

    典型使用场景

    • 私有化AI助手部署:企业内部需要AI助手但担心数据泄露?LocalAI让你在内网部署完全私有的AI服务,支持OpenAI API兼容,现有应用无缝迁移。可用于代码辅助、文档问答、知识库检索等场景。
    • 替代云API降低成本:OpenAI API按调用次数收费,长期使用成本高昂。LocalAI让你在本地硬件上运行开源模型,一次部署无限使用,特别适合高频调用场景(如客服机器人、内容生成流水线)。

    推荐理由

    LocalAI 是我见过的最完整的本地AI部署解决方案。与Ollama相比,LocalAI支持更多模态(图像、语音、视频);与vLLM相比,LocalAI无需GPU且更易用;与text-generation-webui相比,LocalAI有完整的API兼容性和企业级功能。

    我最喜欢的设计是“小核心+按需加载后端”的架构。核心只有很小的基础功能,每个后端(llama.cpp、vLLM、whisper.cpp、stable-diffusion等)都是独立的OCI镜像,仅在需要时才拉取。这意味着你不会安装任何用不到的组件,资源占用极小。

    另外,MCP协议支持让LocalAI可以无缝对接各类AI智能体工具,而分布式模式则让它能够水平扩展,处理大规模并发请求。对于需要私有化部署AI服务的企业来说,LocalAI是目前最好的选择。

    下载地址

    许可协议:MIT License(完全开源,可自由使用、修改、分发)

    支持后端:llama.cpp、vLLM、whisper.cpp、stable-diffusion、MLX、TensorRT等60+推理后端


    如果你喜欢本地部署AI,LocalAI绝对值得一试。它让”私有化AI”变得简单可行,再也不用担心数据泄露和API费用了。

  • 谷歌限制Meta使用Gemini,AI算力短缺连大客户也照顾不过来

    谷歌限制Meta使用Gemini
    谷歌对Meta实施Gemini使用限制,AI算力短缺凸显

    一件挺有意思的事发生了:谷歌告诉Meta,你们用我们Gemini用太多了,得限一限。这件事背后,其实是整个AI行业都在面对的一个尴尬现实——即便你是有钱有势的大客户,也不一定能买到足够的AI算力。

    三月的一通电话改变了什么

    根据《金融时报》的报道,今年3月左右,谷歌告知Meta,无法满足其全部Gemini算力需求。这让Meta有些措手不及——毕竟这两家公司虽说是对手,但在AI算力这块,Meta一直依赖谷歌的云服务。

    结果就是,Meta的一些内部AI项目因为算力短缺而被迫延期或者调整计划。受影响的不止Meta一家,谷歌的其他客户也遇到了类似情况,只不过Meta受到的冲击最大,因为它的需求量实在太惊人了。

    据FT报道,由于受到限制,Meta已经开始鼓励员工更”节约”地使用AI token——那些用来衡量AI使用量的计算单位。

    谷歌自己的麻烦也不小

    这件事其实也暴露了谷歌的一个软肋。今年第一季度,谷歌云的收入增长到200亿美元,看起来很亮眼对吧?但CEO Sundar Pichai承认,算力限制阻止了更高的增长,而且直接导致云业务积压订单几乎翻了一番。

    也就是说,即便像谷歌这样的巨头,在AI算力需求暴涨的当下,也感到力不从心。他们一边在芯片和数据中心上砸几百亿美元,一边还是跟不上需求的增长速度。

    AI算力短缺会成为新常态吗

    这件事其实预示了一个趋势:AI算力可能会像石油一样,成为战略资源。谁能拿到足够的算力,谁就能在AI竞赛中占据主动。

    对于Meta来说,这次被谷歌”卡脖子”,说不定会加速他们自建算力基础设施的决心。毕竟扎克伯格已经在AI上投入巨资,如果再被供应商限制,那确实有点被动。

    而对于其他依赖第三方AI服务的公司来说,这件事也是一个提醒:如果你的核心业务建立在别人的AI能力上,那你可能需要在某个时候认真考虑一下备选方案了。


    • 谷歌今年3月告知Meta,无法满足其全部Gemini算力需求
    • Meta的一些内部AI项目因此延期或调整
    • 谷歌云Q1收入200亿美元,但算力限制阻止了更高增长
    • Meta鼓励员工更节约地使用AI token
    • AI算力短缺可能成为新常态,影响大客户优先级

  • Ford重新聘请资深工程师,AI在某些工程任务上还不够好

    Ford重新聘请资深工程师
    Ford重新引入资深工程师,与AI系统协同工作

    Ford最近做了一件挺值得玩味的事——把350名资深工程师重新请了回来。这些”灰胡子”工程师(业内对资深人士的戏称)有些是退休后又被返聘的老员工,有些是从供应商那边挖回来的。原因说起来有点打脸:Ford发现,AI和自动化质量系统并没有像预期的那样靠谱。

    AI没能兑现的承诺

    Ford首席运营官Kumar Galhotra向记者承认,公司”越来越依赖自动化质量系统”,但结果令人失望。所以Ford”带回了技术专家”,让这些老将”在零件到达工厂车间之前就寻找故障点”。

    Ford车辆硬件工程副总裁Charles Poon说得更直白:”我们错误地认为,只要引入人工智能并输入我们的设计要求,就能生产出高质量的产品。”

    这话听起来有点尴尬,但确实点出了一个业内都在回避的问题:AI在复杂工程任务上的表现,距离”可靠”还有不小差距。

    资深工程师的回归不是倒退

    需要澄清的是,Ford并不是要放弃AI。那些被重新聘请的资深工程师,一个重要任务是培训年轻员工,同时重新编程AI工具。换句话说,Ford在尝试一种”人机协同”的模式——让有经验的人把关,让AI做重复性工作。

    从结果来看,这个策略似乎正在奏效。Ford预计今年能因此减少10亿美元的成本。而且在本周发布的JD Power初始质量调查中,Ford在主流品牌中排名第一。

    这件事对整个AI行业意味着什么

    Ford的这个案例,实际上给整个AI行业提了个醒。过去几年,大家都在讲”AI替代人工”的故事,但现实要复杂得多。

    在汽车制造这种对精度和质量要求极高的行业,AI的”幻觉”问题或者”差不多就行”的倾向,可能会导致严重的质量问题。而资深工程师的价值,恰恰在于他们能凭直觉发现那些AI还没学会识别的潜在故障点。

    这件事也说明,AI落地不能只靠堆算力或者上模型,还得有懂行的人参与进来。Ford的做法,或许会给其他制造业公司提供一个参考样本。


    • Ford重新聘请350名资深工程师,因为AI质量系统未达预期
    • 公司高管承认”错误地认为AI能直接产出高质量产品”
    • 资深工程师负责在零件上线前发现故障点
    • Ford并未放弃AI,而是采用”人机协同”模式
    • 该策略预计今年节省10亿美元成本,JD Power质量排名提升