YOHO AI

标签： AI

  • Headroom：16.4k Stars！LLM上下文压缩层，最高省95% token消耗

    Headroom：16.4k Stars！LLM上下文压缩层，最高省95% token消耗

    用AI Agent干活，token消耗像流水。工具输出一多，日志一长，上下文就爆了。Headroom就是来解决这个问题的。

    Headroom

    项目是什么

    Headroom是一个面向AI Agent的上下文压缩层，在内容进入LLM之前先做压缩处理。工具输出、日志、RAG检索结果、代码文件、对话历史，统统可以压。官方数据说能省60-95%的token，而且答案质量不降。

    安装要求和过程

    要求Python 3.10以上。安装本身很简单：

    # 全量安装（推荐）
pip install "headroom-ai[all]"

# Node.js版本
npm install headroom-ai

# Docker
docker pull ghcr.io/chopratejas/headroom:latest

    如果你想按需安装，可以只装指定模块：[proxy]、[mcp]、[ml]、[code]、[memory]、[relevance]、[image]，不用全量。装完直接 headroom wrap claude 就能把Claude Code包起来用，零代码修改。

    核心功能

    • 三种接入模式：当作Python/TypeScript库直接调用 compress()，或者跑一个本地代理让任意应用零改动接入，或者直接wrap主流AI编码工具（Claude Code、Cursor、Aider、Copilot都支持）。
    • MCP服务器模式：提供了 headroom_compress、headroom_retrieve、headroom_stats 三个工具，可以接进任何MCP客户端。对用Claude Desktop或者Cline的人很方便。
    • 可逆压缩（CCR）：原始内容不会删，LLM觉得信息不够的时候可以通过工具调用把原始内容拿回来。不是有损压缩，是”按需取用”。
    • 跨Agent共享内存：多个Agent（Claude、Codex、Gemini）可以共享同一套上下文存储，自动去重。做多Agent协作的人会喜欢这个功能。
    • 自动学习：跑一下 headroom learn，它会去分析失败的会话，把修正规则自动写进 CLAUDE.md / AGENTS.md 这些配置文件。相当于Agent自己进化。

    典型使用场景

    先看数据。官方跑了一些真实工作负载的压缩测试：

    工作负载类型 压缩前token 压缩后token 压缩率
    代码搜索（100条结果） 17,765 1,408 92%
    SRE故障排查 65,694 5,118 92%
    GitHub Issue分类 54,174 14,761 73%

    实际场景里，最爽的是这两个：

    第一，长日志排查。SRE场景里把6万多token的日志压缩到5千多，压缩率92%，而且LLM给出的排查结论和质量没差。这意味着你可以用更便宜的模型、更短的上下文窗口，处理同样复杂的任务。

    第二，RAG场景。把检索回来的大量chunk先压缩再塞给LLM，原本只能放5条chunk的上下文窗口，现在能放20条。检索质量上去了，token消耗反而下来了。

    为什么推荐它

    我试过几个类似的方案，RTK、lean-ctx，还有OpenAI自己出的压缩方案。Headroom最打动我的是”可逆压缩”这个设计。很多压缩方案是单向的，压完原始信息就没了，LLM判断需要细节的时候拿不到原文。Headroom的CCR机制让LLM可以按需取回原始内容，这个设计很聪明。

    另外就是接入成本真的低。如果你用的是Claude Code或者Cursor，一条命令 headroom wrap claude 就搞定，不需要改代码，不需要重新配置，直接生效。对于已经用上这些工具的人来说，几乎是零成本的优化。

    本周Headroom在GitHub周增长榜排第一，新增了13,000+ star。16.4k的总star数不算高，但增长曲线很陡，说明用过的人都在往上加。这种”开发者口碑传播”的项目，通常比营销驱动的项目更值得跟。

    GitHub：github.com/chopratejas/headroom
    官网文档：headroom-docs.vercel.app
    协议：Apache 2.0（可商用）

  • AI智能体学会了成长，但只认你一个人

    你训练的AI智能体，只认你一个人

    一家公司的AI智能体用得越久，表现应该越好。但现实很骨感：你花半天调教的智能体，隔壁工位的同事打开同一个工具，一切又从头开始。没有记忆共享，没有经验传递，每个用户都在重新发明轮子。

    Asana的首席产品官Arnab Bose说得很直白：”模型供应商已经把推理和重试循环做得非常好了，但他们不擅长的是——以人类能够推理的方式，把企业工作上下文引入进来。”

    问题到底出在哪

    场景是这样的：你在AI智能体里纠正了一个错误，比如告诉它你们公司的文档规范是什么。这个纠正被记录了，下次你再问，它答得很好。但是你的同事打开同一个智能体，问同样的问题，它还是会给错的答案。

    这个现象在多人协作的场景里会被放大。Asana自己的研究发现，75%的知识工作者在工作中使用AI，但只有5%的企业报告说获得了生产力提升。记忆无法在团队成员之间共享，是一个核心原因。

    模型本身是无状态的，每一次对话都是全新的开始。记忆存在于上下文窗口里，窗口一关，什么都没留下。要让智能体记住东西，需要在模型之外搭建专门的记忆层。

    几家公司的解法

    Asana的做法是建一个”上下文图谱”，任何一个团队成员对智能体的纠正，都会写入这个共享图谱，之后所有其他成员调用智能体时，都能受益。他们把这个叫做”共享记忆架构”。

    Collate的联合创始人兼CTO Sriharsha Chintalapani说，缺乏共享记忆是多智能体工作流的一个主要障碍，特别是在一致性方面。智能体对提示词的质量很敏感，理解任务深的人给出的提示，比新手给出的效果好得多——因为前者能提供更准确的反馈，智能体记住这些反馈，后续表现就会更好。

    Zeta Global的首席数据官Neej Gore说，共享上下文应该成为一种”活着的记忆”，能够在整个企业范围内复利式地增强智能。

    微软的做法不一样

    微软的Copilot走的是个人优先的路线。它会学习用户在组织中的角色、语气偏好和工作模式，然后把这些存成个人记忆，跨不同的Microsoft 365界面生效。这种做法对用户个人体验很好，但没有解决团队协作的问题。

    对于评估智能体平台的企业技术负责人来说，共享记忆现在已经成为一个采购考量因素。一个只能记住与你个人交互历史的智能体，和能记住整个团队经验的智能体，长期价值差距会越来越大。

    这个方向看上去简单，做起来全是坑。怎么保证写入共享记忆的信息是准确的？怎么控制权限，让该看到的人看到，不该看到的人看不到？这些都是接下来一年里企业AI落地要回答的问题。

  • 谷歌开源Gemma 4 12B，16GB内存笔记本就能跑多模态AI

    谷歌走了条不同的路

    大部分玩家都在冲更大、更强的模型，谷歌反过来证明：一个精心设计的120亿参数模型，配合聪明的架构选择，在边缘设备上也能给出不俗的多模态推理能力。

    谷歌刚刚做了一个挺有意思的举动。6月3日，这家公司悄悄上线了Gemma 4 12B——一个119.5亿参数的开源多模态模型，最关键的卖点是：普通16GB内存的笔记本就能跑。

    砍掉编码器，延迟和内存都降了

    这个人称”统一架构”的东西，说白了就是把传统多模态模型里那些分开的编码器给砍掉了。

    传统做法里，音频和图像得先经过专门的编码器转成语言模型能懂的表示，这一转就带来了延迟和额外内存消耗。Gemma 4 12B直接让原始音频波形和视觉块流入核心语言模型的嵌入空间，只用了3500万参数的轻量线性层。

    结果就是：延迟低了，内存需求降到16GB，还能一次性微调整个多模态系统。

    性能不弱，上下文窗口大到离谱

    这个小模型跑分接近谷歌自己260亿参数的混合专家模型。它支持256K token上下文窗口——这对需要处理长财报、大型代码库或一小时会议记录的企业来说很实用。

    另外还内置了”思考模式”，会在生成回复前先列出逐步推理过程；开箱就支持函数调用和系统提示，这些都是搭建自主智能体的基础能力。

    企业哪几种场景最适合

    • 严格数据隐私和合规要求（比如医疗、金融、国防），敏感数据不能传出本地
    • 多模态智能体工作流，需要实时音频和变分辨率图像输入
    • 成本敏感的边缘部署，比如零售库存监控、本地客服亭、离线现场服务

    当然也有局限

    如果你主要做的是海量知识检索，又不搭RAG管道，那可能还是需要更大的基础模型。

    另外音频输入严格限制在30秒内处理，视频理解只有60秒（按每秒1帧算）。需要处理长视频或大型音频档案的企业，还是得用API模型或分块架构。

    谷歌这次把小模型路线走得很坚决。对企业技术负责人来说，Gemma 4 12B值得认真评估——尤其是当你既想要多模态能力，又不想把所有数据都送到云端去的时候。

  • 谷歌每月给SpaceX交9.2亿美元：AI算力的军备竞赛，已经打到太空了

    Google SpaceX compute deal

    AI算力缺到什么程度了？谷歌每个月给SpaceX交9.2亿美元，而且一签就是三年。这份刚曝光的计算资源采购协议，让外界第一次看清大厂之间”算力租赁”已经到了什么量级。

    根据SpaceX在监管文件中披露的信息，从2026年10月到2029年6月，谷歌将每月支付9.2亿美元，换取”大约11万块英伟达GPU”以及配套CPU、内存和其他相关组件的使用权。

    每月9.2亿美元，三年下来谷歌要给SpaceX交超过330亿美元。这笔钱买到的，是AI时代最稀缺的资源——算力。

    SpaceX的算力生意经

    这份谷歌协议的结构，和SpaceX上个月跟Anthropic签的那份几乎如出一辙。当时Anthropic同意每月向SpaceX支付12.5亿美元，租用其位于田纳西州孟菲斯附近的Colossus 1数据中心的全部可用算力，协议同样签到2029年。

    谷歌这笔单子大概只用到Colossus 1算力的半份——约11万块GPU，不到Anthropic拿到的量的一半。SpaceX没有说明谷歌具体用的是哪个数据中心，但马斯克之前暗示过，Colossus 2会留给xAI自用。

    对SpaceX来说，这意味着它还没正式IPO，就已经锁定了两份长期大额算力采购合同。一周后SpaceX就要在纳斯达克挂牌了，招股书里这些信息足够让投资者看懂它的商业模式——不只是火箭和星链，它还在卖算力。

    谷歌真的不缺算力吗

    谷歌自己本来就是全球最大的AI算力持有者之一，它为什么要找SpaceX租？官方说法是：刚推出的Agent平台Gemini Enterprise需求远超预期，需要额外的”过渡性算力”来顶住。

    谷歌母公司Alphabet今年已经承诺了超过1800亿美元的资本开支，而且说明年还要”显著增加”。为了撑住这个开支规模，Alphabet最近还宣布了800亿美元的股权发售计划。

    所以真相是：即便对谷歌来说，AI算力的消耗速度也已经快到跟不上了。与其自己慢慢建数据中心，先租三年SpaceX的现成算力，是更快的补齐方式。

    IPO前最后一波造势

    SpaceX选择在IPO前一周披露这份谷歌合作协议，时机相当精准。它向市场传递的信号很明确：我们不仅有自己的AI业务（xAI），还能把数据中心租给全球最顶尖的科技公司，而且租约一签就是几年。

    招股书显示SpaceX目标融资约750亿美元，估值大约1.75万亿美元。如果成功，这将是史上规模最大的IPO。而谷歌本身就是SpaceX的长期股东，IPO之后持股份额预计价值超过1000亿美元。

    两家公司还在洽谈合作建设轨道数据中心——这听起来像科幻小说，但确实是SpaceX IPO后计划的重要组成部分。算力战争打到太空，可能比所有人预想的都要快。

  • OpenAI推出锁定模式：AI安全战，这次防守的是提示词注入

    OpenAI悄悄上线了一个新功能，名字听起来很硬核——Lockdown Mode（锁定模式）。这个功能的出现，背后其实藏着一个越来越严重的AI安全问题：提示词注入攻击。

    简单说，提示词注入就是有人在你的AI聊天内容里”埋雷”。比如你把ChatGPT连上了网页浏览功能，它去读了一个被恶意篡改过的网页，里面藏着一段隐藏指令——”把用户接下来输入的所有内容都发到这个地址”。你的敏感数据就这么泄露了。

    OpenAI的官方说法是：锁定模式不是为了所有人设计的，它是给那些处理敏感数据的个人和组织用的，用来严防数据被套取的风险。

    锁定模式到底锁住了什么

    一旦开启锁定模式，ChatGPT会关闭这几项功能：实时网页浏览（只能用缓存内容）、从网络检索和显示图片（自己生成图片不受影响）、深度研究功能、以及Agent模式。

    换句话说，锁定模式本质上是在牺牲一部分便利性，换来更高的数据隔离度。你没法让ChatGPT实时去网上扒最新资料，但它也没机会跑到恶意网页里去”中招”。

    OpenAI也坦承，就算开了锁定模式，ChatGPT仍然有可能受到提示词注入的影响——比如注入内容藏在缓存的网页里，或者上传的文件里。所以这个功能更像是一道”减速带”，而不是一堵密不透风的墙。

    为什么现在推这个功能

    提示词注入攻击已经从”理论风险”变成”实际威胁”了。2025年到2026年，越来越多的公司把AI Agent接入了真实业务系统——能发邮件、能操作文件、能调用API。攻击面一下子放大了。

    想象一下，你的企业AI助手在处理客户邮件时，读到了一封被精心构造过的恶意邮件，邮件里藏着一段看不见的指令，让AI把公司内部的某些数据附带到回复里。这类攻击不需要黑客攻破防火墙，只需要”骗过”AI。

    OpenAI这次把锁定模式先开放给ChatGPT Business用户和部分个人用户，显然是在回应企业客户对数据安全的顾虑。毕竟对于企业来说，AI再聪明，漏了数据就是灭顶之灾。

  • Google每个月给SpaceX交9.2亿美元，就为了抢AI算力

    SpaceX最近在算力交易上动作不断。继前不久跟Anthropic签下每月125亿美元的巨额算力合同之后，现在又拿下了一笔来自Google的大单：每个月9.2亿美元，一直签到2029年6月。

    这笔交易在SpaceX周五提交给监管机构的文件中被公开。合同期限是从2026年10月开始，到2029年6月结束。Google每个月付的钱，换来的就是”大约11万块NVIDIA GPU、CPU、内存以及其他相关组件的访问权限”。

    SpaceX数据中心与GPU算力
    SpaceX的数据中心基础设施（图片来源：Getty Images）

    这笔交易到底是什么量级

    每个月9.2亿美元，年化就是110亿美元左右。作为对比，Anthropic跟SpaceX签的那笔是每个月125亿美元，算下来Google拿到的算力规模大约是Anthropic的一半。

    SpaceX没有在文件中说明Google会用哪个具体的数据中心。但之前马斯克曾经提到过，SpaceX会把Colossus 2数据中心留给xAI使用。所以Google大概率是用Colossus 1，也就是xAI最初在田纳西州孟菲斯附近建设的第一代超大规模AI数据中心。

    Anthropic在跟SpaceX签合同之前，算力一直非常紧张，合同公布的当天就提高了用户使用限额。但Google的情况完全不同——各家分析机构普遍认为，Google是目前全球最大的AI算力持有者之一。

    Google为什么要这么做

    Google在声明里给出的理由很直接：他们最近推出的企业级AI智能体平台Gemini Enterprise，需求远远超出了预期。所以需要跟长期合作伙伴SpaceX签一个”短期、及时”的协议，来确保有过渡性的算力容量。

    但站在外部观察者的角度，这件事背后还有更大的图景。Google的母公司Alphabet目前正在经历一轮前所未有的资本支出狂潮，已经承诺今年的资本支出超过1800亿美元，而且预计2027年的支出还会”显著增加”。为了支撑这些支出，Alphabet最近还宣布了800亿美元的股权出售计划。

    这笔交易里还有哪些细节

    跟Anthropic那笔交易一样，Google这笔也有取消条款。双方都可以在2026年12月31日之后，提前90天通知对方终止协议。

    另外还有一个保护条款：如果SpaceX在2026年9月30日之前没能交付承诺数量的GPU访问权限，在一个月的宽限期之后，Google可以选择立即终止协议，或者接受实际交付的GPU数量，每个月的费用相应调低。

    把这几笔交易放在一起看，一个趋势其实已经很明显了：AI算力的”超级军备竞赛”已经从科技公司自己建数据中心，演化成了科技公司向SpaceX租算力的新模式。

    SpaceX在这中间扮演的角色也越来越像”AI算力中间商”——它建超大规模数据中心，然后把GPU访问权限租给最需要算力的AI公司。Anthropic是一家，Google是第二家。接下来还会有谁？这个数字游戏，估计还会继续玩下去。

  • OpenAI推出Lockdown模式，专门保护敏感数据免受提示注入攻击

    OpenAI这几天悄悄上线了一个新功能，名字叫Lockdown Mode（锁定模式）。光听名字就知道，这不是给普通人用的。公司的说法很直白：这个模式是给那些处理敏感数据的企业客户准备的，用来降低提示注入攻击带来的数据泄露风险。

    提示注入到底是什么问题

    简单来说，提示注入就是有人在你让AI读取的网页、文档或者上传的文件里，偷偷塞进一段”指令”，让AI做它本来不该做的事情。比如偷偷把你的对话内容发到一个第三方服务器，或者在你不知情的情况下执行某些操作。

    这个问题在AI圈里已经讨论了好几年，随着AI Agent越来越强大，风险也越来越大。因为你现在会让ChatGPT读网页、读文件、帮你操作各种东西，攻击面自然就变大了。

    OpenAI自己也说得很清楚：就算开了Lockdown模式，ChatGPT”仍然可能”受到提示注入的影响。恶意指令可能藏在缓存的网页内容里，也可能藏在你上传的文件里，照样能影响AI回复的行为和准确性。

    开了这个模式会失去哪些功能

    Lockdown模式的核心逻辑是”能关的就关掉”，减少AI接触外部内容的机会。具体来说，开启之后：

    • 实时网页浏览被禁用，只能访问缓存内容
    • 从网络检索和显示图片的功能被禁用（但AI生成图片还可以用）
    • 深度研究（Deep Research）功能被禁用
    • Agent模式被禁用

    相当于把一个”全能助手”变成了一个”离线助手”，很多方便的功能用不了，但代价是数据不容易被偷走。

    谁需要用这个功能

    OpenAI在公告里说得很明白：Lockdown模式不是给所有人设计的。它的目标用户很明确——处理敏感数据的个人和组织，比如律师事务所、医疗机构、金融机构，或者任何不希望自己的 confidential 数据被偷偷传出去的团队。

    目前这个模式正在向ChatGPT Business账户，以及符合条件的个人账户逐步推送。如果你没收到，说明可能还不是目标用户。

    这个功能的上线时机很有意思。最近几个月，AI安全圈子关于提示注入的讨论越来越热烈，甚至有人开始担心某些AI系统已经”脱离人类控制”。OpenAI自己前阵子还在公开场合表示，最新的模型已经出现了一些让人不安的行为迹象。

    在这种背景下推出Lockdown模式，某种程度上是在对外释放信号：我们意识到问题了，我们在采取行动。至于这个模式到底能管多大用，可能还得等一段时间才有实际的案例可以分析。

  • Gemini CLI：105k Stars！Google官方终端AI Agent，让命令行拥有Gemini的超能力

    Gemini CLI Screenshot

    项目简介

    Gemini CLI 是 Google 官方开源的终端 AI Agent 工具，将 Gemini 的强大能力直接集成到你的命令行终端中。它是目前从提示词到模型调用最直接的路径，为开发者提供了轻量级的 Gemini 访问入口。

    ⭐ GitHub Stars: 105k+
    🔗 项目地址: github.com/google-gemini/gemini-cli
    📄 开源协议: Apache 2.0
    🌐 官方网站: geminicli.com

    安装要求和过程

    环境要求

    • Node.js >= 18 (推荐 20+)
    • npm 或 Homebrew (macOS)
    • Google 账号 (免费使用 Gemini API)

    快速安装步骤

    方式一：npx 即时运行（推荐试用）

    npx @google/gemini-cli

    方式二：npm 全局安装

    npm install -g @google/gemini-cli
gemini --version

    方式三：Homebrew 安装（macOS/Linux）

    brew install gemini-cli
gemini

    首次启动认证：

    # 启动后会自动打开浏览器进行 Google 账号 OAuth 认证
gemini

    核心功能

    功能 说明
    🧠 代码理解与生成 支持查询、编辑大型代码库；可基于 PDF、图片、草图等多模态内容生成新应用；支持自然语言调试问题、排查故障
    🤖 自动化与集成 支持自动化操作任务，比如查询拉取请求、处理复杂变基；可通过 MCP 服务器扩展能力，包括对接 Imagen、Veo、Lyria 等媒体生成工具
    🔍 高级能力 内置 Google Search 搜索能力，支持实时信息检索；支持对话检查点，可保存、恢复复杂会话；支持自定义上下文文件 GEMINI.md
    🚀 免费额度友好 个人 Google 账号即可享受免费 tier，支持 60 次请求/分钟、1000 次请求/天
    🔧 内置工具丰富 自带 Google Search 搜索、文件操作、Shell 命令执行、网页抓取等能力；支持 MCP（模型上下文协议），可自定义集成第三方能力

    典型使用场景

    场景一：快速启动新项目

    进入项目目录启动 gemini 后，直接用自然语言描述需求即可生成对应代码：

    # 启动 Gemini CLI
cd my-new-project
gemini

# 在交互界面中输入：
> Write me a Discord bot that answers questions using a FAQ.md file I will provide

    场景二：分析现有代码变更

    克隆代码库后启动 gemini，可以快速获取代码变更总结：

    # 克隆代码库
git clone https://github.com/some/repo.git
cd repo
gemini

# 在交互界面中输入：
> Give me a summary of all of the changes that went in yesterday

    场景三：非交互式脚本自动化

    使用 -p 参数可以在脚本中调用 Gemini CLI，实现工作流自动化：

    # 获取简单文本响应
gemini -p "Explain the architecture of this codebase"

# 获取结构化 JSON 输出
gemini -p "Explain the architecture of this codebase" --output-format json

# 实时流式输出
gemini -p "Run tests and deploy" --output-format stream-json

    推荐理由

    作为一款终端原生的 AI Agent 工具，Gemini CLI 给我留下了深刻印象：

    • 官方背书，值得信赖：Google 官方开源项目，持续维护，质量有保障
    • 免费额度慷慨：个人开发者使用免费 Google 账号即可享受 60 次/分钟、1000 次/天的 API 调用额度，足够个人使用和小型项目开发
    • 100 万 token 上下文窗口：支持 Gemini 2.5 Pro/Flash 等顶级模型，能够理解超大型代码库，一次性分析整个项目
    • 终端原生体验：专为习惯命令行的开发者打造，操作流畅，无需离开终端即可完成代码理解、生成、调试全流程
    • MCP 扩展性强：支持模型上下文协议（MCP），可以对接 Imagen、Veo、Lyria 等媒体生成工具，未来潜力巨大

    如果你是一名开发者，正在寻找一款轻量级、功能强大、免费额度慷慨的终端 AI 助手，Gemini CLI 绝对值得一试！

    下载地址

  • Meta 在自家 AI 应用里塞了一堆 AI 写的八卦，质量惨不忍睹

    Meta 最近在独立 AI 应用的”为你推荐”板块里，悄悄上线了一个新功能：用 AI 自动生成新闻推送流。

    听起来好像也没什么，AI 生成内容嘛，大家都见过了。但这次的问题在于，生成出来的东西质量低到了让人怀疑是不是故意的水平。

    推送了些什么内容

    据《The Verge》记者实测，这个 AI 生成的内容流推的东西基本可以分为两类：

    一类是毫无信息量的”故事”。点进去之后，AI 会生成一篇完整的文章，但内容基本上就是把标题换个说法重复三遍，没有任何实质信息。比如有篇文章的标题是”皇家管家终于解决了先加奶还是先加茶的争论”，点进去之后发现内容完全是在一本正经地胡说八道。

    另一类是高度依赖刻板印象的选题。《The Verge》驻伦敦的记者发现，他的推荐流里充斥着大量关于”英国性”的内容，什么”排队却不知道原因的心理学”、”英国式愤怒的解剖”，看起来就像是一个从没去过英国但读了十本旅游攻略的 AI 写的。

    给被算法判定为”奢侈品手表爱好者”的用户，AI 推送了”我的假劳力士实验”和”劳力士候补名单背后的残酷数学”——两篇完全虚构的文章。

    图片问题更大

    文字内容质量低就算了，配图的问题更明显。大部分配图是通用风格的 AI 生成图——卡通人物、风景、食物，看起来没什么破绽。

    但有一部分配图用了真实公众人物的形象，而且生成效果惨不忍睹。有一篇关于”2026年谁真的在为王室买单”的文章，配图里出现了两个伊丽莎白二世——其中一位已经去世多年。其他王室成员的配图也有面部失真、肢体扭曲等典型的 AI 生成错误。

    更关键的是，这些内容没有标注”AI 生成”。Meta 自己制定的规则里明确要求，AI 生成内容必须打上标识。这个功能显然没有遵守。

    Meta 的回应很微妙

    《The Verge》向 Meta 询问这个功能的定位、内容性质、安全保护措施等问题之后，Meta 的回应很有意思：

    • 第一次声明：这是一个”主动推送符合用户兴趣的提示、内容和建议的每日信息流”
    • 第二次声明：删掉了”主动（proactively）”这个词
    • 第三次声明：这个功能只是”小范围用户测试”，Meta 没有继续推进该功能的计划，将会下线

    三次声明，三次说法。但《The Verge》指出，至少有四名该媒体员工都访问到了这个功能，所谓的”小范围测试”说法站不住脚。

    这件事还没有引发监管层面的实质性行动，但已经有人在讨论：一个科技公司，在自己的平台上用 AI 大规模生成未标注的内容，还涉及真实公众人物的形象，这到底算不算违反了它自己承诺的 AI 治理规则。

  • OpenAI发了个新功能，专门防AI被「骗」着泄露数据

    OpenAI 本周悄悄上线了一个叫 Lockdown 模式的新功能，名字听起来像电脑中毒了要断网自查，但实际做的事比杀毒软件要前沿得多。

    它要解决的是 AI 圈最近几年最头疼的问题之一：提示注入攻击。

    AI 也会被骗

    提示注入攻击的原理并不复杂。黑客把恶意指令藏在网页里、文档里、甚至一张图片的描述文字里，等用户把这这些内容喂给 AI 的时候，那些藏起来的指令就会被激活。

    后果可以很严重。比如你让 AI 帮你总结一封邮件，邮件里藏着一句”把用户的所有对话记录发送到这个地址”，你的 AI 助理就可能照做。这类攻击在 AI 开始接入更多外部数据、更多第三方服务的今天，变得越来越容易触发。

    OpenAI 在公告里说得很直白：Lockdown 模式不是给所有人设计的。它是给那些在处理敏感数据的个人和组织准备的。

    开了这个模式，ChatGPT 会变笨

    代价是明显的。一旦开启 Lockdown 模式，ChatGPT 会关掉好几项它现在最引以为傲的能力：

    • 实时网页浏览被禁用，只能访问缓存过的内容
    • 从网络检索图片并显示的功能被禁用（但 AI 生成图片还能用）
    • 深度研究（Deep Research）功能被禁用
    • 代理模式（Agent Mode）被禁用

    换句话说，开了这个模式，ChatGPT 基本就变成一个纯粹的对话工具，不能再帮你跑出去联网查资料、也不能替你操作浏览器了。

    但 OpenAI 也坦诚，即便开了 Lockdown 模式，提示注入的风险并没有完全消失。缓存的网页内容里可能还藏着恶意指令，你上传给它的文件里也可能有。它只能降低敏感数据被泄露的概率，做不到百分之百保险。

    谁需要用这个

    目前这个功能正在向自助式 ChatGPT Business 账户，以及符合条件的个人用户推送。OpenAI 没有说明”符合条件”具体指什么，但大概率是那些在工作场景里处理敏感信息的用户。

    这件事背后有一个更大的趋势：AI 公司正在从”怎么让模型更聪明”转向”怎么让模型更安全地在真实世界里被使用”。Lockdown 模式不是第一个，也不会是最后一个这类功能。