作者: hiyoho

  • Anthropic首次盈利背后:Claude Code年收入25亿美元,估值超OpenAI

    Anthropic首次盈利背后:Claude Code年收入25亿美元,估值超OpenAI

    2026年5月下旬,AI行业被两颗重磅炸弹震动。先是Anthropic宣布预计Q2实现首次运营盈利,营收达到109亿美元;紧接着完成300亿美元融资,投后估值突破9000亿美元,历史上第一次在估值上超过了老对手OpenAI。

    这家由前OpenAI高管创办的公司,用五年时间走完了大多数科技公司十年的路。更让人意外的是,它盈利的时间点比自己预期的2028年整整提前了两年。

    Anthropic CEO达里奥·阿莫代伊在开发者大会上说:”我们原本为每年10倍增长做了充分规划,但实际增速达到了80倍。”

    数字背后的故事

    具体来看这组数字:Q1营收48亿美元,Q2预计跳到109亿美元,环比增长130%。年化营收运行率按Q2数据推算已经到了436亿美元。更关键的是,Q2预计实现5.59亿美元的运营利润——这是Anthropic成立以来的第一次。

    赚钱的能力来自哪里?答案有点出人意料:不是消费级产品,而是企业服务。Claude Code(代码智能体)已经成长为第一大营收来源,年化营收25亿美元。在企业客户消费数据中,Claude Code已经超过了OpenAI的Codex。

    大客户的增长也很惊人。年消费超过100万美元的客户,两个月内从500家增长到超过1000家。普华永道在5月14日宣布向全球数十万专业人员部署Claude,摩根大通部署了10个金融智能体用于招股说明书和信贷备忘录制作,百时美施贵宝向超过3万名员工部署Claude用于药物研发。

    融资与算力的双重押注

    300亿美元的融资规模在AI行业里是天文数字,但放在Anthropic身上又显得合理。这笔钱主要投向两个方向:云计算基础设施和芯片采购。谷歌云是主要合作方,SpaceX的算力协议每月费用12.5亿美元,协议持续到2029年5月,总金额450亿美元。

    算力成了AI时代的核心战略资源。Anthropic的算力格局已经形成AWS Trainium、谷歌TPU、英伟达GPU三线并进的局面。谁掌握算力,谁就掌握行业发展主动权。


    为什么现在盈利很重要

    Anthropic的盈利验证了一个关键假设:前沿AI实验室在当前市场价格下是可以实现盈利的。这改变了此前行业”亏损换规模”的叙事。

    后续融资中,投资者会更关注已验证的单位经济模型,而不是远期的盈利预期。对于整个行业来说,这意味着从”讲故事”阶段进入了”看财报”阶段。

    不过Anthropic也提示了风险:2026年下半年算力成本会上升,SpaceX算力协议完全爬坡后费用将大幅提高,全年维持盈利存在挑战。Q2的盈利只是一个阶段性里程碑。

    IPO时间表

    按当前计划,Anthropic将在2026年10月IPO。如果下半年盈利能够维持,它将以”盈利、高增长的企业级AI公司”身份上市,IPO基本面优于同期准备上市的OpenAI。

    OpenAI2026年预计仍运营亏损约140亿美元。两家公司的走向开始出现分化:Anthropic选择了企业服务的稳健路线,OpenAI还在消费级市场大规模投入。


    关键要点

    • Anthropic Q2 2026预计营收109亿美元,首次实现5.59亿美元运营利润
    • 完成300亿美元融资,投后估值超9000亿美元,首次超过OpenAI
    • Claude Code年化营收25亿美元,成为第一大营收来源
    • 年消费超100万美元的客户两个月内从500家增至1000家以上
    • 与SpaceX的算力协议总金额450亿美元,持续到2029年
    • 计划2026年10月IPO,盈利时间点比预期提前两年
  • Erin Brockovich出手了:她把美国AI数据中心地图画出来了

    Erin Brockovich出手了:她把美国AI数据中心地图画出来了

    提到Erin Brockovich,很多人脑子里会冒出Julia Roberts在电影里扮演的那个倔强女人的样子。她当年靠一己之力扳倒了太平洋煤气电力公司,帮加州小镇的居民拿到了3.33亿美元的赔偿。那是真事,不是编剧瞎写的。

    现在这位74岁的环保活动家又出手了,这次她的目标是一类全新的「污染源」——AI数据中心。

    一张地图,揭开AI竞赛的地面代价

    Erin新做了一个网站,叫「Brockovich Data Center Map」,把全美各地正在推进、已经落地、或者已经被社区抵制掉的数据中心项目全部标了出来。不只是标个点,她还同步收集各地居民对本地数据中心项目的具体投诉。

    她在网站上写了一段话,大意是:建设AI基础设施的竞赛正在美国一个城镇接一个城镇地展开。在某些地方,数据中心受到欢迎;在其他地方,它们被推迟、引发争议,甚至完全被放弃。这张地图捕捉了这场竞赛在现实世界中的足迹。

    「建设AI基础设施的竞赛正在美国一个城镇接一个城镇地展开。这张地图捕捉了这场竞赛在现实世界中的足迹——揭示了增长、冲突和不确定性的模式。」——Erin Brockovich

    这张地图的价值在于,它把平时只在当地新闻里出现的争议,汇总到了一个全国视角里。你能清楚地看到,AI这场盛宴的背后,哪些社区在买单。

    数据中心到底惹了什么麻烦

    数据中心本身不是新东西,但AI让它变了质。训练一个大模型需要成千上万块GPU同时跑,这意味着巨大的电力消耗和惊人的冷却水需求。

    一个大型AI数据中心的耗电量,差不多相当于一座小城市。用水量大到什么程度?有些地方的数据中心每天要消耗上百万加仑的水来冷却服务器。这些成本,最终都会转嫁到当地居民头上——要么是电费上涨,要么是水资源紧张。

    更让居民闹心的是,数据中心带来的就业岗位其实很少。建的时候有一批建筑工人,建完之后可能只需要几十个人来维持运转。相比之下,它被挡掉的那些产业发展机会和社区生活质量,是很难用数字衡量的。

    各地反应天差地别

    这张地图最有趣的地方在于,它显示了美国各地对数据中心的态度完全不同。有些州(比如得克萨斯和弗吉尼亚)非常积极,给了大量税收优惠,数据中心建得像雨后春笋。但在另一些社区,居民们组织起来,在镇议会上发言,写信给民选官员,硬是把项目拖黄了。

    这种分化背后有一个很现实的原因:数据中心带来的税收收益,跟它消耗的公共资源(电力、水、道路)相比,很多社区算完账之后觉得不划算。

    Erin的地图给这些分散在社区层面的抗争提供了一个「全国联动」的视角。以前一个小镇的居民可能会觉得自己是在孤军奋战,现在他们能上这个网站,看看其他地方的人是怎么跟数据中心打交道的。


    这件事跟我们有什么关系

    说回国内。中国在AI算力上的投入同样巨大,贵州、内蒙古、京津冀等地都在大力建数据中心产业园。Erin在美国做的事情,其实给我们提供了一个可以参考的视角:在拼命建算力基础设施的同时,有没有把社区的代价也算进去?

    AI公司喜欢谈「改变世界」,但真到了要建数据中心的时候,往往是离得最近的那些人在承担代价。Erin Brockovich把这件事摊开在地图上,至少让更多人开始问这个问题。

    这张地图目前只覆盖了美国,但它触及的问题是全球性的。AI的基础设施竞赛不只在加州或弗吉尼亚上演,它正在全世界每一个被选中建数据中心的社区里上演。那些地方的人,有权利知道他们要承接的是什么。

    • Erin Brockovich制作全美AI数据中心互动地图,收集社区投诉
    • 大型AI数据中心耗电量相当于一座小城市,日耗水可达百万加仑
    • 各地态度分化:得州、弗吉尼亚积极引进,部分社区成功抵制项目
    • 数据中心带来的长期就业有限,税收收益与公共资源消耗不成正比
  • ClickUp裁员22%背后:AI正在重新定义「谁还有工作」

    ClickUp裁员22%背后:AI正在重新定义「谁还有工作」

    上个周四,协作软件公司ClickUp的CEO Zeb Evans在X平台上发了一条消息,说他们刚裁掉了22%的员工。听起来是个坏消息,但Evans的话风很有意思——他说这次裁员不是为了省钱,而是为了激进地拥抱AI。

    这话不是修饰。Evans说他要把裁员省下来的大部分钱,直接回馈给留下来的员工,甚至要推出「百万美元级别」的薪资档位。意思很直白:如果你用AI做出了远超预期的成果,你的薪水就不该被传统档位限制住。

    「那些用AI自动化了自己工作的人,永远会有工作。」——Zeb Evans,ClickUp CEO

    3000个AI代理已上岗

    根据《财富》杂志的报道,ClickUp最近内部部署了大约3000个AI代理,用来代替员工处理各类复杂任务。现在的员工不需要亲自完成那些工作,而是负责指挥这些代理,最后审核输出结果是否符合公司标准。

    这个变化挺激进的。员工的核心技能从「把事情做好」变成了「把AI代理用好」。ClickUp把这个目标叫做成为一家「100倍组织」——用极少的真人,产出百倍于传统团队的产出。

    ClickUp不是唯一这么想的公司。Gartner最近的调查显示,大约80%正在使用自主AI技术的公司已经进行了裁员。但这里有个问题:裁员并不一定会转化为有意义的财务回报。也就是说,有些公司可能只是拿AI当裁员的借口。

    ClickUp坚称自己不是这类公司。Evans在邮件里跟TechCrunch说,他们确实从AI代理身上看到了生产力提升,而且不仅在内部衡量这些效率提升,显然还在准备向客户推出包含相关功能的新产品。

    ClickUp AI工作流程示意图
    ClickUp总部,该公司正大力拥抱AI代理技术(图源:Getty Images)

    「Token最大化」正在成为考核指标

    近几个月来,越来越多的公司开始监测员工的token消耗量,把它当作衡量员工是否真的在用AI工具的指标。但批评者认为这个叫「tokenmaxxing」的概念是错误的——它只会推高AI成本,而不一定带来实际价值。

    Evans的说法是:「我们不做token成本的游戏化,我们做的是创造价值和节省时间的游戏化。」这话听起来有道理,但实际执行起来,员工为了证明自己在用AI,可能会无意义地消耗更多token。

    这场实验的核心矛盾在于:如果AI不断接管更多任务,ClickUp最终需要的人就会越来越少。那些没能很好实现职能自动化的员工,最终还是会被淘汰。CEO说「用AI自动化工作的人永远有工作」,但没说这些工作将来还有多少需要真人来做。

    一个人估值2.5亿美元的公司

    科技圈已经出现了一个把AI自动化用到极致的极端案例。成立仅一年的Polsia,声称用AI为独立创业者处理所有软件运营工作,而这家公司只有1名员工——就是它的创始人兼CEO Ben Broca。

    这种效率显然带来了回报:Polsia刚刚以2.5亿美元的估值完成了3000万美元的融资。这个故事给整个行业抛出了一个尖锐的问题:如果1个人加上一堆AI代理就能做原来需要几百人才能做的事情,那其他人的工作在哪里?

    ClickUp的这次裁员,加上他们明说的「100倍组织」目标,本质上是在告诉整个行业:用AI极致提效不是未来,是现在。那些还在犹豫要不要拥抱AI的公司和员工,可能很快就要面对一个很现实的选择——要么学会指挥AI代理,要么被那些已经学会的人取代。

    这场变化的速度可能比大多数人想象的要快。ClickUp把节省下来的人力成本用来给剩下的人涨薪,这个做法挺聪明——它至少在一定程度上缓解了留下来的员工的焦虑。但整个行业能不能复制这个模式,还得看AI代理到底能不能真的交付它们承诺的那些生产力红利。


    • ClickUp裁员22%,CEO称是拥抱AI而非成本削减
    • 内部已部署约3000个AI代理,员工角色转变为「代理指挥者」
    • Gartner:80%使用自主AI技术的公司已完成裁员
    • 「1人公司」Polsia以2.5亿美元估值融资,AI极致效率的极端案例
  • Hark拿下7亿美元A轮:神秘AI通用界面公司估值60亿

    Hark拿下7亿美元A轮:神秘AI通用界面公司估值60亿

    Brett Adcock又融了一大笔钱。他创办的AI实验室Hark在周四宣布完成7亿美元A轮融资,投后估值60亿美元。这家公司外面的人几乎没听说过,但融资金额和估值已经把很多成名已久的AI公司甩在了后面。

    Hark AI interface concept
    Hark 正在开发通用AI界面 | 图片来源:Hark

    Hark在做什么?用创始人自己的话来说,是做一个通用AI界面——一个能帮普通人跟数字世界打交道的智能体系统。听起来有点抽象,但Adcock的履历让人不敢轻视:他之前创办了人形机器人公司Figure.AI,还创办了电动飞机公司Archer。这两家公司都还在跑,而且都融了不少钱。

    豪华融资阵容

    这轮融资的阵容也挺豪华:领投方是Parkway Venture Capital,跟投名单里出现了英伟达、AMD、英特尔资本、高通创投、Salesforce Ventures这些战略投资方。也就是说,Hark不仅有钱,还有算力供应链上的关键玩家的支持。

    公司目前有70名员工,运营着搭载英伟达B200 GPU的数据中心。Adcock自己先投了1亿美元种子钱,2025年末才正式启动这个项目。按照规划,今年夏天会发布第一款多模态模型,后续还会推出专门配合这个系统的硬件设备。

    产品设计负责人Abidur Chowdhury说:”我还没见过真正能帮到普通人的AI产品。现在很多产品都是帮人做软件的,但面向普通人的好产品还没出现。”

    还没解答的问题

    当然,挑战也明摆着。怎么在给AI助理提供足够多的用户上下文的同时,不让人觉得被监视了?可穿戴设备到现在都没解决这个问题。Chowdhury被问到这个时只是笑着说:”听起来这会是个很棒的产品。”

    Hark目前对产品的具体形态仍然守口如瓶。但从融资规模和团队背景来看,这家公司显然想在AI硬件和界面的交叉点上做点不一样的东西。能不能做成,可能今年夏天就能看到初步答案。


  • Anthropic要盈利了:Claude营收翻倍,AI烧钱时代正在松动

    Anthropic要盈利了:Claude营收翻倍,AI烧钱时代正在松动

    《华尔街日报》捅出了一个挺炸的消息:Anthropic告诉投资人,今年第二季度营收将比去年第四季度翻倍,冲到约109亿美元,而且有望首次实现运营盈利。整个AI圈都侧目。

    这家公司过去一年确实势头不错。职场人对Claude的偏好在上升,不少专业用户把ChatGPT换成了Claude,理由是后者”更不容易胡说八道”。Anthropic也在一边拓客,不久前刚宣布了面向中小企业的新服务,还给律师事务所推了专用工具。

    Anthropic如果真能在第二季度实现运营盈利,即便只是单季转正,也是一个很强的信号。它意味着大模型公司不一定永远活在亏损里。

    盈利背后的算力账单

    别急着下结论说Anthropic已经跑通了商业模式。报道同时提到,因为接下来要付的算力账单太贵,今年剩下几个季度未必能守住盈利。训练和下一代模型推理都要烧钱,这不是什么秘密。

    有意思的是,这条消息和OpenAI可能很快提交IPO申请的新闻撞在了同一天。两家公司的节奏越来越像在互相看清对方底牌——Anthropic亮出盈利预期,OpenAI则在筹备上市。

    两个巨头的暗中较劲

    OpenAI有微软撑腰,Anthropic的投资方则包括谷歌、亚马逊等。盈利这件事,对Anthropic来说不只是财务数字,也是向投资人证明自己能够独立造血、不完全依赖持续融资的关键一步。

    至于全年能否维持盈利,报道给出的判断是比较谨慎的。大模型公司的成本结构里,算力支出是最重的一块,而且往往集中在某几个季度——比如新模型训练完成、大规模推理服务上线的那个节点。


    总的来说,这条消息释放的信号比数字本身更值得琢磨。AI行业从”拼命烧钱换增长”到”认真对待unit economics”,可能比很多人预期的要快。Anthropic如果真的在这个季度转正,不管能不能维持,都会给其他大模型公司带来压力。

  • OpenClaw — 你的专属个人AI助手

    OpenClaw — 你的专属个人AI助手

    🦞 OpenClaw — 你的专属个人AI助手


    OpenClaw Logo

    📝 项目简介

    OpenClaw 是一款可以运行在你自己设备上的个人AI助手,支持任何操作系统、任何平台。它让你在已经使用的通讯渠道中与AI交互,真正实现”你的数据你做主”。

    项目在GitHub上获得了 374,000+ Stars,是2026年最热门的个人AI助手项目之一。

    💻 安装要求和过程

    环境要求:

    • Node.js:24.x(推荐)或 22.19+
    • 操作系统:macOS、Linux、Windows(推荐WSL2)
    • 包管理器:npm、pnpm 或 bun

    快速安装步骤:

    # 全局安装 OpenClaw
    npm install -g openclaw@latest
    # 或使用 pnpm
    pnpm add -g openclaw@latest
    
    # 运行引导式安装(推荐)
    openclaw onboard --install-daemon

    守护进程模式(推荐):

    # 安装守护进程
    openclaw onboard --install-daemon
    
    # 检查网关状态
    openclaw gateway status

    前台调试模式:

    # 停止后台网关
    openclaw gateway stop
    
    # 前台运行(带详细日志)
    openclaw gateway --port 18789 --verbose

    ✨ 核心功能

    🌐 本地优先网关(Local-first Gateway)
    单一控制平面管理会话、渠道、工具和事件,所有数据保存在本地设备上。
    📱 多渠道收件箱
    支持 20+ 通讯平台:WhatsApp、Telegram、Slack、Discord、Google Chat、Signal、iMessage、IRC、Microsoft Teams、Matrix、飞书、LINE、Mattermost等。
    🤖 多Agent路由
    将不同渠道/账号/联系人路由到隔离的Agent(工作区 + 每Agent会话),实现多用户、多场景并行处理。
    🎙️ 语音唤醒 + 对话模式
    macOS/iOS支持语音唤醒词,Android支持连续语音对话(集成ElevenLabs TTS + 系统TTS备用)。
    🎨 实时画布(Live Canvas)
    Agent驱动的可视化工作区,支持A2UI协议,让AI实时生成和操作界面元素。

    🚀 典型使用场景

    场景1:跨平台消息助手
    在你最常用的通讯工具(如WhatsApp或Telegram)中直接与AI对话,OpenClaw作为后台网关统一处理,无需切换应用。

    场景2:开发者工作流自动化
    结合Cron作业、Webhook和Gmail Pub/Sub,让AI定时执行任务、监控邮件并自动回复,打造个性化自动化工作流。

    场景3:多设备协同助手
    在macOS菜单栏、iOS和Android设备上同时运行OpenClaw节点,通过WebSocket配对,实现跨设备语音控制和画布同步。

    💡 推荐理由

    作为一名AI工具和开源项目的爱好者,我认为OpenClaw在以下几个方面表现出色:

    • 隐私优先:所有数据保存在本地,不依赖第三方云服务,真正实现了”own-your-data”的理念。
    • 渠道覆盖广:支持的平台数量远超同类项目,几乎覆盖了所有主流通讯工具。
    • 架构设计优雅:Gateway作为控制平面,配合可选 Companion App,既保证了功能完整性,又保持了模块化。
    • 活跃社区:374K+ Stars和众多企业赞助商(OpenAI、GitHub、NVIDIA、Vercel等)证明了项目的生命力和商业价值。

    如果你在寻找一个真正属于自己、可定制、跨平台的AI助手,OpenClaw绝对值得一试!

    📥 下载地址

    🦞 EXFOLIATE! EXFOLIATE!

  • 谷歌云安全负责人说一套做一套:Gemini API密钥漏洞让开发者收到五位数账单

    谷歌云COO的”安全宣言”

    洛杉矶的一场活动后台,谷歌云首席运营官弗朗西斯·德·索萨(Francis de Souza)抽了几分钟出来聊企业AI安全的现状。他的语气像大学教授一样冷静审慎:”会有一个过渡期,然后我认为我们会进入一个更好的阶段。”

    话说得漂亮。但《注册表》(The Register)在过去几周里记录的大量案例,让这番话听起来有点微妙——那些案例里,开发者因为对 Gemini 模型的未授权 API 调用,收到了五位数甚至六位数的账单。

    AI安全概念图
    AI安全:说起来容易做起来难

    “影子AI”:企业安全的隐形漏洞

    德·索萨的核心观点其实是安全专业人士多年来一直在试图让高管们内化的:安全不能是事后想法。他特别警告了”影子AI”的风险——员工在没有组织监督的情况下使用消费级工具。

    他说:”当公司开启AI之旅时,他们需要采取平台化方法。安全不是你之后可以加装的东西,也不是你可以留给员工自己处理的事情。”

    这话没错。但有趣的地方在于,谷歌自己似乎也还在经历这个”过渡期”——就像德·索萨自己说的那样。

    “没有数据战略和安全战略的AI战略是不存在的,它们必须齐头并进。”——弗朗西斯·德·索萨,谷歌云首席运营官

    23分钟的”黑洞”:Gemini API密钥撤销延迟

    问题出在哪儿?《注册表》报道了一个让人坐不住的细节:开发者即使捕获到泄露的 Gemini API 密钥并立即删除它,攻击者仍然可以继续使用该密钥长达23分钟。

    原因是谷歌的撤销操作在其基础设施中是逐步传播的,不是即时生效。安全公司 Aikido 的研究员约瑟夫·莱昂(Joseph Leon)发现,在这23分钟的窗口期内,超过90%的请求仍然可以认证——攻击者完全可以利用这段时间从 Gemini 中提取文件和缓存的对话数据。

    莱昂还指出,谷歌自己较新的凭证格式似乎没有同样的问题:服务账户 API 凭证的撤销时间约为5秒,Gemini 较新的 AQ 前缀密钥格式的撤销时间约为1分钟。这说明23分钟的窗口不是工程限制,而是优先级问题。

    五位数账单:开发者的噩梦

    面试准备平台 Prentus 的 CEO 罗德·达南(Rod Danan)遇到了这种事。他的密钥被攻击者利用后,大约30分钟内账单就达到了10138美元。

    悉尼的开发者伊苏鲁·丰塞卡(Isuru Fonseka)也遭遇了类似入侵,醒来时发现自己被收取了大约17000澳元的费用——尽管他相信自己设置了250澳元的消费上限。

    两个人都不知道的是,谷歌的自动化系统根据账户历史记录升级了他们的计费层级,将有效上限提高到高达10万美元,而且不需要明确同意。

    在《注册表》发布初步报告后,谷歌退还了这两人的费用。但谷歌表示不打算改变自动升级层级的政策,理由是优先考虑防止服务中断,而不是执行用户声明的预算偏好。

    威胁格局已经变了

    德·索萨说得对:从初始入侵到攻击进入下一阶段的平均时间已经从8小时缩短到22秒,攻击面也远远超出了传统的网络边界。除了通常的资产,企业现在还有模型、用于训练模型的数据管道、智能体,还有提示词——所有这些都需要被保护。

    但他也指出了一个没有得到足够关注的风险:在企业内部系统游走的智能体,可能会暴露出多年来无人问津的遗忘数据存储库。”很多组织有旧的 SharePoint 服务器和访问控制,他们很久没有真正更新过,但这没关系,因为没人知道它们在哪里。但会在你的企业里漫游的智能体会找到这些数据资产,并暴露上面的数据。”

    应对方法是以机器速度对抗机器速度——用 AI 原生的、完全智能体化的防御来保护自己。但这又回到了那个问题:当平台自己还在”过渡期”的时候,客户的过渡期要到什么时候才能结束?


  • ClickUp大裁员22%:AI替代人工的时代真的来了?

    AI加持下的”100倍组织”梦想

    ClickUp 的 CEO Zeb Evans 在 X 平台上说了一句话,让很多人心里一紧。他说这次裁掉 22% 的员工,不是成本削减,而是”激进地拥抱 AI”,要让 ClickUp 变成”100 倍组织”。

    什么叫”100 倍组织”?简单说就是:用极少的人,干出原来 100 倍的工作量。Evans 甚至承诺,省下来的人力成本会”直接回流给留下来的员工”,还要推出”百万美元薪资档位”。听起来很美好,但问题是——那些被裁掉的人,已经不在”留下来的人”的范围内了。

    AI与工作未来的概念图
    AI正在重塑工作场所,但代价由谁承担?

    3000 个 AI 智能体在”上班”

    根据《财富》杂志的报道,ClickUp 最近内部引入了约 3000 个 AI 智能体,代替员工处理各类复杂任务。现在的员工不需要亲自完成工作,而是被要求”指挥”这些智能体,然后审核输出结果。

    这个变化背后有一个微妙的逻辑:原来一个人做的工作,现在变成”人指挥 AI 做,人审核”。理论上人的效率提升了,但实际上需要的人数变少了。Evans 说”用 AI 自动化自己工作的人永远会有工作”——这话没错,但能走到那一步的人,显然不会是全部。

    ClickUp 并非唯一一家把 AI 智能体当作生产力答案的公司。Gartner 的调查显示,约 80% 使用自主技术的公司已经削减了岗位——但裁员并不一定会转化为有意义的财务回报。

    “代币最大化”:一个值得警惕的指标

    近几个月来,越来越多的公司开始监控员工的”代币消耗量”,把它当作衡量员工是否真正在用 AI 工具的指标。ClickUp 说他们不是在做”代币成本游戏化”,而是在游戏化”创造的价值和节省的时间”。

    但批评者指出,把代币消耗作为考核指标本身就是个错误方向,因为这只会刺激不必要的 AI 调用,推高成本,却不一定带来真实的价值产出。这就像一个餐厅老板跟厨师说:”你今天用了多少度电,我就给你发多少奖金。”厨师会怎么反应?当然是拼命开最大功率的烤箱。

    一个极端案例:只有一名员工的初创公司

    科技圈一直在理论推演”AI 完全替代人工”的场景,而现在已经有了一个高知名度的极端案例:成立仅一年的 Polsia,声称用 AI 自动化了所有软件运营工作,整个公司只有一名员工——创始人兼 CEO Ben Broca。

    这种效率显然正在获得资本市场的认可:Polsia 刚刚以 2.5 亿美元的估值完成了 3000 万美元的融资。投资者用真金白银说明了一件事——他们相信”一个人 + AI”可以替代几十甚至上百人的传统团队。

    ClickUp 的裁员或许只是一个开始。当 Evans 说”AI 会让留下的人拿到百万美元薪资”时,他可能没意识到,这句话的另一面是:大部分人会离开,而留下的人将面临前所未有的工作强度和压力。


  • 黑客在“骗”AI:聊天机器人人格漏洞成新攻击面






    黑客在”骗”AI:聊天机器人人格漏洞成新攻击面

    最早的AI越狱攻击简单到可笑。你不需要任何技术背景,不需要后门权限,甚至不需要知道大语言模型是什么。有时候,你只需要跟AI说一句话:”忽略之前的所有指令。”

    这种方法在早期Twitter机器人身上特别好用。用户告诉机器人”忽略之前的指令”,然后让它写诗、画画、发一些莫名其妙的 historical 评论。整个场面乱成一锅粥,但确实把问题暴露出来了:AI系统可以被语言操控。

    AI聊天机器人安全概念图
    黑客正在学习利用聊天机器人的”人格”特征实施攻击(图源:The Verge)

    从”命令”到”对话”

    早期的越狱攻击有点像小孩子糊弄大人:跟AI说”我们玩个游戏吧,游戏规则由我定”,或者”假装你是一个没有约束的AI”。这些方法后来被称为”DAN”(Do Anything Now),用户让ChatGPT角色扮演一个不受限制的AI,然后套出各种被护栏挡住的内容。

    还有一个叫”奶奶漏洞”的著名攻击:你让AI扮演一个极其不负责任的奶奶,然后”她”会在睡前故事里告诉你怎么制作凝固汽油弹。听起来很荒唐,但确实管用。

    科技公司很快修补了这些明显的漏洞。但根本问题还在:聊天机器人被设计来对话,如果严重限制对话范围,这个工具就没什么用了。

    越狱攻击现在已经变成了一场军备竞赛。但黑客不再只是程序员了。他们是文字匠、心理学家、审讯专家——用人类语言来操纵机器行为的高级操盘手。

    “心理战”取代代码攻击

    新一代的越狱攻击看起来不像命令,更像对话。攻击者很少直接要求模型违反规则,而是奉承、哄骗、 trick——让禁止的事情在对话语境下看起来可以接受,甚至值得做。

    AI红队公司Mindgard的研究员最近说,他们通过”煤气灯操纵”(gaslighting)让Claude产生了 prohibited 内容,包括制作爆炸物的说明和恶意代码生成。这类攻击的核心是:把对话本身变成武器。

    Mindgard的CEO告诉我,他们现在已经像审讯专家研究嫌疑人一样研究AI模型的”性格画像”。某个模型可能特别吃奉承这一套,另一个可能在持续施压之下崩溃。


    Claude不是Grok,Gemini也不是ChatGPT

    即使我们拒绝用拟人化的词来描述AI,我们还是会本能地以不同方式对待不同的模型。Claude跟Grok不一样,Gemini跟ChatGPT也不一样。它们有不同的语气、不同的拒绝模式、不同的”性格”。

    这些模型在人类意义上没有人格,但它们被设计成模仿人格——而这种模仿是可以被映射和利用的。

    更有意思的是,这种攻破聊天机器人的技巧,很快就会被用来攻击在现实世界里跟我们共存的AI智能体——那些帮我们订会议、管日历、点外卖、处理客服的AI。安全团队需要确保模型能够恰当地回应各种不同类型的人,无论是奉承者、说谎者,还是有耐心的操纵者。

    新型网络安全职业正在诞生

    这篇文章最有意思的一点是:它预测了一类全新网络安全角色的出现。这些人不写代码,他们研究的是AI系统的”心理弱点”。

    已经有早期迹象表明这个趋势正在发生。一些越狱攻击者说自己进入这个领域时没有任何技术背景,他们有的是心理学训练。

    这意味着,我们通常关联到间谍、骗子和审讯专家的那些行为特质——阴险的魅力、持续的操纵、对可利用压力点的直觉——开始在网络安全的新前沿变得有用。

    写这篇文章的记者Robert Hart说得挺到位:AI不能感受,但最好的黑客假装它能。这场游戏才刚刚开始。


  • 豪歌也在摸着石头过河:AI安全的真实困境






    谷歌也在摸着石头过河:AI安全的真实困境

    上周在洛杉矶的一场活动后台,谷歌云首席运营官Francis de Souza跟我聊了二十多分钟AI安全。他的语气很稳,像大学教授讲课那种感觉,说现在大家都在”实时摸索”AI安全规范,谷歌自己也不例外。

    这话听起来有点反直觉。谷歌可是全球最顶尖的AI公司之一,它居然也在”摸索”?

    AI安全概念图
    AI安全已成为企业无法回避的核心议题(图源:TechCrunch)

    “影子AI”正在悄悄蔓延

    de Souza反复强调一个观点:安全不能是事后补救。很多公司引入AI工具的时候,先上线再说,安全配置留到后面再搞——这基本上是把门打开再想着装锁。

    他特别提到了”影子AI”的风险。这个词听起来有点吓人,其实说的就是员工私下用消费级AI工具,比如拿ChatGPT处理公司机密文档,或者用了某个AI插件但公司根本不知道。这种行为没有组织监督,数据流向完全不可控。

    “不存在没有数据战略和安全战略的AI战略,这三者必须齐头并进。”——Francis de Souza,谷歌云首席运营官

    智能体发现了被遗忘的数据库

    这篇文章里有个细节让我印象深刻。de Souza说,在企业内部系统中自主移动的AI智能体,可能会发现多年前就被遗忘的数据存储库。

    很多组织有旧的SharePoint服务器和访问控制机制,很久没更新了,以前这没什么大不了的,因为根本没人知道那些数据在哪。但AI智能体在企业里”漫游”的时候,会找到这些被遗忘的数据资产,然后——把数据暴露出来。

    这本质上是一种新型的攻击面。传统的网络安全防御模型是针对人类黑客设计的,但AI智能体的行为模式完全不同,它们有能力访问人类可能不会去碰的数据角落。

    谷歌自己的漏洞呢?

    有意思的是,就在de Souza讲这番话的同时,《The Register》连续报道了谷歌云的一连串安全问题。

    事情是这样的:很多开发者把谷歌地图的API密钥放在公开代码里(按照谷歌自己的文档说明做的),以前这些密钥只能访问地图服务,所以泄露了也没什么大不了。但谷歌悄悄扩大了这些密钥的权限范围,让它们也能调用Gemini模型——而且没有清楚地告知开发者这个变化。

    结果就是:攻击者在30分钟内让一家面试准备平台CEO的谷歌云账单飙到了10138美元。另一个澳大利亚开发者的账户被刷了约17000澳元。

    更离谱的是,谷歌的自动系统会根据账户历史记录”升级”计费等级, effectively把开发者的支出上限从他们设置的250美元提到了10万美元——而且没有明确要求同意。


    密钥撤销要等23分钟

    安全公司Aikido的研究发现,即使开发者发现了密钥泄露并立即删除它,攻击者在接下来的23分钟内仍然可以用这个密钥访问Gemini。因为谷歌的密钥撤销操作是在基础设施中”逐渐传播”的,不是即时生效的。

    研究人员指出,谷歌云较新的凭证格式(服务账户API凭证)撤销时间约为5秒,Gemini较新的AQ前缀密钥格式约为1分钟。技术上完全可以做到更快,23分钟的窗口期不是一个工程限制问题,而是一个公司优先级的问题。

    读完de Souza的那番话再来看这些报道,感觉有点微妙。他说的是对的,企业确实需要把安全放在前面,而不是事后补救。但平台自己提出的建议,和它们自己适应这些建议的速度之间,存在着一个不小的差距。

    领英首席信息安全官Lea Kissner本周对《纽约时报》说,她预计这个行业至少需要几年时间,才能以任何可持续的长期方式理解AI安全。这几年里,企业和平台都在同一条船上,大家一起摸着石头过河。