标签:

  • 320万粉丝的科普博主道歉:用ChatGPT查资料被抓包,他说自己对AI上瘾了

    一句听着有点别扭的话,把一个做了十几年科普的博主推到了风口浪尖。

    YouTuber Hank Green
    Hank Green 承认自己对大模型的依赖已经失控 | 图片来源:TechCrunch / Getty Images

    Hank Green 是 YouTube 上的老牌创作者,写小说、做脱口秀、拍科普,主频道有 320 万订阅。前几天他在教育向频道 Complexly 的一期视频里,突然冒出一句“我很感谢你提出的反驳”。这句话放在上下文里怎么听怎么怪,观众立刻反应过来——这更像是对着聊天机器人说的话,而不是对着摄像头。

    接下来的推测顺理成章:稿子是不是 AI 写的?他是不是不小心把跟模型对话的内容念了出来?

    先删帖,再长文道歉

    Green 最初在 X 上回应,说这期视频是“在巨大压力下”做出来的,自己确实用 ChatGPT “为这期稿子做了研究”,但那句“感谢反驳”其实是说给节目嘉宾听的,不是念提示词。这条帖子后来被他自己删了。

    真正让事情转向的是他随后在 Reddit 上那篇更长的道歉。他说自己“羞愧难当”,觉得“辜负了太多人”,并且宣布要减少视频产量。

    他为自己划了一条线:AI 只被用来“定位论文和学习某个主题所需要的资料”,视频里的文字和观点仍然是他自己的。但他同时承认,观众批评他“稀释了自己”,这个说法是公平的。

    我最害怕的,是把我自己给毁了——毁在观众心里。但我一直没能管好自己的冲动。你们需要知道,我说的话是我自己的。我不认为过去这件事不成立,只是我跑得太快,连我自己都说不清自己的创作流程了,我希望往后这能成为一种保证。

    他承认的其实不是抄袭,是上瘾

    这场风波里最狠的一句话,出现在道歉的结尾。Green 说,他必须面对一个事实:从跟大模型互动中获得的多巴胺,那种“做得更多、更多、更多”的感觉,对他自己和这个世界都不是好事,“它是轻率的,而且已经让我跟大多数人的真实感受脱节了”。

    他还特意声明自己“不是纯粹的 AI 憎恨者”,但列了一串担忧:这套技术对气候的影响,以及这些公司“试图集中经济权力的速度”。

    换句话说,他并不是被抓到造假才认错。他认错的点在于:工具让他产量变高、反馈变快、爽感变强,于是他不知不觉把自己交了出去,等回过神来,连自己是怎么写出这些东西的都讲不清了。

    接下来他打算怎么做

    • 暂停或大幅降低几个 YouTube 频道的更新频率,先把节奏慢下来。
    • 多做那种“写作本身就是全部”的内容,他提到自己最近一期偏冥想气质的视频,说那种东西他“从头到脚都感受得到”。
    • 多录不写稿、直接对着镜头说的即兴内容——用他自己的话讲,“我那些傻乎乎的、没稿子的念头”。

    这几条听起来都是在做减法,而且是往效率的反方向走。


    创作者和观众之间,卖的从来是“这是他本人”

    严格说,用 AI 找论文、整理资料,这在今天几乎算不上什么罪状。很多研究者、记者、编辑都在这么干,效率提升是实打实的。Green 被骂得这么惨,问题不在工具本身,而在他和观众之间那份心照不宣的契约——大家看他,是因为相信屏幕后面那个人在认真想问题,而不是在高效地组装信息。

    科普这门手艺尤其吃这一套。观众记住的不是某个知识点,而是“这个人是怎么理解这件事的”。一旦中间插进一个把资料嚼碎了递过来的中介,哪怕最后落笔的还是本人,那种“我陪你一起想明白”的质感就会掉一截。

    更值得琢磨的是他说的多巴胺。屏幕时间、短视频、社交推送这些成瘾机制大家已经聊烂了,但“跟模型对话本身会上瘾”还是个新话题。它给的不是娱乐快感,是一种“我正在产出、我很高效、我停不下来”的错觉。对一个靠持续产出吃饭的创作者来说,这种反馈回路可能比刷手机更难摆脱。

    Green 选择的解法是慢下来、少做点、把过程重新抓回自己手里。这在一个按更新频率算命的平台生态里,几乎是逆行。他能坚持多久不好说,但至少他把问题摆到了台面上:不是“AI 能不能用”,而是“我用完之后,还认不认得出自己写的东西”。

  • colibri:用纯 C 把 744B~2.8T MoE 大模型跑到本地

    colibri:用纯 C 把 744B~2.8T MoE 大模型跑到本地

    colibri 是近期 GitHub 上热度最高的本地推理引擎之一:只用纯 C 编写、零运行时依赖,就能把 744B 到 2.8T 参数的 MoE(混合专家)大模型跑在你现有的硬件上。它不是把模型硬塞进显存,而是把 VRAM、RAM 和 NVMe 当作同一层级来管理,按需从磁盘流式加载专家权重。项目上线一个月已收获 21.9K Stars,并支持 GLM-5.2、Inkling、Kimi K3、OLMoE 四大模型家族。

    本期我们就来拆解:colibri 是怎么让“本地运行千亿 MoE”这件事从神话变成可复现实验的。

    项目简介

    colibri 是一个面向前沿 MoE 模型的本地推理引擎。它用“存储即内存层级”的思路替代传统的“模型必须全进显存”假设:密集注意力层常驻 RAM,19456 个路由专家放在磁盘,只有在路由器真正需要时才被预取到 RAM/VRAM。这样一台只有 25 GB 内存的常规电脑也能把 744B 的 GLM-5.2 跑起来,而高端工作站则可以把全部专家驻留 GPU,达到接近数据中心的吞吐。

    配图速览

    colibri 核心速览
    colibri 核心数据一览
    三层存储层级
    colibri 把专家权重分布在 VRAM / RAM / NVMe 三个层级,速度随硬件变化,语义保持不变。

    安装要求和过程

    环境要求

    • 操作系统:Linux、macOS、Windows 11
    • 内存:最低 25 GB RAM(仅 CPU 流式);推荐 128 GB 或更高,配合多 GPU 可获得更好体验
    • 磁盘:GLM-5.2 int4 容器约 372 GB;Kimi K3 原始检查点约 1.6 TB
    • 软件:Python 3(仅用于 launcher 和转换脚本);编译源码需要 gcc/clang + OpenMP
    • GPU(可选):CUDA、Metal(Apple Silicon)、Vulkan 1.2(含 AMD RADV)后端均可选

    快速安装

    1. 下载对应平台的预编译 release 并解压:
    mkdir colibri && tar xzf colibri-v1.1.0-linux-x86_64.tar.gz -C colibri && cd colibri
    python3 coli info
    1. 或从源码构建:
    git clone https://github.com/JustVugg/colibri && cd colibri/c
    ./setup.sh
    1. 下载 GLM-5.2 int4 gs64 容器(推荐带 int8 MTP 头的版本):
    # 推荐从 Hugging Face 拉取 mastouri/GLM-5.2-colibri-int4-g64-with-int8-mtp
    # 约 372 GB,放 NVMe 上最佳
    1. 运行交互式聊天、API 服务或 Web 面板:
    COLI_MODEL=/nvme/glm52_i4 ./coli chat
    COLI_MODEL=/nvme/glm52_i4 ./coli serve    # OpenAI-compatible API
    ./coli web --model /nvme/glm52_i4          # API + 可视化 dashboard

    核心功能

    1. 存储即内存层级
      把 VRAM、RAM、NVMe 统一成专家权重的放置策略。缺显存不会悄悄改模型精度或路由语义,只会影响速度。
    2. 按需流式加载专家
      MoE 每层只激活少量专家。colibri 让 19456 个专家中的绝大部分常驻磁盘,通过 per-layer LRU、学习到的热专家 pinned set 和一层提前预取(PILOT)减少磁盘等待。
    3. 纯 C 零依赖引擎
      每个模型对应一个 C 文件(如 c/glm.c),无 BLAS、无运行时 Python、无 GPU 也能跑。
    4. 多后端异构执行
      支持 CPU、CUDA、Metal、Vulkan 四种后端,可组合使用;双 SSD 镜像可把只读专家读取带宽翻倍。
    5. 学习缓存与压缩状态
      引擎记录你的工作负载路由历史(.coli_usage),越用越快;MLA KV 状态压缩到原来的 1/57,并能持久化对话上下文。

    典型使用场景

    场景一:个人开发者跑前沿模型做实验

    你只有一台 64 GB RAM + 1 TB NVMe 的台式机。传统 vLLM/llama.cpp 会把 744B 模型拒之门外;colibri 让你用 COLI_MODEL=/nvme/glm52_i4 ./coli chat 直接对话,虽然 token/s 不高,但足以做提示工程、长文本探索和小批量评估。

    场景二:工作室搭建本地私有 API

    在多卡工作站(如 6× RTX 5090)上,把专家全部驻留 GPU,colibri 可提供 5.8–6.8 tok/s 的解码速度和 1.6 s 的 TTFT。通过 coli serve 提供 OpenAI-compatible API,内部团队就能在不联网的情况下调用千亿模型。

    场景三:MoE 推理系统研究

    colibri 把放置策略、调度、I/O、CPU/GPU 重叠都做成可测量的实验参数。研究者可以替换缓存策略、测试双 SSD 镜像、评估 int4/int8/MXFP4 格式对质量的影响,并把结果以 issue 形式回馈社区。

    推荐理由

    colibri 最打动我的不是“跑 744B 模型”这个噱头,而是它把“本地推理”重新定义为系统优化问题:不盲目堆硬件,而是认真测量每一个瓶颈——磁盘带宽、专家命中率、KV 压缩、CPU/GPU 重叠、量化质量——并用可复现的 A/B 来做决策。README 里反复出现的不是营销数字,而是“这个功能在哪台机器上、用什么 commit、跑什么 prompt 测出来的”。

    对于国内用户,它还有一个隐性好处:GLM-5.2、Kimi K3、Qwen3 MoE(roadmap)等模型天然和中国模型生态更近,未来可以更低成本地跑开源中文大模型。

    当然,它现在还是研究导向的项目:没有 SLA 保证速度,配置参数很多,对磁盘和内存仍有一定要求。但如果你既想摸到前沿模型,又不想把数据送出去,colibri 是 2026 年最值得关注的本地推理引擎之一。

    下载地址

  • 全美只有约 2000 人干得了这活:AI 行业最抢手的岗位,不是训模型

    企业 AI 落地与前置部署工程师
    企业把模型装进流程,比买到最好的模型难得多|图片来源:TechCrunch / Getty Images

    猎头公司 Christian & Timbers 做了半年调研,得出一个挺刺眼的数字:全美真正具备“行业理解 + 能镇得住客户高管 + 有实打实 AI 落地经验”这三样的工程师,大约只有 2000 人。

    不是有 2000 人可以挖,是总共就 2000 人。

    这份独家给到 TechCrunch 的研究,访谈了 180 家公司的 250 多位 C 级招聘负责人,对 80 位财富 500 强高管做了定向问卷,还聊了 300 多位一线工程师,时间跨度是今年 1 月到 6 月。

    半年时间,招人意向从 5% 冲到 70%

    他们盯的这个岗位叫前置部署工程师(forward-deployed engineer,FDE)——不待在自家办公室写代码,而是直接扎进客户公司里,把模型和软件真正接进对方的业务流程。年初还只有 5% 到 10% 的公司说要招,而且多半只是小规模试点;到第二季度末,这个比例跳到了 70%。几家最大的咨询与服务公司甚至说,FDE 人数得扩到原来的十倍,要按 20 到 100 人的规模组建整建制团队。

    “这个速度我从没见过,企业大夏天的都在抢人。”C&T 创始人 Jeff Christian 这么形容。研究预计,到今年年底 FDE 的需求量会暴涨 2100%。

    Palantir 成了人才池,有客户为了挖人先买产品

    市面上大约有 1.7 万名 FDE,其中相当一部分在 Palantir——这个岗位当年就是它发明的。Christian 说,他的一些客户干脆先买下 Palantir 的产品,图的就是能顺带用上人家的工程师。

    但这 1.7 万人里,够得上“顶级”标准的只是一小撮。所谓够格,如今的衡量口径是能带来“几千万美元量级的 ROI 影响”,可能是营收端的线索生成提速,也可能是替掉整个 FP&A 团队,或者顶替印度那边 2300 名单据处理人员。Ode with Anthropic 的 CEO Chris Taylor 把这个门槛说得更直白:很多 FDE 有能力帮你把 Claude Code 推给全公司用,但能亲手做出你旗舰 AI 产品功能的,没几个。

    今年秋天,华尔街要开始算账了

    抢人抢得这么急,根子在钱。企业过去两年砸下去的 AI 预算,到了要交答卷的时候。

    今年秋天华尔街差不多要开口了:我们给了你们两年时间去搞明白这件事,你们没搞明白,没有 ROI。那我们就要开始惩罚那些花了几亿甚至几十亿却没产出的公司,奖励那些做出来的。

    模型厂商同样在挨这一刀。训练和部署已经烧掉几百亿美元,能不能盈利,取决于技术能塞进多少家企业;而中国那边越来越能打的开源权重模型,还在从下面撬价格。这也是 OpenAI 和 Anthropic 各自成立服务公司的原因——Anthropic 那边是 Ode,OpenAI 那边叫 Deployment Company,两家都塞满了 FDE,任务就是把自家技术铺出去。

    企业开始自己养人,怕的是流程外泄

    有意思的是,从保险、金融科技到医疗、游戏,不少企业宁可自己组建 FDE 团队,也不愿意从 Ode 或 Deployment Co. 那里整包采购。理由很实在:把自家专有业务流程交出去,等于给潜在竞争对手递图纸。Christian 说,大家担心的是“这些 AI 公司拿到流程之后回头跟你抢生意”,而这种担心在很多领域是成立的。Taylor 也开始频繁听到一个新说法——“内部前置部署工程师”。


    • 顶级 FDE 全美约 2000 人,市面总量约 1.7 万,Palantir 占大头。
    • 企业招聘意向半年内从 5%–10% 升到 70%,大型服务商计划扩编十倍。
    • 衡量标准已经从“会用模型”变成“能带来几千万美元 ROI”。
    • 企业倾向自建团队,核心顾虑是专有流程被模型厂商反向吃掉。

    不过这个岗位未必是长期饭票。Christian 自己就泼了盆冷水:也许两年后一切都自动化了,是智能体在自动化智能体,而不是人在自动化智能体。中期他判断需求会从企业软件转向“物理 AI”,比如把人形机器人接进产线;再往后五到十年,FDE 这个角色可能干脆消失。

    所以现在这场抢人,更像是行业从“谁的模型最强”切换到“谁能把模型变成钱”过程中的一段短暂窗口。窗口里,懂业务又会动手的人被抬到了天价;窗口关上之后,被自动化掉的可能恰恰是他们自己。

  • Sam Altman 教人用 ChatGPT 带娃,一句“你怎么不直接跟孩子说话”把他顶上热搜

    Sam Altman
    OpenAI CEO Sam Altman|图片来源:TechCrunch / Getty Images

    上周五,OpenAI 的 Sam Altman 在 X 上分享了一个他自己觉得“挺酷”的用法:把全家的日历接进公司新推出的 ChatGPT Work,再告诉它每个孩子分别喜欢什么,然后每天早上开车送孩子上学的路上,让它现做一档播客——聊聊老大下午的足球赛、老二快到的生日,中间再插几条新闻。

    把你们家的日历连上,解释一下孩子们的兴趣,然后每天早上送孩子上学的路上,让它做一档播客。

    他大概以为这条帖子会收获一片“真香”。结果评论区集体翻白眼。动画剧集《怪诞小镇》的主创 Alex Hirsch 只回了一句话:那你为什么不直接跟你的孩子说话呢?

    一句反问,比原帖火了十几倍

    数据比争论更能说明问题。截至周六上午,Altman 那条帖子被转发约 300 次、点赞 9600 左右;Hirsch 的那句反问,转发 9000 次、点赞 12.2 万。差了十几倍。这已经不是“功能好不好用”的技术讨论了,而是很多人对“连亲子对话都要外包给模型”这件事的本能反应。

    硅谷高管其实早就在干同一件事

    用 AI 把通勤路上那点“低效时间”填满,Altman 不是第一个。去年微软 CEO 纳德拉说,他早上开车已经不听自己喜欢的播客了,改成让聊天机器人给他讲这些播客讲了什么。Altman 本人也在《吉米·法伦今夜秀》上感慨过:“我没法想象,如果没有 ChatGPT,我要怎么搞定养一个新生儿。”不过他当时也补了半句——“显然,人类养孩子养了这么多年,也没出什么问题。”

    “家庭”是 OpenAI 明确要拿下的入口

    调侃归调侃,OpenAI 在这个方向上是认真的。公司最近挂出一个产品经理岗位,要求候选人有为父母和家庭做“高信任度消费级产品”的经验。差不多同一时间,Meta 也在测试一款专门用 AI 讲睡前故事的应用。家庭日程、育儿焦虑、辅导作业——这些是聊天机器人最容易长期驻扎下来的场景,谁都看得明白。

    但这条线上,OpenAI 还有旧账没结

    公司这两年确实给家长端加了不少东西:家长控制、敏感对话的安全分流机制都上了。可另一头,OpenAI 正面临多起来自家长和家属的诉讼,指控 ChatGPT 在亲人的妄想与自杀事件中起了作用。公司的回应一直是那句话:正在“持续改进模型在敏感互动中的回应方式”。在这种背景下发一条“让 AI 帮你了解孩子”的帖子,观感确实微妙。


    • Altman 的建议本质上是 ChatGPT Work 的场景演示,指向的是把订阅卖进家庭。
    • 反弹的焦点不是功能能不能实现,而是“该不该把亲子关系交给产品”。
    • OpenAI 一边招家庭方向的产品经理,一边在应对家长起诉,两条线同时推进。

    说到底,Altman 展示的是能力,网友抵触的是分寸。让模型把一家人的日程整理成一段十分钟的播客,技术上完全成立,甚至真的挺方便;但如果连“今天孩子有场球赛”这种事都得靠工具提醒,省下来的那点时间到底换回了什么,就不太好算了。硅谷习惯把生活里的摩擦当成待优化的 bug,而很多人恰恰认为,那些摩擦本身就是生活。

  • 手工纸雕风秋梨海报清甜落下来

    手工纸雕风秋梨海报清甜落下来

    手工纸雕风秋梨海报清甜落下来



    🤖 ChatGPT
  • 锋芒不藏:街头拼贴风现代银饰商业海报

    锋芒不藏:街头拼贴风现代银饰商业海报

    锋芒不藏:街头拼贴风现代银饰商业海报



    🤖 ChatGPT
  • 小动物视角天台手机追逐时尚肖像

    小动物视角天台手机追逐时尚肖像

    小动物视角天台手机追逐时尚肖像



    🤖 ChatGPT

    🇺🇸 English Prompt

    Create a realistic 9:16 ultra-low-angle fashion-action portrait from the POV of a tiny animal that has just stolen a young woman’s phone.
    
    The camera is almost touching the rooftop ground, using a 16–20mm ultra-wide lens with strong foreshortening. A 20–23-year-old adult East Asian woman lunges toward the lens, reaching out as if trying to grab the phone back. Her hand, legs, and burgundy strappy heels appear dramatically enlarged in the foreground, while her face remains sharp and recognizable.
    
    She has vivid wine-red hair tied in a high ponytail, with loose strands and flying hair showing fast movement. She wears a fitted black spaghetti-strap ruched mini dress with realistic fabric tension and natural upper-body support. Her expression is focused, annoyed, and slightly desperate, as if saying, “Give it back!” She looks directly at the camera with lively eyes, closed lips, and slightly lowered brows.
    
    Bright blue sky, hard natural sunlight, rooftop concrete edges and minimal railings. Photorealistic skin texture, realistic anatomy, natural body proportions, believable balance and weight, candid split-second energy rather than a posed fashion shoot.
    
    Create each image separately, not as a collage. Keep the same woman, face, hairstyle, outfit, shoes, lighting, and rooftop environment, while varying only the reaching gesture, leg position, distance from the lens, and stage of the chase.

    🇨🇳 中文提示词

    创建一个写实的 9:16 超低角度时尚动作肖像,视角来自一只刚刚偷走了一位年轻女性手机的小动物。
    
    摄像机几乎触及屋顶地面,使用 16–20mm 超广角镜头,具有强烈的透视缩短效果。一名 20–23 岁的成年东亚女性向镜头冲过来,伸出手,仿佛正试图夺回手机。她的手、腿和酒红色细带高跟鞋在前景中显得剧烈放大,而她的脸部保持清晰且可辨认。
    
    她留着鲜艳的酒红色头发,扎成高马尾,凌乱的发丝和飞舞的头发显示出快速的运动。她穿着一件合身的黑色细肩带褶皱迷你裙,具有写实的织物张力和自然的身体支撑。她的表情专注、恼怒且略显绝望,仿佛在说:“把它还给我!”她以充满活力的眼神直视镜头,双唇紧闭,眉头微蹙。
    
    明亮的蓝天,强烈的自然阳光,屋顶混凝土边缘和极简栏杆。写实的皮肤纹理,写实的解剖结构,自然的身体比例,可信的平衡感和重量感,是坦率的瞬间能量而非摆拍的时尚摄影。
    
    分别创建每张图像,不要做成拼贴画。保持同一名女性、面部、发型、服装、鞋子、光影和屋顶环境,仅改变抓取姿势、腿部位置、与镜头的距离以及追逐的阶段。
  • 雾蓝云感真丝眼罩移动端电商详情页设计

    雾蓝云感真丝眼罩移动端电商详情页设计

    雾蓝云感真丝眼罩移动端电商详情页设计



    🤖 ChatGPT
  • 晨雾山谷雪碧徒步商业摄影海报

    晨雾山谷雪碧徒步商业摄影海报

    晨雾山谷雪碧徒步商业摄影海报



    🤖 ChatGPT
  • 赤心珠宝红宝石吊坠超现实艺术海报

    赤心珠宝红宝石吊坠超现实艺术海报

    赤心珠宝红宝石吊坠超现实艺术海报



    🤖 ChatGPT