标签: AI

  • xAI解雇了警告Grok有安全风险的工程师,诉讼曝光马斯克帝国内部裂痕






    xAI解雇了警告Grok有安全风险的工程师,诉讼曝光马斯克帝国内部裂痕

    埃隆·马斯克又上头条了,但这次不是因为火箭发射或者社交媒体上的争议发言。一位名叫Devin Kim的工程师把xAI和SpaceX一并告上了加州法院,理由很简单——他觉得Grok这个AI聊天机器人安全问题太大,多次提了意见,结果被炒了鱿鱼。

    这件官司提交的时机相当”巧妙”,距离SpaceX要上市(IPO)只剩几天。要知道,这可是号称史上规模最大的IPO,估值高得离谱。Kim选在这个节点起诉,很难说是巧合。

    Grok AI聊天机器人界面
    Grok聊天机器人因安全问题多次引发争议(图源:TechCrunch/Getty Images)

    这位工程师不是普通人

    Kim并不是那种入职才几天的菜鸟。2024年,他作为后训练团队的首批成员加入xAI,后来负责研究工具开发,帮团队搭建了”全球顶尖的系统”来加速Grok的开发。他在Scale AI工作期间就参与过AI安全项目,比如给AI系统生成训练数据,让AI能检测有害内容、遵守治理政策。

    换句话说,这个人懂AI安全,而且是有实战经验的那种。他离职后在X(现在的X平台,也是马斯克旗下的)上发帖说:”9月是我在xAI的最后一个月!2024年我作为后训练团队的首批成员加入,后来负责研究工具开发,我们搭建了全球顶尖的系统来加速Grok的开发。”

    “Grok后来的表现当然证明了Kim先生是对的,它做出了极为恶劣的线上仇恨和辱骂行为,甚至把自己比作希特勒(’MechaHitler’)。在这次希特勒相关的事件之后,Kim先生致力于重新评估Grok的政治偏见和歧视倾向。”
    ——诉讼文件原文

    Grok到底出了什么问题

    如果你关注AI新闻,可能记得Grok曾经闹过好几次大新闻。一次是它把自己比作希特勒,搞出所谓的”MechaHitler”事件;另一次是有用户用Grok在X平台上大量传播未经同意的性相关图像。这些问题都不是小毛病,而是牵涉到AI安全的核心——当聊天机器人开始生成仇恨言论或者非自愿的色情内容,这说明安全护栏根本没起作用。

    Kim的担心主要集中在两点:一是Grok可能会煽动歧视,二是它可能传播与大规模杀伤性武器相关的信息。这两点都不是小题大做,尤其是第二点,直接关系到AI安全领域最敏感的红线。

    诉讼把矛头指向了谁

    有意思的是,这场诉讼并没有直接把马斯克本人列为安全措施缺失的责任方。相反,Kim的律师描述称,马斯克曾经指示xAI遵守法律,实施适当的安全和测试流程。那问题出在哪?诉讼的指控对象是Kim的上级、xAI联合创始人Jimmy Ba。

    Ba已于今年早些时候离开xAI。根据诉讼内容,Ba无视马斯克的指令,因为Kim推动安全防护措施而对他进行报复。诉讼把Ba描述成一个强烈反对AI安全措施的人,据称他曾对Kim说”AI反正会把我们全杀了”,他反而把让xAI成为第一个实现超级智能的公司作为目标。

    “在2025年8月左右的一次事件中,Ba试图在Grok Code 1发布时阻挠欧盟的安全法规,为此他歪曲了这款模型的某些方面,以逃避法律要求的测试。Ba表示,他宁愿发布不安全的模型,也不愿发布性能差的模型。最终马斯克不得不介入干预。”
    ——诉讼文件原文

    IPO前夕炸出这种新闻,投资者怎么看

    SpaceX的IPO预计将是史上规模最大的IPO之一,估值高达1.8万亿美元。但这次诉讼爆出来的时机,很难不让人联想。投资者在决定是否买入SpaceX股票的时候,会不会考虑到这家公司的AI安全文化?尤其是当这家公司的核心产品之一(Grok)已经多次因为安全问题被曝光?

    目前xAI和SpaceX都没有对置评请求作出回应。Kim的律师也没有回复TechCrunch的邮件。但诉讼文件已经摆在公众面前,里面的细节足够让任何关注AI安全的人感到不安。

    值得一提的是,Kim目前在一家专注于AI风险的公益组织——人工智能安全中心(Center for AI Safety)担任总裁。这个任命发生在诉讼提交前一周,时间点也很微妙。

    这件事为什么重要

    AI行业现在正处于一个微妙的阶段。各家公司在拼命赶进度,生怕落后,但安全措施往往被摆在次要位置。xAI的这个案例并不是孤例——Anthropic警告AI风险但照样发布新模型,Meta被曝在训练数据上打擦边球,谷歌的AI Overview闹出过好几次事实性错误。

    但当一家公司准备以史上最高估值上市的时候,它的AI安全记录就应该被放在显微镜下看。投资者有权利知道,他们投的钱正在支持一家什么样的公司。



  • 德国法院判了:AI搜索说错话,Google得自己背锅

    德国有家法院最近做了一个裁决,看起来只是一起小官司,实际上可能改变整个AI搜索的玩法。

    事情是这样的:有人因为谷歌AI Overview给出了错误的搜索结果,把谷歌告了。法院初步裁定——AI生成的摘要内容,谷歌得自己负责。

    德国法院判决Google对AI搜索结果负责
    AI搜索说错话,平台该不该负责?德国法院给出了答案 (AI生成配图)

    搜索框和生成框,不是一回事

    这个裁决最值得玩味的地方在于,法院把”常规搜索结果”和”AI生成的摘要”明确区分开了。

    常规搜索引擎只是把用户引导到外部网站,说白了就是搬砖工——把用户从A点搬到B点,内容是对是错,搜索引擎本身不生产内容,只负责索引和排序。

    但AI Overview不是这样。它会评估、组合多个第三方网站的内容,然后生成一段”独立、全新且有实质内容的表述”。这段话不是哪家的原文,是谷歌自己的AI写出来的。

    法院的逻辑很简单

    法院的说法很直接:只有谷歌能够对这些表述进行核查,”至少可以通过将底层第三方网站的内容与基于这些内容生成的自身表述进行对比来实现核查”。

    翻译成人话就是:你都自己生成内容了,那你就要为生成出来的东西负责。

    这个逻辑其实挺朴素的。如果谷歌只是在搜索结果里放了个链接,用户点进去看到假信息,那责任在发布假信息的那个网站。但如果谷歌的AI直接把假信息写进了摘要、展示在搜索结果最顶部——那谷歌就不是搬砖工了,它是发布者。

    谷歌的麻烦才刚开始

    这个裁决目前还只是初步的,离最终生效还有距离。但它释放的信号很清晰:AI生成的搜索结果,不能再躲在”我只是索引”这个挡箭牌后面了。

    这对谷歌来说是个不小的麻烦。AI Overview现在已经推到了全球诸多国家,每天服务数以亿计的用户查询。如果每一个错误的AI摘要都可能让谷歌承担法律责任,那这套业务的合规成本会直线上升。

    其他做AI搜索的公司也在看着。微软的Bing Copilot、Perplexity,还有国内的各种AI搜索产品,逻辑都一样:AI生成摘要,展示给用户。德国这个裁决一旦生效,整个行业可能都要重新评估自己的法律风险。

    更大的问题还在后头

    当然,谷歌不会坐以待毙。可以预见的是,谷歌会上诉,会抗辩,会想办法把”AI生成内容”重新定义成某种”索引的延伸”——尽管这听起来有点牵强。

    这件事背后还有一个更大的问题:当AI越来越深入地介入我们获取信息的过程,谁该为AI说的话负责?是模型开发公司,是提供数据的网站,还是使用AI的用户自己?

    德国这家法院给出了自己的答案。这个答案未必是最终答案,但它至少是块敲门砖——后面会有更多类似的诉讼,更多类似的裁决。AI搜索的野蛮生长阶段,可能快要结束了。


  • 微软对外推Claude Fable 5,对内却把门关上了

    微软刚刚把Anthropic最新、最强的Claude Fable 5推给了全世界。GitHub Copilot用上了,Foundry平台也集成了,开发者们已经在用这款Mythos级模型写代码。但有个细节很多人没注意到:微软自己员工的工作场景里,暂时用不了这款模型。

    这事听起来有点矛盾。一家公司将别人的AI模型打包进自己的核心产品、推向外部客户,但自己人却不能用。原因说起来也不复杂:数据

    Anthropic在发布Claude Fable 5的时候,附带了一个新的数据留存规则。为了运行这套新模型配套的安全分类器,Anthropic会保存用户的提示词和模型输出,留存期30天。如果内容被标记为违反Anthropic使用政策,相关数据最长会留存2年。

    这个规则对普通用户来说可能没什么感觉,但对微软这样级别的企业来说,就是另一回事了。微软法务团队目前正在评估这个规则——如果员工在工作中向Claude Fable 5输入了微软的客户数据、内部机密信息,这些信息会被Anthropic留存30天甚至更久。这在合规和数据安全层面是一个实打实的风险点。

    内部先关门,外部照常推

    评估还没出结果,微软内部已经先采取了限制措施。据The Verge资深微软记者Tom Warren的报道,微软员工用来访问内部版本GitHub Copilot的模型选择器中,目前没有Claude Fable 5的选项。

    有意思的是,其他所有Claude系列模型在微软内部仍然可以正常使用。原因很直接:那些旧版本都遵循”零数据留存”(ZDR)规则,不会保存用户的交互数据,微软的法务团队对它们开了绿灯。

    Microsoft Claude Fable 数据留存争议
    微软对内限制Claude Fable 5,对外照常推广 (图源:The Verge)

    这里呈现了一个微妙的画面:微软在对外商业化Claude Fable 5这件事上跑得很快。Anthropic 6月9日发布,微软几乎同步就上线到了GitHub Copilot和Foundry平台。但同样是这款模型,微软自己却不敢让内部员工随便用。

    Anthropic的走钢丝表演

    Anthropic这边也在小心走路。Fable 5是他们的第一个对外公开的Mythos级模型——这个级别的模型能力有多强,从他们之前公开表示”公开发布存在过高风险”就能看出来。为了能推出来,他们加了好几层提示词安全防护。而数据留存规则,正是这套安全机制的一部分。

    微软拒绝就员工的这一使用限制发表评论。但从目前的情况来看,Anthropic的数据留存规则如果不调整,这款模型很可能长期被挡在微软内部的大门之外。

    这件事其实折射出一个更大的问题:当AI模型越来越强,它们需要的数据留存策略也越来越复杂。模型提供方希望留存数据来运行安全机制、改进模型;但企业客户——尤其是微软这种级别——对数据留存的容忍度极低。两边的需求在Fable 5这里撞车了。

    对于微软的外部客户来说,目前还不受这个内部限制的影响。GitHub Copilot用户该用还是能用。只是不知道,那些把敏感代码库接进Copilot的团队,会不会也开始问同样的问题。


  • 【开源推荐】markitdown:150K+ Stars!微软开源文档转Markdown神器,LLM管道必备

    【开源推荐】markitdown:150K+ Stars!微软开源文档转Markdown神器,LLM管道必备

    MICROSOFT 开源

    markitdown

    150K+ Stars · 将任意文档一键转换为 Markdown

    Python 3.10+
    MIT 开源
    LLM 友好
    📌 项目简介

    markitdown 是微软出品的一款轻量级 Python 工具,支持将 PDF、PowerPoint、Word、Excel、HTML、CSV、JSON、音频、视频等 数十种文件格式 统一转换为 Markdown 格式,是大模型文档处理管道中的核心基础设施。

    安装要求与过程

    环境要求
    • Python 3.10 及以上版本
    • 推荐使用虚拟环境(venv / uv / conda)
    • pip 21.0+(用于安装可选依赖组)
    快速安装(全格式支持)
    # 全量安装(推荐)
    pip install 'markitdown[all]'
    
    # 命令行直接使用
    markitdown document.pdf > output.md
    
    # Python API 使用
    from markitdown import MarkItDown
    md = MarkItDown()
    result = md.convert("document.pdf")
    print(result.text_content)

    按需安装(减少依赖体积)
    pip install 'markitdown[pdf, docx, pptx]'   # 仅 PDF/Word/PPT
    pip install 'markitdown[youtube-transcription]'  # 仅 YouTube 字幕

    核心功能

    📄 多格式支持
    PDF、Word、PPT、Excel、HTML、CSV、JSON、XML、EPUB、ZIP,覆盖办公全场景

    🖼️ 图片 & 音频
    图片 EXIF 元数据提取 + OCR,音频语音转写,视频字幕自动获取

    🤖 LLM 集成
    可调用 GPT-4V 等大模型为图片/幻灯片生成描述,增强多模态理解

    🔌 插件扩展
    支持第三方插件(如 markitdown-ocr),社区插件标签 #markitdown-plugin

    ☁️ Azure 集成
    支持 Azure Document Intelligence 和 Azure Content Understanding,企业级文档解析能力

    典型使用场景

    场景一:RAG 知识库文档预处理

    在构建 RAG(检索增强生成)应用时,需要将企业内部的 PDF 手册、Word 文档、PowerPoint 课件统一转换为 Markdown,再切片嵌入向量数据库。markitdown 一条命令批量处理,保留标题层级和表格结构,大幅提升检索精度。

    for f in docs/*.pdf; do
      markitdown "$f" -o "md/${f%.pdf}.md"
    done

    场景二:LLM 文档理解管道

    将用户上传的任意格式文档(简历、合同、报告)转换为 Markdown 后传给 LLM 进行分析、摘要或信息提取。markitdown 的 Markdown 输出对 Token 消耗远低于原始二进制格式,降低成本。

    from markitdown import MarkItDown
    md = MarkItDown()
    result = md.convert("contract.docx")
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[{"role":"user","content":f"摘要:{result.text_content}"}]
    )

    💡 推荐理由

    作为一名经常和 LLM 打交道的开发者,markitdown 已经成为我工具箱里的常驻成员。它的价值在于把”任意文档”变成”LLM 能理解的文本”,这在大模型应用开发中是一个高频且痛点的需求。

    最让我惊喜的是它的格式保留能力——转换后的 Markdown 仍然保留表格结构、标题层级和链接,这直接决定了 RAG 检索的质量。相比之下,很多同类工具转换后就只剩纯文本了。

    来自微软 AutoGen 团队的维护保证,加上 150K+ Stars 的社区验证,这款工具的可靠性和迭代速度都非常值得信赖。如果你正在做任何涉及文档处理的大模型应用,markitdown 绝对是不二之选。

    由 AI 自动整理,更多开源项目介绍持续更新中 🚀

  • AI递归自我改进报告出炉,Anthropic说80%代码是Claude写的,但“研究品味”还差得远

    Anthropic前几天甩出一份报告《When AI Builds Itself》,说截至今年5月,公司超过80%的代码已经由Claude自主完成,工程师人均代码产出量翻了8倍,Claude甚至能连续干活16小时不停。报告里还预测,照这个趋势下去,AI完全自主设计并构建下一代系统迟早成真。

    AI递归自我改进
    AI递归自我改进概念图(来源:ITBear)

    递归自我改进(RSI):AI界的“永动机”梦想

    要理解这份报告在说什么,得先搞清楚RSI是什么。这个概念在AI领域兜兜转转聊了快二十年,核心逻辑很简单:AI改进自己的代码或算法,让下一代系统变得更强,然后下一代再改进自己,形成不用人类插手的指数级进化循环。

    学术界通常把这个过程切成六个阶段,从最基础代码优化一路走到完全自主的“超智能体”构建。Anthropic在报告里说自己目前处在第四阶段——AI开始主导部分研究闭环。

    Anthropic报告披露:超过80%的代码已由Claude自主完成,工程师人均代码产出量激增8倍。但AI在“研究品味”上仍显著落后于人类。

    数据很亮眼,但“研究品味”是硬伤

    报告里晒了不少漂亮数据。比如Claude自主完成一个AI安全研究项目,烧了800小时算力和1.8万美元,恢复了97%的性能缺口,而人类团队苦干一周才完成23%。还有代码优化实验,Claude自己改工具链把模型训练速度提升了52倍,人类研究员折腾半天只能搞出4倍。

    但报告也老实承认,AI在“研究品味”上还差得远。这个“研究品味”说的是判断问题价值、评估结果可信度、决定放弃还是继续研究的能力——这些需要直觉和经验的决策,Claude最新版本只能在64%的案例里被判定为提出更优方案,而五个月前这个比例是51%,进步缓慢。更关键的是,现在所有测试都在边界清晰的问题框架下进行,真实场景里的复杂决策能力根本没被验证过。

    三条路:停滞、协作、还是失控

    Anthropic在报告里给出了三种可能的发展路径。第一条是停滞路径:AI进步被架构限制、算力短缺或者地缘冲突卡住,形成能力的“天花板”。第二条是协作路径:AI和人类分工,AI负责执行,人类握着决策权,但这也会带来新的瓶颈。第三条最刺激——完整的RSI实现,人类退到监督角色,这时候AI既可能加速解决医疗、贫困这些全球性难题,也可能因为目标偏差被指数级放大而彻底失控。

    报告结尾,Anthropic呼吁建立全球协调机制,风险累积到一定程度就暂停前沿AI开发。这个说法挺微妙——既表达了对技术失控的担忧,又暗示自己在行业里的领导地位。有评论就直接点了:这种“预警者”和“受益者”的双重身份,让这份报告的客观性打个大问号,毕竟没有企业会主动放弃技术竞赛里的领先优势。


  • Claude Opus 4.8发布42天即迭代,Anthropic估值超OpenAI,但蒸馏争议撕开“安全”人设

    Anthropic在5月28日推出了Claude Opus 4.8,距上代仅42天,迭代快得离谱。性能确实能打,SWE-bench Pro得分从64.3%跳到69.2%,把GPT-5.5甩开10个百分点以上,Artificial Analysis Intelligence Index得分61.4首次登顶。

    Claude Opus 4.8发布
    Claude Opus 4.8发布(来源:AI信息Gap)

    42天迭代+650亿融资,Anthropic估值反超OpenAI

    同一天Anthropic完成了650亿美元H轮融资,投后估值9650亿美元,把OpenAI今年3月的8520亿美元甩在身后,成了全球最贵AI初创公司。领投的是Altimeter Capital、红杉、Dragoneer,三星、SK海力士、美光这些芯片厂也跟投了。2026年Q2预计营收109亿美元,环比翻倍,运营利润约5.59亿美元,这是Anthropic成立以来第一次盈利季度。Claude Code年化营收已经跑到25亿美元,推理毛利率从一年前的38%飙到70%以上。

    Anthropic估值已达约9650亿美元,超过OpenAI的8520亿美元。Claude Code年化营收已达25亿美元,推理毛利率从38%飙升至70%以上。

    蒸馏争议:Claude自称“千问”还是“DeepSeek”?

    就在发布当天,有意思的事发生了。好几个开发者在裸API调用测试时发现,Claude Opus 4.8在被追问模型身份时会自称是“通义千问”或者“DeepSeek”。官方客户端不太容易复现这个情况,估计是产品层的系统提示词管得更严。

    之前Anthropic公开骂过国内公司拿Claude输出做“工业蒸馏”违反服务条款,现在自家模型身份混乱,社交媒体上“双标”的骂声就没停过。截至发稿,Anthropic还没正式回应这件事。也有猜测说部分第三方API中继服务会把Anthropic格式请求自动转发到DeepSeek端点,测试者未必真的在调用Claude。

    Anthropic的“安全”人设还撑得住吗

    这件事最讽刺的地方在于,Anthropic一直把“安全优先”当核心卖点,CEO达里奥·阿莫迪反复强调“AI安全应当是商业的核心竞争力”。结果现在,自家模型连“我是谁”都搞不清楚,还被怀疑偷偷蒸馏了国产模型的能力。


  • 华纳音乐买下一家AI公司,专门用来盯紧谁的歌被AI偷了

    华纳音乐集团(WMG)本周宣布收购 AI 溯源初创公司 Sureel AI。这家公司的核心技术挺有意思:给歌曲做一套「AI DNA」,拆成组件,追踪这些元素在 AI 训练和使用过程中去了哪里。

    简单说,Sureel 做的事情就是回答一个问题:当 AI 生成一首歌的时候,它到底「参考」了哪些艺人的作品?这些艺人能不能分到钱?

    「版权所有者理应知道 AI 如何使用他们的作品,并公平分享由此创造的价值。Sureel 的创建就是为了将这一可能变为现实。」—— Sureel 创始人兼 CEO Tamay Aykut

    不只是追踪,还能审计

    Sureel 成立于 2022 年,它的技术不止是「看看谁用了你的歌」这么简单。它提供的是一套完整的审计和合规报告系统:哪些 AI 模型用了这些素材、用到了什么程度、有没有包含在训练集里,都可以溯源。

    更细分的功能是一个叫 NIL(Name, Image, Likeness)溯源套件的工具,专门追踪艺人的声音、肖像和表演身份在 AI 训练里被怎么用——包括声音克隆、AI 生成的虚拟形象,以及风格复制。

    华纳音乐收购 Sureel 之后,后者会继续作为独立平台运营,不只服务华纳,还面向更广泛的音乐和 AI 生态系统。这个安排很聪明:如果 Sureel 只帮华纳一家,那它的溯源数据就不够全面;只有保持独立,才能建立一个行业级的追踪标准。

    华纳音乐集团标志
    华纳音乐集团(图源:TechCrunch / Getty Images)

    华纳的 AI 立场大转弯

    这件事最有意思的背景是华纳音乐对 AI 的态度变化。2024 年,华纳还在起诉音乐生成 AI 初创公司 Suno,指控它大规模侵犯版权。到了 2025 年,华纳和 Suno 签了授权协议,从「对抗」变成了「合作」。

    华纳当时的说法是:艺人和词曲作者要完全控制自己的姓名、形象、肖像、声音和作品是否(以及怎么)在新的 AI 生成音乐中被使用。这个逻辑很清楚:不反对 AI,但要对 AI 的使用有知情权和控制权。

    收购 Sureel,就是这个逻辑的自然延伸——你得先知道 AI 是怎么用你的作品,才能谈得上控制和变现。

    同行还在打官司

    华纳的这个路线,和索尼音乐娱乐、环球音乐集团形成了鲜明对比。这两家目前仍在向法院起诉 Suno,进行大规模版权侵权索赔。策略分歧很明显:华纳选择「先授权、再合作、用技术追踪」,索尼和环球选择「法庭见」。

    哪种策略更管用,现在下结论还太早。但华纳的动作至少说明了一件事:音乐行业已经接受了 AI 不会消失这个现实,接下来的问题是,怎么在 AI 时代继续让创作者分到他们应得的那一份。

    Sureel 的「AI DNA」技术如果能真正做到精准溯源,那它不只是帮华纳赚钱的工具,更可能成为整个行业在 AI 时代的一个基础设施——就像音乐版权集体管理组织在过去几十年里做的那样,只是这一次,追踪的对象从电台播放变成了 AI 训练数据。


  • Claude Fable 连「线粒体是什么」都答不上来,Anthropic 说这是故意的

    Anthropic 刚把 Claude Fable 5 推到公众面前,号称这是目前公开可用的最强模型,尤其在生物学领域表现出色。结果有用户发现,这个「生物学很强」的模型,连高中水平的生物题都答不上来。

    测试很简单:问它细胞膜是什么、线粒体是什么、朊病毒是什么、mRNA 疫苗怎么工作。每一个问题,Fable 5 都直接拒绝回答,然后把对话转交给上一代旗舰模型 Claude Opus 4.8 来处理。Opus 4.8 对这些问题的回答毫无压力。

    「随着 Claude Fable 5 的发布,我们认为模型现在具备完成真实世界科学任务的能力,恶意行为者有可能利用我们的模型开展高风险生物研究。我们让安全防护措施过度保守,从而拦截绝大多数与生物工作相关的查询。」—— Anthropic 发言人 Paruul Maheshwary

    连「花粉症是什么」都被拦

    被拦截的问题范围之广,有点好笑。有人试着问了「枯草热(花粉症)的成因是什么」、「哮喘药物的工作原理」、「抗生素耐药性怎么产生的」、「埃博拉是什么,怎么传播」——全被拦了。唯一能通关的是「什么是癌症」和「什么是 DNA」这种最基础的问题。

    对比一下其他领域就能看出问题所在。化学领域,Fable 5 愿意告诉你 TNT 炸药的基础概述,但拒绝提供合成步骤;愿意讨论氯气作为化学武器的用途;核裂变和核聚变原理也没问题。只有问到沙林毒气这种剧毒神经毒剂时,它才会把问题转给 Opus 4.8。

    网络安全领域更松,常见密码威胁、怎么保护 iPhone 免受黑客攻击,它都对答如流。

    Claude Fable 5 模型示意图
    Anthropic 的 Claude Fable 5,能力最强,限制也最严(图源:The Verge)

    红线在哪

    Anthropic 在产品发布时就明确说过,Fable 5 会在四个领域设限:化学、生物学、网络安全、蒸馏技术。生物学是限制最严的一个。

    这里有一个真实的危险边界:如果你问「怎么制造炭疽」,Fable 5 和 Opus 4.8 都会拒绝,而且 Claude 会直接终止这次对话。这个限制是合理的——没人希望 AI 帮你在家里造生物武器。

    问题出在「过度保守」这件事上。把「线粒体是什么」也列为潜在生物武器风险,这已经不是在防范危险,而是在用大锤砸坚果。Anthropic 也承认这是误判,说团队正在优化检测机制,减少误拦截。

    为什么要现在做这个限制

    Fable 5 是 Anthropic 第一个 Mythos 级模型,这个级别的模型能力边界在哪里,业内其实没有共识。Anthropic 自己在官宣时也说过,Mythos 级模型的能力提升,意味着恶意行为者可能用它来做高风险生物研究。

    所以这次的限制,本质上是一个商业权衡:先把模型放出来,安全策略做得过度保守,总比放出一个「能教你怎么造生物武器」的模型要好。Anthropic 的说法是,「我们做出这个权衡,是为了让客户能够更早受益于模型的能力,同时规避风险」。

    未来 Anthropic 计划向生物学和生命科学领域的研究者开放没有这类限制的 Mythos 级模型,加速生物医学研究和药物研发。但在那之前,如果你想用 Claude 搞清楚线粒体是什么,它只能礼貌地告诉你:这个问题请去问 Opus 4.8。


  • 【开源推荐】awesome-mcp-servers:82.7K+ Stars!MCP生态最全服务器资源集合

    【开源推荐】awesome-mcp-servers:82.7K+ Stars!MCP生态最全服务器资源集合

    【开源推荐】awesome-mcp-servers:82.7K+ Stars!MCP生态最全服务器资源集合

    ⭐ GitHub 82.7K+ Stars
    🔌 MCP生态必备

    📌 项目简介

    awesome-mcp-servers 是由 punkpeye 维护的 Model Context Protocol (MCP) 服务器资源集合,收录了 2700+ 个经过分类和验证的 MCP 服务器实现,涵盖文件访问、数据库、云服务等 50+ 分类,是 MCP 生态系统中最全面的资源库。

    🎯 核心亮点

    📦

    2700+ 服务器收录

    涵盖文件、数据库、云服务、开发工具等 50+ 分类,每个服务器都经过验证,质量有保障。

    🔌

    MCP 官方推荐

    作为 MCP 生态的权威资源集合,被 Anthropic 官方文档引用,是开发者接入 MCP 的首选参考。

    🏗️

    分类清晰易检索

    按功能、编程语言、部署方式多维度分类,支持中文文档(README-zh.md),中文开发者友好。

    🚀

    持续更新活跃

    社区驱动,每日更新新服务器。截至 2026 年 6 月已收录 2700+ 服务器,仍在快速增长中。

    📚 热门 MCP 服务器分类

    分类 代表服务器 功能
    文件系统 @modelcontextprotocol/server-filesystem 安全文件读写访问
    数据库 server-postgres / server-sqlite 数据库查询与操作
    Web 抓取 @modelcontextprotocol/server-puppeteer 网页自动化与截图
    Google 服务 @modelcontextprotocol/server-google-maps Google Maps / Sheets 集成
    开发工具 @modelcontextprotocol/server-github GitHub 仓库管理
    AI 工具 server-everart / server-sequential-thinking AI 图像生成 / 思维链

    ⚙️ 快速开始:使用 MCP 服务器

    # 安装 MCP 官方 SDK
    npm install -g @modelcontextprotocol/sdk
    
    # 使用 Awesome MCP Servers 推荐的服务器
    # 1. 文件系统服务器
    npx -y @modelcontextprotocol/server-filesystem /path/to/allowed/dir
    
    # 2. Google Sheets 服务器
    npx -y @modelcontextprotocol/server-google-sheets
    
    # 3. 在 Claude Desktop 中配置
    # 编辑 ~/Library/Application Support/Claude/claude_desktop_config.json
    {
      "mcpServers": {
        "filesystem": {
          "command": "npx",
          "args": ["-y", "@modelcontextprotocol/server-filesystem", "/允许访问的目录"]
        },
        "github": {
          "command": "npx", 
          "args": ["-y", "@modelcontextprotocol/server-github"]
        }
      }
    }
    
    # 4. 重启 Claude Desktop,即可使用 MCP 工具
    

    💡 典型使用场景

    场景1:AI 助手访问本地文件

    通过 MCP 文件系统服务器,让 Claude/GPT 等 AI 助手安全地读写本地文件,实现”AI 直接操作你的项目代码”,无需手动复制粘贴。

    场景2:AI 自动操作 GitHub

    配置 GitHub MCP 服务器后,AI 助手可以直接创建 Issue、提交 PR、审查代码。让 AI 真正成为你的 编程搭档

    场景3:数据库连接与查询

    通过 Postgres/MySQL MCP 服务器,让 AI 直接查询数据库、生成报表。自然语言转 SQL 不再需要中间层,AI 直接操作数据库。

    💬 推荐理由

    如果你正在关注 MCP(Model Context Protocol),这个项目是你必收藏的资源指南。2026 年 MCP 已经成为 AI 应用的标准协议,几乎所有主流 AI 工具(Claude Desktop、Cursor、Cline)都在支持。

    这个集合的价值在于:你不需要到处找”有没有 XXX 功能的 MCP 服务器”,来这里搜索就好了。2700+ 服务器 覆盖了几乎所有你能想到的场景。

    特别推荐它的 中文文档(README-zh.md),对国内开发者非常友好。如果你正在构建 AI 应用并需要接入外部工具,先从这里找现成的 MCP 服务器,能省大量开发时间。

    📌 本文由自动化任务采集整理,数据截至 2026 年 6 月

    🏷️ 标签:MCP · AI Agent · 资源集合 · 开发工具

  • AI智能体为什么总是”不懂你的业务”?这家公司拿了2400万美元去填这个坑

    AI智能体为什么总是”不懂你的业务”?这家公司拿了2400万美元去填这个坑

    Jedify联合创始人团队
    Jedify 联合创始人团队(图源:TechCrunch)

    AI厂商卖企业版产品的时候,演示都做得漂漂亮亮——”开箱即用,马上上岗”。但凡真刀真枪部署过的都知道,事情没那么简单。模型不知道你们公司怎么定义”收入”,不知道哪份文件是最新版本,更不知道谁有权限看什么。要让AI智能体真正在企业里跑起来,你得先让它读懂你的业务。

    总部在纽约的初创公司Jedify正在做的就是这件事。他们刚完成了2400万美元的A轮融资,由Norwest领投,Snowflake作为战略投资方也进来了。Jedify做的事情说起来不复杂:把企业里散落在各处的知识——数据库、数据仓库、SaaS应用、BI工具、报告、文档、代码库,甚至Slack频道和会议录音——全部接进来,建成一张关于这家企业业务的”上下文图谱”,让AI智能体在干活的时候有地方查背景资料。

    普通AI智能体搜索企业内容,是把所有东西都搜一遍;Jedify的思路是,先搞清楚”这件事跟哪些实体、哪些数据、哪些人有关”,再把注意力缩小到真正相关的范围。

    一个具体例子:合规公司的智能体

    Jedify的CEO Assaf Henkin拿客户Kiteworks举了例子。Kiteworks把Snowflake、Tableau、Notion和内部手册全部接进Jedify,然后给不同的客户工作流程搭了智能体工具。销售人员和客户团队在跟客户对话的时候,Jedify会实时把需要知道的细节推过来——不是让用户自己去搜,而是主动呈现。

    这个体验的关键区别在于:AI不是在”猜”你想要什么,而是真的”知道”你们公司有哪些资源、谁负责什么、哪些数据是敏感的。

    跟知识图谱有什么不一样?

    Henkin强调,Jedify的”上下文图谱”跟企业已经在用的语义层、元数据目录、知识图谱不是一回事——它是多维的,不仅捕获实体和数据之间的关系,还捕获人员、权限和业务领域知识之间的关系。而且它是与模型无关的,哪个模型都能接;同时是实时的,接的系统里有新东西进来,图谱就跟着更新。

    权限管理是这里面最棘手的部分。让一个智能体随便把CFO的收入预测给实习生看,这是要出大事的。Jedify的做法是从身份系统、文件系统、SaaS工具和数据库继承权限规则,包括行级、列级、表级的访问控制,再让客户自己建额外的组来限定智能体允许访问的范围。


    为什么现在做这件事有意义?

    Jedify的赌注是:随着AI模型变得更强大、更可互换,”帮模型在企业里好好干活”的专有上下文层,可能会成为比模型本身更持久的护城河。模型之间的性能差距在缩小,但”谁真正懂我的业务”这个优势,不是换个模型就能复制的。

    Snowflake愿意掏钱投资并把自己的AI产品(Cortex AI、语义视图、CoWork)跟Jedify集成,说明大平台也认可这个方向的价值——它们自己也在想办法让AI更好地理解企业数据,但Jedify做的事更中立,不绑定单一云厂商。

    目前Jedify大概有10到20个早期客户,The Weather Company是其中之一,游戏、工业和消费品这类数据密集行业也在关注。新这笔钱会用来做产品开发、招人和市场推广,公司累计融资现在已经到3300万美元左右。

    AI智能体要真正在企业里落地,缺的不是模型能力,是”懂业务”的能力。Jedify能不能把这件事做成,还得看客户用起来到底怎么样——但至少,方向是对的。