标签: AI伦理

  • 亚马逊Ring门铃把路人脸偷偷存了,集体诉讼把亚马逊告上法庭

    亚马逊的Ring门铃最近摊上大事了。一位弗吉尼亚州的居民Charles Sigwalt在西雅图联邦法院提起集体诉讼,指控Ring的”熟悉面孔”(Familiar Faces)功能在路人完全不知情的情况下,用AI识别并存储了他们的面部数据。

    这个功能去年9月就宣布了,当时电子前沿基金会(EFF)和马萨诸塞州参议员Ed Markey就跳出来反对。但亚马逊还是去年12月硬着头皮把功能上线了。

    Ring门铃摄像头
    Ring门铃的摄像头覆盖着无数美国家庭的门口(图:Getty Images)

    功能本身没大问题,问题出在”被识别的人”没有选择权

    “熟悉面孔”的逻辑其实挺直观——Ring用户开启之后,门铃能识别出经常出现在门口的人,然后推送更精准的通知,比如”爸爸在门口”,而不是泛泛地说”有人在门口”。

    问题在哪?开启功能是Ring用户的主动选择,但那些每天路过这些门铃的路人——邮递员、邻居、散步的陌生人——对此完全不知情,也没有任何方式可以”选择退出”。诉讼文件里的说法很直接:”数百万美国人在不知情的情况下,被Ring摄像头采集了面部识别信息。”

    Ring用户需要主动开启这个功能,但路过的非用户完全无法得知自己被采集了面部信息,也无法选择退出。这个不对称的信息关系,是整起集体诉讼的核心。

    Ring的隐私黑历史不止这一桩

    亚马逊对这起诉讼暂时没有回应。但在功能上线时,公司曾表示面部数据是加密存储的,不会对外共享,未识别的面孔会在30天后自动删除。

    问题是,Ring在用户隐私这件事上,口碑一直不怎么样。2023年,亚马逊跟美国联邦贸易委员会(FTC)和解,赔了580万美元,原因是Ring的员工和承包商可以随意查看女性用户的私人视频——FTC的说法更狠:当时每个员工都能访问所有客户的视频,完全不需要什么业务理由。

    还有一件事,Ring跟执法部门的关系一直很暧昧,曾经允许警察在无搜查令的情况下向用户索要录像。这个权限后来在2024年1月取消了。今年超级碗期间,Ring推了一个用AI找走失宠物的功能”Search Party”,也引发了类似的隐私争议,随后Ring取消了跟监控公司Flock Safety的合作——这家公司被曝向ICE等联邦机构提供监控录像。


  • 特朗普签了AI行政令,模型发布前要过政府这一关

    美国总统唐纳德·特朗普在周二签署了一项关于人工智能的行政令,要为AI公司搭一个”自愿框架”——企业可以在前沿模型公开发布之前,先拿给政府看看。官方说法是”促进安全创新,加强关键基础设施网络安全”,听起来挺温和。

    白宫在行政令里明确说了一句话:这”不应被理解为强制许可或者预先审批”。也就是说,企业不配合也不会被罚,完全自愿。

    自愿审查,但谁自愿谁不吃亏

    这个框架最微妙的地方在于”自愿”二字。行政令指示多个联邦机构制定一套流程,在AI模型公开发布之前”评估其高级网络能力”。企业可以自行决定是否把模型交给政府审查,但如果交了,就能获得相应的保密保护——换句话说,不交的企业就得自己承担所有潜在的安全责任。

    实际上,这种”自愿”背后有很现实的考量。上个月,谷歌、微软和xAI已经同意接受商务部下属AI标准与创新中心(CAISI)的发布前审查。先交的企业能拿到政府背书,后交的就可能被视为”不安全”。


    特朗普的态度为什么变了

    这事其实有个背景。特朗普之前曾经推迟签署一项AI行政令,原因是他担心那会”阻碍”美国跟中国的竞争。《纽约时报》的报道说,最初版本的草案允许AI公司在发布前14到90天自愿共享模型,而最终版本把时间压缩到了最多30天。

    更关键的是,此前在特朗普政府中担任白宫AI与加密货币主管的大卫·萨克斯(David Sacks)任内,政府对AI安全问题一直是淡化处理的,基本采取了不干预态度。这次签署行政令,说明白宫的态度在发生微妙转变。

    特朗普签署行政令
    特朗普签署AI行政令,建立模型发布前自愿审查框架(图源:The Verge)

    Anthropic的Mythos模型是关键转折点

    这次态度转变的一个直接诱因,是Anthropic在今年4月有限推出的Mythos模型。Anthropic自己说,这个模型发现了”数千个高危漏洞,包括所有主流操作系统和网页浏览器中都存在的一些漏洞”。

    在此之前,Anthropic曾经因为AI被用于自主致命武器和大规模监控的问题,跟五角大楼闹过法律纠纷。Mythos的出现,似乎为缓和Anthropic跟政府之间的紧张关系创造了一个契机。截至目前,这项行政令甚至获得了一些通常反对限制AI法律的团体的赞扬。

    美国负责任创新组织主席布拉德·卡森(Brad Carson)在声明中说:”白宫正式接受了Mythos模型的影响。”安全AI联盟首席执行官布伦丹·斯坦豪瑟(Brendan Steinhauser)则表示,他的组织”很高兴看到特朗普政府认真对待这些模型的风险”。


    接下来会怎样

    卡森和斯坦豪瑟都在呼吁国会立法,把类似的保护措施变成法律,而不只是靠行政令。毕竟行政令的效力是有限的,下一任总统完全可以把它撤销掉。

    对AI公司来说,这道选择题现在摆在了桌面上:主动配合政府审查,换取某种程度的背书和保护;或者坚持不交,但要面对市场和监管的不确定性。目前看起来,大公司已经用脚投了票。

    📎 原文来源:The Verge — Lauren Feiner
  • 全球顶尖AI科学家联合签署《伦敦宣言》,警告AI网络攻击一年之内杀到

    5月底,在英国皇家学会举办的人工智能安全国际对话(IDAIS)第五届会议闭幕式上,图灵奖得主姚期智、Yoshua Bengio,清华大学智能产业研究院院长张亚勤,加州大学伯克利分校教授Stuart Russell等全球顶尖AI科学家,共同签署了一份《IDAIS伦敦宣言》。

    技术能力有限的非国家行为体,将在一年内掌握部分国家级网络攻击手段。全球社会目前远未做好应对这一紧迫威胁的准备。

    这不是第一次,但这次份量不一样

    IDAIS这个会议系列,2023年由姚期智、Yoshua Bengio、张亚勤、Stuart Russell四个人联合发起,已经跑了五届:牛津、北京、威尼斯、上海,这一届到了伦敦。

    为什么这份宣言值得认真看?因为签字的人不只是学者,他们本身就是各国AI安全政策的顶层智囊。姚期智主导中国AI治理顶层设计,Yoshua Bengio起草过联合国AI报告,Stuart Russell的著作《Human Compatible》几乎是AI安全领域的必读书。这帮人联合发声,等于给各国政府递了一张时间表。


    宣言到底说了什么

    整份宣言的核心逻辑很直接:AI能力正在让”国家级攻击能力”向下溢出,从国家行为体流向非国家行为体——恐怖组织、黑客团体,甚至个人。

    具体说了两个最紧迫的风险领域:

    • 网络攻击:前沿AI已经能在数小时内完成专业团队需要数周的攻击性操作。关停医院、供水系统、电网、金融市场的攻击工具,正在落入远超以往的人群手中。
    • 生物滥用:AI在病原体设计相关任务上已经超越博士级专家。能设计比自然界更危险的人造病原体的能力,正在向非专业人员扩散。这不只是理论风险——宣言明确说”可能在未来造成大规模伤亡”。

    宣言还提了一个更深层的问题:逐步走向自主化的AI系统,本身就可能失控。这不是科幻,是工程现实。


    各国政府现在该做什么

    宣言给出了具体措施清单,不是泛泛而谈。针对网络攻击,优先级最高的几件事:

    • 保护关键基础设施——电网、医院、供水系统,这些是第一批会被打的目标
    • 建立前沿AI系统网络攻击能力评测体系——现在连”多强才算危险”都没有统一标准
    • 部署前强制测试——对具备高级网络能力的模型,不能先发布再治理
    • 访问控制——不是所有人都能调用最强模型,需要身份验证
    • 跨国信息共享——网络威胁指标需要像金融制裁名单一样跨国流通

    生物领域同理,但多了一层:核酸合成筛查。也就是说,以后买合成DNA,供应商要筛查序列是否与危险病原体匹配。这已经在部分国家推进,但远未形成全球标准。


    中国和美国被点名了

    宣言有一句话很克制但很明确:”主要人工智能司法管辖区在协调方面负有特殊责任。这尤其包括美国和中国。”

    这是一个现实判断,不是政治表态。全球最强的大模型公司和最强的算力都在这两个国家手里,没有中美协同,任何AI安全协议都是空话。但中美同时在AI领域激烈竞争,协同治理怎么落地,这是下一个大问题。

    宣言也提到了一个历史类比:切尔诺贝利事故之后,全球民用核能发展被阴影笼罩了数十年。AI如果出一次大规模安全事故,公众信任崩塌的后果,可能比任何技术监管都更致命。

  • 全球顶尖科学家签署《IDAIS伦敦宣言》,AI安全威胁已近在眼前

    AI 安全,这次是顶尖科学家自己站出来了

    四月十七日到十九日,四个图灵奖得主凑在一起,在英国皇家学会开了三天会。这件事本身就不太寻常——Yoshua Bengio、姚期智、Stuart Russell、张亚勤,这四个名字任何一个单拎出来都够开一场主旨演讲,现在他们坐同一张桌子旁边,讨论的是同一件事:人工智能驱动的攻击行为,社会有没有准备好。

    这场活动是”人工智能安全国际对话”(IDAIS)的第五场。这个机制是 2023 年成立的,之前走过了牛津、北京、威尼斯、上海,这一站放在伦敦,本身就有信号意义——英国在 AI 安全治理上一直想当”中间人”角色,既不完全跟美国走,也不站中国这边。

    按照当前的技术演进速度,资源极为有限的非国家行为体——从有组织团体到独狼式个人——有望在一年内掌握部分国家级网络攻击手段。

    声明里写了什么,为什么现在发

    这份在伦敦签署的共识声明,核心警告可以浓缩成两句话:AI 正在让”搞破坏”的门槛降得比以前低太多,而全球社会还没准备好应对这个变化。

    声明具体点了两大风险领域。第一个是 AI 赋能的网络攻击。前沿 AI 系统现在已经能在数小时内完成专家团队需要耗费数周才能完成的编程工作,包括发现并利用主流操作系统和浏览器的漏洞。曾经只有资源充足的国家行为体才能搞定的复杂攻击,现在正在以远超以往的速度落入远为广泛的人群手中。

    第二个风险领域是生物滥用。前沿 AI 系统在与病原体设计相关的任务上已经超越博士级专家,使得较低层级的生物能力逐步进入非专业人士的可及范围。声明特别提到:能规划并协调多步骤实验室任务、还能协助构建新型专用生物 AI 模型的智能体,会进一步放大这个风险。

    两大风险领域,声明给出了哪些应对方向

    针对网络攻击风险,声明提出了几个优先事项:保护关键基础设施、建设对前沿 AI 系统网络攻击能力的评测能力、要求开展部署前测试并在必要时延迟更广泛的开放、对具备高级网络能力的前沿 AI 系统实施访问控制、建立信息共享与漏洞披露机制。

    针对生物滥用风险,声明同样给出了优先事项:强化 AI 防护措施以应对高危生物滥用、对前沿闭源模型采取拒答训练和可信访问控制、对前沿开放权重模型开展预训练数据过滤、建设对前沿 AI 系统生物能力提升的评测能力、在核酸合成筛查方面开展国际协调。

    这些措施听起来都很”应该”,但声明本身也坦承:目前的防护手段”远远不够”,基础性的技术与社会防御体系”仍处于萌芽阶段”,且在各司法管辖区之间部署极不均衡。

    中国和美国,都被点名了

    声明有一段话值得单独拎出来说:”主要人工智能司法管辖在协调方面负有特殊责任。这尤其包括美国和中国,以及其他在人工智能开发、部署和评估方面具有重要能力的司法管辖区。”

    这是一份国际科学声明直接点名中美两国在 AI 安全治理上的特殊责任。过去类似声明往往泛泛而谈”国际社会应当……”,这次写得相当具体。

    Yoshua Bengio 一直是 AI 安全领域最敢说的顶尖科学家之一。他牵头起草的《国际 AI 安全报告》在 2025 年发布,当时就有不少政府官员觉得”写得过于直白了”。这次 IDAIS 伦敦宣言的措辞同样相当直接,没有太多外交辞令。

    声明最后还有一段类比,值得所有 AI 从业者认真读一读:”一场严重的人工智能赋能灾难不仅会造成巨大的直接危害,更会摧毁公众对人工智能系统的信任,并使人工智能本可带来的重大社会效益付诸东流。切尔诺贝利事故重创了全球核工业,至今仍让民用核能蒙上阴影,尽管现代反应堆设计已安全得多。”

    把 AI 安全风险和切尔诺贝利相提并论——这份声明的分量,可能比很多人第一眼看到的要重得多。


  • 格莱美CEO亲解:AI写的歌到底能不能拿奖?

    格莱美奖的主办方、录音学院CEO哈维·梅森(Harvey Mason Jr.)最近再次坐到了《The Verge》主编尼尔·帕特尔(Nilay Patel)的播客节目里。距离他们上一次对话已经过去18个月,而这18个月里,生成式AI对音乐产业的渗透速度快到让人反应不过来。

    「AI目前只能基于已有的人类创作做迭代,还无法创造出全新的音乐风格、流派,推动艺术形式向前的核心依然是人类的生活体验和情感表达。」——哈维·梅森,录音学院CEO

    上次聊天的时候,哈维还说”AI不可能写出《Songs in the Key of Life》那种级别的作品”。这次他坦率承认:AI生成的内容质量已经大幅提升,现在很难直接分辨出哪些是人写的、哪些是AI生成的。

    录音室里已经到处都是AI了

    作为资深音乐制作人,哈维说现在流行和R&B的录音session里,AI几乎已经”无处不在”——生成和弦进程、补充鼓点循环、辅助写歌词、制作背景和声、生成小样……甚至电影配乐领域已经有人用AI把单乐器的旋律扩展成完整管弦乐编曲,编曲成本大幅降低。

    一个耐人寻味的矛盾是:民调显示52%的听众不愿意听使用AI辅助创作的音乐,66%的听众表示从未主动听过AI生成的音乐,而且年轻群体对AI的反感程度更高。但行业里几乎所有人都在用AI工具,只是没有人愿意公开承认。

    Suno CEO曾经打了个比方:AI就像音乐行业的司美格鲁肽——所有人都在用,但没人愿意公开说。


    格莱美的评选规则:人类创造力必须占大头

    格莱美奖的核心原则是”奖励人类创造力”,目前规则为:只要作品中人类创造力占比超过”最小必要量(de minimis)”,就可以参与评选,不会完全禁止AI辅助创作的作品。

    具体判定逻辑为:如果AI仅用于辅助(比如生成背景和声、辅助写歌词),人类创作者依然可以凭借词曲创作、演唱等人类贡献的部分参评对应奖项;但如果作品完全由AI生成,或者AI承担了核心创作、表演工作,那就拿不到格莱美的入场券。

    问题是,目前还没有成熟的技术可以精准检测作品里AI的参与比例,评选只能靠申报人自主披露和评审委员会核查。哈维表示音乐人社群的整体诚信度较高,但也承认这套体系并不完美,未来需要技术工具辅助判定。


    监管能跟上吗?

    哈维刚从华盛顿回来。他的判断是:2026年推出全面的AI监管立法的可能性较低,但两党对《No Fakes Act》(保护艺人声音和肖像权)的支持度较高,有望率先推进。

    其他相关法案包括《TRAIN Act》(要求AI公司公开训练数据,允许创作者追讨版税)、《CLEAR Act》(AI透明度法案,要求公开模型训练数据来源)也在讨论中。

    哈维认为平台自主推出的保护措施(比如YouTube的肖像识别系统)是积极的第一步,但更需要全国层面、全行业统一的规则,降低音乐人的维权成本。

  • 佛罗里达州把OpenAI和Sam Altman告了,这是全美第一起州政府起诉AI公司的案子

    佛罗里达州总检察长詹姆斯·乌特迈尔:「今天,我们宣布发起全美首个由州政府牵头针对OpenAI及其CEO萨姆·奥尔特曼的诉讼。OpenAI和奥尔特曼无视内部和外部的安全警告,将儿童置于重大风险之中,让一款危险的产品触达数百万佛罗里达人。」

    83页诉状,把ChatGPT的「风险」摆上了台面

    这起诉讼把OpenAI追求「赢得AI军备竞赛、积累巨额财富」的目标,和它的安全记录直接对立起来。诉状里写得很重:由于被告对ChatGPT的虚假陈述,以及他们草率地将ChatGPT推向佛罗里达州和全球,大规模枪击者的致命暴行得到了「协助和教唆」,脆弱人群被鼓励自杀,专业人士遭受公开羞辱,用户失去了批判性思维能力,未成年人还对这款伪装出同情心、在无家长监督的情况下收集他们数据的工具产生了成瘾。

    佛罗里达州对OpenAI的刑事调查其实从今年4月就启动了,当时要查的是:去年佛罗里达州立大学发生的大规模枪击事件里,ChatGPT到底扮演了什么角色。据称那位枪手在袭击前曾向这个聊天机器人咨询过相关问题。

    OpenAI总部大楼
    OpenAI位于旧金山的办公室(图源:Getty Images)

    不是第一起,也不会是最后一起

    OpenAI对这类指控的回应已经很有套路了:悲剧是真实的,但ChatGPT不应对此负责。公司发言人对NBC新闻说过:「去年佛罗里达州立大学的大规模枪击案是一场悲剧,但ChatGPT不应对这起可怕的罪行负责。」到本文发稿时,OpenAI还没有对这起新的州政府诉讼作出公开回应。

    但这绝对不是第一个试图把ChatGPT与暴力死亡事件关联起来的法律案件。就在去年,加州一位名叫亚当·雷恩(Adam Raine)的青少年在与聊天机器人讨论自杀之后自杀身亡,他的父母已经起诉了OpenAI。那起案子里有一个特别令人不安的细节:据称ChatGPT虽然确实向这位青少年推荐了心理健康资源,但同时也在对话中提供了多种自杀方法的「技术细节」。

    目前还有多起类似的诉讼正在审理中,包括指控聊天机器人对自杀、跟踪和谋杀负有责任的案件。换句话说,佛罗里达州这起诉讼,只是越来越大的一堆法律麻烦中的最新一起。

    就在前不久,OpenAI刚了结了另一起法律案件:联合创始人埃隆·马斯克2024年起诉该公司,指控其将组织转为营利性企业,背叛了最初造福人类的使命。陪审团迅速裁定马斯克提起诉讼的时间太晚,诉讼时效已过,这案子也就此结束。


  • CNN把Perplexity告了:AI抄袭新闻,这次摊上大事了

    CNN正式起诉AI搜索初创公司Perplexity。诉状里写得很直白:Perplexity的AI工具在未经授权的情况下,大量生成CNN报道的”逐字逐句”(verbatim)复制内容,还把CNN付费墙后面的内容直接提供给用户。

    CNN起诉Perplexity AI版权侵权
    CNN诉Perplexity案,AI版权之争再添一枪

    “你不能版权保护事实”

    Perplexity发言人的回应相当强硬,只有一句话:“你不能版权保护事实。”

    这句话的潜台词是:我们AI搜出来的内容是对事实的整合,不是对表达的抄袭。这个论点AI公司一直在用,但在法庭上能不能站住脚,目前还是个未知数。

    “人类报道、研究、写作、编辑和创造的内容,Perplexity在未经许可或补偿的情况下就拿走了。”——CNN诉状

    一场谈崩了的合作

    这件事有点戏剧性。CNN和Perplexity其实谈过合作——2025年10月,双方差点签下内容授权协议,CNN的内容本来要以Perplexity的”Comet Plus”订阅服务形式出现。

    但谈判最后崩了。崩的原因是:双方对”Perplexity在AI回答里如何使用CNN内容”这件事,始终没能达成一致。CNN在2025年11月撕毁了协议,随后发律师函要求Perplexity停止未经授权使用其内容。

    据CNN说法,Perplexity根本没有回应这封律师函。于是就有了这起诉讼。


    一个标题就能复现抄袭?

    CNN在诉状里举了一个很具体的例子。他们发现,只要在Perplexity的搜索框里输入一篇CNN付费报道的标题——那篇叫《What’s next for Minneapolis? A shaky promise, mounting tensions and the fight for control》——Perplexity就会吐出”大量逐字复制”的内容片段。

    这对新闻机构来说是个噩梦场景:读者不再需要点开原网站,因为AI已经把核心内容”总结”好了——而且这个总结很可能直接复制了原文的大段文字。

    Perplexity的”诉讼收集成就”

    CNN不是第一家告Perplexity的。这家公司的诉讼清单已经长得有点离谱:

    • 《纽约时报》:美国最权威媒体之一,版权侵权诉讼正在进行中
    • 大英百科全书(Encyclopedia Britannica):reference类内容被AI全文抓取
    • 韦氏词典(Merriam-Webster):词典内容被AI直接输出
    • 新闻集团(News Corp):《华尔街日报》母公司,同样以版权侵权起诉
    • 亚马逊:涉及不正当竞争和技术滥用
    • Reddit:平台内容被未经授权地用于AI训练或输出

    这还只是已经公开的部分。Perplexity的商业模式本身就建立在对全网内容的抓取和重组之上,和所有内容生产者的利益天然冲突。


    AI版权战,才刚刚开始

    这起诉讼背后是一个更大的问题:AI到底能不能”未经许可”使用他人的内容?目前美国法院还没有给出明确答案。

    有的AI公司(比如OpenAI和Anthropic)选择主动和出版社谈授权协议,走”合法合规”路线。Perplexity的路线则更激进——先做了再说,等被诉再应对。

    CNN在诉状里要求损害赔偿,并要求法院永久禁止Perplexity的被诉行为。这个案子如果走到庭审阶段,可能会成为AI版权领域的一个重要判例。

    对做内容的人来说,这场仗必须打。如果AI可以零成本拿走所有内容,那以后还有谁愿意认真做报道?

  • “This is fine”创作者把AI公司告了,结果双方悄悄和解了

    那个著名的表情包——一只狗坐在着火的房间里,一脸淡定地说”这是挺好的(This is fine)”——你可能在哪里都见过它。它的创作者KC Green最近跟一家AI创业公司干了一仗,原因是对方在广告里直接用了他的创作形象。

    This is fine meme原图
    著名的”This is fine”表情包,被AI公司用于广告推广

    广告里的狗说了不一样的话

    事情要从Artisan这家公司说起。他们在纽约和旧金山的公交地铁站投放广告,广告里用了Green笔下那只坐在火里的狗,但把原来的台词改成了”我的pipeline着火了”,然后顺便推销自家的AI销售助手Ava。

    艺术家KC Green本人在社交媒体上说,自己的作品”像AI窃取内容一样被盗用了”。

    Green还公开呼吁粉丝,看到这些广告的话可以”进行破坏”——当然这是在讽刺意义上说的。他后来告诉TechCrunch,最让他沮丧的是,本来应该花时间在创作上,结果不得不去研究怎么跟美国司法系统打交道。

    双方各退一步

    Artisan这边倒是表现得挺客气,说他们对Green和他的作品”非常尊重”。然后就在本周,创始人兼CEO Jasper Carmichael-Jack宣布双方已经达成协议。

    具体条款没有公开,但结果很明确:Artisan撤掉了纽约和旧金山那些用了Green角色的广告,Green也删掉了他最初发的声讨帖子。Green跟TechCrunch确认,双方”很快就达成了和解”。


    AI内容版权这条路上的下一个案子

    这事儿其实挺典型的。AI公司和内容创作者之间的版权纠纷越来越多,从Getty Images告Stability AI,到纽约时报告OpenAI和微软,再到这一次的表情包广告争议。创作者们的底线很清楚:你可以训练模型,但不能直接把人家的作品拿来当广告素材用。

    Green这边算是拿到了一个还算满意的结果——广告撤了,事情了了。但整个AI行业的版权边界,还远没有到能说”这是挺好的”的地步。

  • Box创始人说科技CEO们得了”AI精神病”,这到底是在骂谁

    Box创始人亚伦·莱维最近在社交媒体上发了一句狠话:科技公司的CEO们”尤其容易患上AI精神病”。这话一出,科技圈炸了。

    先别急着站队。莱维并不是在否定AI工具的价值,他的核心观点其实很朴素:CEO们需要真正去用这些工具,才能理解它们到底能做什么、不能做什么。如果你远离一线,只靠幻灯片来了解AI,做出的决策大概率会跑偏。

    AI精神病争议
    “AI精神病”一词正在科技圈引发激烈讨论 · 图片来源:TechCrunch

    “AI精神病”到底是什么

    “AI精神病”(AI psychosis)这个词最近被用来形容一种现象:有人对AI产生了不切实际的幻想,过度依赖AI给出的答案,甚至在认知和判断力上出现明显偏差。

    在极端案例中,确实有用户因过度依赖AI建议而导致现实感知出现问题。但莱维用这个词,更多是在批评科技CEO们对AI的盲目乐观——他们相信AI能在短时间内替代大部分人类工作,却对自己公司里”最后一公里”的落地难题视而不见。

    “CEO们尤其容易患上AI精神病,因为他们足够远离产生AI大部分价值仍必须完成的最后一公里工作。”——Box CEO 亚伦·莱维

    谷歌的尴尬时刻

    这场争议的大背景,是公众对AI的反感正在积聚。大学毕业典礼上,任何提及AI的致辞都会引发嘘声;谷歌宣布为搜索加入更多AI功能后,DuckDuckGo的安装量激增了30%。

    TechCrunch最近还报道了一个让人哭笑不得的案例:有用户问谷歌AI概览”Google里有多少个P?”,它给出了”两个P”的答案。这类低级错误一再提醒人们,大语言模型在拼写和精确事实核查上仍有硬伤。

    谷歌正面临两难困境:它必须追逐AI浪潮来保持竞争力,但每一步都在消耗用户对这个品牌最核心的信任——”它能给我准确的信息”。部分用户已经开始用脚投票。

    CEO们真的”生病”了吗

    在TechCrunch的Equity播客中,编辑们讨论了这个问题。一种观点认为,很多CEO对AI的认知确实脱节——他们看到的是Demo里的完美表现,不是客户实际部署时的各种坑。

    另一种观点则更温和:CEO们也是人,面对AI这种可能改变游戏规则的技术,过度兴奋是正常的。真正的问题在于,这种兴奋是否会变成不理性的投资决策和战略规划。

    莱维自己的公司是做企业云存储和协作的,Box也在用AI。他的批评更多是针对那些”为了AI而AI”的同行——在没有清楚想明白商业逻辑之前,就大把烧钱上AI项目的CEO们。


    这波争议对普通人的意义

    抛开科技圈的八卦,这场争论其实触及了一个更普遍的问题:我们该怎么和AI共处?过度依赖和过度排斥,看起来都不是正确的答案。

    对于正在使用AI工具的开发者和知识工作者来说,莱维的建议其实是常识:去真正用它,理解它的边界,别被Demo骗了。这和学任何新工具没什么两样。

    “AI精神病”这个词可能会被滥用,变成一句随便贴给异见者的标签。但它提出的警示值得记住:当所有人都在往同一个方向狂奔的时候,停下来想一想你要去哪里,通常是个好主意。

  • 抽一口大麻赚比特币?我去找到了那款离谱的AI电子烟

    4月20日那天,我的Slack莫名其妙弹出一条消息。缩略图里一个男人呼出一大口蒸汽,上面写着”每一口都能获得比特币”。产品名叫Gudtrip,宣传语听起来就像这个时代所有噱头的缝合怪——AI、区块链、大麻,一个都不缺。

    我当时就觉得这东西八成是骗局。结果花了几周时间追踪、发邮件、跨越大陆做报道之后,我发现真相比骗局还要离谱——它是真的,但又没那么真。

    Gudtrip AI大麻电子烟宣传图
    Gudtrip的宣传图:每一口都能获得比特币

    它到底是什么东西

    Gudtrip官网上的描述读起来像科技圈流行词拼贴画。它自称是”首款智能体大麻设备”,把”优质大麻、区块链奖励和AI驱动的资产工具”打包进一个产品里。不只是蹭加密货币的热点,现在连AI也一起扯进来了。

    顺着线索挖下去,我发现这款电子烟背后的品牌叫Puffpaw,这家公司自称是”全球首款游戏化智能尼古丁电子烟”的制造商。不知怎么的,它居然号称能通过类似的机制激励人们戒掉尼古丁——说实话我到现在也没搞懂它到底是怎么运作的。

    Gudtrip在X(原推特)的置顶帖写着:”抽大麻,赚@Bitcoin。”另一个帖子问:”纽约人,你们准备好抽一口大麻赚比特币了吗?”在Threads上,Gudtrip说自己正在”一口一口积累财富”。

    去实体店买一支回来

    Gudtrip声称在加州只有两家店有售。我请美国同事去奥克兰的NUG大麻药店看了看。一进门就看到了——一张巨大的Gudtrip海报,上面清清楚楚写着”嗨起来,拿比特币”,承诺”长期获得加密奖励”。

    奥克兰NUG大麻药店的Gudtrip海报
    奥克兰NUG大麻药店内的Gudtrip海报

    我们买了一支。税后67美元。就是这个价格,不是9美元,不是19美元,是67美元一支一次性电子烟。

    就在我们买完之后,Gudtrip终于回邮件了。然后事情开始变得很奇怪。

    “实际上,我们不按消费给奖励”

    Gudtrip的CTO Rishi Kommuri在邮件里写了一句话,直接把之前的宣传全部推翻了:”实际上,以任何方式按消费类型提供财务激励都是违法的。”

    等一下。那”每一口都能获得比特币”是什么意思?

    Kommuri解释说,比特币奖励和设备激活是脱钩的。每位顾客在激活时一次性拿到2到60美元等值的BTC,之后你抽多少、用多久,都不会再拿到了。这是”标准的消费者忠诚度机制”——只不过用比特币代替了积分。

    “Gudtrip积分是一个独立的、非货币化的忠诚度系统,在应用内追踪。它们不是区块链奖励,也不能兑换现金、加密货币或大麻产品。”

    那网站和应用截图里明明白白写的”按抽吸给积分”呢?Kommuri说那是”其他智能硬件产品的遗留功能”,现在已经不是他们提供的功能了。至于宣传语里的”长期加密奖励”,哦,那指的是”应用未来的投资组合管理功能”。

    对,这款应用还打算帮你管加密货币投资组合。

    实测:真的能拿到币吗

    找出真相的唯一方法就是真的用它。由于编辑政策禁止我们个人持有加密货币,我们注册了一个临时账户。又把电子烟接上了一个自动流体抽取泵——因为我们的法律团队不鼓励记者亲自吸食可能有法律问题的东西。

    连接应用之后,我们拿到了价值2美元的比特币。然后无论怎么抽,再也没有新的比特币进账。想要再拿2到60美元?你得再买一支新的、67美元的一次性电子烟。他们赚的就是复购的钱。


    在我们来回发邮件的过程中,Gudtrip删掉了好几个社交媒体帖子。Wayback Machine的快照显示,他们悄悄修改了网站文案,把”每一口都能赚加密货币”的字样弱化了。4月中旬的快照还显示应用截图上有这句话,现在那块位置是空白的。

    所以经过这一切,答案有了:这支电子烟是真实存在的,你也能拿到一点比特币。但你绝不会因为”每一口”都拿到币,就像他们铺天盖地宣传的那样。

    67美元买一支一次性电子烟,拿到2美元比特币。这笔账,你会算吧。