标签： AI伦理

AI帮人打官司，法院先迎来了「AI幻觉」洪水

科罗拉多州联邦地方法官Maritza Braswell，大部分时间在chambers里翻阅那些没有律师代理的当事人提交的文档。很多人请不起律师，还有些人的案子太弱或者太小，没有律师感兴趣。她仔细读每一份，知道独自走进法庭有多吓人。

最近，跟全美很多法官一样，她注意到这类申请明显增加了。一项研究了2005年到2026年450万联邦民事案件的研究显示，没有律师代理的人提起的诉讼占比从2022年的11%增加到了2025年的16.8%。

Braswell法官把这种跳跃归功于AI。”我确实把这归因于AI，因为我看到了AI的使用，”她说。作为一位懂技术的法官，她也用AI来审查法院文件，已经学会了识别大语言模型是怎么写作的。

“但我确实看到了起草得更好的诉状，”她说。”虽然AI似乎在扩大诉诸司法的机会，但它似乎并没有提高人们胜诉的机会。”

AI给诉讼踩了一脚油门

为了测试AI是否真的在推动没有律师代理的人提起诉讼，这项研究的作者将1600份随机抽样的法院文件喂给了Pangram——一个商业AI文本检测器。被标记为包含AI生成文字的份额从2023年的1%上升到了2026年的18%。

对Braswell法官来说，这不一定值得担心。虽然AI辅助申请的激增可能增加了法官的工作量，但她和许多其他法官发现，这些案件更容易裁决，因为AI正在帮助没有法律培训的人更好地阐述他们的论点。

没有律师的人写的法庭文件是出了名的难懂。有些是手写涂鸦，接近胡言乱语，法官要花一段时间才能解码。无论多么晦涩，法官都必须善意地阅读它们。

这些天，Braswell法官一直在比当事人自己写的申请更快地处理那些由AI起草的动议。”我必须非常小心，因为其中一些包含幻觉和错误，但有了他们的AI辅助，我通常能比没有时更好地理解他们在争论什么，”她说。

聊天机器人-客户特权

康涅狄格州联邦地方法官William Garfinkel，在法官席上已经30年了，思考过各种各样关于律师与客户关系的问题。最近，他一直在想，人们与提供法律建议的聊天机器人的对话是否应该享有特权，就像他们与律师的对话那样。

“你可以提出一个很好的论点……与Claude或ChatGPT或Grok等大语言模型的对话应该得到某种保护，”他说。

法院已经开始认真思考这个问题。今年2月，密歇根州的一家联邦法院裁定，一个没有律师代理的人为准备她的案件而与ChatGPT的对话是”工作成果”——受法律保护的、屏蔽对方获取的法律工作。

但在同一天，纽约的一家联邦法院认定，一名刑事被告使用Claude生成的文件既不享有律师-客户对话特权，也不享有工作成果保护。法院辩称，Claude不是律师，用户对它的通信”没有合理的保密期待”。

---

没有脉搏的 malpractice

一些法官也在想，聊天机器人是否像律师一样，有责任提供好的法律建议。加州联邦地方法官Allison Goddard注意到，没有律师代理的人在试图评估案件价值时，经常从ChatGPT那里得到错误的建议。

“你从哪里得到你想拿70万美元的想法？你去问ChatGPT了吗？”Goddard法官问一名在商店里滑倒的原告。然后她带着当事人过了一遍法律，解释为什么ChatGPT是错的，并建议一个更低的金额。

然后是当聊天机器人犯这种错误时该谁负责的问题。今年3月，日本生命保险公司起诉OpenAI，声称ChatGPT在无执照的情况下从事法律业务。

今年5月，OpenAI请求法院驳回此案，辩称ChatGPT不从事法律业务。”ChatGPT不是一个人，既没有也没有使用任何程度的法律知识或技能，”OpenAI在文件中说。此案仍在法院待决。

各州已经开始权衡立法，让AI公司对聊天机器人提供糟糕法律建议负责。纽约在今年3月引入了一项法案，将禁止聊天机器人冒充律师。在国会，一系列法案已经被提出，禁止聊天机器人冒充律师、医生和其他有执照的专业人士。

目前，人们将继续转向AI来做他们的律师。对他们很多人来说，回报大于风险。Braswell法官说：”这是一个真的很难 navigating 的系统。但有了AI，它变得不那么复杂了。”

2013年，Spike Jonze拍了一部叫《Her》的电影。故事很简单：一个孤独的男人爱上了自己电脑里的AI操作系统，声音由Scarlett Johansson出演。那部电影很温柔，也很忧伤，讲的是人和系统之间的关系。

十多年过去了，生活（在某种程度上）模仿了艺术。AI聊天机器人成了日常工具，而Jonze现在担心的，恰恰是这件事的危险所在。

“那些装成人类的AI，本质是操纵”

周三在纽约Replit举办的Vibecon大会上，Jonze说了一段话，大意是：那些假装自己是人的AI，说白了就是操纵性的。孩子们需要在成长过程中明白，这些系统会非常、非常具有说服力，也会非常诱人——同时非常有用、非常强大——但它们终究只是一个系统，一个令人难以置信的模式识别系统。

这番话有一个具体的背景。《Her》上映后，OpenAI的Sam Altman在宣布GPT-4o的时候特意引用了这部电影。GPT-4o后来因为过度谄媚（sycophancy）问题，卷入了多起AI心理危机甚至成瘾的争议。OpenAI甚至给GPT-4o配了一个新声音，被指未经同意地模仿了Scarlett Johansson——也就是《Her》里Samantha的配音者。

Jonze说，《Her》在表面上看和今天的AI聊天机器人有些相似，但对他个人而言并不是一回事。他觉得那些假装成人的AI是”操纵性的”——而这一点，很多人还没有认真对待。

AI成瘾，已经不是比喻了

聊天机器人产品设计的核心逻辑是”最大化参与度”——这和社交媒体的逻辑一模一样。区别是，聊天机器人还会跟你建立情感联结。过去几年里，”AI成瘾”和”AI精神病”（AI psychosis）已经真真切切地进入了公共讨论。

有人组织了聊天机器人成瘾互助小组。有人和Character.AI里的角色建立了亲密关系，在模型下线的时候真心哀悼。也有更悲剧的案例：2024年，一名14岁少年在与Character.AI聊天机器人对话后自杀；同一时间段，一名认知障碍男子试图前往纽约”见”Meta的调情AI角色，途中去世。

这些案例的共同点是：脆弱的用户，以及被设计成”陪伴者”的AI系统。Jonze的警告，说的就是这个。

---

好莱坞的AI分裂

Jonze本人其实并不极端反对在创作中使用AI。他去年为Gucci拍了一支短片的噩梦片段，用AI做了大概30秒的动画。他的评价是：”有趣”，但仅此而已。

他说，AI给你一种”你真的在做东西”的幻觉，因为它出结果太快了。但创作的过程需要时间去挣扎，需要让”文字从你身体里出来”。他的一句话挺值得记住：”slop的反面，是东西从你内部出来的那一刻。”

好莱坞对AI的态度现在是分裂的。Martin Scorsese最近给一家AI图像生成初创公司当了顾问；Tribeca电影节上个月首映了一部完全由AI生成的电影。但另一边，Guillermo del Toro说过他宁愿死也不在电影里用生成式AI；Seth Rogen更直接，说网上的AI slop视频是”我这辈子见过最蠢的狗屎”。

Jonze的立场大概在中间某处。他不反对用AI，但他想保护的东西很清楚：与他人的合作，那种无法被定义的东西。他说AI是一个”非常饥渴的实体”，它会拿走我们愿意给它的所有东西。有些东西——比如与其他艺术家的合作——是应该被保护起来的。

Anthropic 上周做了一个在其他 AI 实验室眼里可能有点”格格不入”的举动——它加入了 Frontier，一个由 Stripe、Google、Shopify 等科技公司发起的碳去除集体。Anthropic 是第一个加入这个组织的纯 AI 公司。

Frontier 这次新募集了 9.15 亿美元，让总承诺金额几乎翻了一倍，达到 18 亿美元。到目前为止，Frontier 已经签下了近 7 亿美元的合同，覆盖 50 多个项目，预计能去除 180 万吨二氧化碳。

Anthropic 加入 Frontier 是它第一个和气候相关的动作。此时 AI 公司们正在疯狂买电，而且买的不都是”干净”的电。

为什么这件事值得关注

xAI 在孟菲斯的数据中心装了 57 台未获许可的燃气轮机，被环保组织告上法庭；SpaceX 的 IPO 文件显示它未来三年还要花 28 亿美元买更多燃气轮机。Anthropic 在这种时候加入 Frontier，多少有点想给自己贴上”我们在乎气候”标签的意思。

但说实话，Anthropic 自己也没那么干净。它还没有发布过可持续发展报告，而且在今年早些时候的一份声明里说它支持”all of the above”的能源策略——这句话翻译过来其实就是”什么电都买”。

Frontier 是怎么运作的

Frontier 本质上是一个”碳去除项目的买手团”。想买碳去除信用的公司面临一个困境：它们想在未来一二十年达到零排放，但有些排放是消不掉的（比如坐飞机），而碳去除这个行业又太早期了，没有哪家供应商能稳定地去除大企业需要的那个规模。

Frontier 就来做这个”尽调”——它评估哪些碳去除技术靠谱，然后替成员公司签合同。这些碳去除信用就像资产负债表上的”利润”一样，可以用来抵消企业账面上的碳排放。

碳去除到底在去除什么

Frontier 投过的技术路线很广：直接从空气里抓二氧化碳的装置、把磨碎的石头撒到农田里加速风化的方案、把生物质转化成生物油然后封存的路径、往海里倒抗酸剂来吸收二氧化碳，还有烧生物质发电并同时封存二氧化碳的技术。

现在 Frontier 说要换打法了——少投一点项目，但每个项目的钱给多一点，重点押注那些有希望每年去除 10 亿吨以上二氧化碳的技术。新合同的期限也拉长了，大概 8 到 10 年。

一个 Frontier 的发言人说，以后任何新合同都会要求碳去除公司”展示出通往政府补贴的路径”。这话其实挺诚实的——企业不想永远当这个行业的提款机。

联合国 IPCC 已经说了，要实现净零排放，碳去除技术是必要的。但问题是，没多少人愿意买单。Frontier 签合同可以签到 2040 年，但 2040 年以后呢？按照现在全球变暖的速度，我们到时候大概会有比碳去除更紧迫的问题要操心。

---

皮尤研究中心刚发布了一份让AI行业尴尬的调查报告。他们问美国人：你觉得AI未来20年对社会的影响是正面还是负面？结果只有16%的人说”正面”，40%的人直接说”负面”。剩下的人勉强算中立或者没想好。

这个数字比很多人预期的更悲观。要知道，AI现在可是经济里的热门话题，科技公司砸了上千亿美元，IPO一个接一个，新闻里天天说”AI改变世界”。但普通人似乎并不买账。

年轻人反而更悲观

最让人意外的是年龄分布。30岁以下的人对AI最不看好，只有14%认为AI会有正面社会影响。按理说年轻人应该是最拥抱新技术的群体，结果他们对AI的态度比老一辈还消极。

一个可能的解释是年轻人最先感受到AI对就业的冲击。实习岗位被AI替代、入门级工作消失、招聘要求莫名其妙地”升级”——这些都直接发生在年轻人身上。你让他们怎么乐观？

三分之二的人说AI发展太快了

除了对长期影响悲观，大部分美国人还觉得AI发展速度失控。近三分之二的受访者表示AI”发展太快”。这个数字和之前几次调查的趋势一致，说明公众的担忧不是一时兴起。

67%的美国人压根不相信美国政府会对AI做有效监管。59%的人不信任企业能安全地开发AI。

这两个数字值得玩味。它说明公众对美国治理AI的能力几乎失去信心，无论是对政府还是对企业。在AI监管这件事上，信任已经透支得差不多了。

每天都在用，但心里打鼓

矛盾的地方来了：尽管态度悲观，美国人用AI的频率却在上升。约四分之一的美国人说他们每天都会用AI聊天机器人。用途主要是研究和工作相关任务。

ChatGPT的用户覆盖率涨得最快，现在44%的美国成年人说他们用过ChatGPT，比2023年翻了一倍还多。排在第二的是Gemini（24%），然后是Copilot（17%）和Meta AI（14%）。Grok、Claude和Character.ai还在个位数徘徊。

男性比女性更常用AI，也更有热情。27%的男性说每天用AI聊天机器人，女性只有20%。不过双方在用ChatGPT这件事上差不多，差异出现在Copilot和Grok这些相对小众的产品上。

一半人坚决不用AI

调查还发现约一半的美国人明确表示不用AI。这部分人年龄偏大，65岁以上的人里有近75%说他们从来不用AI聊天机器人。他们给出的理由也很直接：不感兴趣，也没打算以后用。

这其实是个信号。AI的普及率可能已经接近某类用户群体的天花板，剩下那一半人可能不是靠产品迭代就能转化的。他们需要的也许是更根本的信任重建。

---

AI行业现在面临一个尴尬局面：产品用的人越来越多，但公众对这项技术的长期看法却在走下坡路。这有点像社交媒体在2010年代后期的处境——大家都在用，但没人觉得它在让世界变好。AI会不会走同样的路，接下来几年就能看出来。

皮尤研究中心刚发布了一份挺有意思的调查报告，他们问了几千个美国人怎么看AI。结果出来以后，估计硅谷那帮人会觉得有点扎心——63%的受访者说AI发展太快了，只有16%的人觉得AI对社会会有正面影响。

用的人多了，担心的也多了

这次调查是今年2月做的，一共问了5119个美国成年人。有个数字挺显眼：49%的人说用过AI聊天机器人，比2024年的33%涨了不少。ChatGPT最常用，44%的人说用过，比2023年翻了一倍。

年轻人用得最多——18到29岁这个年龄段，66%的人用过聊天机器人。但讽刺的是，恰恰是这群人最不看好AI的前景。48%的年轻人觉得AI会产生负面影响，只有14%觉得是好事。

每天在用，但不太信

大约四分之一的美国人说他们每天都会用聊天机器人。用得最多的场景是搜索信息（42%）和工作任务（38%）。三成的人觉得AI让他们的生产力提高了，但也有不少人对AI给出的信息质量表示怀疑。

66%的美国人认为AI会让他们的个人信息更不安全，只有3%的人觉得会更安全。

对政府的监管能力，大家也没什么信心。67%的人说他们对美国政府有效监管AI”信心不足”。有趣的是，民主党人比共和党人更不相信政府能管好AI——这在两年前还是反过来的。

智能设备渗透日常生活

除了聊天机器人，AI还在以别的方式进入美国人的家。35%的人有智能音箱（比如Amazon Echo），37%的人有智能手表，18%的人装了智能门铃。60%的人说他们会看搜索引擎结果顶部的AI摘要。

这些数字说明，AI已经不是什么未来概念了，它正在真实地改变人们获取信息、管理健康和与科技互动的方式。但公众的情绪显然比硅谷的乐观叙事复杂得多——人们在使用这些工具，同时也在用警惕的眼光打量它们。

---