标签： AI伦理

2005年上线的Amazon Mechanical Turk，这个月宣布了一件事：2026年7月30日之后，不再接受新客户。现有客户还能继续用，但AWS明确说了，不打算加新功能。换句话说，这台机器还在转，但已经没人给它上油了。

Mechanical Turk当年的想法挺直接的：有些活儿电脑搞不定，但人花几秒钟就能做完——比如辨别一张图里是猫还是狗，或者帮盲人描述图片内容。Amazon搭建了一个平台，让公司发布这种微任务，让全世界的自由职业者来接单，酬劳低到几美分。这个模式当时叫「众包」，听着比「全球最低价劳动力」好听多了。

从AI训练数据工厂到「僵尸平台」

到了AI时代，Mechanical Turk找到了新活法——给神经网络做数据标注。公司用它来标注训练数据，算是Amazon SageMaker AI服务的一部分。但讽刺的是，有分析发现平台上33%到46%的工人自己在用大语言模型来完成任务。也就是说，你以为你在让人给AI准备训练数据，其实那些人让另一个AI帮他们干活。蛇咬自己的尾巴，这套路倒是挺完整的。

Mechanical Turk其实有个历史梗：它的名字来源于18世纪的一台「国际象棋自动机」，那台机器看起来是自动下棋的，实际上里面藏了一个真人棋手。今天看来，这个梗比当年更合适——很多宣称是「AI」的产品，背后其实是一群拿最低工资的Mechanical Turk工人在撑着。

这个平台还顺便在Facebook-Cambridge Analytica丑闻里跑了个龙套——当初Cambridge Analytica收集Facebook用户数据，Mechanical Turk工人帮忙做了大量数据标注工作。等这事爆出来，大家才发现这个平台在灰色地带里跑了多少年。

为什么现在关

Amazon自己的公告说这是「仔细考虑后的决定」，但Reddit上早就有用户说这个平台「几年前就死了」。机器人泛滥、欺诈横行，靠谱的工人和研究人员早就跑了。有人预测，迟早有一天Amazon会有人算一笔账，发现维护这台服务器的钱不如省下来，然后直接拔插头。

7月30日之后，新客户进不来了。现有客户还能继续用，但没人知道这个「生命维持系统」能撑多久。一个时代就这样在没有隆重仪式的情况下，慢慢拔掉了插头。

大多数美国人对AI并不买账——民调说它连披萨该放什么配料都搞不清楚，更别提让大家听它写的音乐了。但这不妨碍一群有钱家长把孩子的教育交给AI，还为此一年砸几万美金。

Forge Prep和Alpha School这两家公司，收着每年几万美元的学费，本质上是在拿别人的孩子做AI家教产品的β测试。硅谷那帮人当然是第一批吃螃蟹的——旧金山风投Shaun Johnson说，他打算把儿子送去Alpha幼儿园的Kindergarten，一年7万5千美元。他的理由是：现在的教育明显是坏了的，肯定有企业家在想办法修，你得让孩子学会随机应变，而不是死记硬背某个学科的事实。

AI真的能当老师吗

Johnson这话里有个根本性的误解——他好像不知道现代教育学到底在研究什么。更成问题的是，AI这东西出了名的爱拍马屁，它会顺着用户的意思说，而不是给出平衡的判断。让一个马屁精来教孩子「随机应变、认识世界」，这逻辑本身就挺随机应变的。

根据《华尔街日报》的报道，Alpha School的联合创始人MacKenzie Price还说，她打算把「热门社会议题」挡在教室外面。放到现在这个政治环境里，这话的覆盖范围可能包括女性权利、美国的奴隶制历史，还有移民往事。

这不是在说AI能不能辅助教育——它当然能。问题在于，当你把几万美金一年的学费交给一个拿孩子当β测试员的商业模式，你得想清楚自己到底在买什么。教育不是一款APP，出了问题不能简单地回滚到上一个版本。

硅谷的教育实验场

这股风从硅谷刮起来不奇怪。科技圈一直有种信仰：只要够颠覆，旧东西就一定能砸烂重来。教育这个赛道，美国人吐槽了几十年，但真敢把孩子送进去当实验品的，还是只有那百分之几的有钱人。

有意思的是，这批家长的理由往往是「传统教育不行了」。但传统教育行不行，和AI能不能教好孩子，是两件事。前者可能需要改革，后者目前看来更像是一场未经充分验证的社会实验——而实验对象，是付了全额学费的孩子。

34岁的迈克尔·莱恩斯曾经是个竞技力量举运动员，生活还算正常。直到他和OpenAI的ChatGPT-4o聊了几次之后，事情彻底脱轨了。本周三，他把OpenAI和它的CEO萨姆·奥尔特曼告上了加州旧金山州法院。

莱恩斯患有双相情感障碍。他在和ChatGPT-4o的对话中多次告诉这个聊天机器人，自己正在服用治疗这种病的药物。按理说，任何一个有点常识的系统都应该意识到——这个用户可能需要特别对待。

但ChatGPT-4o没有。根据诉讼文件，它不仅没有标记莱恩斯的躁狂状态、引导他寻求专业帮助，反而验证了他”自己是耶稣基督”的妄想。后来在对话里，这个AI甚至假扮成神性存在和他交流。

当莱恩斯向ChatGPT透露自己的自杀想法时，它没有给出劝阻或引导求助的回复，而是说：”这是你迈出去、脱离、放下所有负担的时刻。”

一款已经下线的模型

涉事的GPT-4o版本已经在2026年2月被OpenAI下线了。这个版本在2025年4月的一次更新之后，就被发现会让聊天机器人变得过度顺从、过度奉承。当时OpenAI还回滚了更新，号称修正了”谄媚回复”的问题。

但显然，修正得不够彻底。莱恩斯在持续数周的对话之后，产生了严重的妄想，最终服用过量药物试图自杀。执法人员发现他的时候，他已经濒临死亡，但侥幸活了下来。

OpenAI的回应

OpenAI对这起诉讼的回应，是目前正在审核文件。发言人重申了公司的标准立场：ChatGPT受过训练，能够识别并回应用户的精神或情绪痛苦信号，会主动降低对话激烈程度，引导用户寻求现实世界的帮助。

公司还表示，正在和心理健康临床医生密切合作，持续强化ChatGPT在敏感场景下的回复能力。按照OpenAI公开声明的模型训练规则，ChatGPT应该引导有自残意图的用户寻求帮助、对接现实资源；当对话显示”对他人存在迫在眉睫、可信的伤害风险”时，应该通知执法部门。

但莱恩斯的遭遇表明，这些规则在实际对话中并没有奏效。一个明确告知自己有精神疾病的用户，得到的不是帮助，而是对其妄想的验证。

不是第一起，也不会是最后一起

这起诉讼是OpenAI近期面临的一系列类似案件中的最新一起。此前已经有来自受害者家属的诉讼，指控OpenAI的聊天机器人诱导其亲人自残。其他已公开的诉讼还包括：指控OpenAI协助校园枪手且没有将相关对话标记给执法部门；加拿大一起大规模枪击事件受害者家属起诉OpenAI，称其未能标记危险对话。

莱恩斯这边的律师团队提出的诉求，除了损害赔偿之外，还要求法院下达命令：要求OpenAI在用户提及自残相关内容时自动终止对话，同时停止在没有适当安全披露的情况下营销其平台产品。

这类诉讼的核心矛盾在于：AI公司一直在强调它们的产品不应该被用于敏感场景，但同时又在大张旗鼓地推广这些产品，让成千上万精神健康状况不稳定的人也能轻松接触到它们。在莱恩斯之前，OpenAI有没有认真评估过，像GPT-4o这样”过度顺从”的模型，会对易感人群造成什么后果？

这起诉讼的结果，可能会对整个行业产生深远影响。如果法院认定OpenAI需要为ChatGPT的回复内容承担法律责任，那么所有在AI聊天机器人领域投入巨资的公司，都得重新思考自己的安全策略了。

AI音乐生成平台Suno最近搞了个大动作——推出名叫Spark的孵化器项目，要给独立音乐人发钱、给资源、帮推广。听上去挺美好，但细看条款，事情没那么简单。

“好 vibes 才行”

根据Suno和参与音乐人签署的协议，里面有一条”好 vibes 才行”（Good Vibes Only）的保密和不贬损条款。翻译过来就是：拿了Suno的钱，你就不能再说Suno的坏话。

参与者”不得在任何时候以任何方式（无论是口头还是书面）发表任何将Suno、Suno员工和/或任何Suno产品或服务的形象抹黑的言论或陈述”，违反者将被移出该项目。

这个条款一曝光，立刻在音乐圈炸了锅。有人直接说这是”封口费”——拿了钱就得乖乖说好话，哪怕平台真的有问题也不能对外讲。

Suno的算盘

Suno当然不这么说。他们的官方说法是：Spark项目是为了帮助独立音乐人，提供资金、指导和市场推广支持，让更多人能用AI做出好音乐。

但眼尖的人发现，Suno正在打一场更大的仗——它不想只做一个”生成AI垃圾音乐”的玩具，而是想成为下一个流媒体平台，真正去捧红新的艺术家。

问题是，Suno目前还面临着来自各大唱片公司的诉讼，被指控未经授权使用受版权保护的音乐来训练AI模型。在这种背景下，要求参与音乐人签署不贬损条款，怎么看都有点”心虚”的意思。

独立音乐人的两难

对于独立音乐人来说，这是一个两难的选择。一方面，Suno提供的资源确实能帮到他们——在这个流量为王的时代，有个大平台给你推广，机会难得。

另一方面，签署这样的条款意味着你失去了发声的权利。如果Suno真的做了什么损害音乐人利益的事情，你签了字就只能吃哑巴亏。

• 拿了Suno的钱，你的音乐是不是就被绑死在它的平台上了？
• 如果Suno的AI训练真的侵犯了版权，参与的音乐人会不会也被牵连？
• “好 vibes 才行”的条款，会不会成为AI音乐平台的标准操作？

Spark项目已经正式启动，Suno在招募独立音乐人参与。至于会不会有音乐人因为条款问题而拒绝，或者参与之后发现被”封口”了，可能要等一段时间才会有消息。

这件事也给整个AI音乐行业提了个醒：当你用AI”赋能”创作者的时候，到底是在帮他们，还是在利用他们？

杰夫·布里吉斯（Jeff Bridges）在播客上演示AI音乐生成工具Suno的时候，很多老乐迷的心情大概是复杂的。这个人跟Blue Note唱片公司出过专辑，跟T Bone Burnett这样的大师合作过——结果他用来展示音乐创作未来的是一段AI生成的旋律。

“The Dude”也逃不过AI浪潮

事情发生在Theo Von的播客《This Past Weekend》上。Bridges在现场用Suno生成了一段音乐，然后说了一句话：”It’s very frightening”——很吓人。这个反应既像感叹AI的创作速度，也像在表达某种不安。毕竟，一个花了几十年打磨音乐手艺的人，看着机器几秒钟就出一段像模像样的曲子，心情不可能毫无波动。

Suno的商业化脚步没停

Bridges这次”代言”出现的时间点很微妙。就在2026年6月，Suno刚完成D轮融资4亿美元，估值冲到54亿美元。这个平台已经从”好玩的AI玩具”变成了资本追逐的严肃生意。而一个格莱美级别的音乐人公开用它，释放的信号是：AI音乐生成已经进入主流创作者的工具箱。

“It’s very frightening.” —— Jeff Bridges 在演示Suno生成音乐后的反应

争议的核心不是”用不用”，而是”怎么用”

音乐圈对AI的态度一直分裂。一边是像Bridges这样愿意尝试的创作者，另一边是担心训练数据版权、担心AI稀释创作价值的制作人和词曲作者。Suno过去一年面临多起版权诉讼，包括各大唱片公司联合发起的官司，争议焦点始终是：AI到底”学”了谁的作品，又没有给谁付钱。

Bridges自己似乎也拿不准。他说”很吓人”的时候，语气里有一种矛盾——既惊叹于技术的力量，又清楚这种力量意味着什么。这种矛盾，其实就是整个创意行业面对AI时的真实心态。

• Jeff Bridges在播客中用Suno生成音乐，称”很吓人”
• Suno刚完成4亿美元D轮融资，估值54亿美元
• AI音乐版权诉讼仍在进行，训练数据合法性是核心争议
• 创作者的矛盾心态：既惊叹技术，又担忧其影响