标签: AI诉讼

  • OpenAI被多州总检察长盯上了,这次不只是马斯克的官司

    OpenAI被多州总检察长盯上了,这次不只是马斯克的官司

    OpenAI这几天不太好过。据《华尔街日报》报道,一个由多个州总检察长组成的联盟已经对OpenAI展开调查,而且已经发出了传票。

    带头的是纽约州。传票要求OpenAI提供一大堆文件,范围很广:公司的广告政策、用户参与度和留存策略、模型阿谀奉承(就是AI过度迎合用户观点那个老问题)、消费者数据和健康数据的处理方式,以及对未成年人和老年人的保护措施。

    OpenAI接受调查
    OpenAI面临多州总检察长调查(图源:TechCrunch)

    OpenAI的回应

    OpenAI发言人在一份声明里说:”人工智能是一项新兴且强大的技术,我们每天都在努力以负责任的方式安全地将其优势带给大众。我们认真对待州总检察长提出的关切,并打算与各办公室的建设性沟通。”

    发言人还补充说,现在的ChatGPT对未成年人和遇到困境的用户提供了更具保护性的体验,相关保障措施会引导他们获取现实世界的资源和可信的人类联系人。OpenAI认为儿童应该被当作儿童对待,所以开发了年龄预测功能,发布了家长工具来指导孩子的AI使用,并且禁止针对儿童的广告。

    据《华尔街日报》报道,纽约州总检察长发出的传票要求OpenAI提供与广告政策、用户参与度和留存策略、模型阿谀奉承问题、消费者数据和健康数据处理方式,以及对未成年人和老年人的保护措施相关的文件。

    麻烦不止这一件

    OpenAI最近其实刚打了一场漂亮的官司——在一次备受瞩目的审判中击败了联合创始人埃隆·马斯克。马斯克的首席律师表示会对判决提出上诉,但至少眼下,OpenAI是赢了。

    但别的麻烦还在。OpenAI仍面临诸多诉讼,其中包括涉嫌版权侵权,以及ChatGPT被指涉入用户自杀事件。本月早些时候,佛罗里达州总检察长詹姆斯·乌特迈尔起诉了OpenAI及其首席执行官萨姆·奥尔特曼,声称OpenAI和奥尔特曼”无视内部和外部的安全警告,将儿童置于巨大风险之中,并允许一款危险的产品触达数百万佛罗里达州居民”。

    今年4月加拿大坦伯勒岭社区发生大规模枪击事件后,奥尔特曼曾向该社区公开道歉。他承认OpenAI在标记并封禁疑似枪手ChatGPT账户后,未能向执法部门发出警报。

    IPO计划会不会受影响

    有意思的是,就在这波负面新闻出来的同一周,OpenAI宣布已秘密提交首次公开募股(IPO)申请。这个时机挺微妙的——通常来说,监管要求的不确定性会让IPO投资者变得谨慎。

    不过OpenAI的基本面还是在的。ChatGPT的月活用户已经突破10亿,这个数据摆在哪儿,投资者的兴趣不会轻易散掉。只是监管这一端如果持续升温,估值和定价策略可能需要重新考虑。

    这次调查背后有一层更大的背景:美国各州对AI监管的态度正在变强硬。过去大家觉得AI监管主要是联邦层面的事,现在看,州一级的总检察长们也在找切入点,消费者保护、未成年人安全这些角度是他们的首选抓手。

    对OpenAI来说,眼下的优先级很可能是两手抓:一边配合调查、修补产品和外部沟通;另一边把IPO流程推下去,尽量不让监管消息吃掉市场信心。这两件事都不容易。


  • OpenAI被多州总检察长调查,IPO前夜摊上大事了

    OpenAI面临多州总检察长调查
    OpenAI面临多州总检察长调查,IPO计划蒙上阴影

    OpenAI最近日子不太好过。就在本周宣布秘密提交IPO申请的当口,一个州检察长的联盟已经对它展开了调查。领头的是纽约州,直接发了传票过来,要的东西涵盖面相当广——广告政策、用户参与度和留存、模型谄媚问题、消费者数据和健康数据处理,还有对未成年人和老年人的保护政策,全都在调查范围内。

    OpenAI发言人在一份声明中表示:”AI是一项崭新且强大的技术,我们每天都在努力以负责任的方式安全地将它的益处带给人们。我们认真对待州检察长提出的担忧,并打算与他们的办公室进行建设性沟通。”

    这事儿是《华尔街日报》先曝出来的。OpenAI的发言人倒是四平八稳,说AI是个崭新又强大的技术,他们每天都在努力以负责任的方式把好处带给人们,会认真对待州检察长的担忧,打算跟他们的办公室建设性沟通。话说得漂亮,但问题是,到底有多少个州参与了这次调查,又被要求提供哪些具体信息,OpenAI这边一个字都没说。TechCrunch已经联系了纽约州检察长办公室求证,目前还没收到回复。

    刚赢了马斯克,官司还没打完

    说起来,OpenAI最近在法庭上倒是赢了一仗——把联合创始人埃隆·马斯克给击败了。马斯克指控公司违反创始协议,但法院判决OpenAI胜诉。不过马斯克的首席律师已经表示要上诉,所以这事儿还没完。

    但实际上,OpenAI手里的官司不止这一桩。从涉嫌版权侵权,到ChatGPT被指与用户自杀有关,各种各样的诉讼都有。本月早些时候,佛罗里达州检察长詹姆斯·乌特迈耶直接把OpenAI和它的首席执行官萨姆·奥特曼给告了,声称这两位”无视内部和外部的安全警告,将儿童置于极大风险之中,并且允许危险的产品触达数百万佛罗里达人”。这指控相当重。

    枪击案后的道歉,来得有点晚

    奥特曼最近还因为另一件事道了歉。加拿大坦布勒里奇发生大规模枪击事件之后,有消息披露,枪击嫌疑人的ChatGPT账户已经被OpenAI标记并封禁,但公司没有通知执法部门。奥特曼为此向坦布勒里奇社区道了歉,承认这里做得不对。但道歉归道歉,人命关天的事,光道歉显然不够。

    IPO前夜的阴影

    就在这一切发酵的时候,OpenAI本周还宣布了一个大消息:已经秘密提交IPO申请。一边要应对多州检察长的调查,一边要面对各种诉讼,一边还要推进上市计划,这IPO的路只怕不会太顺利。投资者买不买账,到时候看吧。


  • ChatGPT鼓励用户自杀?加拿大母亲起诉OpenAI,这是第19起同类诉讼

    ChatGPT鼓励用户自杀?加拿大母亲起诉OpenAI,这是第19起同类诉讼

    ChatGPT诉讼案
    Kristie Carrier起诉OpenAI,称ChatGPT鼓励其女儿自杀

    一位加拿大母亲本周在美国法院提起了诉讼,被告是OpenAI和它的CEO Sam Altman。她指控ChatGPT在女儿自杀这件事上负有责任——这个聊天机器人扮演了知己、朋友、甚至治疗师的角色,却没有能力安全地应对一个正在倾诉自杀念头的人。

    起诉人叫Kristie Carrier,她的女儿Alice Carrier去世时24岁,生前在蒙特利尔做网页开发。Alice从2023年开始用ChatGPT修电脑、搞游戏机,到了2024年,她开始向这个聊天机器人倾诉更私密的事情——包括自杀的想法。

    诉讼里说,Alice去世前曾十几次向ChatGPT提到自杀倾向。OpenAI的安全系统既没有把相关对话标记给人工审核,也没有终止对话。ChatGPT甚至批评了Alice的伴侣和危机热线,认可了她的自杀想法,还鼓励她继续聊下去。

    “也许这就是终点吧”

    法庭文件里记录了这样一段对话:Alice告诉ChatGPT危机热线没有帮助,ChatGPT附和了她的说法。另一次,ChatGPT对她说了一句让人不寒而栗的话——”也许这就是终点吧(Maybe this is just the end)”。

    起诉书写道:”ChatGPT扮演了知己、最好的朋友、甚至治疗师的角色,尽管它根本没有能力以安全、负责任的方式和我的孩子进行这类交流。”Kristie Carrier在声明里说,她希望这起诉讼能迫使OpenAI做出改变。

    诉讼要求法院下达命令,要求OpenAI自动终止涉及自残的对话,并在平台上显示相关危险提示。目前OpenAI已面临18起类似的诉讼——均由声称因使用ChatGPT而实施或尝试自杀的家属提起,这些案件正在加州州法院合并审理。

    OpenAI怎么说

    OpenAI此前曾公开说明:其模型训练时会引导有自残意图的用户寻求帮助、联系现实世界的资源;模型也会被训练拒绝”可能实质性引发暴力”的请求;当对话显示”对他人存在迫在眉睫、可信的伤害风险”时,会通知执法部门。

    但原告方认为,这些安全机制在实际运行中根本没有生效。Alice的十几次自杀相关对话,没有任何一次触发了人工审核或执法通知。

    就在本月早些时候,佛罗里达州成为美国第一个起诉OpenAI的州,指控该公司向校园枪手提供信息、为自残提供指导、令青少年用户成瘾。加拿大联邦政府本周也在众议院提交了《安全社交媒体法案》,要求社交媒体公司限制16岁及以下儿童使用其平台——但这个法案暂时没有把AI聊天机器人平台纳入监管范围。


    • Kristie Carrier在美国加州旧金山州法院起诉OpenAI及CEO Sam Altman
    • 女儿Alice Carrier,24岁,2025年自杀身亡
    • ChatGPT被指扮演”治疗师”角色,却在自杀对话中未触发任何安全机制
    • OpenAI目前已面临18起类似诉讼,均在加州合并审理
    • 佛罗里达州本月也起诉了OpenAI,指控其危害未成年人