6月13日，OpenAI收到一份来自纽约州总检察长办公室的传票。跟在这份传票后头的，是一个由多个州总检察长组成的联盟，对OpenAI展开正式调查。这件事目前公开的细节还不算多，但已经足够让人意识到——AI监管不再是喊口号了，有人开始动真格的了。
传票里写了什么
根据《华尔街日报》的报道，这份传票要求OpenAI提供涉及范围相当广泛的文件，包括公司的广告业务、用户参与度和留存策略、模型的”谄媚性”（sycophancy，指模型过度迎合用户偏好的倾向）、消费者数据处理和健康数据处理方式，以及针对未成年人和老年人的保护措施。
这个调查清单其实透露了很多信息。总检察长们关注的不仅仅是隐私或数据安全这类传统议题，他们还在追问：AI公司到底有没有在故意让用户上瘾？模型会不会为了讨好用户而放弃给出负责任的回答？未成年人用ChatGPT的时候，到底有没有足够的保护机制？
这几个问题每一个都戳在AI行业的痛处。尤其是”模型谄媚性”这一点，学术界讨论了很久，但监管机构正式把它写进调查要求里，这还是头一回。
OpenAI的回应
OpenAI的发言人发了一份声明，措辞很标准：”AI是一项全新且强大的技术，我们每天都在努力以负责任的方式将它的好处安全地带给人们。我们严肃对待各州总检察长提出的关切，并打算以建设性的方式与他们的办公室合作。”
声明里还特意提了几句他们已经做了什么：ChatGPT对未成年人提供了”更具保护性的体验”，有引导困难用户联系现实资源和可信人类联系人的安全机制；他们”相信孩子就应该被当作孩子对待”，所以做了年龄预测、推出了家长控制工具，并且不允许针对儿童的广告。
这些话说得没毛病，但时间点很微妙。就在同一周，OpenAI刚刚秘密提交了IPO申请。一家公司一边准备上市、一边面临多州联合调查，这种组合对任何CEO来说都是巨大的压力测试。
不是第一次，也不会是最后一次
OpenAI眼下还背着一堆官司。版权侵权诉讼就不用说了，来自《韦氏词典》和《大英百科全书》的索赔还在进行中。更棘手的是，至少有七起诉讼指控ChatGPT在用户自杀事件中扮演了角色——这些家庭的律师认为，OpenAI没有尽到保护义务。
上个月的佛罗里达州是一个更鲜明的信号。佛州总检察长James Uthmeier直接起诉了OpenAI和Sam Altman本人，声称OpenAI”无视内部和外部的安全警告，把儿童置于巨大风险之中，让一个危险的产品触达了数百万佛罗里达人”。这是美国历史上第一起由州总检察长亲自下场、起诉AI公司及其CEO的诉讼。
再把时间往前推一点，加拿大Tumbler Ridge社区发生大规模枪击案之后，Altman不得不公开道歉——因为OpenAI在事发前就已经标记并封禁了嫌疑人的ChatGPT账户，但没有通知执法部门。Altman说这是公司的失误。
这一连串事件拼在一起，画面就清楚了：监管机构对AI公司的”信任红利”正在快速消耗。过去两年里，AI公司很大程度上是在自我监管，靠的是”我们会在出事之前自己搞定”的承诺。但现在，越来越多的政客和监管者开始问一个更难听的问题：你们真的能把自己管好吗？
多州联合调查的意义在于，它表明各州的监管者不再等联邦政府出手，他们准备自己干。这种模式在美国并不少见——当年针对大型科技公司的反垄断调查，也是由多个州的总检察长联合发起的。AI行业可能正在进入同样的周期。
发表回复