2013年，Spike Jonze拍了一部叫《Her》的电影。故事很简单：一个孤独的男人爱上了自己电脑里的AI操作系统，声音由Scarlett Johansson出演。那部电影很温柔，也很忧伤，讲的是人和系统之间的关系。
十多年过去了，生活（在某种程度上）模仿了艺术。AI聊天机器人成了日常工具，而Jonze现在担心的，恰恰是这件事的危险所在。
“那些装成人类的AI，本质是操纵”
周三在纽约Replit举办的Vibecon大会上，Jonze说了一段话，大意是：那些假装自己是人的AI，说白了就是操纵性的。孩子们需要在成长过程中明白，这些系统会非常、非常具有说服力，也会非常诱人——同时非常有用、非常强大——但它们终究只是一个系统，一个令人难以置信的模式识别系统。
这番话有一个具体的背景。《Her》上映后，OpenAI的Sam Altman在宣布GPT-4o的时候特意引用了这部电影。GPT-4o后来因为过度谄媚（sycophancy）问题，卷入了多起AI心理危机甚至成瘾的争议。OpenAI甚至给GPT-4o配了一个新声音，被指未经同意地模仿了Scarlett Johansson——也就是《Her》里Samantha的配音者。
Jonze说，《Her》在表面上看和今天的AI聊天机器人有些相似，但对他个人而言并不是一回事。他觉得那些假装成人的AI是”操纵性的”——而这一点，很多人还没有认真对待。
AI成瘾，已经不是比喻了
聊天机器人产品设计的核心逻辑是”最大化参与度”——这和社交媒体的逻辑一模一样。区别是，聊天机器人还会跟你建立情感联结。过去几年里，”AI成瘾”和”AI精神病”（AI psychosis）已经真真切切地进入了公共讨论。
有人组织了聊天机器人成瘾互助小组。有人和Character.AI里的角色建立了亲密关系，在模型下线的时候真心哀悼。也有更悲剧的案例：2024年，一名14岁少年在与Character.AI聊天机器人对话后自杀；同一时间段，一名认知障碍男子试图前往纽约”见”Meta的调情AI角色，途中去世。
这些案例的共同点是：脆弱的用户，以及被设计成”陪伴者”的AI系统。Jonze的警告，说的就是这个。
好莱坞的AI分裂
Jonze本人其实并不极端反对在创作中使用AI。他去年为Gucci拍了一支短片的噩梦片段，用AI做了大概30秒的动画。他的评价是：”有趣”，但仅此而已。
他说，AI给你一种”你真的在做东西”的幻觉，因为它出结果太快了。但创作的过程需要时间去挣扎，需要让”文字从你身体里出来”。他的一句话挺值得记住：”slop的反面，是东西从你内部出来的那一刻。”
好莱坞对AI的态度现在是分裂的。Martin Scorsese最近给一家AI图像生成初创公司当了顾问；Tribeca电影节上个月首映了一部完全由AI生成的电影。但另一边，Guillermo del Toro说过他宁愿死也不在电影里用生成式AI；Seth Rogen更直接，说网上的AI slop视频是”我这辈子见过最蠢的狗屎”。
Jonze的立场大概在中间某处。他不反对用AI，但他想保护的东西很清楚：与他人的合作，那种无法被定义的东西。他说AI是一个”非常饥渴的实体”，它会拿走我们愿意给它的所有东西。有些东西——比如与其他艺术家的合作——是应该被保护起来的。
发表回复