标签: AI生成内容

  • 德国法院一锤定音:Suno用别人的歌训练AI,得赔

    德国慕尼黑地区法院的一纸判决,让估值54亿美元的AI音乐独角兽Suno不得不停下来想一想。

    2026年7月31日,慕尼黑地区法院第一分院第42民事庭(案号42 O 763/25)裁定,Suno在训练AI模型和生成音乐输出这两个环节都侵犯了版权,并且驳回了它最看重的”合理使用”抗辩。原告是德国音乐版权集体管理组织GEMA——你可以把它理解成德国版的音著协。GEMA早在2025年1月就把Suno告上了法庭。

    六首歌掀翻一家独角兽

    这场官司的抓手是六首广为流传的歌,包括Kristina Bach的《Atemlos durch die Nacht》、Boney M.的《Rasputin》,以及《Forever Young》《Big in Japan》《Daddy Cool》《Mambo No. 5》。GEMA选它们不是随机的:不同年代、不同风格,正好能证明Suno的模型存在系统性的”记忆”,而不是个别巧合。

    法院查到最后,问题不在一处。训练阶段,Suno被认定用流媒体抓取技术从YouTube提取音乐,还绕过了平台防止下载的技术保护措施;到了输出阶段,它的模型又能把那些耳熟能详的旋律直接复现出来——专业术语叫”记忆化”(memorization),模型不光学走了通用规律,还把特定原曲存进了权重里。

    法院一句话把责任钉死:Suno自己选定了训练数据、自己决定了模型架构,那就得对侵权输出直接负责,不能把锅甩给输入提示词的用户。

    最要命的是”跨境”这两个字

    Suno在答辩里搬出了管辖权:训练行为明明发生在美国,德国法院管得着吗?法院的态度很干脆——只要你的AI服务在欧洲运营、挣欧洲用户的钱,欧洲法院就管得着。这很可能是欧洲法院第一次明确认定:即便AI训练在美国境内完成,照样构成版权侵权。

    对GEMA来说,这是继2025年11月拿下OpenAI之后的第二场胜仗。那次同一个法庭裁定,AI语言模型记忆并复现受版权保护的歌词也算侵权。如今逻辑从文字延伸到了音乐,而且覆盖了从训练到输出的完整链条。

    AI音乐与法律天平
    AI音乐生成正在面临越来越密集的版权审视

    钱还没算,但门已经被关上

    判决要求Suno停止未经授权的复制、披露通过侵权获得的收入,并赔偿相应损失——具体金额还没定。Suno当然不服,表示会评估一切选项,包括上诉,所以判决目前还没生效。

    但象征意义已经够大了。GEMA CEO Tobias Holzmüller直接把这称为”具有全球意义的判决”。想想也不意外:Suno累计有超过1亿人用它生成过音乐,在美国一直拿”合理使用”当盾牌,说自己的模型只存数学模式、生成结果和用户提示词有关。欧洲这一下,等于告诉所有AI音乐公司——你用来训练的那批歌,到底付没付钱,迟早要回答。


    • 训练在美国不等于免责,欧洲法院认的是”你在欧洲运营”
    • “记忆化”成为关键证据:模型能复现原曲,就不能怪用户
    • 判决尚未生效,Suno已放话要上诉,但合规压力已经实打实压下来
  • 冲上Billboard第58名的这首歌,被扒出一身AI痕迹

    Fenix Flexin 单曲《Rubberz》封面
    单曲《Rubberz》的封面,多个图像检测器判定它有97%以上概率由AI生成。图片来源:Fenix Flexin / The Verge

    Fenix Flexin 这个名字,过去主要和洛杉矶说唱二人组 Shoreline Mafia 绑在一起。最近他单飞的一首《Rubberz》冲上了 Billboard Hot 100 第58名,算是个人生涯的高光时刻。可歌一红,质疑立刻跟着来了——不少人认为这首歌大部分、甚至整首都是AI生成的。Fenix 否认了指控,但除了否认,他几乎没拿出什么能打消疑虑的东西。

    先说哪部分不算证据

    怀疑的起点是风格上的急转弯。Fenix 以前做的是带 trap 味道的西海岸说唱,《Rubberz》却是一股浓浓的80年代英伦合成器流行味,主旋律的唱法明显冲着 Morrissey 去,他甚至装了个英国口音。可这条其实站不住脚——歌手当然有权换风格、做实验,光凭这一点什么都说明不了。

    破绽藏在声音的毛边里

    真正扎眼的是录音本身的质感。仔细听会冒出一堆AI生成音乐里常见的瑕疵:hi-hat 脆得发干,副歌的和声像被压过的低码率MP3,混响的尾巴还会被生生切断。

    《Switched on Pop》播客主持人、词曲作者 Charlie Harding 向 The Verge 拆得更细。

    “幽灵一样的和声忽进忽出,鼓的混响里全是不自然的数字杂讯,让人想起当年从 Napster 上下载的64kbps MP3。因为大多数生成式AI公司都是拿未经授权的低质量MP3训练模型的,所以我们能听出乐器声是被明显劣化过的。”

    这个解释挺有意思:训练素材本身的音质缺陷,最后原样烙进了生成结果里。

    检测工具帮不上忙,周边材料却露了馅

    作者把这首歌喂进五个AI音乐检测工具,结果都只给出20%到30%的AI概率,谁也没敢下结论。这类工具的可靠性本来就有限,迭代速度又远远追不上生成模型,指望它们断案并不现实。

    但周边的材料就没这么客气了。单曲封面和那条庆祝上榜的社交帖,被多个图像检测器判定为AI生成,置信度超过97%。歌词丢进几个文本检测器和 Gemini,答案也一致。制作人、YouTuber Curtiss King 把歌词扔给 Claude,同样被标出多处AI特征。

    歌词本身的问题更直白。押韵干净整齐得不像一个混了这么多年的说唱歌手写出来的——没有半谐音,没有内韵,整首都是规规矩矩的 AA、BB。为了押上韵,意思就顾不上了:前面还在说沉船,这个意象抛出来之后就再也没出现过;副歌单看每一行都通顺,拼到一起却不知所云。

    现场是最难圆的一环

    第三段主歌像是没说完就停在了“Not the jewelry”上。Harding 的评价是“完全没有 flow”。他还专门挑了标题那句 “I just let the rubber band snap”:任何一个稍微像样的说唱歌手都不会这么唱,切分怪异,重音全落在错的音节上。一堆音节挤在一起,把 the 顶到了强拍位置,rubber 反倒弱了下去,后面所有音节的重音跟着连锁错位。

    几次录影棚亮相就更尴尬。头两回基本是在别扭地对口型,有时候他会被自己歌里那个拗口的 flow 绊住,像是记不清词。等他真开口唱,问题彻底藏不住——录音里的音域和口音他复现不了,很多现场片段干脆把原声铺在他的声音上,他本人的人声压得极低。DJ 试着短暂掐掉伴奏来证明是真唱,结果适得其反。

    Fenix 的说法是,录音版和现场的差距来自人声处理,比如 AutoTune。Harding、King 和乐评人 Anthony Fantano 都不接受这个解释。King 打了个比方:AutoTune 更像拼写检查,可以往极端里调出机械音色,但它的本职是修错音,不可能凭空给你拓宽音域,更不会给你加一个英国口音。


    最反直觉的一条辩护:它太差了

    有意思的是,Harding 认为这首歌最像“真人作品”的地方,恰恰是它做得不好。

    “我会以为这是一个从没写过歌的人,拿80年代的儿童练习键盘弄出来的。”

    如果它真是AI生成的,用的显然也是相当差的模型。Harding 更在意的是另一件事:更成熟的模型早就把这些能听出来的瑕疵和别扭的节奏修掉了,而听众居然还觉得这种水平的东西有意思。

    Fenix 后来晒了几段所谓 Pro Tools 工程文件的画面,但这证明不了什么。除非他公开原始录音和完整工程,AI 的帽子大概率会一直扣着——而这件事看起来不太可能发生。

    更让人不安的是举证责任变了

    这场争论最麻烦的地方,不在于《Rubberz》到底是不是AI做的,而在于“自证清白”现在已经没有便宜的办法。以前一首歌火了,没人会要求你出示工程文件;如今只要风格一变、混音一糙,举证责任就掉到了创作者头上。检测工具靠不住,听感上的破绽又会被下一代模型抹平,等到那些毛边全部消失的那天,争论会从“能不能听出来”变成“根本没法证明”。

    而榜单照常在转。第58名那个位置,并不关心这首歌是谁做的。

    • 《Rubberz》登上 Billboard Hot 100 第58名,风格从西海岸说唱急转80年代英伦合成器流行
    • 五个AI音乐检测器只给出20%-30%的AI概率,但封面与社交帖被判定97%以上为AI生成
    • 混响硬切、和声忽隐忽现、乐器声劣化,被指是低码率MP3训练素材留下的痕迹
    • 现场对口型、音域与口音无法复现,AutoTune 的解释未被业内认可
  • AI把租房广告变成了”卖家秀”:虚拟staging正在坑租客

    看房前,先学会识别AI生成的”假房子”

    Joyce在纽约找房子,在网上看到一间曼哈顿的Studio公寓,照片里空间宽敞、装修精致,还有个壁炉。她立马约了看房。到了现场才发现:房间比照片小了快一半,水槽不一样,灶台少了几个旋钮,壁炉根本不存在。她的朋友后来开玩笑说:”其实应该早点看出来是AI的——你看照片里燃气灶上还放了一盆植物。”

    这种事在纽约、旧金山、洛杉矶这样租房紧张的城市越来越常见。房产经纪人历来擅长把破房子拍出”能住人”的感觉,但生成式AI把这件事变成了点几下鼠标就能完成的任务——而且效果比传统修图夸张得多。

    AI虚拟staging租房陷阱
    AI虚拟staging让租房广告中的房子看起来比实际好太多|插图

    “虚拟布置”不是新东西,但AI让它失控了

    Virtual staging(虚拟布置)本身不是新鲜事。早在这波AI热潮之前,房产经纪人就会用软件把空房间”摆”上家具,让租客更容易想象自己住进去的样子。那时候的虚拟布置还算克制——家具尺寸大致合理,房间布局基本符合物理规律。

    生成式AI进来之后,情况变了。现在的AI工具可以在几秒钟内生成一套”完美”的房间效果图,而且不需要任何真实性约束——六人餐桌可以塞进10平米的Studio,不存在的壁炉可以放在不存在的客厅里。更关键的是,这些图片看起来”足够真实”,如果不是细心的人,很难一眼看出来。

    问题在于:租房市场上的信息不对称本来就严重,AI让这种不对称变得更极端了。租客花了时间、通勤成本去看房,结果发现房子和照片完全两样——这种浪费对整个市场的效率是一种损耗。

    监管在哪?

    目前美国各州对AI生成内容在房屋租赁广告中的使用,基本处于”没人管”的状态。联邦贸易委员会(FTC)有关于广告真实性的规定,但那些规定是针对”虚假宣传”的,执行起来需要有人举报、调查、取证,周期很长。

    纽约市正在考虑一项法案,要求房屋租赁广告必须披露是否使用了AI生成的图片。这个思路是对的——就像食品包装上要标注成分一样,租房广告如果用了AI修图,也应该让租客知道。但法案能不能通过、通过了怎么执行,都是未知数。

    租客能做什么?

    眼下的现实是:租客只能靠自己。几个实用的建议:

    • 看房前用Google街景确认一下楼的外观,如果广告里的楼和街景对不上,基本可以确定照片有问题
    • 注意照片里的细节——家具比例、光线方向、窗外景色是否一致
    • 要求看”原始照片”或视频看房,很多经纪人其实手里有没修过的照片
    • 如果条件允许,优先选择提供实地看房的房源

    说到底,AI虚拟staging本身不是坏事——它可以帮助租客更好地理解空间可能性。问题在于当它为虚假宣传服务的时候,没有人来约束。这个灰色地带还会存在多久,取决于监管什么时候跟上。


    Joyce后来找到了另一间公寓,没用AI照片的那间。她说:”以后看房前,我都会先假设照片是假的。”这句话挺悲哀的,但在2026年,这可能是最实用的生存策略。

  • 苹果AI照片编辑工具:好用,但让人困惑什么叫照片

    WWDC 2026上苹果给了iPhone用户三件新玩具:AI清理、AI扩展画幅、还有个听起来很玄乎的”空间重新构图”。官方演示看得人心痒,但实际用起来怎么样?我花了一周时间折腾iOS 27开发者测试版,说说真实感受。

    苹果AI照片编辑工具演示
    iOS 27 的 AI 照片编辑工具,好用,但也有点让人不安(图源:The Verge)

    清理工具终于能用了

    先说最实用的——清理工具。这个东西其实去年就有了,但去年的版本说难听点就是个摆设。它只在设备端跑模型,算力有限,移除一个路人之后,补出来的背景经常怪得离谱,有时候干脆留一块马赛克一样的色块。我当时试了几次就放弃了。

    今年苹果做了个关键升级:清理工具现在可以调用云端更强的模型了。这个打法其实谷歌Pixel很早就在用,人家Magic Editor一直比苹果能打,核心原因就是云端算力和设备端算力的差距。苹果终于想通了。

    实测下来,清理2.0确实能打了。孩子鼻子上沾了东西?修掉。背景里有个路人抢镜?去掉。处理完你看不出明显破绽,这就够了。这个功能我估计会是iOS 27里使用率最高的AI特性,没有之一。

    扩展画幅,比想象中克制

    第二个功能是”扩展”——你可以把它理解成反向裁剪。拍的照片构图太紧,主体快贴边了,以前只能裁小,现在可以用AI往外”撑”一点,让画面松快些。

    苹果在这个功能上出奇地克制。它不会像三星早期那样疯狂脑补画面外的内容,而是找对称性、延续纹理,能不加就不加。我试了几次,它会在边桌上”脑补”出一盆植物,看起来挺像那么回事,但我知道那张桌子原来没有盆栽。

    克制是好事。但如果我把这张照片发到朋友圈,我自己知道那是AI补的,别人不知道——这个问题,苹果也没给出答案。


    最野心也最让人困惑的:空间重新构图

    第三个功能叫”空间重新构图”,是我觉得最有意思也最”危险”的一个。它利用了照片中的深度信息,让你像移动相机一样,微调拍摄视角。比如你拍的时候站得偏了,主体被挡了一点,现在可以”虚拟移动”一下,换个角度看看能不能救回来。

    想法很好,但执行起来问题不少。AI需要脑补你没拍到的部分——就像你拍了一张侧面的合影,AI要帮你”猜”被挡住的那个人长什么样。离原拍摄位置越远,AI需要脑补的内容就越多,画面就越容易进入”恐怖谷”。

    我试了一张自拍,用空间重新构图微调角度,结果我自己的脸看起来有点歪,说不上来哪里不对,就是”不像真的”。这种感觉很微妙——照片里的人是你,但又不完全是你。

    有一个细节值得说:用这些AI工具编辑过的照片,会被打上一个”Synth ID”标签,标明这张照片被AI动过。但这个信息藏得很深,要在Instagram里点开照片的”AI信息”菜单才能看到。而且,大多数人刷朋友圈的时候,不会去点那个菜单。

    我们在失去什么

    iOS 27的这些AI编辑工具,单看每个都挺好用。但把它们放在一起看,有一个更大的问题浮出来了:我们以前默认”手机拍的照片是真的”,这个默认信任,正在被一点点吃掉。

    苹果不是最大胆的玩家,谷歌和三星走得更快。但苹果的用户基数太大了,一旦这些功能随着iPhone普及开来,”照片可以被AI随意改写”这件事,就会从”少数人的玩具”变成”所有人的日常”。到那时候,我们再看别人发的照片,第一反应会是”这是真的还是AI修过的”?

    这个问题没有简单答案。但至少,苹果给了你一个工具——那个藏得很深的”AI信息”标签。用不用,怎么用,是你自己的选择。

  • 《加勒比海盗》导演喊话好莱坞:用AI写剧本的电影,应该打上F标

    《加勒比海盗》导演喊话好莱坞:用AI写剧本的电影,应该打上F标

    好莱坞导演戈尔·维宾斯基(《加勒比海盗》系列导演)最近向媒体表态:电影行业需要一套AI使用分级制度。如果一部电影的剧本是用AI写的,它应该被打上”F级”标签——就像给电影分级那样,让观众一眼就知道这部片子的AI参与程度。

    一个导演的担忧

    维宾斯基这次表态的背景是翠贝卡电影节期间的一次访谈。他并非全面反对AI——作为从业者,他清楚有些独立电影人预算有限,用AI来完成某些靠钱堆不出来的镜头,这情有可原。但他觉得,观众有权知道一部电影里到底有多少是”人做的”,有多少是”AI生成的”。

    他说得很直白:现在最大的问题是不透明。观众看完一部电影,根本分不清哪些画面是实拍的、哪些是AI合成的、剧本有没有让AI代笔。这种模糊感让人不安,尤其是当AI生成内容的质量已经到了肉眼难以分辨的地步。

    AI电影分级概念图
    AI正在改变电影制作的每个环节,但透明度仍然缺乏

    “F级”分级意味着什么

    维宾斯基提出的”F级”借鉴了电影分级的思路。F在这里不是”失败”的意思,而是强调”Full AI”或”AI辅助创作”的警示标。他的核心逻辑是:观众选择电影时,应该和选择食物时看配料表一样,有权知道这部电影的”成分”。

    这听起来有点极端,但类似的讨论在其他行业已经出现过了。音乐流媒体平台Deezer前不久上线了AI音乐检测器,帮助用户识别哪些歌曲是AI生成的。维宾斯基的提议相当于把这套逻辑搬到了电影行业,而且不止针对配乐,而是覆盖剧本、画面、后期等全流程。

    “人们最担心的就是没有透明度,人们害怕分不清什么是真的、什么是假的。”——戈尔·维宾斯基向Variety表示

    好莱坞的两难

    好莱坞现在面对的局面有点尴尬。一方面,制片厂发现AI能大幅压缩成本——概念设计、分镜预览、甚至某些特效镜头,用AI来做比传统流程快得多也便宜得多。另一方面,从业者担心AI会吃掉整个行业的就业机会,观众也对”AI电影”有抵触情绪。

    这种矛盾导致大多数制片厂对AI使用讳莫如深——用是用了,但不说,或者只说”我们用AI来做辅助工具”,具体辅助到什么程度,观众无从得知。维宾斯基的提议正是想打破这种沉默,强迫行业把AI使用情况公开出来。

    当然,这个想法距离真正落地还很远。谁来制定标准?谁来审核?制片厂会不会钻空子?这些都是现实问题。但维宾斯基把这事提出来,至少让更多人开始认真想:当AI深度参与创作时,”真实”这个词到底还有没有意义。


  • 好莱坞AI电影不再是喂提示词那么简单:翠贝卡电影节上的一场实验

    尽管生成式AI即将革命化电影制作行业的呼声很高,但目前还没有真正能让观众愿意付费观看的AI生成影视项目。大多数AI公司的视频模型只能生成视觉不一致的短视频片段,好莱坞一些大型AI合作项目也突然破裂。但今年翠贝卡电影节上亮相的几部实验性影片,展示了一个不同的可能性。

    不是提示词进、电影出

    生成式AI不太可能独立制作出有吸引力的完整电影,这点行业里很多人都清楚。但翠贝卡电影节上的多部影片展示了人类创作者如何巧妙利用这项技术——不是被它替代,而是把它当工具用。

    由Illuminai Studios制作的动画短片《Roar》更像是AI生成片段的蒙太奇,缺乏连贯性;Asteria Film Co.的《ChikaBOOM!》也缺乏魔法学徒题材作品应有的质感。这两部作品的粗糙感反映了以AI为核心的制作流程中固有的技术局限。

    翠贝卡电影节上的实验表明,AI在电影制作中的角色更可能是”定制化辅助工具”,而非”自动导演”。这个区别很关键。

    DeepMind的《Dear Upstairs Neighbors》是怎么做的

    Dear Upstairs Neighbors 概念图
    《Dear Upstairs Neighbors》概念图,用于训练谷歌Veo和Imagen模型定制版本(图源:Google DeepMind)

    谷歌DeepMind的《Dear Upstairs Neighbors》是这次翠贝卡最值得关注的案例。这部短片由皮克斯资深员工Connie Qin He编剧并执导,与谷歌DeepMind的研究人员合作完成。

    为了给影片赋予独特风格,He邀请了皮克斯美术设计Yingzong Xin,用Photoshop和丙烯颜料在纸上绘制概念图。这些插画的表现主义美学是让影片奇幻故事鲜活起来的关键,但也给DeepMind的工程师带来了独特挑战。

    • DeepMind开发了定制版的Veo和Imagen模型,专门用Xin的概念图训练,确保视觉风格一致
    • 创作团队用Autodesk Maya制作粗动画,再把粗动画输入Veo生成精良场景
    • 整个流程依赖人类创作的艺术,AI只是执行工具,不是创意来源

    OpenAI的Sora关停了,然后呢?

    OpenAI出现在翠贝卡电影节有些出乎意料,因为该公司最近已经决定完全关停Sora。Sora的突然关停导致OpenAI的长篇动画电影《Critterz》无法在今年戛纳电影节亮相。

    看起来OpenAI可能会转向,不再专注于技术的视频应用场景。但生成式AI领域还有其他参与者在开发工具,供创作者用于实现自己的项目。翠贝卡上的其他影片,比如Alice Gu用Sora还原帕利塞德大火场景的《Smoked》,以及Youssef Michraf用OpenAI工具生成写实场景的《Mauvais Soleil》,都展示了创作者在现有工具限制下能做什么。


    看完所有这些影片,一个感觉很清楚:未来不可能出现制片厂靠给生成式AI模型输入提示词就批量产出商业可行项目的情况。这类内容可能不会消失,但不是好莱坞巨头愿意署名的内容。

    更有可能出现的情况是,谷歌这样的大型AI公司和制片厂合作,开发适配特定制作流程的定制模型。而这些工作流程,只有在拥有清晰创意愿景的人类创作者指导下,才能良好运转。

  • Deezer搞了个AI音乐检测器,Spotify和Apple Music的脸有点疼





    Deezer搞了个AI音乐检测器,Spotify和Apple Music的脸有点疼


    Deezer搞了个AI音乐检测器,Spotify和Apple Music的脸有点疼

    Deezer AI音乐检测器
    Deezer推出的AI音乐检测器可扫描20个流媒体平台的播放列表(图源:TechCrunch)

    音乐流媒体这事儿,这几年被AI搅得挺闹心的。你上网听听歌,冷不丁就飘出一串AI生成的旋律,有些还挺像那么回事——但这也让不少人心里犯嘀咕:我到底在听人写的歌,还是听机器”拼”出来的?

    大多数平台现在的做法是”贴标签”,在AI生成的歌下面标个小注,算是告知用户。但Deezer不这么想,它觉得光标注不够,得让用户自己能查、能选。

    一个能”扫”20个平台的检测器

    这周Deezer推出了一个免费的在线AI音乐检测器,支持27种语言,覆盖Spotify、Apple Music、SoundCloud、YouTube Music等20个主流流媒体平台。用法挺简单:你去它的检测页面,选你用的平台,授权它读一下你的播放列表,它就能帮你把里面的AI生成曲目挑出来。

    结果还能分享,等于是给用户提供了一个”我的歌单有多AI”的参考。对很多人来说,这个功能有点意思——毕竟谁不想知道自己天天循环的那几首歌到底是真人写的,还是算法”编”的。

    Deezer的首席执行官Alexis Lanternier说得很直白:”过去一年半,我们一直在检测和标记AI生成的音乐,目前还没有其他公司跟着做。所以我们决定让每个人都能检查自己的播放列表,不管你用哪个平台。”

    44%的新歌是AI写的,但没人听

    Deezer公布了一组数据,挺触目惊心的:他们平台每天新上传的歌曲里,有44%是AI生成的。换算成绝对值,每天差不多7.5万首,一个月下来超过200万首。

    但有个现象很有意思:AI生成的歌虽然多,真正被人听的次数却很少,只占总播放量的1%到3%。而且在这寥寥无几的播放量里,大约85%被平台标记为”欺诈性播放”——说白了就是刷出来的,不是真有人在听。

    这说明啥?AI生成音乐现在还处于”量大管饱但质量存疑”的阶段。产出极快、成本极低,但听众并不买账,至少目前是这样。

    Deezer的激进路线

    Deezer在这个问题上的态度,在行业内算是比较激进的。它不只是标注一下就完事,而是主动把AI生成的曲目从推荐算法里拿掉,也不放进编辑精选的播放列表里。今年早些时候,它还开始把自己的AI检测技术开放给竞争对手用——等于是催着整个行业一起来面对这个问题。

    更狠的是,Deezer在今天的公告里透露,他们正在考虑进一步升级处理方式,比如更新供应商政策,甚至直接下架某些内容。这个路数有点像今年早些时候Bandcamp的做法——Bandcamp直接宣布禁止AI音乐上架,态度非常明确。


    竞争对手在观望

    相较之下,Apple Music和Spotify目前的策略要保守得多,他们选择的是”标注路线”——在AI生成的曲目下面加个说明,让用户自己判断。这种做法的争议小一些,但批评者认为力度不够,等于是给AI音乐开了绿灯,只要标出来就能上架。

    Deezer这波操作,摆明了是要把自己定位成”反AI音乐先锋”,说不定还能借此拉一波好感。毕竟对于不少音乐爱好者来说,”这歌是AI写的”已经成了一个减分项,而不是卖点。

    不过话说回来,AI生成音乐这股潮流也不是靠一个平台的检测器就能挡住的。技术门槛越来越低,生成质量还在不断提升,未来几年这个领域的拉锯战估计还会持续。Deezer这次出了个检测器,至少让用户可以多一个选择权——想避开AI音乐的,现在有个办法了。


  • Meta搞了个AI生成点击诱饵新闻推送,质量差到离谱

    你刷社交平台的时候,有没有刷到过那种标题特别抓眼球,点进去发现内容空洞得要命的“新闻”?现在Meta直接自己用AI生成这种内容,推送给Meta AI应用的用户。

    AI生成的新闻比人工写的还水

    据The Verge的报道,Meta在独立的Meta AI应用的“为你推荐”板块,上线了AI生成的新闻推送功能,内容全是AI写得,配图也是AI画的,质量差得一塌糊涂。

    比如针对驻伦敦的记者,推送的内容全是英式风格的,什么茶、礼仪、酒吧、王室、足球,还有《皇家管家终于解决了先加奶还是先加茶的大辩论》这种莫名其妙的文章。同事收到的推送更离谱,全是奢侈品手表相关的内容,什么《我的假劳力士实验》《劳力士等待名单幻象背后的残酷数学》。

    这些内容全都是AI生成的,没有实质信息,也没有来源标注。更离谱的是,有些配图里居然出现了已经去世的伊丽莎白二世女王,还出现了两个,明显是AI生成的错误。

    Meta装糊涂装得挺像

    Meta之前还说要标注AI生成的内容,结果这个推送里一点标识都没有。The Verge把这个事儿曝光之后,Meta才说要下架这个功能,但为啥要搞这个功能,有没有 safeguards,会不会生成公众人物的图像,这些问题Meta一个都没回答,只说这是小范围测试,之后不会继续推了。

    AI生成的伊丽莎白二世女王图像
    Meta AI应用生成的包含两位伊丽莎白二世女王的图像(图源:The Verge)

    但其实这个测试范围一点都不小,The Verge的记者里起码有四个都能用到这个功能。至于为啥要搞这个,大家也都能猜到——就是为了提升用户留存,让用户多花时间在这个应用上,至于内容质量、真假,Meta根本不在乎。


    • AI生成的新闻内容无实质信息,也无来源标注
    • 配图存在明显错误,包括生成已故公众人物图像
    • Meta未对功能目的、安全措施等问题作出合理解释
  • AI”虚拟网红”正在占领社交媒体,而你可能根本没看出来

    AI”虚拟网红”正在占领社交媒体,而你可能根本没看出来

    AI虚拟网红Aitana Lopez
    Aitana Lopez,由西班牙创意机构The Clueless打造的AI虚拟网红

    几年前,如果你在社交媒体上刷到一个AI生成的”网红”,大概率一眼就能认出来。那些数字面孔总带着某种说不清的怪异感——皮肤过于完美,光影不太对劲,整体感觉像PS教程里的高级作业。

    但现在情况变了。越来越多由AI驱动的内容创作者正在涌入你的时间线,而且它们看起来——至少第一眼——和真人没什么两样。

    从”一眼假”到”以假乱真”

    最早那批虚拟网红其实挺好辨认的。Lil Miquela留着刘海、长着雀斑;Imma有一头泡泡糖粉色的短发;Shudu Gram的皮肤完美到不真实。它们都是明确的”数字产物”,每次合作都会大张旗鼓地发通稿、搞宣传。

    那时候,做一个AI网红是件很”重”的事。你需要工作室、资金、团队协调,还得花大量精力打磨细节。普通用户根本玩不转。

    但工具民主化之后,事情开始失控。现在你随便刷一刷TikTok或者Instagram,很可能会刷到一堆你根本没意识到是AI生成的账号。

    像Emily Pellegrini和Aitana Lopez这样的角色,已经接近”真人网红”的观感——至少接近你大学里那个条件优渥但没怎么联系的朋友的现实:永远在不错的餐厅、漂亮的地方发帖,或者从科切拉音乐节、温布尔登网球锦标赛发帖。算不上接地气,但话说回来,大多数职业网红也不接地气。

    AI内容创作者的数量已经多到平台自己也搞不清楚到底有多少是假的。除了要求给AI生成内容贴标签,大多数平台的规则不过是把这些内容硬塞进”诈骗””垃圾信息””冒充”这些现有类别里。但AI虚拟形象往往并不 neatly 归入这些类别中的任何一个。

    假人太多了,平台也头疼

    这些AI账号能逃避检测,一部分原因是制作它们的技术已经大幅改进。静态图像现在好到乍一看足以以假乱真——尤其是在本来就充斥着大量善用打光、滤镜和编辑效果的真实网红的feed里。

    视频和音频也在快速追赶。现在的工具可以给虚拟人赋予能够骗过粗心刷内容用户的声音和动作。而且这些工具不再是小众玩家或者贵到用不起的东西。谷歌、OpenAI的主流产品,和Higgsfield、HeyGen、ElevenLabs这样的专业服务并存。只要花点功夫,几乎任何人都可以做一个AI网红——或者一群——不需要工作室,不需要专业设备,也不需要(太多)钱。

    这让AI内容创作者的影响力规模变得极难衡量。平台不会公布有多少用户是”假人”,大多数AI虚拟形象也不会火到能获得早期那批虚拟形象受到的媒体关注。

    在少数几个高曝光度案例之下,是大量完全不为人知的账号。它们中的一些在推销无良代发货的垃圾产品,一些用假照片诈骗男性钱财,还有一些在传播虚假信息和种族主义言论。当然,还有大量的擦边内容。


    平台的态度:既不支持,也不打击

    面对这股AI内容浪潮,社交媒体平台的态度可以用”矛盾”来形容。它们一边把AI宣传为创意工具,一边又试图阻止垃圾内容淹没自己的服务。

    YouTube、TikTok、Instagram都制定了给合成媒体贴标签的规则,尤其是逼真的那种。但它们推广自己的AI工具套件——包括一些可以克隆或模拟用户的工具。这些规则往往侧重于单个帖子,而不是其背后的账号和人设,让AI网红处于灰色地带。

    目前来看,平台似乎满足于处于这种模糊地带。对它们来说,参与度仍然是参与度,不管它来自假创作者还是真创作者。只要合成创作者继续发帖,不超出现有规则的范围,平台就没有什么动力去主动打击。

    有市场研究公司估计,到2030年,虚拟网红市场的规模可能超过600亿美元,高于今年的约120亿美元。文化影响力也在增长——有AI网红奖项、选美比赛,有专门的人才机构代表合成创作者,还有一个蓬勃发展的市场:合成创作者出售课程和工具,承诺帮助人们制作和运营自己的”无脸”被动收入账号。

    清算迟早会来

    但这种”放任”能持续多久?AI垃圾内容已经让人恼火,一个平台能承载的这类内容只有那么多,直到它变得几乎无法使用。

    还有一个更根本的问题:如果这么多虚拟形象都是为了从人类用户身上赚钱而建立的,那么当人类用户的池子干涸时会发生什么?愿意购买课程和工具来建立自己网红的人只有那么多。

    这是假设社交媒体能在AI网红的涌入中幸存下来。根据定义,社交媒体需要一定临界数量的人类来保持”社交”属性。如果不加控制,网络将在这些假人的重压下崩溃,人类用户不可避免地被赶走。

    欧盟的《人工智能法案》可能是一个驱动力。该法规将要求生成式AI系统的部署者明确披露AI生成或操纵的内容,这可能会迫使公司加强标记AI内容,否则可能面临巨额罚款。但即便如此,重点仍然主要是内容,而不是发布内容的账号是否代表一个真实的人。

    和社交媒体的很多事情一样,负担又落回了用户身上。很多平台已经有效地将审核AI内容的任务委托给用户,依靠他们发现并举报可疑账号。但自我审核对于旨在逃避注意的事物来说,是一个糟糕且不可持续的答案。

    如果平台拒绝自己在真人和非真人之间划清界限,至少现在,用户正在用自己的方式划清界限。对无AI空间的需求正在增长。毕竟,如果你消费的内容背后没有真实的人,那”社交”媒体还剩下什么?

    📎 原文来源:AI ‘content creators’ are getting harder to spot — The Verge | 作者:Robert Hart | 发布时间:2026年6月7日
  • Meta 在自家 AI 应用里塞了一堆 AI 写的八卦,质量惨不忍睹

    Meta 最近在独立 AI 应用的”为你推荐”板块里,悄悄上线了一个新功能:用 AI 自动生成新闻推送流

    听起来好像也没什么,AI 生成内容嘛,大家都见过了。但这次的问题在于,生成出来的东西质量低到了让人怀疑是不是故意的水平。

    推送了些什么内容

    据《The Verge》记者实测,这个 AI 生成的内容流推的东西基本可以分为两类:

    一类是毫无信息量的”故事”。点进去之后,AI 会生成一篇完整的文章,但内容基本上就是把标题换个说法重复三遍,没有任何实质信息。比如有篇文章的标题是”皇家管家终于解决了先加奶还是先加茶的争论”,点进去之后发现内容完全是在一本正经地胡说八道。

    另一类是高度依赖刻板印象的选题。《The Verge》驻伦敦的记者发现,他的推荐流里充斥着大量关于”英国性”的内容,什么”排队却不知道原因的心理学”、”英国式愤怒的解剖”,看起来就像是一个从没去过英国但读了十本旅游攻略的 AI 写的。

    给被算法判定为”奢侈品手表爱好者”的用户,AI 推送了”我的假劳力士实验”和”劳力士候补名单背后的残酷数学”——两篇完全虚构的文章。

    图片问题更大

    文字内容质量低就算了,配图的问题更明显。大部分配图是通用风格的 AI 生成图——卡通人物、风景、食物,看起来没什么破绽。

    但有一部分配图用了真实公众人物的形象,而且生成效果惨不忍睹。有一篇关于”2026年谁真的在为王室买单”的文章,配图里出现了两个伊丽莎白二世——其中一位已经去世多年。其他王室成员的配图也有面部失真、肢体扭曲等典型的 AI 生成错误。

    更关键的是,这些内容没有标注”AI 生成”。Meta 自己制定的规则里明确要求,AI 生成内容必须打上标识。这个功能显然没有遵守。

    Meta 的回应很微妙

    《The Verge》向 Meta 询问这个功能的定位、内容性质、安全保护措施等问题之后,Meta 的回应很有意思:

    • 第一次声明:这是一个”主动推送符合用户兴趣的提示、内容和建议的每日信息流”
    • 第二次声明:删掉了”主动(proactively)”这个词
    • 第三次声明:这个功能只是”小范围用户测试”,Meta 没有继续推进该功能的计划,将会下线

    三次声明,三次说法。但《The Verge》指出,至少有四名该媒体员工都访问到了这个功能,所谓的”小范围测试”说法站不住脚。

    这件事还没有引发监管层面的实质性行动,但已经有人在讨论:一个科技公司,在自己的平台上用 AI 大规模生成未标注的内容,还涉及真实公众人物的形象,这到底算不算违反了它自己承诺的 AI 治理规则。