标签: AI内容透明

  • Suno 要给水印了:AI 神曲满天飞,它终于动手治垃圾内容

    AI 写歌这两年有多疯,刷过音乐平台推荐流的人都懂。Suno 这个估值 54 亿美元、用户破亿的玩家,最近终于放话要管管自己造出来的“水”。CEO 兼联合创始人 Mikey Shulman 写了一篇长博客《负责任地共建音乐未来》,把公司接下来的原则和动作摊开了讲。

    Suno AI 音乐水印计划
    Suno 公布反垃圾内容计划(图源:The Verge)

    水印 + 指纹,给每首 AI 歌打上记号

    Suno 说要推出一套新的透明化工具,外加水印和音频指纹技术。核心思路很简单:让 Suno 生成的内容能被识别出来。Shulman 强调这套做法跟“正在浮现的行业标准”对齐,意思是以后不光 Suno 自己能认,第三方平台也能顺着水印和指纹追到源头。

    我们的做法与正在浮现的行业标准保持一致,让识别 Suno 生成的内容变得更容易。

    下载也要收口,跟唱片公司的和解有关

    下载政策是另一块。去年 Suno 跟华纳音乐集团(WMG)达成和解后就放风要改下载规则,华纳和 Udio 的和解更是直接把 Udio 的下载功能整个砍了。Suno 当时说,下载会只面向付费订阅用户,而且每人每月有次数上限——具体数字到现在还没公布。

    透明,但不替别人做价值判断

    Shulman 在博客里反复念叨“透明”“尊重版权方”“人类创作的艺术很重要”这几句。但他也很克制地补了一刀:Suno 不打算去评判某首作品本身值不值得存在,到底披不披 AI 的外衣,最终还是艺术家和平台自己决定。

    这不是 Suno 该去评判单个作品价值的地方,要不要披露用了 AI 工具,最终是艺术家和平台的事。

    治标容易,治本难

    话是漂亮话,落地的坑也不少。Suno 这波没给出技术细节,媒体追问 specifics 也没回。更现实的问题是:水印和指纹能在自家平台内生效,可一旦音频被下载、转码、再上传到别处,追踪链条就很容易断。它想拉拢发行平台一起打欺诈和滥用,但这套联盟能不能成,还得看别人买不买账。

    • 动作:上线水印 + 音频指纹,让 Suno 生成内容可识别、可溯源
    • 下载:延续与华纳和解后的收口方向,仅付费用户可下、限月度次数
    • 立场:强调透明与尊重版权,但把“是否披露 AI”的判断权留给艺术家和平台
    • 未知数:技术细节未公开,跨平台追踪与生态合作仍是问号

  • AI语音越来越像真人,ElevenLabs悄悄给音频打上了「隐形水印」

    AI生成的语音越来越逼真,普通人根本分不清哪些是真人录的、哪些是机器合成的。这个问题不只是”听不听得出来”——当诈骗电话开始用AI克隆亲人的声音,当假新闻用合成语音煽动情绪,你才发现”能分辨”和”不能分辨”之间隔着巨大的安全隐患。

    看不见的水印,埋在声音里

    6月26日,AI音频平台ElevenLabs宣布接入Google DeepMind的SynthID隐形水印技术。这个技术的思路很聪明:不是在外层贴标签,而是把标识信息直接编织进音频信号本身——人耳听不到,但检测器可以准确识别。

    更重要的是,这个水印经得起折腾。剪辑、压缩、换格式、删元数据——这些操作过去能让溯源信息直接消失,但SynthID埋得够深,上述操作基本奈何不了它。

    AI音频水印技术概念图
    SynthID水印直接嵌入音频信号,人耳无法察觉,但可以被检测器识别

    免费用户先用,几周内全覆盖

    ElevenLabs的部署节奏是先覆盖免费用户的文本转语音生成,然后”在未来几周内”扩展到所有音频生成类型。同步推出的还有一个免费工具:ElevenLabs Audio Detector,任何人都可以把一段音频传上去,检测它是不是ElevenLabs生成的。

    根据Google DeepMind的数据,SynthID技术已经在全球范围内标记了超过1000亿条AI生成内容。这次扩展接入ElevenLabs,是继OpenAI、NVIDIA之后的又一重要落地。

    不只是打假,还有版权归属

    水印技术的意义不止于”识别假内容”。对创作者来说,持久的水印意味着他们可以证明某段AI生成音频确实出自自己——即使这段音频被下载、转码、再上传到YouTube或TikTok。内容溯源(provenance)正在成为AI平台的标配能力。

    当然,这套方案也不是万能的。水印标准如果只在少数平台间互通,效果就会打折扣。而且,真正想作恶的人总会想办法绕过检测——这是一场持续的猫鼠游戏。


    • SynthID水印直接嵌入音频信号,剪辑压缩后依然可检测
    • ElevenLabs免费用户率先覆盖,全平台几周内上线
    • Audio Detector免费开放,可检测任意音频是否为AI生成
    • 水印技术同时服务于内容溯源和版权保护两个目标
  • 欧盟发布AI内容标签规范,8月2日起强制生效

    欧盟这一次动真格了。6月10日,欧盟委员会正式发布AI内容标签实践准则(Code of Practice),给所有在欧运营的生成式AI划定了透明底线。规则很简单:从今年8月2日起,任何AI生成或篡改的内容,只要涉及公共利益,必须打上标签;任何和AI聊天机器人互动的用户,必须事先被告知对方是机器。

    自愿准则,强制义务

    这份准则本身是企业自愿签署,但它指向的义务可不是自愿的。它们写在了《欧盟AI法案》第50条里,8月2日一到,不管你签不签这份准则,法律义务都摆在那里。

    签了准则的好处是,欧盟委员会给你一个”合规认可”,相当于拿到了一张官方背书。对于在大模型供应链上的公司来说,这种认可不是可有可无——它意味着你的产品在被审查时,有一个现成的合规证据。

    “欧洲人有权知道他们看到、听到或读到的内容是否由AI制作或篡改,尤其是当这类内容可能塑造公共讨论的时候。”——欧盟委员会执行副主席Henna Virkkunen

    供应链上的分工

    准则把标签工作拆成了两截,正好对应AI供应链的上下游。上游是做基础大模型的公司,它们被要求以机器可读的格式标记自己的输出,这样下游才能接着处理。下游是把模型做成产品的部署方,它们负责给用户看得到的标签。

    对于面向公共利益的AI生成文本,这个”公共利益”的判定很关键——如果内容在没有人工审核或编辑控制的情况下发出,就必须标签。换句话说,全自动的AI新闻稿、AI公关稿,以后在欧盟得明明白白告诉读者”这是AI写的”。

    欧盟AI内容标签规范
    欧盟试图在AI透明度上拿下全球标准制定权

    时间紧迫,细节未定

    留给企业的时间不到两个月。欧盟委员会还在准备补充指南,会澄清法律条文里没说清楚的部分,也会覆盖这份准则没顾及到的场景。但企业不能等——8月2日法律就生效了,到时候没贴标签就违法了。

    这份准则由六名独立专家起草,180多个利益相关方参与了讨论。它是《欧盟AI法案》下第一个处理内容标签的工具,但肯定不会是最后一个。欧盟的意图很清楚:在AI透明度这个问题上,它要拿下的不只是区域标准,而是全球规则制定权。


    对做AI产品的公司来说,现在就得动手了:盘点哪些输出需要标签、用什么格式标记、怎么在产品中展示。等到7月再动手,只怕来不及。

  • 《加勒比海盗》导演喊话好莱坞:用AI写剧本的电影,应该打上F标

    《加勒比海盗》导演喊话好莱坞:用AI写剧本的电影,应该打上F标

    好莱坞导演戈尔·维宾斯基(《加勒比海盗》系列导演)最近向媒体表态:电影行业需要一套AI使用分级制度。如果一部电影的剧本是用AI写的,它应该被打上”F级”标签——就像给电影分级那样,让观众一眼就知道这部片子的AI参与程度。

    一个导演的担忧

    维宾斯基这次表态的背景是翠贝卡电影节期间的一次访谈。他并非全面反对AI——作为从业者,他清楚有些独立电影人预算有限,用AI来完成某些靠钱堆不出来的镜头,这情有可原。但他觉得,观众有权知道一部电影里到底有多少是”人做的”,有多少是”AI生成的”。

    他说得很直白:现在最大的问题是不透明。观众看完一部电影,根本分不清哪些画面是实拍的、哪些是AI合成的、剧本有没有让AI代笔。这种模糊感让人不安,尤其是当AI生成内容的质量已经到了肉眼难以分辨的地步。

    AI电影分级概念图
    AI正在改变电影制作的每个环节,但透明度仍然缺乏

    “F级”分级意味着什么

    维宾斯基提出的”F级”借鉴了电影分级的思路。F在这里不是”失败”的意思,而是强调”Full AI”或”AI辅助创作”的警示标。他的核心逻辑是:观众选择电影时,应该和选择食物时看配料表一样,有权知道这部电影的”成分”。

    这听起来有点极端,但类似的讨论在其他行业已经出现过了。音乐流媒体平台Deezer前不久上线了AI音乐检测器,帮助用户识别哪些歌曲是AI生成的。维宾斯基的提议相当于把这套逻辑搬到了电影行业,而且不止针对配乐,而是覆盖剧本、画面、后期等全流程。

    “人们最担心的就是没有透明度,人们害怕分不清什么是真的、什么是假的。”——戈尔·维宾斯基向Variety表示

    好莱坞的两难

    好莱坞现在面对的局面有点尴尬。一方面,制片厂发现AI能大幅压缩成本——概念设计、分镜预览、甚至某些特效镜头,用AI来做比传统流程快得多也便宜得多。另一方面,从业者担心AI会吃掉整个行业的就业机会,观众也对”AI电影”有抵触情绪。

    这种矛盾导致大多数制片厂对AI使用讳莫如深——用是用了,但不说,或者只说”我们用AI来做辅助工具”,具体辅助到什么程度,观众无从得知。维宾斯基的提议正是想打破这种沉默,强迫行业把AI使用情况公开出来。

    当然,这个想法距离真正落地还很远。谁来制定标准?谁来审核?制片厂会不会钻空子?这些都是现实问题。但维宾斯基把这事提出来,至少让更多人开始认真想:当AI深度参与创作时,”真实”这个词到底还有没有意义。