分类： AI资讯

欧盟刚给所有做AI的公司立了条规矩：别再偷偷摸摸了。8月2日起，欧盟《AI法案》里新增的一批透明度义务正式生效，核心就一句话——只要你在跟AI说话，或者你看到的内容是AI生成的，相关方就有义务明明白白地告诉你。

谁该负责，分两种情况

这套规则把”开发AI的”和”用AI的”分成了两类角色。提供者（provider）指的是那些研发并对外发布AI系统的公司；部署者（deployer）则是把AI接进自己产品里用的平台和服务。像Meta、xAI这种既做模型又做面向用户产品的，被同时划进了两个筐。

对提供者来说，系统必须主动提醒用户”你现在聊的是AI而不是人”，除非这种区别”显而易见”（比如一个明显是机器人的客服入口）。更关键的是，合成出来的音频、图片、视频、文本里都得带上机器可读的标记，方便下游检测这是不是人造内容。

欧盟委员会在指南里写得很直白：生成式AI发展太快，人已经越来越难分清对面是真人还是模型。大家有权知道自己在跟谁打交道，这能帮他们决定该不该信、该信多少。

深伪内容逃不掉了

部署者这边，凡是用来以假乱真的AI生成或改动的图片、音频、视频，都必须打上标签。这基本就是冲着深伪（deepfake）来的——以前一张假图发出去，平台可以装作不知道，现在不行，你用了AI造假就得标。

为了不让每家公司的标签长得五花八门，欧盟委员会还专门做了一套官方图标，企业可以直接拿来用，不用自己设计。委员会的想法挺朴素：如果大家都用同一套标识，用户在不同平台上看到的提示就会一致，慢慢也就形成条件反射了。

不标会被罚款

这套义务是《AI法案》第50条下的透明度要求，违规的公司面临罚款。不过眼下最大的疑问不是罚不罚，而是执行。机器可读的水印能不能扛住截图、转码、二次编辑？平台自己既是裁判又是运动员时，会不会选择性标注？

• 对普通用户：以后刷到AI内容，理论上会多一个”这是AI”的提示，至少知情权回来了。
• 对开发者：模型输出得内置可检测标记，产品上线前多了一道合规活。
• 对平台：既要标自己生成的，也要标用户上传的AI内容，审核成本肉眼可见地涨。

说到底，这条规定改变的不是技术，而是默认预期。过去AI内容混在真人作品里是常态，现在欧盟先把”你得说一声”写成了法律。机器可读标记能不能真正落地还得看各家怎么实现，但至少方向已经摆出来了：透明度不再是可选项。

去年还没毕业的时候，Grace Li 和几个大学同学捣鼓一个 AI 游戏引擎。模型能把游戏跑起来，功能也都齐全，可问题是——没一个好玩。这下把他们难住了：一个游戏好不好玩，到底该怎么判断？

他们最后想明白一件事：这种判断没法交给机器，只能靠人。于是几个年轻人开始琢磨，怎么把”真实人类的好恶”大规模收集起来。这个念头后来长成了 DesignArena，一个今天在全球有 530 万人在用的 AI 工具。

“它是很多模型在设计这件事上往前走时卡住的那个瓶颈，”Li 说，”大概一周后，我们就和一家前沿实验室签下了第一笔大单，后面的事基本就成了。”

把”哪个更好看”做成一门生意

普通用户用 DesignArena，感觉有点像在用高级版的模型路由。你在一个类似 ChatGPT 的窗口里写下需求，再选好格式和风格，系统就会甩出一组”A 还是 B”的二选一，让你一路比下去，直到把几个产出从好到差排个序。

真正值钱的其实是面向企业那一侧。正在被评估的模型可以把这个平台当成源源不断的即时反馈源——用来打磨自己生成图片、网页这类”媒体”的能力。而打分的人往往根本不在乎自己评的是哪个模型，他们只想要最好的那个结果。这种”无偏见”的排序，正好能告诉实验室：用户到底想要什么。

• 公司主体叫 Intelligence，本轮 790 万美元种子轮由 Index Ventures 领投，Conviction、A*、Valkyrie 等跟投。
• 平台目前年经常性收入（ARR）已达 6000 万美元，成了行业里关键的人类主导评估数据源。
• 用户必须登录才能拿到产出，于是公司还能追踪不同大洲、不同时间的”口味”变迁——比如亚洲的网页仪表盘普遍更追求满屏的信息密度。

人肉打分能补上自动评测的漏洞

这套玩法是对自动基准测试（benchmark）的重要补充。跑分可以铺得很大，但也容易被刷、被钻空子——上周那起 Hugging Face 被黑的事件，就把这种脆弱演示得淋漓尽致。不过，靠众包人类反馈也不是稳赢的买卖。

和它思路相近的 Yupp，今年早些时候就关门了。Yupp 同样拿下了几家前沿模型当客户，号称用户超 130 万，背后还有 a16z crypto 的 Chris Dixon 投的 3300 万美元，最后却没撑起一门长久的生意。反观走文字路线的 LM Arena，年初刚拿下 1.5 亿美元 A 轮，正式上线付费产品才四个月。

说到底，AI 现在最不缺的是”能干活”，最缺的是”知道什么是好”。DesignArena 想做的，就是把这个模糊的审美判断，变成可以规模化的商品。