标签: 欧盟AI法案

  • 欧盟AI法案透明度条款生效:和AI聊天,平台得先说清楚

    欧盟刚给所有做AI的公司立了条规矩:别再偷偷摸摸了。8月2日起,欧盟《AI法案》里新增的一批透明度义务正式生效,核心就一句话——只要你在跟AI说话,或者你看到的内容是AI生成的,相关方就有义务明明白白地告诉你。

    谁该负责,分两种情况

    这套规则把”开发AI的”和”用AI的”分成了两类角色。提供者(provider)指的是那些研发并对外发布AI系统的公司;部署者(deployer)则是把AI接进自己产品里用的平台和服务。像Meta、xAI这种既做模型又做面向用户产品的,被同时划进了两个筐。

    对提供者来说,系统必须主动提醒用户”你现在聊的是AI而不是人”,除非这种区别”显而易见”(比如一个明显是机器人的客服入口)。更关键的是,合成出来的音频、图片、视频、文本里都得带上机器可读的标记,方便下游检测这是不是人造内容。

    欧盟委员会在指南里写得很直白:生成式AI发展太快,人已经越来越难分清对面是真人还是模型。大家有权知道自己在跟谁打交道,这能帮他们决定该不该信、该信多少。

    深伪内容逃不掉了

    部署者这边,凡是用来以假乱真的AI生成或改动的图片、音频、视频,都必须打上标签。这基本就是冲着深伪(deepfake)来的——以前一张假图发出去,平台可以装作不知道,现在不行,你用了AI造假就得标。

    为了不让每家公司的标签长得五花八门,欧盟委员会还专门做了一套官方图标,企业可以直接拿来用,不用自己设计。委员会的想法挺朴素:如果大家都用同一套标识,用户在不同平台上看到的提示就会一致,慢慢也就形成条件反射了。

    欧盟AI透明度标识图标
    欧盟委员会推出的官方AI标识,企业可直接使用

    不标会被罚款

    这套义务是《AI法案》第50条下的透明度要求,违规的公司面临罚款。不过眼下最大的疑问不是罚不罚,而是执行。机器可读的水印能不能扛住截图、转码、二次编辑?平台自己既是裁判又是运动员时,会不会选择性标注?

    • 对普通用户:以后刷到AI内容,理论上会多一个”这是AI”的提示,至少知情权回来了。
    • 对开发者:模型输出得内置可检测标记,产品上线前多了一道合规活。
    • 对平台:既要标自己生成的,也要标用户上传的AI内容,审核成本肉眼可见地涨。

    说到底,这条规定改变的不是技术,而是默认预期。过去AI内容混在真人作品里是常态,现在欧盟先把”你得说一声”写成了法律。机器可读标记能不能真正落地还得看各家怎么实现,但至少方向已经摆出来了:透明度不再是可选项。

  • 欧盟AI法案松口了:合规截止日期推迟,中型企业也能喘口气

    5月7日,欧盟理事会和欧洲议会谈判代表就AI法案简化方案达成临时协议,这是继2024年AI法案正式生效后,欧盟首次对规则进行大规模”松绑”。距离原定8月2日的高风险AI系统合规截止日只剩三个月,很多企业还没摸清门道,欧盟干脆把期限往后推了。

    宽松在哪里

    最直观的变化是截止日期——独立类高风险AI系统的合规期限从今年8月推到了2027年12月2日,嵌入医疗设备等受监管产品的高风险AI更是延至2028年8月2日。中间还有4个月的”水印义务宽限期”,今年8月2日前投放市场的生成式AI,可以等到12月2日再完成水印标注合规。

    受监管范围也在收窄。工业机械内置的AI系统,如果已经受欧盟《机械法规》覆盖,直接被剔除出AI法案监管范围。医疗设备、玩具、电梯等产品中内置的AI”安全组件”,只需要遵守对应行业的安全法规,不用再重复履行AI法案的义务。

    “安全组件”的定义被收窄了——只有当AI功能失效会直接造成健康或安全风险时,才会被认定为高风险AI的”安全组件”。那些只是用来辅助用户、优化性能的AI功能,不会再被自动划为高风险范畴。

    中小企业也受惠

    原来只有小微企业(SME)才能享受的简化合规政策,现在扩展到了员工不超过750人、年营收不超过1.5亿欧元的中型企业。这意味着一大批成长型AI公司可以享用简化合规指南、更低的罚款标准,以及监管沙盒的准入资格。

    还有一个挺有意思的放宽:企业现在可以使用GDPR定义下的特殊类别个人数据(健康信息、生物特征数据、种族、性取向等)来检测和缓解AI模型的偏见,不需要再走此前那套严苛的特殊数据审批流程。

    红线还在

    放宽不等于放任。”nudifier”类AI应用——也就是用来生成未经同意的亲密内容、儿童性虐待材料的系统——被新增为禁止项,今年12月2日起生效,违反禁止性规定的最高罚款是3500万欧元,或全球年营业额的7%,取高者。

    透明度义务(聊天机器人披露、深伪内容水印等)依然在8月2日生效,只是水印部分给了4个月宽限。罚款标准是不超过1500万欧元或全球年营业额的3%。


    企业该怎么应对

    宽限期多出来的这几个月的用处,是让企业把合规框架搭好,而不是继续拖。欧盟委员会到现在还没发布高风险AI系统的协调标准,等标准出来的时候,留给企业调整的时间可能还是不够。提前把风险分类、数据治理、技术文档这些基础工作做扎实,比临时抱佛脚要靠谱得多。

    还有一个现实问题:欧盟数据保护机构已经在AI领域开展GDPR执法了,已经有企业因为违规被罚款、相关AI应用被禁用。AI法案和GDPR是两套并行规则,合规的时候不能只盯着一个看。