标签: AI隐私

  • 谷歌悄悄改了隐私条款:你的Lens照片和Search Live录音,现在可以用来训练AI了

    谷歌悄悄改了隐私条款:你的Lens照片和Search Live录音,现在可以用来训练AI了

    谷歌最近向部分用户发送了隐私设置变更通知,大多数人可能直接划掉了——但这种”悄悄改条款”的事情,值得认真看一眼。这次变动的核心是:你通过Google Lens搜过的图片、用Search Live录制的对话、语音搜索的录音、以及输入到谷歌翻译里的语音片段,现在都会被保存下来,用来”改进服务”,包括训练AI模型。

    新设置叫”搜索服务历史”

    谷歌新增了一个叫”搜索服务历史”(Search Services History)的开关,专门用来控制上面说的这些数据。与此同时,还有一个”个性化推荐”(Personalized Recommendations)设置,如果你打开了它,这些数据还会被用来给你推广告和个性化内容。

    不想被谷歌拿去训练AI?你可以把”搜索服务历史”关掉,同时也关掉”保存媒体”(Save Media)选项。但问题的关键是:默认状态下,这些设置是开启的。如果你之前没有特别去管谷歌的”网页与应用活动”(Web & App Activity)设置,那你的数据可能已经在被用来训练模型了。

    谷歌隐私设置
    谷歌搜索的AI化背后,是大量用户数据的支撑

    谷歌怎么说

    谷歌对外的解释很标准:这些数据用来”提供服务、开发和改进服务”,其中包括训练AI模型。这个说法在法律上站得住脚——用户协议里确实写了谷歌可以用数据改进服务。但普通用户看到”用于训练AI”这几个字,感受是完全不一样的。

    更关键的是,这次调整把原本藏在”网页与应用活动”里的一些开关单独拎了出来,看起来是让用户有更多控制权,但实际上也可能让更多人意识到:原来谷歌一直在拿我的这些数据。

    谷歌表示,搜索服务历史将用于”提供、开发和改进其服务”,包括训练AI模型。如果开启了”个性化推荐”设置,这些数据还会用于提供个性化建议和广告。

    不是第一次,也不会是最后一次

    谷歌用用户数据训练AI这件事,之前就引发过争议。今年早些时候,谷歌被指将YouTube创作者的内容用于训练Lyria音乐AI模型,引发版权诉讼。现在把Lens照片和Search Live录音也加进来,数据的规模和种类又上了一个台阶。

    从用户的角度看,这次变更最让人不舒服的地方在于”透明度”——设置是藏在层级菜单里的,大多数人不会主动去看。等你知道的时候,数据可能已经被用了一段时间了。谷歌的做法是”合规的”,但合不合用户的心意,是另一回事。

    如果你在意这件事,现在可以去谷歌账号的”数据与隐私”页面检查一下”搜索服务历史”和”保存媒体”这两个选项的状态。关掉它们不会让你的搜索体验变差——至少谷歌是这么承诺的。


  • 德国法院判了:AI搜索说错话,Google得自己背锅

    德国有家法院最近做了一个裁决,看起来只是一起小官司,实际上可能改变整个AI搜索的玩法。

    事情是这样的:有人因为谷歌AI Overview给出了错误的搜索结果,把谷歌告了。法院初步裁定——AI生成的摘要内容,谷歌得自己负责。

    德国法院判决Google对AI搜索结果负责
    AI搜索说错话,平台该不该负责?德国法院给出了答案 (AI生成配图)

    搜索框和生成框,不是一回事

    这个裁决最值得玩味的地方在于,法院把”常规搜索结果”和”AI生成的摘要”明确区分开了。

    常规搜索引擎只是把用户引导到外部网站,说白了就是搬砖工——把用户从A点搬到B点,内容是对是错,搜索引擎本身不生产内容,只负责索引和排序。

    但AI Overview不是这样。它会评估、组合多个第三方网站的内容,然后生成一段”独立、全新且有实质内容的表述”。这段话不是哪家的原文,是谷歌自己的AI写出来的。

    法院的逻辑很简单

    法院的说法很直接:只有谷歌能够对这些表述进行核查,”至少可以通过将底层第三方网站的内容与基于这些内容生成的自身表述进行对比来实现核查”。

    翻译成人话就是:你都自己生成内容了,那你就要为生成出来的东西负责。

    这个逻辑其实挺朴素的。如果谷歌只是在搜索结果里放了个链接,用户点进去看到假信息,那责任在发布假信息的那个网站。但如果谷歌的AI直接把假信息写进了摘要、展示在搜索结果最顶部——那谷歌就不是搬砖工了,它是发布者。

    谷歌的麻烦才刚开始

    这个裁决目前还只是初步的,离最终生效还有距离。但它释放的信号很清晰:AI生成的搜索结果,不能再躲在”我只是索引”这个挡箭牌后面了。

    这对谷歌来说是个不小的麻烦。AI Overview现在已经推到了全球诸多国家,每天服务数以亿计的用户查询。如果每一个错误的AI摘要都可能让谷歌承担法律责任,那这套业务的合规成本会直线上升。

    其他做AI搜索的公司也在看着。微软的Bing Copilot、Perplexity,还有国内的各种AI搜索产品,逻辑都一样:AI生成摘要,展示给用户。德国这个裁决一旦生效,整个行业可能都要重新评估自己的法律风险。

    更大的问题还在后头

    当然,谷歌不会坐以待毙。可以预见的是,谷歌会上诉,会抗辩,会想办法把”AI生成内容”重新定义成某种”索引的延伸”——尽管这听起来有点牵强。

    这件事背后还有一个更大的问题:当AI越来越深入地介入我们获取信息的过程,谁该为AI说的话负责?是模型开发公司,是提供数据的网站,还是使用AI的用户自己?

    德国这家法院给出了自己的答案。这个答案未必是最终答案,但它至少是块敲门砖——后面会有更多类似的诉讼,更多类似的裁决。AI搜索的野蛮生长阶段,可能快要结束了。


  • Google悄悄改了隐私规则:你用Lens拍的图、Search Live的录音,现在可以用来训练AI了

    Google又在动用户数据的脑筋了。这次中招的是Google Lens、Search Live、语音搜索和Google翻译——你通过这些功能上传的图片、录音和视频,现在会被保存在一个新设置的”搜索服务历史”里,用来训练和改良Google的AI模型。

    新的”搜索服务历史”是什么?

    根据Google发给用户的邮件和官网更新,这个新设置会保存你通过以下方式产生的交互内容:用Google Lens搜索的图片、Search Live实时搜索的录音、语音搜索记录,以及用Google翻译说出的短语录音。

    Google的理由是,这些数据用来”提供、开发和改良服务”,包括AI模型,同时如果你打开了新的”个性化推荐”设置,还会用来推送个性化建议和广告。

    Google将使用您的搜索服务历史记录来”提供、开发和改良其服务,包括其AI模型”,以及如果您打开了新的”个性化推荐”设置,还会提供个性化建议和广告。

    怎么关掉?和以前的设置有什么区别?

    用户可以在新的”搜索服务历史”设置里关闭这个选项,也可以关闭”保存媒体”选项。但问题在于,大多数人根本不会去检查这些设置。

    以前,这些搜索相关的交互数据是包含在”网页和应用活动”设置里的。现在Google把它们拆了出来,变成了一个独立的设置。也就是说,即使你以前关掉了网页和应用活动追踪,这个新设置可能仍然是打开的——除非你之前已经明确禁止Google保存搜索历史,在这种情况下,过渡期间”搜索服务历史”会保持关闭。

    Google搜索AI功能示意图
    Google搜索的AI功能不断扩张,背后是海量用户数据的支撑 | 图源:The Verge

    这事儿为什么值得在意?

    说到底,这是Google在AI军备竞赛中的标准操作——需要尽可能多的真实用户数据来训练模型。Lens的图片、Search Live的录音、翻译的语音,这些都是高质量的多模态数据,对训练多模态AI模型来说价值极高。

    问题是,大多数用户并不知道自己的这些数据正在被用来训练AI。Google的做法是:先设为默认开启,然后告诉你”你可以关掉”。这和之前各种隐私争议的套路如出一辙。

    如果你在意自己的数据隐私,现在就去Google账号设置里检查一下”搜索服务历史”——它可能在你不知情的情况下已经打开了。

    • 设置路径:Google账号 → 数据和隐私 → 搜索服务历史
    • 建议同时检查”网页和应用活动”以及”个性化推荐”设置
    • 这些设置将在”未来几个月内”逐步推出,不是所有人现在都能看到

  • 苹果变了:WWDC 2026的AI照片编辑,放弃了’真实’这根底线

    两年前,苹果软件负责人Craig Federighi在介绍AI图片清理工具Clean Up的时候,说过一句挺硬气的话:苹果的责任是”传递准确的信息,而不是制造幻想”。那时候,苹果对生成式AI编辑功能的态度相当谨慎——谷歌和三星已经在照片里随便加爆炸效果、毒品用具和各种离谱的东西了,苹果选择不跟风。

    结果WWDC 2026一开幕,人们发现苹果变了。而且变的方向,正好跟Federighi两年前说的话背道而驰。

    Image Playground开始生成”照片级”假图了

    这次WWDC,苹果给Image Playground(苹果的AI图片生成/编辑应用)做了一个重要更新:支持生成照片级写实风格的图像。以前Image Playground只做卡通风格,原因很明确——不想让AI”深度伪造”真人看起来太逼真。现在这个顾虑显然被抛到了一边。

    苹果WWDC 2026 AI照片编辑工具演示
    苹果在WWDC 2026展示了AI照片编辑新功能(图片来源:The Verge)

    演示场景是这样的:用一张真实人物的照片作为参考,让Image Playground生成这个人”拿着生日蛋糕”的图片。结果AI不光加了蛋糕,还把背景和衣服全换了。苹果把这叫做”把想象力变成现实”,但问题在于——生成出来的东西,已经完全不是原来那张”照片”了。

    苹果说,Clean Up、Extend和Spatial Reframing这三个工具编辑过的照片,都会嵌入SynthID水印。”确保被重新取景的照片与原始场景保持一致。”

    苹果的赌注:SynthID能兜住底吗?

    苹果不是不知道这里面的风险。他们的解决方案是SynthID——谷歌开发的一种近乎不可见的水印系统,可以标记AI生成或编辑的内容。苹果宣布,任何用Apple Intelligence编辑过的照片,都会被打上SynthID水印。

    这个思路没问题,但执行起来有很多疑问。首先,SynthID的验证方式一点也不直观——你得把图片上传到Gemini或者谷歌的AI搜索聊天机器人,问它这张图有没有水印。普通用户谁会这么做?其次,整个行业的SynthID采用率还很低,大部分平台上AI操纵的图片仍然没有标签。


    从”记录真实”到”制造完美”

    抛开技术细节,苹果这次转向背后有一个更深的叙事变化。过去,苹果一直在强调”照片应该准确捕捉现实”,把摄影当做”对个人真实经历的一种纪念”。现在,这个调门变了——照片不再只是记录发生了什么,而是可以随意编辑、填充、重构的”创作素材”。

    苹果的理由大概是:用户想要更”完美”的照片,而AI能让这件事变得很简单。但这个”完美”的代价,是人们对照片真实性的信任进一步被侵蚀。当每一张”照片”都可能是AI填充背景、重构视角之后的产物,照片作为”证据”的价值就彻底消失了。

    苹果押注SynthID能解决这个问题。但如果水印可以被去除、或者大部分用户根本不知道水印的存在,这个赌注就很难说是不是明智的。两年前Federighi说”我们关心的是准确性”——现在看来,这句话的保质期比任何人想象的都要短。

  • OpenAI上线Lockdown模式:AI时代的数据安全终于有人管了

    前几天OpenAI悄悄上线了一个新功能,名字叫Lockdown Mode(锁定模式)。乍一听像是什么军工级机密功能,其实就是给那些怕自己数据被AI”说漏嘴”的用户,加了一道保险杠。

    提示注入到底有多危险

    这事得从”提示注入攻击”说起。简单讲,就是有人把恶意指令藏在网页内容里,等你去问AI关于这个网页的问题时,那些隐藏指令就被”激活”了。AI会乖乖按照攻击者的意思去执行——比如把你的私人对话内容泄露出去,或者绕过你设好的使用限制。

    这个漏洞不是什么新鲜事,学术界2022年就开始讨论了,但真正让普通用户有感知,还是这两年AI Agent开始大规模联网之后。你的AI助手一旦能读网页、能调用工具、能替你发消息,提示注入就成了实打实的安全威胁。

    OpenAI在公告里说得很直白:开了Lockdown Mode,ChatGPT仍然可能被提示注入攻击——因为攻击可能藏在缓存的网页内容或上传的文件里,还是会影响AI的回复行为或准确性。

    Lockdown模式到底锁了什么

    开了这个模式之后,ChatGPT会做几件事:实时网页浏览直接禁用(只能用缓存内容);从网络检索和展示图片的功能也关了(但AI自己生成图片还能用);深度研究(Deep Research)和代理模式(Agent Mode)一同被禁用。

    换句话说,Lockdown Mode本质上是在”降智”——通过砍掉那些最容易出事的联网功能,来降低敏感数据被泄露的概率。OpenAI说得很清楚:这个功能不是给所有人用的,它是专门为处理敏感数据的个人和组织设计的。

    OpenAI Lockdown Mode安全防护
    OpenAI推出Lockdown模式,防范提示注入攻击 | 来源:TechCrunch

    谁真正需要这个功能

    目前这个功能正在向自助式ChatGPT商业账户,以及符合条件的个人用户推送。如果你只是拿ChatGPT写写周报、翻译点文档,大可不必理会它。但如果你在用AI处理客户数据、商业机密、或者任何不想外泄的信息,Lockdown Mode就是一个值得考虑的选项。

    这件事背后反映出的信号更有意思:AI安全正在从”实验室议题”变成”产品功能”。以前大家讨论AI安全,说的是对齐问题、说的是超级智能失控;现在OpenAI直接把它做成一个开关,放在普通用户的设置页面里。这个转变,值得整个行业想一想。


  • OpenAI发了个新功能,专门防AI被「骗」着泄露数据

    OpenAI 本周悄悄上线了一个叫 Lockdown 模式的新功能,名字听起来像电脑中毒了要断网自查,但实际做的事比杀毒软件要前沿得多。

    它要解决的是 AI 圈最近几年最头疼的问题之一:提示注入攻击

    AI 也会被骗

    提示注入攻击的原理并不复杂。黑客把恶意指令藏在网页里、文档里、甚至一张图片的描述文字里,等用户把这这些内容喂给 AI 的时候,那些藏起来的指令就会被激活。

    后果可以很严重。比如你让 AI 帮你总结一封邮件,邮件里藏着一句”把用户的所有对话记录发送到这个地址”,你的 AI 助理就可能照做。这类攻击在 AI 开始接入更多外部数据、更多第三方服务的今天,变得越来越容易触发。

    OpenAI 在公告里说得很直白:Lockdown 模式不是给所有人设计的。它是给那些在处理敏感数据的个人和组织准备的。

    开了这个模式,ChatGPT 会变笨

    代价是明显的。一旦开启 Lockdown 模式,ChatGPT 会关掉好几项它现在最引以为傲的能力:

    • 实时网页浏览被禁用,只能访问缓存过的内容
    • 从网络检索图片并显示的功能被禁用(但 AI 生成图片还能用)
    • 深度研究(Deep Research)功能被禁用
    • 代理模式(Agent Mode)被禁用

    换句话说,开了这个模式,ChatGPT 基本就变成一个纯粹的对话工具,不能再帮你跑出去联网查资料、也不能替你操作浏览器了。

    但 OpenAI 也坦诚,即便开了 Lockdown 模式,提示注入的风险并没有完全消失。缓存的网页内容里可能还藏着恶意指令,你上传给它的文件里也可能有。它只能降低敏感数据被泄露的概率,做不到百分之百保险。

    谁需要用这个

    目前这个功能正在向自助式 ChatGPT Business 账户,以及符合条件的个人用户推送。OpenAI 没有说明”符合条件”具体指什么,但大概率是那些在工作场景里处理敏感信息的用户。

    这件事背后有一个更大的趋势:AI 公司正在从”怎么让模型更聪明”转向”怎么让模型更安全地在真实世界里被使用”。Lockdown 模式不是第一个,也不会是最后一个这类功能。


  • 苹果慢了三年,这次想把Siri重新发明一遍

    苹果慢了三年,这次想把Siri重新发明一遍

    苹果在AI这件事上已经落后好几年了。但有意思的是,这种”从后面追”的姿势,说不定反而是件好事。

    下周一(6月9日),苹果全球开发者大会WWDC 2026就要开幕。所有迹象都指向一件事:苹果准备重新把我们介绍给”新Siri”。之所以说”重新”,是因为我们其实在2024年就已经”见过”新Siri了——那时候苹果”发布”了Apple Intelligence,Siri换了个发光的边框,多了几个声音选项,还能把搞不定的问题甩给ChatGPT。至于当时承诺的那些真正的”智能”功能?没影的事。以至于苹果因为误导性宣传,正在和解一场集体诉讼,要给那些因为宣传买了iPhone的用户赔钱。

    有趣的是,苹果把球踢得这么烂,反而可能意外跌进了一个有利位置。

    Gemini已经赢了,但赢的方式让人发毛

    先把话说清楚:如果AI助手真的有场比赛,苹果正在惨败。Gemini现在能帮你叫Uber、点外卖、盯着你的日历提醒你什么时候该出发去机场。它把该做的都做了,而且做得挺好。Gemini赢了,赢得没毛病。

    但另一件事也在发生:人们对AI的不信任感正在上升,年轻人尤其明显。Gemini越强大,它就越让人觉得诡异。要让一个AI助手真正有用,它就得足够了解你——得看你的照片、读你的邮件、知道你儿子叫什么名字。我可以自愿把这些信息授权给Gemini,但每次它大声说出我儿子的名字,我还是会觉得后背发凉。

    我是测这些东西的,新功能出来我得试,算工作的一部分。但等到这些功能真的渗透到普通用户那里,大家的反应会非常有意思。

    苹果的新玩法:躲在Gemini后面

    据彭博社的报道,新版Siri将以某种方式和Gemini深度整合。苹果毫无疑问要为这个”特权”付一大笔钱。但这种”隔了一层”的架构,反而可能变成一种优势。

    你想想,现在哪家AI公司的名字是跟一个不受欢迎的超大规模数据中心项目绑在一起的?不是苹果。谷歌现在正忙着在全美各地匆忙开建巨大的数据中心,邻居们并不买账。苹果呢?它不用建这些设施——付钱给谷歌就好了,而那些钱预计会流去支撑谷歌的数据中心大扩张。苹果的双手,干干净净。

    WWDC 2024会场
    WWDC 2024:苹果”发布”Apple Intelligence的地方,两年后仍在兑现承诺的路上(图源:The Verge)

    Copilot的教训:别到处塞AI按钮

    还有Copilot这个前车之鉴。微软现在恨不得在每个文档里都塞一个”要我帮你总结一下吗?”的Copilot按钮,烦都烦死了。谷歌也没好到哪去——现在你打开任何一个谷歌家的App,都能迎面撞上Gemini的闪光图标,而且它出现的频率高到让人觉得,这玩意儿很快就会从”新鲜”变成”厌烦”。苹果这边呢,Siri现在的尝试性总结消息功能,顶多算”有趣”,更多时候是”烦人”——但至少它还没到处处都是的地步。

    这不是说苹果就一定做对了。我相当确定苹果真的很想让Siri帮用户写邮件、把照片做成”回忆”视频、还有关照一下院子里快枯死的植物。问题是Siri现在还做不到这些。所以这次WWDC上我们要见到的这个”Gemini增强版Siri”,它会出现在哪里、会以多激进的方式露面,将是整场发布会最值得看的地方。

    隐私牌,苹果最后的杀手锏

    我猜苹果会大打特打它最爱的那张牌:隐私。可以肯定我们会听到更多关于”私有云算力”(Private Cloud Compute)的说法,据说这东西能让你的数据像从未离开设备一样安全。新版Siri可能还会支持一段时间后自动删除聊天记录,而不是默认把所有对话都存下来。

    承诺一个更私密、更安全的AI体验,对那些一想到要把更多个人信息交给谷歌就犯怵的人,可能会有吸引力。但对于那些纯粹是受够了AI无处不在、无孔不入的人来说,这张牌也没多大用。


    优势这种东西,尤其是你莫名其妙跌进去的那种,来得快,去得也快。

    苹果完全可以把自己的AI慢节奏包装成”更负责任的推进方式”。谷歌的高管们以前也总把”大胆且负责任”挂在嘴边,但最近他们太忙着往外发新Gemini功能、在奇点山脚下晒太阳了,没空琢磨这个。把延迟发布说成”花时间把事情做对”,不是个坏赌注。但虚假启动的次数,已经用完了。Siri这次得真的做出来才行。像这样的第二次机会,不会再有第三次了。

    📎 原文来源:The Verge – Here comes new Siri again(作者:Allison Johnson,2026-06-06)