标签: AI隐私

  • 你用Google搜索,也在帮它训练AI——好消息是你可以退出

    你每次用Google搜索,用Google Lens拍张照片识别,或者用语音搜索问个问题,这些操作产生的内容,可能正在帮Google训练它的AI模型。

    大多数人不知道这件事,因为Google没有大张旗鼓地通知你。它在2026年6月悄悄更新了隐私设置,把”Search Services History”和”Personalized Recommendations”两个选项默认打开了。其中包括一个叫”Save Media”的子选项——你的图片、音频、视频录音,现在都可能被用来改进Google的AI模型。

    Google AI隐私设置
    Google的隐私设置更新后,用户媒体数据可能被用于AI训练(插图)

    不只是搜索历史,连你的照片和语音也不放过

    这次更新的影响范围比很多人想象的广。它不只涉及Google Search,还包括Google Maps、Shopping、Flights、Hotels、Translate、News——基本上所有带搜索功能的Google服务都在内。

    具体场景是这样的:你用Google Lens拍了一张花的照片识别品种,这张照片可能被保存下来用于AI训练;你用Google app里的Search Live功能语音提问,那段录音也可能被保存;你用Google Translate练习口语,录音同样会被留存。Google在自己的帮助文档里写得很直白:“我们用你的历史记录来开发和改进服务(比如训练生成式AI模型)。”

    Google在给客户的邮件里直接承认:”像你的搜索服务历史记录一样,你保存的媒体也被用于开发和改进Google服务及技术,包括AI模型和安全措施。”

    不是只有Google在这么做

    把用户数据拿来训练AI,Google不是独一家。Meta也在大规模做同样的事——用用户上传到Facebook和Instagram的图片训练AI,甚至想访问用户手机相册里还没发出的照片。Ray-Ban Meta智能眼镜录制的音视频,同样也可能被用于AI训练。

    这背后是整个行业的变化。以前AI公司主要靠抓取公开网页来训练模型,现在这条路的数据差不多用完了,它们开始从自己服务的用户身上找”燃料”。你用它们的产品,产生数据,它们用这些数据让AI变得更聪明,然后卖更好的AI服务——这个循环正在成为AI时代的标准商业模式。

    怎么退出?

    好消息是,Google给了用户选择权,只是没怎么宣传。你可以去这两个页面调整设置:

    还有一点值得注意:这次更新把原来的”Web & App Activity”拆分成了两个设置——原来的Web & App Activity,和新的Search data。也就是说,即使你之前关闭了Web & App Activity的数据存储,Search data那边可能还是开着的,需要单独检查。


    这次隐私设置的更改,再次提醒了一个事实:用免费服务,代价是你的数据。AI时代这个交换变得更加直接——你产生的内容,正在成为别人训练AI的养料。如果你在意这件事,现在就去检查一下自己的Google账号设置。

  • 隐私AI平台Venice AI拿下6500万美元融资,估值冲上10亿美元

    隐私AI平台Venice AI拿下6500万美元融资,估值冲上10亿美元





    Venice AI隐私优先AI平台
    Venice AI的隐私优先AI平台界面概念图(图片:AI生成)

    大多数人使用AI聊天助手的时候,心里多少都有些顾虑。你跟它聊的东西,会不会被记录下来?那些私密的问题、个人的困扰、甚至只是不想被人知道的好奇心,会不会变成某家科技公司的训练数据?这种担心不是多余的,过去几年里,关于AI模型如何收集和使用用户数据的报道一直在出现。

    有一家公司恰恰从这个痛点里看到了机会。它叫Venice AI,做的事情很简单:让你用上200多个AI模型,同时保证你的数据不会被它看到。这家公司最近刚完成了一笔6500万美元的A轮融资,估值站上了10亿美元,正式成为独角兽。

    一个”不设防”的AI平台

    Venice AI的卖点在于”无审查”(uncensored)和隐私保护。它把自己定位成一个中立的平台,用户可以自由选择和切换不同的AI模型,用来生成文本、图片、音频和视频。平台上有些模型提供端到端加密,不过这项功能需要付费订阅才能使用。

    技术层面,Venice AI把开源模型部署在自己的数据中心里,而对于那些闭源模型(比如OpenAI或Anthropic的产品),它则把用户的查询请求转发过去。关键的区别在于:所有用户输入的数据在客户端就被加密了,然后通过一个外部代理服务器中转处理,Venice自己的系统上不存储任何用户数据。用CEO Erik Voorhees的话说,他们把服务当作一个”中立的工具或平台”。

    “这实际上跟比特币是一个逻辑。比特币作为一个中立的协议,对所有人一视同仁。我觉得,如果世界在进入下一个阶段的时候,每个人都时刻被盯着,那实际上会更加危险。”——Erik Voorhees

    从加密世界走来的创始人

    说起来,Voorhees本人就是一个很有争议的人物。他是早期的比特币倡导者,之前创办过几家加密货币公司,包括比特币赌博网站Satoshi Dice和加密货币交易所ShapeShift。他长期以来一直在为用户的隐私权益发声。

    当年《华尔街日报》调查ShapeShift,指责这家最初不需要用户实名认证的交易所在处理可疑资金,Voorhees的回应是:”我不觉得人们应该被强制记录身份信息,只是为了抓到个别犯罪分子。”这种立场放在今天关于AI安全的讨论里,听起来是不是有点耳熟?

    最近AI psychosis(AI导致的精神紊乱)的案例屡见报端,有人问Voorhees怎么看”不设限制”的AI可能带来的危害,他的回答延续了一贯的立场:平台应该保持中立,把用户当成年人对待。

    赚钱速度比融资还快

    有意思的是,Venice AI现在已经盈利了。Voorhees透露,公司的年化营收运行率已经超过7000万美元。这个数字是什么概念?很多独角兽公司在拿到同等级融资的时候,营收可能还只有几百万美元,甚至还在烧钱阶段。

    用户数据方面,Venice AI的网站每月有超过85万独立访客,平台上有300多万活跃用户,平均每天处理170万次API调用。这个体量说大不大、说小不小,但增长势头很猛。

    这轮A轮融资由加密领域的风险投资公司Dragonfly领投,Coinbase Ventures、North Island Ventures等机构跟投。这是Venice AI第一次接受外部投资——之前靠自有资金和营收就能撑到现在。


    还有两个代币

    既然创始人是加密圈的,这个AI平台跟加密货币的绑定也就不让人意外了。Venice AI有两个代币,一个叫VVV(今年1月初推出的),另一个叫DIEM(去年8月加上的)。用户可以购买VVV代币,然后质押它来铸造DIEM,每天产生价值1美元的AI积分,可以在Venice平台上消费。

    不过Voorhees说,目前只有大约8%的用户用加密货币支付,大多数用户还是用传统方式付费。代币更多是一个社区建设和用户激励的工具,而不是营收的主要来源。

    下一步:自己买GPU

    拿到这6500万美元之后,Venice AI打算开始买GPU,建自己的数据中心。目前他们还是租用的GPU算力,自己掌控硬件之后,毛利率会有显著提升。

    Voorhees说,公司早期跟ChatGPT的差距很大,用户宁愿忍受隐私风险也要用ChatGPT,因为后者的能力更强。但现在这种差距已经大幅缩小了,Venice AI成了一个越来越有说服力的替代选项。如果再加上”隐私保护”这张牌,对一部分用户来说,切换过去的理由就足够了。

    这个逻辑能不能跑通,还得看接下来的执行。隐私优先的AI平台到底是一个真正的市场空白,还是一小撮加密原教旨主义者的自嗨,时间会给出答案。



  • Signal总裁提醒:AI聊天机器人不是你的朋友,别把隐私交给它

    “这些不是你的朋友。”当被问及对ChatGPT和Claude这类聊天机器人的看法时,加密通讯应用Signal总裁Meredith Whittaker的回答非常直接。这句话出自她最近接受彭博社的专访,背后是一个在谷歌待了十多年的”内部反抗者”对当代AI助手热潮的冷思考。

    Signal与AI隐私
    Signal总裁Whittaker:AI聊天机器人不是你的朋友,别把隐私交给它 图:生成配图

    一个”谷歌抗议领袖”的转向

    Whittaker在谷歌工作了十多年,最出名的举动是2018年组织谷歌员工大罢工,抗议公司处理性骚扰问题的方式,以及反对谷歌参与五角大楼的”Project Maven”AI军事项目。她当时被媒体称为”谷歌抗议领袖”,2019年离开谷歌后加入了Signal。

    在Signal,她的立场一如既往地强硬:隐私是自由社会的先决条件,任何后门都是不可接受的。这次采访中,她把矛头指向了当下最热门的AI个人助手——那些被设计成”你最好的朋友”的聊天机器人。

    “这些不是你的朋友,不是有意识的个体,也不是有感知的对话者。”Whittaker说,”它们很有用,但很多东西都很有用。”

    她自己怎么用AI

    记者问她会不会用ChatGPT之类工具,Whittaker的回答挺有意思:她偶尔会让AI帮她格式化文档,但绝不会向AI”提问”。她说自己对思考和写作的过程非常认真,不希望那种从困惑到厘清思路的过程,被一个只会把网上已有内容取平均值的系统给提前剥夺了。

    这个态度很鲜明——AI可以当工具,但别把它当成了你思想的替代品。她特别提到,你当然可以说”我删除了聊天记录”,但最终决定这些对话数据是否被存储、被挖掘、被用于优化广告推荐的,是运营这个服务的公司,不是你。


    “AI圣诞购物”背后的隐私噩梦

    采访中最精彩的部分,是她对微软AI CEO Mustafa Suleyman的”AI圣诞购物”愿景的回应。Suleyman之前对彭博社说,2026年用户就可以让Copilot全权负责买圣诞礼物了——它会去翻你和家人兄弟姐妹的群聊,猜每个人想要什么,然后自己下单、自己安排寄送。

    Whittaker的拆解非常犀利:要实现这个功能,Copilot需要拿到你的信用卡、浏览器、Signal消息、代表你发消息的权限、家庭住址、日程表……”你刚才描述的,是一个能跨多个应用和服务获取极高权限的系统。放到Signal的场景里,这本质上就是一种后门。”

    她真正的担心是:全球只有三家公司控制着我们的核心操作系统——谷歌的安卓、微软的Windows、苹果的iOS。如果其中任何一家决定在系统层集成这种”全能AI助手”,那么Signal这样的隐私应用就失去了保障用户数据安全的能力。用户的选择权被悄无声息地剥夺了。

    “宁愿退出市场,也不开后门”

    这引出了一个很现实的问题:如果英国或欧盟政府要求Signal提供后背门(以打击儿童色情等名义),Signal会怎么做?Whittaker的回答没有丝毫犹豫:”我们的立场是,我们宁愿退出一个市场,也不会削弱技术保障。”

    她解释道,加密要么对所有人有效,要么对所有人无效。不存在所谓的”只有好人能用的后门”。一旦后门存在,它就会被各国情报机构盯上——她透露,已经有迹象表明俄罗斯愿意为发现Signal漏洞的人付钱。


    Signal的生存账本

    作为一个非营利基金会,Signal的运营模式也和硅谷主流截然不同。Whittaker透露,Signal每年的运营成本大约是5000万美元,70%来自大额捐赠者,30%来自普通用户的每月小额捐款。它没有VC股东,不需要为了下一轮融资拼命增长,也不需要为了IPO把用户数据货币化。

    这种”不为增长而增长”的模式,在当下显得有点格格不入。但Whittaker说得很坦然:”科技行业的经济引擎是数据的收集和货币化。Signal存在的意义就是做完全相反的事情。”

    至于她自己用不用这些AI工具?”我偶尔让它们帮我格式化文档,但我没有和它们建立任何关系。”这句话可能是对当下AI助手”拟人化”营销最干脆的回击。

  • Signal总裁警告:AI聊天机器人不是你的朋友

    你现在跟ChatGPT聊过天吗?问它拿主意、让它帮你写邮件、甚至把它当树洞说心事?这没什么稀奇的,越来越多人把AI聊天机器人当成了某种”数字朋友”。但Signal的总裁Meredith Whittaker最近给出一个很直白的警告:它们不是你的朋友。

    它们没有意识,也不是你的对话者

    Whittaker在接受Bloomberg采访时被问到ChatGPT和Claude这类聊天机器人的隐私问题时,她的回答相当犀利:”它们不是你的朋友,不是有意识的生物体,也不是有感知的对话者。”

    这话听起来有点冷酷,但她的逻辑很清晰。AI聊天机器人本质上是在”平均化”互联网上已经存在的内容——它给出的每个回答,都是基于训练数据里海量文本的统计分析,而不是它自己”想”出来的。如果你让AI替你思考,你自己的思维过程就被截断了。

    AI聊天机器人隐私警示
    AI聊天机器人便利的背后,是隐私让渡的代价

    她自己几乎不用AI来”帮忙思考”。她说:”我很认真地对待自己的思考和写作,不希望把一个想法推演的过程,被一个把网上已有内容做了平均化的系统的回答给截断或遮蔽掉。”

    微软Copilot的”圣诞购物”场景吓到人了

    真正让人警惕的,是AI公司自己描绘的”未来场景”。微软AI CEO Mustafa Suleyman最近预测,用户今年就能让Copilot全权负责圣诞购物——它会监听家庭群聊,判断每个亲戚想要什么,然后自动下单。

    Whittaker对此的回应是:这意味着你要给Copilot访问你信用卡的权限、访问浏览器的权限、访问你Signal消息的权限、替你给兄弟姐妹发消息的权限、你家庭住址的权限,还有你日历的权限。”你刚才描述的,是一个在多个应用和服务之间拥有极度广泛访问权的系统。”她说,”在Signal的语境下,这相当于一种后门。”

    这番话值得琢磨。AI公司不停告诉我们”让AI帮你做事”,但它们很少同时告诉你:要做到这一点,你需要把生活中几乎所有的数字权限都交给它。

    Signal的坚持:不跟风做AI”助手”

    Whittaker不是随便说说——她领导的Signal是目前少数几家坚决不往产品里塞AI”助手”的主流通讯应用。Signal的核心卖点就是端到端加密和隐私保护,往里面加一个需要把消息内容发给云端AI处理的”智能助手”,等于自废武功。

    这跟整个行业的风向形成了鲜明对比。WhatsApp已经加了AI助手,iMessage据传也在考虑类似功能。Signal的做法在商业上可能”不够聪明”,但Whittaker显然认为,有些底线不能破。


    说回开头那句话——AI不是你的朋友。这不代表你不能用它,而是说你得清醒地知道:你输入给它的每一句话,都在训练它、也在暴露你。把它当工具用,别把它当知己。

  • 谷歌悄悄改了隐私条款:你的Lens照片和Search Live录音,现在可以用来训练AI了

    谷歌悄悄改了隐私条款:你的Lens照片和Search Live录音,现在可以用来训练AI了

    谷歌最近向部分用户发送了隐私设置变更通知,大多数人可能直接划掉了——但这种”悄悄改条款”的事情,值得认真看一眼。这次变动的核心是:你通过Google Lens搜过的图片、用Search Live录制的对话、语音搜索的录音、以及输入到谷歌翻译里的语音片段,现在都会被保存下来,用来”改进服务”,包括训练AI模型。

    新设置叫”搜索服务历史”

    谷歌新增了一个叫”搜索服务历史”(Search Services History)的开关,专门用来控制上面说的这些数据。与此同时,还有一个”个性化推荐”(Personalized Recommendations)设置,如果你打开了它,这些数据还会被用来给你推广告和个性化内容。

    不想被谷歌拿去训练AI?你可以把”搜索服务历史”关掉,同时也关掉”保存媒体”(Save Media)选项。但问题的关键是:默认状态下,这些设置是开启的。如果你之前没有特别去管谷歌的”网页与应用活动”(Web & App Activity)设置,那你的数据可能已经在被用来训练模型了。

    谷歌隐私设置
    谷歌搜索的AI化背后,是大量用户数据的支撑

    谷歌怎么说

    谷歌对外的解释很标准:这些数据用来”提供服务、开发和改进服务”,其中包括训练AI模型。这个说法在法律上站得住脚——用户协议里确实写了谷歌可以用数据改进服务。但普通用户看到”用于训练AI”这几个字,感受是完全不一样的。

    更关键的是,这次调整把原本藏在”网页与应用活动”里的一些开关单独拎了出来,看起来是让用户有更多控制权,但实际上也可能让更多人意识到:原来谷歌一直在拿我的这些数据。

    谷歌表示,搜索服务历史将用于”提供、开发和改进其服务”,包括训练AI模型。如果开启了”个性化推荐”设置,这些数据还会用于提供个性化建议和广告。

    不是第一次,也不会是最后一次

    谷歌用用户数据训练AI这件事,之前就引发过争议。今年早些时候,谷歌被指将YouTube创作者的内容用于训练Lyria音乐AI模型,引发版权诉讼。现在把Lens照片和Search Live录音也加进来,数据的规模和种类又上了一个台阶。

    从用户的角度看,这次变更最让人不舒服的地方在于”透明度”——设置是藏在层级菜单里的,大多数人不会主动去看。等你知道的时候,数据可能已经被用了一段时间了。谷歌的做法是”合规的”,但合不合用户的心意,是另一回事。

    如果你在意这件事,现在可以去谷歌账号的”数据与隐私”页面检查一下”搜索服务历史”和”保存媒体”这两个选项的状态。关掉它们不会让你的搜索体验变差——至少谷歌是这么承诺的。


  • 德国法院判了:AI搜索说错话,Google得自己背锅

    德国有家法院最近做了一个裁决,看起来只是一起小官司,实际上可能改变整个AI搜索的玩法。

    事情是这样的:有人因为谷歌AI Overview给出了错误的搜索结果,把谷歌告了。法院初步裁定——AI生成的摘要内容,谷歌得自己负责。

    德国法院判决Google对AI搜索结果负责
    AI搜索说错话,平台该不该负责?德国法院给出了答案 (AI生成配图)

    搜索框和生成框,不是一回事

    这个裁决最值得玩味的地方在于,法院把”常规搜索结果”和”AI生成的摘要”明确区分开了。

    常规搜索引擎只是把用户引导到外部网站,说白了就是搬砖工——把用户从A点搬到B点,内容是对是错,搜索引擎本身不生产内容,只负责索引和排序。

    但AI Overview不是这样。它会评估、组合多个第三方网站的内容,然后生成一段”独立、全新且有实质内容的表述”。这段话不是哪家的原文,是谷歌自己的AI写出来的。

    法院的逻辑很简单

    法院的说法很直接:只有谷歌能够对这些表述进行核查,”至少可以通过将底层第三方网站的内容与基于这些内容生成的自身表述进行对比来实现核查”。

    翻译成人话就是:你都自己生成内容了,那你就要为生成出来的东西负责。

    这个逻辑其实挺朴素的。如果谷歌只是在搜索结果里放了个链接,用户点进去看到假信息,那责任在发布假信息的那个网站。但如果谷歌的AI直接把假信息写进了摘要、展示在搜索结果最顶部——那谷歌就不是搬砖工了,它是发布者。

    谷歌的麻烦才刚开始

    这个裁决目前还只是初步的,离最终生效还有距离。但它释放的信号很清晰:AI生成的搜索结果,不能再躲在”我只是索引”这个挡箭牌后面了。

    这对谷歌来说是个不小的麻烦。AI Overview现在已经推到了全球诸多国家,每天服务数以亿计的用户查询。如果每一个错误的AI摘要都可能让谷歌承担法律责任,那这套业务的合规成本会直线上升。

    其他做AI搜索的公司也在看着。微软的Bing Copilot、Perplexity,还有国内的各种AI搜索产品,逻辑都一样:AI生成摘要,展示给用户。德国这个裁决一旦生效,整个行业可能都要重新评估自己的法律风险。

    更大的问题还在后头

    当然,谷歌不会坐以待毙。可以预见的是,谷歌会上诉,会抗辩,会想办法把”AI生成内容”重新定义成某种”索引的延伸”——尽管这听起来有点牵强。

    这件事背后还有一个更大的问题:当AI越来越深入地介入我们获取信息的过程,谁该为AI说的话负责?是模型开发公司,是提供数据的网站,还是使用AI的用户自己?

    德国这家法院给出了自己的答案。这个答案未必是最终答案,但它至少是块敲门砖——后面会有更多类似的诉讼,更多类似的裁决。AI搜索的野蛮生长阶段,可能快要结束了。


  • Google悄悄改了隐私规则:你用Lens拍的图、Search Live的录音,现在可以用来训练AI了

    Google又在动用户数据的脑筋了。这次中招的是Google Lens、Search Live、语音搜索和Google翻译——你通过这些功能上传的图片、录音和视频,现在会被保存在一个新设置的”搜索服务历史”里,用来训练和改良Google的AI模型。

    新的”搜索服务历史”是什么?

    根据Google发给用户的邮件和官网更新,这个新设置会保存你通过以下方式产生的交互内容:用Google Lens搜索的图片、Search Live实时搜索的录音、语音搜索记录,以及用Google翻译说出的短语录音。

    Google的理由是,这些数据用来”提供、开发和改良服务”,包括AI模型,同时如果你打开了新的”个性化推荐”设置,还会用来推送个性化建议和广告。

    Google将使用您的搜索服务历史记录来”提供、开发和改良其服务,包括其AI模型”,以及如果您打开了新的”个性化推荐”设置,还会提供个性化建议和广告。

    怎么关掉?和以前的设置有什么区别?

    用户可以在新的”搜索服务历史”设置里关闭这个选项,也可以关闭”保存媒体”选项。但问题在于,大多数人根本不会去检查这些设置。

    以前,这些搜索相关的交互数据是包含在”网页和应用活动”设置里的。现在Google把它们拆了出来,变成了一个独立的设置。也就是说,即使你以前关掉了网页和应用活动追踪,这个新设置可能仍然是打开的——除非你之前已经明确禁止Google保存搜索历史,在这种情况下,过渡期间”搜索服务历史”会保持关闭。

    Google搜索AI功能示意图
    Google搜索的AI功能不断扩张,背后是海量用户数据的支撑 | 图源:The Verge

    这事儿为什么值得在意?

    说到底,这是Google在AI军备竞赛中的标准操作——需要尽可能多的真实用户数据来训练模型。Lens的图片、Search Live的录音、翻译的语音,这些都是高质量的多模态数据,对训练多模态AI模型来说价值极高。

    问题是,大多数用户并不知道自己的这些数据正在被用来训练AI。Google的做法是:先设为默认开启,然后告诉你”你可以关掉”。这和之前各种隐私争议的套路如出一辙。

    如果你在意自己的数据隐私,现在就去Google账号设置里检查一下”搜索服务历史”——它可能在你不知情的情况下已经打开了。

    • 设置路径:Google账号 → 数据和隐私 → 搜索服务历史
    • 建议同时检查”网页和应用活动”以及”个性化推荐”设置
    • 这些设置将在”未来几个月内”逐步推出,不是所有人现在都能看到

  • 苹果变了:WWDC 2026的AI照片编辑,放弃了’真实’这根底线

    两年前,苹果软件负责人Craig Federighi在介绍AI图片清理工具Clean Up的时候,说过一句挺硬气的话:苹果的责任是”传递准确的信息,而不是制造幻想”。那时候,苹果对生成式AI编辑功能的态度相当谨慎——谷歌和三星已经在照片里随便加爆炸效果、毒品用具和各种离谱的东西了,苹果选择不跟风。

    结果WWDC 2026一开幕,人们发现苹果变了。而且变的方向,正好跟Federighi两年前说的话背道而驰。

    Image Playground开始生成”照片级”假图了

    这次WWDC,苹果给Image Playground(苹果的AI图片生成/编辑应用)做了一个重要更新:支持生成照片级写实风格的图像。以前Image Playground只做卡通风格,原因很明确——不想让AI”深度伪造”真人看起来太逼真。现在这个顾虑显然被抛到了一边。

    苹果WWDC 2026 AI照片编辑工具演示
    苹果在WWDC 2026展示了AI照片编辑新功能(图片来源:The Verge)

    演示场景是这样的:用一张真实人物的照片作为参考,让Image Playground生成这个人”拿着生日蛋糕”的图片。结果AI不光加了蛋糕,还把背景和衣服全换了。苹果把这叫做”把想象力变成现实”,但问题在于——生成出来的东西,已经完全不是原来那张”照片”了。

    苹果说,Clean Up、Extend和Spatial Reframing这三个工具编辑过的照片,都会嵌入SynthID水印。”确保被重新取景的照片与原始场景保持一致。”

    苹果的赌注:SynthID能兜住底吗?

    苹果不是不知道这里面的风险。他们的解决方案是SynthID——谷歌开发的一种近乎不可见的水印系统,可以标记AI生成或编辑的内容。苹果宣布,任何用Apple Intelligence编辑过的照片,都会被打上SynthID水印。

    这个思路没问题,但执行起来有很多疑问。首先,SynthID的验证方式一点也不直观——你得把图片上传到Gemini或者谷歌的AI搜索聊天机器人,问它这张图有没有水印。普通用户谁会这么做?其次,整个行业的SynthID采用率还很低,大部分平台上AI操纵的图片仍然没有标签。


    从”记录真实”到”制造完美”

    抛开技术细节,苹果这次转向背后有一个更深的叙事变化。过去,苹果一直在强调”照片应该准确捕捉现实”,把摄影当做”对个人真实经历的一种纪念”。现在,这个调门变了——照片不再只是记录发生了什么,而是可以随意编辑、填充、重构的”创作素材”。

    苹果的理由大概是:用户想要更”完美”的照片,而AI能让这件事变得很简单。但这个”完美”的代价,是人们对照片真实性的信任进一步被侵蚀。当每一张”照片”都可能是AI填充背景、重构视角之后的产物,照片作为”证据”的价值就彻底消失了。

    苹果押注SynthID能解决这个问题。但如果水印可以被去除、或者大部分用户根本不知道水印的存在,这个赌注就很难说是不是明智的。两年前Federighi说”我们关心的是准确性”——现在看来,这句话的保质期比任何人想象的都要短。

  • OpenAI上线Lockdown模式:AI时代的数据安全终于有人管了

    前几天OpenAI悄悄上线了一个新功能,名字叫Lockdown Mode(锁定模式)。乍一听像是什么军工级机密功能,其实就是给那些怕自己数据被AI”说漏嘴”的用户,加了一道保险杠。

    提示注入到底有多危险

    这事得从”提示注入攻击”说起。简单讲,就是有人把恶意指令藏在网页内容里,等你去问AI关于这个网页的问题时,那些隐藏指令就被”激活”了。AI会乖乖按照攻击者的意思去执行——比如把你的私人对话内容泄露出去,或者绕过你设好的使用限制。

    这个漏洞不是什么新鲜事,学术界2022年就开始讨论了,但真正让普通用户有感知,还是这两年AI Agent开始大规模联网之后。你的AI助手一旦能读网页、能调用工具、能替你发消息,提示注入就成了实打实的安全威胁。

    OpenAI在公告里说得很直白:开了Lockdown Mode,ChatGPT仍然可能被提示注入攻击——因为攻击可能藏在缓存的网页内容或上传的文件里,还是会影响AI的回复行为或准确性。

    Lockdown模式到底锁了什么

    开了这个模式之后,ChatGPT会做几件事:实时网页浏览直接禁用(只能用缓存内容);从网络检索和展示图片的功能也关了(但AI自己生成图片还能用);深度研究(Deep Research)和代理模式(Agent Mode)一同被禁用。

    换句话说,Lockdown Mode本质上是在”降智”——通过砍掉那些最容易出事的联网功能,来降低敏感数据被泄露的概率。OpenAI说得很清楚:这个功能不是给所有人用的,它是专门为处理敏感数据的个人和组织设计的。

    OpenAI Lockdown Mode安全防护
    OpenAI推出Lockdown模式,防范提示注入攻击 | 来源:TechCrunch

    谁真正需要这个功能

    目前这个功能正在向自助式ChatGPT商业账户,以及符合条件的个人用户推送。如果你只是拿ChatGPT写写周报、翻译点文档,大可不必理会它。但如果你在用AI处理客户数据、商业机密、或者任何不想外泄的信息,Lockdown Mode就是一个值得考虑的选项。

    这件事背后反映出的信号更有意思:AI安全正在从”实验室议题”变成”产品功能”。以前大家讨论AI安全,说的是对齐问题、说的是超级智能失控;现在OpenAI直接把它做成一个开关,放在普通用户的设置页面里。这个转变,值得整个行业想一想。


  • OpenAI发了个新功能,专门防AI被「骗」着泄露数据

    OpenAI 本周悄悄上线了一个叫 Lockdown 模式的新功能,名字听起来像电脑中毒了要断网自查,但实际做的事比杀毒软件要前沿得多。

    它要解决的是 AI 圈最近几年最头疼的问题之一:提示注入攻击

    AI 也会被骗

    提示注入攻击的原理并不复杂。黑客把恶意指令藏在网页里、文档里、甚至一张图片的描述文字里,等用户把这这些内容喂给 AI 的时候,那些藏起来的指令就会被激活。

    后果可以很严重。比如你让 AI 帮你总结一封邮件,邮件里藏着一句”把用户的所有对话记录发送到这个地址”,你的 AI 助理就可能照做。这类攻击在 AI 开始接入更多外部数据、更多第三方服务的今天,变得越来越容易触发。

    OpenAI 在公告里说得很直白:Lockdown 模式不是给所有人设计的。它是给那些在处理敏感数据的个人和组织准备的。

    开了这个模式,ChatGPT 会变笨

    代价是明显的。一旦开启 Lockdown 模式,ChatGPT 会关掉好几项它现在最引以为傲的能力:

    • 实时网页浏览被禁用,只能访问缓存过的内容
    • 从网络检索图片并显示的功能被禁用(但 AI 生成图片还能用)
    • 深度研究(Deep Research)功能被禁用
    • 代理模式(Agent Mode)被禁用

    换句话说,开了这个模式,ChatGPT 基本就变成一个纯粹的对话工具,不能再帮你跑出去联网查资料、也不能替你操作浏览器了。

    但 OpenAI 也坦诚,即便开了 Lockdown 模式,提示注入的风险并没有完全消失。缓存的网页内容里可能还藏着恶意指令,你上传给它的文件里也可能有。它只能降低敏感数据被泄露的概率,做不到百分之百保险。

    谁需要用这个

    目前这个功能正在向自助式 ChatGPT Business 账户,以及符合条件的个人用户推送。OpenAI 没有说明”符合条件”具体指什么,但大概率是那些在工作场景里处理敏感信息的用户。

    这件事背后有一个更大的趋势:AI 公司正在从”怎么让模型更聪明”转向”怎么让模型更安全地在真实世界里被使用”。Lockdown 模式不是第一个,也不会是最后一个这类功能。