标签: AI隐私

  • 你家智能电视可能在偷偷“出借”宽带:三星封禁一批共享网络的App

    你花大价钱买回来的那台智能电视,平时除了播剧就是吃灰,看起来人畜无害。但挪威一家安全公司最近扒出一件事:三星电视应用商店里好些热门App,偷偷把你的家庭宽带变成了陌生人的“网络出口”。换句话说,别人上网的流量,可能正从你家的IP地址冒出去。

    一个吃豆人游戏,怎么就让你的网“借”给了别人

    发现这个问题的是挪威网络安全公司 Mnemonic。研究人员在好几款三星智能电视App里找到了“住宅代理”(residential proxy)代码。这类代码干的事很直白:把外部人员的网络请求,经由你家的宽带转发出去。对网站来说,这些流量看起来就是从你家里发出的,而不是某个躲在境外的操作者。

    有些涉事App声称装机量高达数亿台。更离谱的是,其中至少一款只是个简单的“吃豆人”小游戏,还被三星放进自家电视端的“编辑精选”(Editor’s Choice)里重点推荐过。一旦打开带这种代码的App,电视就可能变成一个常驻的出口节点,哪怕你已经退出了应用,它还在后台默默转发流量。

    安全顾问 Harrison Sand 一句话点破了关键:“审核时看到的内容,未必就是真正跑起来的内容。”

    审核看到的,不一定是真正运行的

    这恰恰是让平台最头疼的地方。Mnemonic 发现,很多出问题的App根本就是个空壳——只有几行代码,真正的游戏或内容都从远程服务器现拉现载。应用商店审核时,只能看到那几行打包好的代码,根本摸不清它上线后会从服务器加载什么。

    更麻烦的是,这些代理功能往往是“沉睡”的:打开吃豆人时,Bright Data 的代理代码会一并加载,但要等用户点过一次授权弹窗,它才真正激活,并且在后台持续运行,直到你把App卸载。也就是说,今天看着干净,明天开发者在服务器端改一行配置,功能就悄悄开了。

    三星和LG都在动手,但问题远不止电视

    TechCrunch 把研究结果拿去问三星,三星随后发声明说,已经在封禁这类共享用户网络的App,并且会下架所有带相关功能的程序。原话是:已经限制新的含代理功能的应用上架,正在全平台推行明确禁止住宅代理 SDK 的开发者政策。

    这事儿也不是三星独一份。上个月 LG 就先动手了——当时的调查发现,LG 应用商店里大约 42% 的App,都把智能电视拉进了代理网络。而且住宅代理代码不光藏在电视App里,手机App、电子相框、安卓电视盒子,全都可能中招。

    • 对你来说,最直接的麻烦是:明明没人操作,外部流量却记在了你家的网络上,万一有人用它干坏事,锅可能算到你头上。
    • 对安全公司来说,这类流量伪装成普通家庭上网,加上普遍加密,几乎没法识别和拦截。
    • 对平台来说,传统审核机制根本管不住“上线后远程激活”的第三方组件。

    灰色地带:合法用途和黑客温床只有一线之隔

    得说句公道话,住宅代理本身并不违法。有人用它绕开网络审查,也有 AI 公司靠它同时从成百上千个网站抓取公开数据来训练模型。问题在于,正因为住宅IP看起来“可信”,黑客和间谍也爱用这一套——把攻击和窃密流量藏进普通家庭网络里,让防御方无从分辨。

    真正吓人的,是“一秒变僵尸网络”的可能

    Sand 在他的电视上抓到的一部分流量显示,这个代理网络大量用于批量抓取 LinkedIn 个人资料、搜集 AI 训练数据。而他看到的,只是 Bright Data 整个网络里极小的一部分。

    最让他警惕的,是这样一句话:只要在网页服务器上“改一行代码”,就可能瞬间把数亿台智能电视激活成一个潜在恶意的僵尸网络。Bright Data 事后回应说自己有客户身份核查、会监控滥用,但被追问到底封了多少违规客户时,只肯说“很小一部分”。

    三星智能电视
    三星智能电视广告(图源:TechCrunch / AFP)

  • Claude分享链接被谷歌收录:病历、孩子电话号码全能搜出来

    上周末,Reddit上有用户发现了一件让人后背发凉的事:在谷歌搜索框里输入”site:claude.ai/share”这样的搜索指令,就能翻出一长串别人分享的Claude对话。数量没法统计,但内容触目惊心——据报道里面有健康病历、公司内部文件,甚至还有小学生的姓名和电话号码。

    Claude共享对话被谷歌收录
    大量Claude共享链接出现在谷歌搜索结果中(图源:TechCrunch)

    “仅限有链接的人查看”,结果全网都能搜到

    问题出在Claude的”分享对话”功能上。用户生成一个链接,任何拿到链接的人都能查看这段对话或项目。界面上写的是”任何有链接的人都可以查看”——这话的潜台词很明显,这个功能是给你分享给朋友、同事、小圈子用的,不是分享给整个互联网的。作为对比,Google Docs也有类似功能,但那些文档并不会出现在谷歌搜索结果里。

    这事最早是周六由一位Reddit用户发现的,周一早上404 Media率先报道。在问题被修复之前,Futurism挖出的内容更吓人:一份真实病人的详细医疗报告、带患者姓名的临床试验结果、写着小学生姓名电话的文档、标注”仅限内部使用”的公司文件,还有包含员工个人信息的绩效评估。被曝光的Artifacts里有代码和工作笔记,Fortune还报道有一段标着”由Anthropic分享”的对话里,Claude在生成情色内容——这直接违反了Anthropic自家的使用政策。


    Anthropic的回应:锅在用户

    面对追问,Anthropic的态度基本是”用户自己发出去的”。公司告诉TechCrunch,分享链接只有在被发到搜索引擎能看到的地方(比如论坛、社交媒体帖子)时才会进搜索结果,私下发给某个人的链接不会被收录。

    发言人Amie Rotherham表示:”我们不会向谷歌等搜索引擎提供聊天目录或站点地图。这些分享链接无法被猜测或发现,除非用户自己选择公开。当有人分享对话时,他们就是在把内容变成公开可访问的——和其他公开网页内容一样,可能被第三方服务存档。”

    谷歌那边的说法也差不多:谷歌和任何搜索引擎都不控制哪些页面被公开,这些页面在多个搜索引擎上都被索引了,站点所有者有明确的手段决定页面是否可以被抓取和收录。翻译一下就是:Anthropic完全可以用robots协议或noindex标签挡住收录,但它没有。截至周一下午,TechCrunch按Reddit帖子里的方法测试,已经搜不出结果了,说明问题以某种方式被修复了。

    不是第一次了

    类似的事故其实一直在发生。去年Forbes就报道过几百条Claude对话被搜索引擎收录,当时谷歌估算收录了近600条。同样是去年,404 Media报道有研究者抓取了大约10万条设置为公开分享的ChatGPT对话。教训很简单:AI聊天里的”分享链接”,安全预期和实际行为之间的落差,每年都在坑一批人。

    • 用”site:claude.ai/share”就能在谷歌搜出大量共享对话
    • 泄露内容包括病历、临床试验数据、儿童姓名电话、公司内部文件
    • Anthropic称链接不会被主动提交给搜索引擎,是用户自己公开的
    • 谷歌回应:站点方有工具阻止收录,我们只是照规则办事
    • 自查方法:Claude设置 → 隐私 → 共享聊天,检查你开过的公开链接
  • 苹果的智能眼镜要解一道难题:戴脸上,还不能让人觉得是偷拍器

    苹果的第一副智能眼镜快来了,可它现在头疼的不只是产品本身,还有一件更棘手的事——怎么让大家戴着它出门,不会被旁人当成移动摄像头。彭博社的马克·古尔曼(Mark Gurman)最近爆料,苹果一边赶工做眼镜,一边在琢磨怎么把”隐私”这件事讲圆。

    苹果智能眼镜与隐私
    苹果一贯把隐私当卖点,这次戴在脸上的摄像头是个不小的考验(图片来源:TechCrunch)

    按古尔曼的说法,苹果把上市时间往后挪了。原本瞄准 2027 年初,现在改成 2027 年 6 月的开发者大会(WWDC)上正式亮相,真正能买到手要等到那一年年底。多出来的这段时间,苹果既用来打磨硬件,也用来想清楚隐私这套话术该怎么说。

    “变态眼镜”这个坑,苹果不想再踩一遍

    苹果显然是看到了 Meta 眼镜踩过的雷。Meta 那副眼镜被一些人起了个难听的外号叫”变态眼镜”,因为有人拿它偷偷录别人、拍下没经过同意的视频。这种事放在别家可能勉强糊弄过去,但苹果不行——它这么多年一直把”我们最保护隐私”挂在广告里,眼镜上真出这种岔子,砸的是自己招牌。

    一副戴在脸上、随时能拍的设备,最难的不是把摄像头做小,而是让周围的人相信自己没被偷拍。这是苹果这次真正要过的关。

    苹果打算怎么做

    从爆料透露的方向看,苹果想靠几招把风险摁下去。第一是尽量把数据放在设备本地处理,不动不动就往云端传;第二是不做人脸识别,避免眼镜一扫就把陌生人认出来这种最招人反感的功能。

    • 大量运算放在眼镜本机完成,减少把画面上传的必要
    • 不搭载人脸识别,不做”看一眼就认人”这类功能
    • 大概率不会拿用户拍到的画面去训练自家 AI 模型
    • 也不打算像 Meta 那样,雇外包人员回看用户录下的素材

    最后这两条其实是冲着 Meta 去的。此前有报道说 Meta 会用外包团队去审看用户的录像素材,这在很多人眼里已经越了线。苹果如果真能守住”不拿你的画面喂模型、不找人回看你的录像”这条底线,至少在观感上会跟 Meta 拉开距离。


    话说回来,隐私这东西,光靠嘴上承诺不够,得看产品真到手时那些开关默认怎么设、录像时有没有明显提示别人。苹果把发布推迟一年多,等于给自己多留了时间去把这些细节抠明白。能不能把”戴在脸上的摄像头”做成大家愿意接受的样子,就看它 2027 年拿出的东西了。

  • 不想用AI的人,把图书馆的「关掉AI」课挤爆了

    在美国费城南部的一家图书馆里,二十多个成年人挤在一间儿童教室,脚下是印着字母表的彩色地毯——M代表月亮,Z代表斑马。但他们不是来学字母的。馆员查理·贝利站在教室前面,让大家掏出手机,然后一步步教他们:怎么关掉苹果的Apple Intelligence,怎么关掉谷歌的Gemini。

    这堂课的名字叫「避开AI」(Avoiding AI)。它火了,火到要开第二场。

    图书馆举办的避开AI工作坊
    图书馆里的「避开AI」工作坊正成为一种新潮流 | 图源:TechCrunch

    没人报名的电脑课,换个名字挤爆了

    这个点子最早来自缅因州班戈公共图书馆的馆员汉娜·赛勒斯。她平时开「电脑入门」这类课,一场也就十来个人。可当她把课程换成教大家关掉AI功能之后,报名瞬间失控:30个名额切到上限,还得开候补名单,再加Zoom直播。前两场,每场大约来了70个人。

    她把经验写成论文发表后,全世界几十位图书馆员发邮件找她要课件。「这种事以前从没发生过,」赛勒斯说,「从来没人追着我要『电脑入门』的幻灯片。」

    贝利就是看了她的论文才在费城开课的。图书馆在Instagram上发的活动预告拿到了2000多个赞、220次转发——而这家图书馆平时的帖子,点赞很少超过几十个。第一场报名爆满,只好加开第二场。

    「我的灵感来自人们的那种挫败感:AI工具是被硬塞给我们的,我们没要过它,它却突然出现在生活的每个角落。」——查理·贝利

    一小时的课,到底教什么

    课程结构其实很朴素:先讲清楚AI聊天机器人和各种消费级AI功能的工作原理,讲讲为什么有人想用、有人不想用,然后打开投影仪,把主流平台和设备挨个过一遍,手把手教你去哪里找开关。

    现场还有种奇妙的互助氛围。有位参加者分享了一个小技巧:在谷歌搜索链接后面加上「&udm=14」,就能隐藏AI生成的搜索结果。贝利当场把这串字符写在了白板上,旁边就是青少年区Wi-Fi的登录密码。

    来上课的人各有各的理由:

    • 一位叫约翰尼的参加者担心的是房价之外的新风险:「你辛辛苦苦买了房,两年后你家隔壁可能就冒出一座数据中心。」
    • 另一位叫加布里埃尔的说,工作里AI天天被塞到眼前,「每次看到它我就想起环境代价」。但她也补了一句,自己并不反对AI用在医疗突破上。
    • 赛勒斯自己也承认,图书馆扫描旧文献用的OCR文字识别就是AI,好用得很。

    反的不是技术,是「没得选」

    这可能是整件事最有意思的地方:这群人并不是要把技术一棍子打死。他们要的是选择权——用不用AI,应该由自己决定,而不是被产品设计逼着接受。

    「AI被强行装进每个人设备里,可能就是压垮骆驼的最后一根稻草。大家早就意识到,这些产品和背后的公司对我们的影响力大得离谱,而我们并没有按自己想要的方式在使用它们。」——汉娜·赛勒斯

    贝利把这件事定义成图书馆员的本职:推进数字素养,帮人们拿回自主权。「作为信息从业者,看到人们对AI保持怀疑,感觉挺好的。看到这么多人有同样的感受,感觉真的很好。」

    科技公司花了几百亿美元把AI塞进每一个角落,而普通人用脚投票的方式,是去图书馆排队学怎么关掉它。这个画面本身,可能比任何行业报告都更能说明问题。

  • Meta 的 AI 绘图翻车了:默认拿你的公开照片乱改,遭抵制后紧急下线

    上线几天就翻车

    Meta 上周高调推出了一款叫 Muse Image 的 AI 绘图工具,由旗下的”超级智能实验室”打造,能在 Meta AI、Instagram 快拍和 WhatsApp 里免费用。功能本身不稀奇,能生成各种搞怪卡通图。真正惹众怒的是其中一个设定:只要对方的 Instagram 是公开账号,你在提示词里 @ 一下,就能直接拿对方的照片当素材去生成新图——而且 Meta 默认不会通知照片主人。

    Meta Muse Image 争议
    Muse Image 因默认调用公开照片引发隐私争议后,相关功能被紧急下线(图源:TechCrunch)

    “默认开启”的老毛病又犯了

    消息一出,用户和经纪公司(包括 CAA)立刻反弹。TechCrunch 还专门写了教程教大家怎么关掉这个功能。周五,Meta 自己发博客认错,说本意是提供好用的创作工具、让用户能控制自己的公开内容被怎么用,”但我们听到反馈,这个功能没达到预期,所以不再提供”。说白了,就是先默认全开、被骂了才下线。

    “我们的本意是提供一个有用的创作工具,并让人们能控制自己的公开内容是否被这样引用。我们听到了反馈,这个功能没达到预期,所以它不再可用。”——Meta 官方博客

    关掉开关,也不算真正干净

    更让人不舒服的是,即便你手动关掉”允许他人用我的内容生成 AI 图”的开关,它也只管以后,已经拿你照片生成出来的图并不会被删掉。想要彻底干净,只能把账号设成私密——可那是公开账号的人才会有的麻烦。AI 接入社交平台以来,拿名人的脸生成裸图的滥用就没停过,这次的争议不过是又一次提醒:把别人的照片默认当成免费素材,迟早要出事。

    • 争议点:公开照片被 @ 引用生成图,且照片主人收不到任何通知。
    • Meta 回应:功能”没达到预期”,已从 Instagram 移除。
    • 残留风险:已生成内容无法撤回,只能靠设私密账号规避未来使用。

  • 苹果认了:我们确实下架了那几款AI脱衣App

    旧金山市检察官 David Chiu 这周把一封信甩到了苹果和谷歌面前,要求两家把 13 款能生成「非自愿裸图」的 App 从应用商店里清掉。这类软件俗称 nudify——上传一张普通照片,AI 就能把它改成裸体图像,本质上就是对着真人做的深度伪造色情。

    苹果在 7 月 19 日给了正面回应。发言人 Adam Dema 向 The Verge 确认,他们已经下架了其中三款,并且正在走流程,把这几位开发者的账号从开发者计划里踢出去。谷歌那边动作更早,之前就暂停了信里点名的五款 Android 应用,理由是 Play 商店「不允许包含性内容的应用」。

    AI 脱衣应用下架与数字隐私保护
    平台开始对 AI 深伪色情内容动手(配图由 AI 生成)

    「我们一贯严格禁止那些用来生成、传播或消费色情内容的 App。nudify 这类应用违反我们的审核指南,我们主动拒绝过很多,也移除过很多——包括用户通过举报通道标记出来的那些。」

    这件事的抓手在加州法律。当地法规明确禁止销售性化的 AI 深伪内容,所以 Chiu 给两家公司扣的帽子是「协助和教唆」这类 App 的售卖。换句话说,平台不再只是提供场地的角色,而是要为架上摆了什么货负责。

    为什么是现在

    非自愿亲密图像从来不是新麻烦,但生成式 AI 把它变成了流水线生意。过去做一张假裸照要懂点 Photoshop,现在一个不懂技术的普通人花几分钟就能拿到成品。应用商店审核往往滞后于这类 App 的上架速度,等投诉堆积起来,伤害已经造成。

    • 被点名的 13 款 App 横跨 iOS 和 Android 两个生态,说明这不是某一家平台的问题。
    • 下架只是起点:开发者换个马甲重新上架的成本极低。
    • 真正的难点在于,平台怎么在审核环节就拦住这类应用,而不是等监管写信来催。

    苹果和谷歌这次的反应算快,但推动他们的不是技术自觉,而是一封带着法律后果的信。当 AI 生成的色情内容开始大规模针对真实个人,应用商店这个守门人角色,迟早会被监管一层层钉死。

  • 不记录你任何对话的 AI,估值冲上了 10 亿美元

    隐私优先的 AI 聊天界面概念图
    当主流大模型忙着加护栏,Venice AI 反其道而行(图:TechCrunch)

    这两年,主流 AI 公司为了应对心理健康、人身安全、虚假信息这些指责,纷纷给模型套上越来越厚的护栏,严格控制它能说什么、能做什么。但担心归担心,需求并没有被吓退。AI 的潜力摆在那儿,没人愿意被某家科技公司限制住自己探索的权利。要是顺手还能保住隐私,那就更香了。

    Venice AI 恰恰踩中了这个点。它提供 200 多个 AI 模型的访问,同时承诺不留存你的隐私,靠这股需求一路涨。成立才两年,网站独立访客已经突破 85 万,月活超过 300 万,日均 API 调用 170 万次。

    两周前,它拿下了 10 亿估值

    Venice AI 上周宣布完成 6500 万美元 A 轮融资,估值站上 10 亿美元,这也是公司成立以来第一次拿外部钱。领投方是专注 crypto 的风投 Dragonfly,Coinbase Ventures、North Island Ventures 等跟投。CEO Erik Voorhees 在独家采访里告诉 TechCrunch,公司年化运行收入已经超 7000 万美元,而且已经盈利。

    Voorhees 把 Venice 定位成”中立的工具或平台”。他的原话是:这和比特币一样,作为一个中立协议,对所有人一视同仁。在他看来,进入 AI 新时代后如果所有人都被持续监视,那比任何人问出争议问题要危险得多。

    它到底怎么保护你

    Venice 在自己机房托管”无审查”的开源模型,同时把发往 OpenAI、Anthropic 等闭源模型的查询也走一层外部代理。用户输入在端侧加密,不经 Venice 自己的服务器留存;部分模型还提供端到端加密,不过要订阅才用得上。

    这种立场和创始人背景分不开。Voorhees 是比特币早期布道者,早年做过 Satoshi Dice、加密货币交易所 ShapeShift,长期替用户隐私站台。当《华尔街日报》曾指控 ShapeShift 经手可疑资金时,他的回应是:我不认为人们该为了抓个别罪犯,就被迫留下身份记录。面对”AI 引发心理伤害”的质疑,他这次也延续了同一套逻辑。


    争议和未解的问号

    • 少一层过滤,意味着被滥用的空间也更大。公司说自己也保留了防滥用、防违法的护栏,但”中立平台”的边界到底画在哪,监管迟早要问。
    • 公司顺手发了 VVV 和 DIEM 两个代币,用户质押 VVV 能换 AI 额度。不过 Voorhees 说,真正用 crypto 付费的只有约 8% 的用户。
    • 增长的真正引擎,是能力终于追上了 ChatGPT。早年大家因为它私密才来,如今它又好用又私密,替代的说服力就出来了。

    下一步,Venice 想把这笔钱用来买 GPU、建自己的数据中心,不再租算力,把毛利提上去。它的哲学其实很干脆:大多数公司承诺”小心保管”你不愿被收集的数据,而 Venice 从设计上就什么都不收集——对话存在你自己的设备上,不进它的服务器。这不是保管得更好,而是没什么可保管。

    当看病、问法、谈薪、说心事这些最私密的时刻都交给了聊天机器人,你的数据就只和那家公司的安全政策一样可靠。Venice 用 10 亿估值证明了一件事:总有人愿意为”不被盯着”付钱。

  • Meta的AI生图刚上线就翻车:默认能拿你的公开照片去拼图

    Meta 超级智能实验室这周高调推出了图像生成模型 Muse Image,本想秀一把“把 AI 创作塞进 Instagram”的肌肉,结果其中一个功能刚露面就被用户和经纪公司围攻,不到三天就灰溜溜地撤了。

    问题出在那个“@一下”的功能

    Muse Image 可以让人在提示词里 @ 某个公开 Instagram 账号,模型就会去参考那个人的公开照片来生成图像。听起来是个挺聪明的社交创作玩法,但 Meta 压根没设计“通知对方”的机制——也就是说,别人拿了你的脸去生图,你可能完全不知情。公开账号默认是开启状态,想不被用,得自己进设置手动关掉。

    “我们的初衷是提供一个好用的创作工具,也给大家控制自己公开内容是否被引用的权利。但反馈告诉我们,这个功能没踩准点,所以已经下线了。”——Meta 官方博客

    经纪公司先急了

    第一个把 Meta 撤功能的决定捅出来的是 Puck News 的 Dylan Byers。据他转述,真正让 Meta 松手的,是用户和 talent agency(包括 CAA 这样的大牌经纪公司)的双重施压。想想也不意外:明星的公开照片本来就是被深伪色情内容盯得最狠的,平台再开个“一键拿脸”的口子,等于把火引到自己身上。

    这锅 AI 生图背了不止一次

    把公开照片默认纳入 AI 生成,Meta 不是头一个踩雷的。Google 刚把 Gemini 的 Nano Banana 接到 Google Photos 上,同样引发了“我的私人内容怎么被用了”的争议。区别是,Meta 这回连个提醒都没给,直接默认开启,激怒大家也就不奇怪了。

    • Muse Image 由 Meta 超级智能实验室(MSL)打造,支持提示词生图与局部修改
    • 提示词里 @ 公开账号即可引用其照片,默认不通知本人
    • 上线约三天后,在用户与经纪公司(含 CAA)施压下被移除
    Meta Muse Image 隐私争议概念图
    Muse Image 能融合公开 Instagram 照片生成图像,但“默认可用、不通知本人”的设计引发了隐私反弹。

    TechCrunch 还专门写了篇教程,教用户怎么关掉这个开关。一个功能需要媒体出科普帖教人“如何不被用”,本身就说明默认设置有多离谱。好在 Meta 这次认错挺快,但下一次“默认开启、事后道歉”的剧本,用户大概不会再买账了。

  • Meta想让AI眼镜别那么吓人,可它的整体打法偏偏相反

    Meta AI眼镜与录制指示灯
    Ray-Ban Meta 智能眼镜的录制指示灯,正成为隐私争议的焦点

    这几天 Meta 给自家智能眼镜上了一道「保险」:以后要是有人把那颗提示正在录像的小灯给遮住或弄坏了,眼镜的摄像头会直接罢工。听起来挺贴心,像是终于听见了大家的担心——毕竟 Ray-Ban Meta 这副眼镜,早就被不少人贴上了「偷拍神器」的标签。

    可问题是,就在这条「我们很在乎你隐私」的公告发出来的同一周,Meta 干的另一堆事,方向完全是反的。

    小灯一挡,摄像头就关,这招晚了一步

    先说这个被 Meta 拿来「自我表彰」的新功能。公司在博客里写得很自豪,说「其他任何摄像头都没这么干过,我们很骄傲能领这个头」。但往下读就露馅了:Meta 自己承认,之所以要做这个功能,是因为已经有人拿胶带把指示灯贴上了,逼得他们只能改技术,让灯被挡住时就自动停录。

    更尴尬的是,公告里还补了一句:那些铁了心要偷拍的人,会「用更复杂的手段去改装甚至毁掉那颗灯」。换句话说,Meta 等于亲手盖章确认了一件事——确实有人买这副眼镜,就是冲着不打招呼记录别人去的,而且目标常常是女性。

    你拍的照片和视频谁能看到?Meta 的回答是「只有你,除非你主动分享」。可它的隐私政策又白纸黑字写着:任何你丢给 Meta AI 的图片,都可以被用来训练它的模型。

    同一周,它还在往你的隐私里伸手

    就在发布防偷拍功能的那天,Meta 还顺手宣布了一件事:现在 Meta AI 可以用任何一个公开 Instagram 用户的照片来生成 AI 图像,除非你手动关掉这个选项。把两件事摆在一起看,那颗摄像头小灯的保护意味,一下子就淡了。

    这还不是全部。Meta 这些年一直在推进的方向,几乎每一步都在要你的数据:用你让眼镜分析过的图片训 AI、默认开启拿你个人内容喂模型的 AI 功能、研究怎么「连续录音」、甚至探索用生物识别做 facial recognition。据《金融时报》消息,他们还在测试一款原型机,会「持续采集音频、每隔几秒拍一张照片」。


    信任这东西,欠账太多就难补

    围绕 AI 眼镜的隐私问题,Meta 眼下正挨着好几桩调查和诉讼。其中一桩的由头格外难看:此前 Meta 取消了一家外包公司的合同,因为肯尼亚的外包工爆料,他们在用眼镜拍下的视频训练 AI 时,被迫看了大量色情、裸体和有人在厕所的极端内容。

    把这副眼镜单独拿出来看,它确实只是个硬件。但放到 Meta 的整体履历里,味道就不一样了——剑桥分析数据门、儿童安全相关的诉讼、员工按键记录被用来训模型、打算拿你 AI 聊天里的内容卖精准广告……连苹果当年都因为隐私顾虑,一度不肯把 Meta 的模型接进自己的系统。

    • 给摄像头加一道防篡改保护,是必要的,也该夸。
    • 但同一周就用你的公开照片喂图像生成,又让「我们在意隐私」显得言不由衷。
    • 真正的问题不在某颗灯,而在 Meta 的整体生意,始终建立在多拿一点你的数据上。

    所以那颗小灯能不能让人安心,答案其实很清楚:它挡得住手欠遮灯的人,却挡不住 Meta 自己想把你的影像、声音和生活痕迹都收进系统的那股劲。消费者要的不只是「灯亮着」,而是「你别总惦记着我的数据」——这一点,Meta 离做到还差得远。

    📎 原文来源:Meta wants its AI glasses to seem less creepy. Its AI strategy says otherwise.(TechCrunch / Sarah Perez)
  • AI诈骗盯上普通人:兄弟俩做了个App专防绑架勒索电话

    你大概也接过那种电话:对方一开口就急吼吼地说家里人出事了,要你马上转账。过去这种骗局门槛高,骗子得先摸清你的底细、还得搞到变声技术,所以主要盯着企业和政府这些”肥肉”。可现在,几秒钟的社交平台音频就能克隆出你亲人的声音,普通人也成了目标。一家叫 Savi Security 的初创公司,就是冲着这个来的。

    一个从自家妈妈被骗开始的念头

    Savi 的两个创始人是一对亲兄弟,Patrick 和 Ryan Coughlin。Patrick 的履历放在安全圈很硬:干过国家级网络防御,待过 Splunk,后来随着收购进了 Cisco,做到安全产品高级副总裁;弟弟 Ryan 则在做消费产品这条线上,先后待过 Apple 和 Spotify。兄弟俩做这家公司,直接导火索是两年前他们妈妈亲身经历的一通电话。

    那天老人家接到一个来电,屏幕上显示的是女儿的号码。电话里她”听见”女儿喊”妈,他们抓到我了”,紧接着一声撕心裂肺的尖叫,然后是威胁:不立刻转 1200 美元,就把人扔在本地 Walmart 停车场弄死。骗子连女儿常去的 Walmart 都报得出来,声音也一模一样。幸好老人家没慌,直接拨给真女儿确认——人才平安。可这一遭,把见过大场面的 Patrick 也震住了。

    手机盾牌保护家庭免受AI诈骗电话
    Savi 想用一层实时防护,挡住越来越逼真的 AI 诈骗

    便宜到离谱的犯罪成本

    Patrick 后来反复想一个问题:以前只用来对付政府和大企业的那套精密手段,怎么就落到普通老百姓头上了?答案大家都心知肚明——便宜又强悍的大模型和生成式 AI。现在从一段三秒钟的公开视频里就能克隆声音,我们随手发在网上的那些碎碎念、给孩子比赛录的像,全成了骗子的素材。

    Patrick 的原话很扎心:AI 正在”制造骗子”,因为它把骗人的门槛降到了地板价。不只是有组织的犯罪团伙,连普通人也被勾着下场。

    数字不会骗人。美国联邦贸易委员会上个月公布,2025 年民众在”冒充类”诈骗里总共损失了 35 亿美元,是 2020 年的三倍。被骗的主力虽然是老年人,但研究机构 Malwarebytes 的数据提醒,Z 世代在短信诈骗里中招率也不低,差不多四次里就信一次。

    先拿免费网站练手,再推付费 App

    兄弟俩的第一招,是做了一个叫 Scamwise 的免费网站,不用注册、完全匿名,你把可疑的短信、截图、邮件传上去,它就能判断大概率是真的还是骗局。这个网站跑了四个月就收到 5 万份提交,到现在累计冲到 10 万份,每周还在以一万多份的速度往上涨。这些真实样本,正好拿来喂 Savi 自家的诈骗识别模型。

    • 本周二,Savi 正式推出付费 App,iOS 和安卓都能用,可以筛查短信、语音留言和来电。
    • 最出彩的功能是”实时通话监听”——可疑电话进行中,你可以把 Savi 的 AI 助手拉进来旁听,它会在对话过程里捕捉骗子的行为破绽。
    • 价格也挺实在:一个月 8 美元,年付 63 美元,而且不限人数,全家人——孩子、配偶、父母甚至那个总找你修电脑的舅舅——都能塞进同一个套餐。

    这家公司刚拿下 700 万美元种子轮,领投的是 Acrew Capital。技术底层主要用 Google 的 Gemini,但架在了一个 AI 网关上,需要的时候随时能切去更专精声纹识别的模型。说白了,Savi 想做的,是新一代的”杀毒软件”——只不过这回,是用 AI 在坏人拿 AI 行骗的同一刻,把你护住。