标签： AI诈骗

一通”女儿被绑架”的勒索电话

Patrick Coughlin 怎么也没想到，差点骗走自己家人的，是一通听着就像亲生女儿在求救的电话。两年前，他妈妈接到一个显示为女儿号码打来的电话，那边传来”妈妈，他们抓住我了”的哭喊，紧接着一个男人威胁：不立刻转账 1200 美元，就把人扔在沃尔玛停车场。骗子连女儿常去的沃尔玛位置都报得一字不差。

当时 Patrick 是思科安全产品的高级副总裁，天天跟国家级网络攻击打交道。可这一回，对手用的不是什么高深武器，只是几秒钟的公开音频，加上语音克隆和来电显示伪造。所幸老人家还算镇定，反手拨给女儿确认平安。虚惊一场，但这件事像根刺扎在他心里。

以前这种级别的诈骗，成本高得只有政府和大企业才配当目标。现在 LLM 和生成式工具把门槛砸到了地板上，普通人成了猎物。

AI 把”当骗子”的门槛砍没了

Patrick 后来想明白了一件事：真正变的不是技术，而是犯罪的经济账。过去要骗一个人，得先做足功课、定制话术、搞到变声设备，投入产出比很低，所以骗子只挑肥羊。现在不一样了，他说，你用三秒钟的社交媒体音频就能克隆一个声音，研究材料随手可得，”造个骗子”的成本几乎归零。

更让他担心的是另一层：当欺骗变得这么容易，不光是职业犯罪团伙进场，连普通人都会被拉下水。”我们其实是在批量制造骗子。”

他们做的 App 长什么样

这周，Patrick 和弟弟 Ryan 正式上线了 Savi Security 的 iOS 和 Android 应用。兄弟俩一个出身网络安全与国防（还在 Splunk、思科待过），一个做过消费者产品（苹果、Spotify），凑在一起就是冲着”用 AI 防 AI”去的。

应用能扫描短信、语音邮件和来电里的诈骗痕迹，最出彩的是实时通话监控：你正跟一个可疑电话聊着，可以一键把 Savi 的实时智能体拉进通话旁听，它会在对话进行中识别对方是不是在演戏。

• 短信、语音邮件、来电三路筛查
• 可疑通话中可接入实时 AI 旁听
• 一个套餐覆盖全家，不限制人数，每月 8 美元（年付 63 美元）

---

公司刚拿到 Acrew Capital 领投的 700 万美元种子轮，Magnify Ventures、TTCER 和 Resolute Ventures 跟投。说白了，这更像一代”AI 杀毒软件”：坏人也用 AI，防守方就得用同样的武器回敬。

谷歌本周在加州联邦法院递交了一纸诉状，被告是一个叫”Outsider Enterprise”的网络犯罪组织。这个组织的特别之处在于——他们把AI用在了诈骗上，而且用得相当”高效”。

一个”傻瓜式”的钓鱼工具

Outsider Enterprise运营着一款叫”Outsider”的钓鱼软件，收费模式很直白——每周88美元，或者每月200美元。付了钱之后，哪怕你是个对编程一窍不通的人，也能在几分钟内生成一个以假乱真的仿冒网站。

这个软件内置了超过290种网站模板，覆盖电信运营商、银行、政府机构、零售电商——基本上你能想到的主流网站，它都有对应的仿冒版本。更离谱的是，它还附带”使用教程”，教用户怎么把AI生成的代码拿去干坏事。

据谷歌的起诉书披露，这个组织甚至用谷歌自家的Gemini来生成仿冒网站代码和诈骗短信文案。相当于谷歌的工具被拿来对付谷歌的用户。

数字大到吓人

谷歌在起诉书中列出了一串令人咋舌的数据：从2023年7月开始，这个钓鱼平台已经窃取了至少387万张信用卡信息，对应预估损失高达19亿美元。截至起诉时，来自95个国家的3.6万张支付卡信息被确认被盗取。

光是2026年5月的两周时间里，这个组织就向安卓用户发送了250万条诈骗短信。同一时期，安卓用户向谷歌举报的垃圾短信有5.5万条——算下来，每分钟至少收到2条举报。

更夸张的是规模数据：2025年11月到2026年4月的5个月里，谷歌检测到与这个组织相关的URL超过159万个。这个组织总共搭建了超过100万个钓鱼网站，还有9000个虚假站点。

一条完整的黑色产业链

起诉书显示，这个组织内部已经形成了相当完整的分工体系：有人负责软件开发和维护，有人专门提供诈骗目标的信息，有人负责批量发送垃圾短信，还有人负责把盗来的凭证变现和洗钱。各组之间配合默契，在Telegram频道上交流”经验”。

谷歌在起诉书中说，这个组织甚至用谷歌云盘（Google Drive）和谷歌云（Google Cloud）的基础设施来托管钓鱼网站——相当于在谷歌的服务器上搭起了诈骗平台。

谷歌的反击

这次谷歌没有只停留在技术拦截层面，而是直接走了司法途径。起诉书指控Outsider Enterprise多项违法行为：仿冒谷歌品牌侵犯版权、敲诈勒索、电信欺诈、虚假广告，以及利用谷歌基础设施从事非法活动。

技术层面，谷歌说他们现在用”AI驱动的工具来对抗AI驱动的诈骗”，每月能拦截超过100亿条诈骗信息。他们还与AT&T、T-Mobile、Verizon等运营商合作，共同拦截诈骗短信。

执法层面，谷歌已经和FBI协调行动，FBI联合谷歌和Lumen的Black Lotus Labs查封了该组织使用的多个域名，以及用于测试钓鱼服务的Shopify店铺和账户。

---

AI降低犯罪门槛这件事

这个案子最值得注意的地方，不是诈骗本身——网络钓鱼已经存在了几十年——而是AI把门槛降到了什么程度。以前要做一个以假乱真的钓鱼网站，你得懂点前端代码，知道怎么绕过浏览器的安全警告。现在，付88美元，跟AI描述一下你想要什么，几分钟就能搞定。

谷歌在起诉书中特别提到，这个组织的软件是”钓鱼傻瓜式工具”——换句话说，他们在用AI democratize（民主化）犯罪。这波AI能力扩散的副作用，可能比很多人想象的来得更快。