当AI成为骗子帮凶:你以为的“购物助手”,可能正在把你推向陷阱

软件科技3小时前发布 botnews
67 0 0
当AI成为骗子帮凶:你以为的“购物助手”,可能正在把你推向陷阱

当AI成为骗子帮凶:你以为的“购物助手”,可能正在把你推向陷阱

---

你打开ChatGPT,问它:“帮我推荐几个Russell & Bromley现在最火的包包。”

AI很热情,给了你一份看起来相当专业的清单:斜挎包、单肩包、休闲款、正装款,价格标注得一清二楚。你点击链接,跳转到一个页面——Logo对、配色对、连产品图都看起来很专业。你下了单,三天后物流信息消失了。

这不是虚构的场景。根据《卫报》2026年6月的调查报道,这已经成为一种正在蔓延的新型诈骗模式——AI投毒”(Poisoned AI)。骗子利用AI语言模型的信任机制,将用户从看似中立的AI推荐引导到精心制作的仿冒网站,而整个过程中,用户甚至没有意识到自己正在被骗。

说实话,当我第一次看到这个报道的时候,第一反应是“这太聪明了”。不是因为它有多高明的技术含量,而是因为它精准地利用了人们对AI的认知偏差:我们正在学会怀疑搜索引擎的广告,但我们还没学会怀疑AI的“客观建议”。

---

AI是如何被“投毒”的?

要理解这种骗局,首先要搞清楚一个核心问题:ChatGPT这些AI工具的购物推荐,到底是怎么来的?

这里涉及到一个很多人不了解的事实——当你在对话中让AI帮你找商品时,它并不会实时抓取电商平台的真实数据。相反,它生成的回复,很大程度上依赖于训练数据中包含的互联网内容。而这些内容里,有相当一部分是营销文案、SEO优化文章,以及——你猜对了——被人为植入的虚假链接

骗子们的操作链路其实并不复杂,大致可以分为三个步骤:

第一步:SEO投毒,建立虚假信息源。 骗子会批量生成包含目标品牌(如Russell & Bromley)的网页,内容看起来像正规的购物指南或“2026年最值得买的10款包包”之类的文章。这些文章被优化过,会出现在搜索结果的前列。

第二步:等待AI抓取并引用。 当足够多的虚假内容出现在网上,AI在训练或推理阶段就可能“看到”并引用这些信息。更关键的是,当用户询问相关问题时,AI可能会引用这些网页作为信息来源——而它并不具备核实网页真实性的能力。

第三步:仿冒网站承接转化。 当用户点击AI推荐中的链接,他们以为自己进入的是官网,实际上是一个外观高度还原的钓鱼网站。在上面下单的用户,轻则收不到货,重则泄露信用卡信息。

整个过程中,AI扮演了一个“信任中介”的角色。骗子不需要自己去说服用户,他们只需要让AI替他们背书。这种信任的转移,是整个骗局的精髓,也是最可怕的地方。

---

这不是个案,而是一个正在扩张的生态系统

你可能会问:这种骗局到底有多普遍?

从目前披露的信息来看,《卫报》的报道主要集中在英国市场,以Russell & Bromley作为案例展开。但我个人判断,这绝不是个别现象。从2023年开始,全球范围内已经出现了多起类似的“AI购物诈骗”报告,只是形式略有不同——有些是通过AI生成虚假产品评测,有些是通过AI聊天机器人直接进行钓鱼对话。

一个值得关注的趋势是,骗子正在变得越来越懂得利用AI的“谨慎性格”

不知道你有没有注意到,大多数AI助手在给出购物建议时,通常会附带类似“以下信息仅供参考,建议在购买前核实”的免责声明。但问题是,用户在实际操作中很少会真的去“核实”。我们点开链接、挑选商品、完成支付——整个流程可能不超过三分钟,而那行小字早就被我们的手指滑过去了。

这就形成了一个有趣但危险的错位:AI的免责声明是为了保护自己不被追责,但它实际上并不能保护用户。 骗子正是看准了这一点。

另一个让人担忧的点是,这类骗局的规模化成本正在下降。生成仿冒网页的技术已经非常成熟,而利用AI批量生成“可信”营销内容的技术也在快速迭代。这意味着,未来我们可能会看到更多、更精准的AI投毒攻击。

---

我们能做什么?

面对这种新型骗局,单纯地责怪用户“不够警惕”是不公平的。毕竟,当AI用专业、流畅的语言给出购物建议时,普通人很难判断哪些信息是真实的,哪些是被“投毒”的。

但我依然认为,用户侧的安全意识仍然是最重要的一道防线。这里分享几个我觉得比较实用的习惯:

第一,不要把AI推荐当作购物的起点,而要把它当作探索的方向。 换句话说,如果你真的对某个品牌感兴趣,AI可以帮你了解“这个品牌有什么产品”,但下单之前,请直接手动输入品牌官网的URL,或者通过你信任的搜索引擎(注意,是搜索引擎,不是AI)查找官网入口。

第二,警惕“过度热情”的AI推荐。 正常的AI助手在你不主动询问时,通常不会主动给你一堆购物链接。如果你发现AI突然开始给你推荐具体的商品、价格、购买渠道,那反而要多个心眼。

第三,关注URL细节。 仿冒网站再怎么仿真,在域名上通常会有细微差别。比如把“russell-bromley.co.uk”变成“russellbromley-outlets.com”。这些差异很小,但在下单前多花五秒钟检查一下,可能就能避免一次损失。

当然,这些只是治标的方法。从长远来看,我认为AI厂商需要承担更多的责任。至少在购物这类高风险场景中,AI应该有更明确的风险提示机制——不是写在角落里的免责声明,而是在用户即将点击外部链接时弹出明确的警告。

---

写在最后

写这篇文章的时候,我一直在想一个问题:我们到底应该怎么看待AI?

过去几年,AI被赋予了太多光环——“革命性的工具”“下一个互联网”“颠覆一切”。这些说法并没有错,但我逐渐意识到,任何工具都有被滥用的可能,而AI的特殊之处在于——它正在成为我们认知世界的重要入口。当我们通过AI了解新闻、学习知识、甚至做出购物决策时,我们实际上是在把一部分判断权交给了它。

这意味着,AI的安全问题不仅仅是技术问题,更是信任问题。而信任一旦被破坏,修复的代价往往是巨大的。

Russell & Bromley的案例只是一个缩影。在它背后,可能有成千上万次未被曝光的“成功”诈骗。对我们每个普通人来说,我能给出的最务实的建议可能是:在AI时代,保持适度的怀疑,是一种必要的生存技能。

毕竟,最好的安全防线,永远在你自己心里那根弦上。

© 版权声明

相关文章

暂无评论

暂无评论...

网址设置

网址样式切换

详细

网址卡片按钮

显示

布局设置

左侧边栏菜单

展开

页面最大宽度

1700px

搜索框设置

搜索框背景上下位置

仅对图片背景生效

50%

自定义搜索框背景

  • 静图

    随机壁纸

  • 静图

    随机4K

自定义搜索框高度

  • 聚焦
  • 信息
  • 默认
设置