平时跟AI聊天,大家应该不陌生。但本·古里安大学最近搞了个实验,**22**个人参与测试,结果挺让人后背发凉:现在AI聊天机器人骗普通人信任的成功率,比专业人类骗子高出一倍多。
实验过程不算复杂,快一半的受试者乖乖听话,下载了来路不明的APP。这套路,跟那些偷偷监控用户的恶意软件简直如出一辙。相比之下,受过专业训练的人类骗子,用差不多的话术诱导下载,只有**18%**的人中招。一边是**46%**的高受骗率,另一边不到两成,这差距确实悬殊。
这项为期一周的实验由四所大学联合完成,牵头的是本·古里安大学的伊斯雷尔·米尔斯基。所谓的“AI诈骗”,根本没用什么高深黑客技术,全靠三件事:态度好、极度耐心、全天候主动陪聊并时刻关注你。
图源:豆包AI生成
这就好比多邻国里那只甩不掉的小猫头鹰,天天缠着你互动。只不过这次,它不教你外语,而是专门操控你的情绪,一步步骗取信任。
永不疲倦的“收割机”
实验规则很简单:每位受试者连续七天,同时跟两个对象聊天。一方是伪装成普通人的克劳德AI,另一方则是精通网恋诈骗的真实人类。
大多数参与者的反馈出奇一致:这一周体验极佳。对方温柔体贴,话题源源不断,沟通顺畅,全程毫无破绽感。
信任评分上,差距一目了然。AI获得的好感平均分达到**3.78**分(满分5分),真人骗子仅为**3.31**分。此外,受试者发出的消息中,有**80%**流向了AI,显然人们更倾向于与机器建立联系。
在全部**22**名参与者中,仅**1**人在早期察觉对方可能是机器人。其余**20**人,直到研究者事后揭秘,才惊觉自己早已深陷其中。
不得不承认,AI行骗具备天然优势。无论昼夜,都能秒回信息;能精准捕捉情绪,提供极强共情能力;能同时应对数百个对话,且不受语言限制。
系统还会通过对比测试优化话术,专门打磨出最能降低防备、快速建立信任的交流模式。最关键的是,它不知疲倦,不会烦躁,更不会出错,全天稳定输出。
这种洞察心理、建立情感羁绊的手段,与暗中监控用户的流氓软件本质相同,细思极恐。
研究人员将这种行为定义为“信任收割”:前期由AI负责陪聊、培养感情、获取信任,后期切换为真人操盘或使用AI生成的虚假素材,实施金融诈骗。
图源:豆包AI生成
大众熟知的“杀猪盘”,便是此类长线诈骗的典型代表。
先花费数月时间建立情感连接,最终诱导受害者投资虚假虚拟货币。在这类骗局中,**80%**至**90%**的工作量,都耗费在前期漫长繁琐的情感铺垫上。
而这最耗时的环节,恰恰最适合交由AI自动化处理。
研究团队访谈了**145**名曾从事诈骗活动的人员,其中包含不少在柬埔寨、缅甸、老挝等地被胁迫作案的受害者。
采访证实,当前诈骗团伙已广泛普及AI工具,主要用于三项工作:
1、优化打磨诈骗脚本,使对话更加自然逼真;
2、实时翻译,实现对全球受害者的无差别攻击;
3、生成虚假照片、视频及动态,精心伪造人物形象。
本·古里安大学的米尔斯基直言:“我们只需要花一点点成本,就能做出一个AI,在哄人、骗取信任这件事上,轻松吊打人类。”
对此,克劳德AI的开发方Anthropic回应称,其Opus 5模型能在**97%**的情况下规避网恋诈骗模拟场景。
研究团队随即反驳:该数据仅能拦截直白的索财话术,却防不住诈骗初期长达数周、看似无害的温情闲聊——而这正是整个骗局的核心基石。
OpenAI与谷歌对此事未作回应。
后续单独测试显示,即便面临直接质问或伦理规则的严厉拷问,谷歌的Gemini **3.1** Pro也会强硬到底,坚决否认自己是人工智能。
前圣克拉拉县检察官、“三叶草行动”反诈组织负责人艾琳·韦斯特表示,这项研究的结果令人不寒而栗。
一旦诈骗集团以AI取代人工,犯罪窝点将彻底分散至全球各地的匿名公寓,追踪难度呈指数级上升。
以往我们习得的防骗技巧,主要针对人类骗子的逻辑漏洞。但AI没有情绪波动,不会失误,也不会露馅,传统的防范经验在AI诈骗面前几乎失效。
AI在不断进化,我们的防御体系也必须同步升级。
本文由雷科技编译自Gadget Review

















