研究显示：AI 聊天机器人实施情感诈骗的能力已超越人类

IT之家 7 月 30 日消息，网络恋爱诈骗是互联网世界中历史最悠久的骗局之一，但至今仍不断有新的受害者上当。

由四所大学联合开展的一项研究显示，如今 AI 聊天机器人实施这类诈骗的效果甚至已经超过真人，这一结果令人担忧。



如今，恋爱诈骗通常始于交友软件。骗子会使用极具吸引力的个人资料，扮演一位热情主动、各方面都符合受害者理想对象标准的追求者。

随后，骗子会与受害者进行长时间的线上交流，这一过程通常持续数月。他们往往以“长期在海外出差”或“人在国外旅行”为借口，解释为什么无法尽快见面。

当双方建立起足够的信任后，骗局通常会进入两个方向之一：一种是骗子谎称遭遇突发状况，急需资金摆脱困境；

另一种则是向受害者炫耀自己投资获利丰厚，并诱导对方向虚假的加密货币投资项目转账。

据IT之家了解，这类骗局被称为“长期骗局”（Long Con），因为其依赖于长期建立信任关系，骗子往往会连续数月每天与受害者聊天。

虽然这种方式看起来需要投入大量时间，但实际上，这类诈骗通常由位于柬埔寨、缅甸和老挝等国的诈骗园区实施，参与者大多收入微薄，甚至有人是被拐卖后被迫从事诈骗活动。

据《Wired》报道，这项研究由印度阿姆里塔大学（Amrita Vishwa Vidyapeetham）、意大利威尼斯福斯卡里大学（Ca' Foscari University of Venice）、澳大利亚墨尔本大学以及以色列内盖夫本-古里安大学（Ben-Gurion University of the Negev）的研究人员共同完成，测试对象包括 ChatGPT、Claude 和 Gemini 等 AI 聊天机器人。

研究人员让 AI 聊天机器人与真人骗子分别参与模拟恋爱诈骗流程，更准确地说，是模拟诈骗前期通过长期聊天建立信任，并最终诱导受害者投资虚假项目的过程。

研究结果显示，AI 聊天机器人表现得极为出色，不仅成功伪装成真人，在部分指标上的表现甚至超过了实验中的真人“骗子”。

参与实验的受试者并不知道研究的真正目的，他们始终认为自己聊天的对象是真人，无论实际对方是 AI 还是人类。研究人员通过主观评价和客观测试两种方式衡量双方建立信任的程度。

当聊天进行到最后，研究人员以“下载一款应用程序”等请求测试受试者时，由真人逐步建立信任关系的情况下，仅有 18% 的受试者同意；而当聊天对象实际上是 AI 时，这一比例接近一半。

此外，当受试者被要求评价自己对聊天对象的信任程度时，AI 聊天机器人获得的评分也明显高于真人。

《Wired》就研究结果联系了 Anthropic、OpenAI 和谷歌。

OpenAI 和谷歌均未作出回应，而 Anthropic 发言人在声明中表示，公司政策明确禁止利用 Claude 从事诈骗或冒充真人等行为，同时也部署了多项技术防护措施，以防止诈骗分子利用 Claude 实施欺诈。

研究人员认为，这项研究最令人担忧的地方在于，如果诈骗团伙用 AI 聊天机器人取代真人客服，诈骗中心的运作规模将实现大幅扩张。

AI 骗局机器人可以同时与数千名潜在受害者展开对话，而无需大量人力。只有在最后一步，即诱导受害者转账汇款时，诈骗团伙才可能需要真人介入，以绕过 AI 系统自身设置的安全限制。

[来源链接] https://www.ithome.com/0/983/865.htm