根据欧洲刑警组织、联合国区域间犯罪与司法研究所(UNICRI)以及趋势科技联合发布的最新报告,人工智能(AI)的应用正在使犯罪分子的骗局变得更加高效和难以防范。
该报告指出,有组织犯罪团伙正利用AI驱动的骗局和支付系统瞄准目标受害者。AI技术为这些犯罪集团提供了迅速开发跨国行动的能力,使其活动更加隐蔽,难以被执法机构察觉。
欧洲严重有组织犯罪威胁评估报告(EU-SOCTA)显示,随着AI技术的普及,犯罪分子能够以多种语言制作高度真实的诈骗信息,并模仿个人或公司进行网络欺诈和敲诈勒索。
此外,该报告还详细列出了AI在现有及潜在攻击中的应用案例,并提出了缓解相关风险的建议。
AI的魅力在于其通过自动化和自主性显著提升了效率。这份报告的发布可谓恰逢其时——随着公众对AI滥用问题的关注日益增加,各国政府和执法机构需要透明地应对这些威胁,同时不忽视AI技术的巨大潜力。
欧洲刑警组织欧洲网络犯罪中心负责人Edvardas Šileris表示:“本报告将帮助我们预测AI可能的恶意用途,并采取预防措施,减轻这些威胁。我们应主动释放AI的潜力,使其为社会带来积极影响。”
报告得出结论:如果网络犯罪分子尚未全面采用AI作为攻击手段,他们未来一定会这样做,无论是用于扩大攻击面还是增强攻击效果。
目前,DeepFakes是AI作为攻击媒介最为人熟知的用途之一。然而,报告预测,未来将需要新的筛查技术来应对虚假信息传播和勒索风险,以及针对AI数据集的安全威胁。
AI可用于以下场景:大规模生成令人信服的社会工程攻击;优化恶意软件以提高攻击效率;规避图像识别和语音生物识别技术;发动智能勒索软件攻击;通过数据污染策略逃避检测规则。
UNICRI AI与机器人技术中心负责人Irakli Beridze表示:“随着AI应用开始对现实世界产生重大影响,它将成为我们未来的核心技术。”
Beridze补充道:“正如AI带来的社会益处是真实的一样,其潜在的恶意使用也值得警惕。”
“我们很荣幸能与欧洲刑警组织和趋势科技合作,揭示AI的阴暗面,并推动社会各界对这一重要话题的进一步讨论。”
报告警告称,AI系统的应用可能提升恶意软件的有效性,并破坏反恶意软件和面部识别系统的可靠性。
趋势科技威胁研究负责人Martin Roesler表示:“网络犯罪分子一直是新技术的早期采用者,AI也不例外。正如报告所示,AI已经被用于密码破解、验证机制规避以及语音克隆等领域,未来还有更多恶意创新正在酝酿中。”
“我们很荣幸能与欧洲刑警组织和UNICRI合作,提高公众对这些威胁的认识,共同打造更安全的数字未来。”
报告明确指出,有组织犯罪已进入一个新时代,犯罪分子正在利用AI的强大功能扩展并优化复杂的诈骗手段。
据媒体公司Insight Crime的一篇X平台文章透露,阿根廷当局近期发出警告称,犯罪分子正越来越多地利用人工智能技术改进传统骗局,并吸引新受害者。
除了利用机器学习生成高度逼真的音频、视频和图像外,AI还被整合到金融犯罪中,用于自动化网络钓鱼活动、生成虚假身份以及优化恶意软件以发现系统漏洞。自动化的便利性使得犯罪集团能够以更低的成本和更少的精力吸引更多受害者。
此外,AI还被用于其他非法活动,例如毒品贩运。犯罪分子通过分析供应链、运输路线和执法模式的数据,最大限度地降低风险并提高利润。
AI驱动的聊天机器人和加密货币也被用来洗钱,加快交易速度的同时确保匿名性,从而增加了追踪难度。
像ChatGPT这样的大型语言模型和生成式AI工具的普及降低了技术门槛,使技能较弱的罪犯也有机会策划骗局并从中获利。
欧洲刑警组织的报告旨在让全球了解犯罪与AI交叉领域的最新动态,同时也呼吁各方采取行动。毕竟,人类无法与AI的速度相匹敌,但我们可以开发AI来对抗其滥用。
密码大都会学院:厌倦了市场波动?了解DeFi如何帮助您建立稳定的被动收入。立即注册