2025-03-18 08:03来源:本站
最近的研究发现,生成式人工智能(GenAI)技术有望迅速应用于打击网络犯罪,有助于扭转由人工智能驱动的一些欺诈行为。
根据注册欺诈审查员协会(ACFE)和数据分析解决方案提供商SAS联合发布的一份报告,超过83%的组织表示,他们打算在未来两年内使用GenAI来打击欺诈行为。
ACFE研究主管Mason Wilder说:“GenAI在过去几年中取得了巨大的进步,因此组织将其纳入反欺诈举措也就不足为奇了。”
“作为一个社会,我们仍在学习使用这项技术的所有优点和缺点,”怀尔德补充说。
GenAI是支撑强大聊天机器人的技术,比如微软支持的OpenAI的ChatGPT。
然而,该报告还发现,实施GenAI解决方案存在重大挑战,60%的受访者表示GenAI的输出准确性是他们最关心的问题。
调查显示,人工智能反欺诈应用的其他主要障碍包括安全和数据风险、监管问题以及员工技能限制。
该报告是研究人员于2019年发起的反欺诈技术系列报告的第三部分。这份最新报告是基于对全国妇联逾22个行业的近1200家会员组织的调查得出的,涵盖银行业、医疗保健、制造业和采矿业。
ChatGPT作为一种强大的GenAI工具的出现,为生产力的突破带来了机会,但也扩大了欺诈性在线攻击的范围。
ACFE主席约翰?吉尔(John Gill)表示:“GenAI驱动的工具的可访问性使它们落入坏人手中变得极其危险。”
咨询公司普华永道(PwC)去年5月在一份分析GenAI风险的报告中表示,网络诈骗者和欺诈者一直在利用GenAI帮助编写恶意软件、网络钓鱼电子邮件和伪造身份。普华永道预计,当时大规模欺诈、侵犯隐私和网络攻击将会增加。
去年,北京网络安全公司火融的一名代表在接受采访时表示,黑客和网络诈骗者越来越多地使用ChatGPT等聊天机器人来生成恶意代码,这有助于降低发起网络攻击的门槛。——《南华早报
×