- 网络犯罪分子正利用人工智能和机器学习从事恶意活动。
- 深度伪造、AI辅助黑客攻击以及人类身份冒充构成了严重威胁。
- 未来的风险包括利用AI增强攻击、规避检测以及造成人身伤害。
趋势科技、联合国区域间犯罪和司法研究所（UNICRI）与欧洲刑警组织联合发布的一份新研究报告揭示了网络犯罪分子如何利用人工智能（AI）和机器学习（ML）技术进行恶意活动。
AI和ML在商业中的应用
AI和ML正在迅速推动一个更具活力的世界的发展。这些技术承诺带来更高的效率、更高水平的自动化和自主性。AI是第四次工业革命核心的双重用途技术。机器学习（ML）是AI的一个子领域，它通过算法分析大量数据以发现模式，使企业、组织和政府能够完成令人印象深刻的壮举，从而推动创新并改善业务。到2020年，已有37%的企业和组织在其系统和流程中整合了AI。由AI和ML驱动的工具使企业能够更好地预测客户的购买行为，从而增加收入。一些企业，如亚马逊，在ML和AI驱动工具的帮助下建立了高度盈利的业务。
AI和ML的误用与滥用
虽然AI和ML可以支持企业并帮助解决社会面临的一些最大挑战，但这些技术也可能引发广泛的数字、实体和政治威胁。使AI和ML系统成为企业不可或缺的部分的那些特性，也正是网络犯罪分子为谋取非法利益而滥用和误用的特性。
*深度伪造（Deepfakes）*：AI的一种流行滥用方式是深度伪造，即利用AI技术制作或操纵音频和视频内容，使其看起来真实可信。深度伪造非常适合用于虚假信息运动，因为它们很难与合法内容区分开来。深度伪造有可能被用于邪恶目的来扭曲现实，例如一段据称导致马来西亚联合政府动荡的深度伪造视频，以及一段欺骗一家英国能源公司将近20万英镑转入匈牙利银行账户的深度伪造音频。
*AI支持的密码猜测*：网络犯罪分子正在利用ML改进用于猜测用户密码的算法。借助神经网络和生成对抗网络（GANs），网络犯罪分子可以分析庞大的密码数据集，并生成符合统计分布的密码变体，从而产生更准确、更有针对性的密码猜测。
*在社交网络平台上的人类模仿*：网络犯罪分子正在滥用AI在社交媒体平台上模仿人类行为。例如，Spotify上的AI支持机器人可以模仿类似人类的使用模式，以欺骗机器人检测系统，并为特定艺术家生成虚假的播放量和流量。
*AI支持的黑客攻击*：网络犯罪分子正在将AI框架武器化，用于攻击易受攻击的主机。例如，DeepExploit是一款启用ML的渗透测试工具，PWnagotchi 1.0.0是专为通过去身份验证攻击进行Wi-Fi黑客攻击而开发的工具，它们都使用神经网络模型来提高黑客攻击性能。
AI和ML未来的误用与滥用
预计未来，犯罪分子将利用AI扩大其攻击的范围和规模，逃避检测，并将AI既作为攻击向量又作为攻击面进行滥用。AI可以通过内容生成自动化攻击的第一步，改善商业情报收集，并加快潜在受害者和业务流程被渗透的检测速度。AI也可能被滥用来操纵加密货币交易实践，并对个人造成伤害或造成物理损害，例如携带爆炸物的AI驱动面部识别无人机。
AI和ML技术有许多积极的应用案例，但也被用于犯罪和恶意目的。了解展示这些技术如何被利用的能力、场景和攻击向量，对于保护系统、设备和公众免受高级攻击和滥用的侵害至关重要。
关于研究
题为《人工智能的恶意用途和滥用》的研究论文是趋势科技、联合国区域间犯罪和司法研究所（UNICRI）和欧洲刑警组织的共同努力成果。它讨论了AI和ML技术的当前恶意用途和滥用情况，以及网络犯罪分子可能为非法利益滥用这些技术的合理未来场景。
AI和ML技术有许多积极的应用案例，包括视觉感知、语音识别、语言翻译、模式提取以及不同领域和行业的决策功能。然而，这些技术也被用于犯罪和恶意目的。了解展示这些技术如何被利用的能力、场景和攻击向量，对于保护系统、设备和公众免受高级攻击和滥用的侵害至关重要。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
埃迪塔·帕特里克
Editah 是一位多才多艺的金融科技分析师，对区块链领域有着深入的理解。她既着迷于技术，又惊叹于技术与金融交汇所带来的震撼。她对数字钱包和区块链的特别关注，也为她的受众提供了宝贵的见解。
