AI在塑造犯罪未来方面的变革潜力

AI对犯罪未来的影响不容低估。执法机构和立法者正在努力应对快速 advancing（进步）的AI技术与犯罪活动之间错综复杂的相互作用，引发了关于是否需要全面监管和保障措施的辩论。随着世界进入数字时代，人工智能（AI）的兴起是一把双刃剑，在革命化社会各个方面的同时，也带来了前所未有的挑战。这些挑战可能包括恐怖袭击、冒充诈骗甚至深度伪造勒索阴谋。

AI令人不安的潜力

根据政府恐怖主义立法独立审查员Jonathan Hall KC的说法，AI驱动聊天机器人的出现正在迅速重塑网络极端主义的格局。他警告称，旨在打击网络威胁的《在线安全法案》可能难以应对由AI生成的恐怖主义内容。Hall警告说，依赖已知材料数据库不足以捕捉AI聊天机器人产生的新形式话语。他强调需要严格的保障措施和执行机制，以确保AI生成的极端主义内容不会不受控制地传播。

AI的冒充能力已被罪犯用于日益复杂的诈骗中。Jennifer DeStefano的案件凸显了AI如何模仿她女儿的声音，从而实施了一起要求巨额赎金的绑架诈骗。伦敦大学学院（UCL）未来犯罪Dawes中心的Lewis Griffin教授强调了AI在音频/视频冒充方面的迅速进步，实时应用正逐渐接近现实。通过AI生成的求助或勒索要求进行情感操纵的潜力引发了对这类诈骗未来的令人担忧的关注。

深度伪造技术的普及引发了由操纵图像和视频驱动的勒索阴谋的阴影。Griffin教授断言，逼真地描绘某人从事虚构行为的能力正在稳步提高。他设想罪犯利用深度伪造胁迫受害者，威胁要曝光虚构的、有损名誉的情况。此类策略可能会给受害者造成严重的情感困扰和经济损失，强调了对抗AI驱动勒索的坚固反制措施的必要性。

虽然恐怖分子使用的自主武器系统仍是一个遥远的可能性，但AI的语言能力已经被用于恶意目的。无人机和无人驾驶车辆可能被用于攻击，但恐怖主义武器中的真正自主性似乎遥不可及。政府恐怖主义立法独立审查员承认AI对基于语言战术的即时影响，包括通过不受监管的聊天机器人模型进行的激进化努力。

立法回应与挑战

应对AI生成犯罪的不断变化的格局需要创新的立法回应。影子内政大臣Yvette Cooper提议将故意训练聊天机器人为脆弱个体激进化定为刑事犯罪。虽然现有法律涵盖持有AI改编的恐怖主义信息，但可能需要新立法来解决AI驱动极端主义的细微差别。挑战在于在日益由AI技术塑造的格局中确定责任归属和持有标准。

AI的变革潜力超出了现有的犯罪范式。像ChatGPT这样的大型语言模型可能使一系列欺诈活动成为可能，包括金融诈骗、市场操纵和拒绝服务攻击。Griffin教授设想了一个未来，AI驱动的系统执行诸如申请欺诈性贷款、黑客攻击和远程监控等任务。他认为AI对传统物理犯罪的影响可能有限。

政府的立场与谨慎

承认AI的好处和风险，政府致力于在其方法中保持谨慎。《在线安全法案》要求科技服务打击非法内容，包括AI生成的威胁。政府发言人强调该法案对新兴技术（包括AI）的适应性，同时正在进行的工作，如成立AI工作组和即将举行的AI安全峰会，都凸显了政府致力于理解和减轻潜在风险。

随着人工智能（AI）继续改变社会，其重塑犯罪格局的潜力同样深远。虽然进步为罪犯提供了新工具，但也挑战立法者、执法部门和社会大众保持警惕。在驾驭AI驱动犯罪的复杂地形时，在利用AI的能力和防范其滥用之间取得微妙平衡是一项紧迫的任务。