应对生成式人工智能 (Gen AI) 的全球影响

生成式人工智能 (Gen AI) 的快速崛起及其变革力量，以广泛使用的 Transformer 架构为例，已经显著改变了数字格局。像 OpenAI 的 ChatGPT 这样的工具使人们能够民主化地访问尖端 AI 功能，允许用户以最小的基础设施或先验经验在各种媒介中生成高质量内容。虽然 Gen AI 提供了诸多好处，但其分布和后果在全球范围内并不均匀，一些国家获得的收益多于其他国家。

低资源国家的风险

Gen AI 系统的好处主要流向了拥有高资源语言（如英语）的国家，使低资源国家处于不利地位。这种获取和影响上的差异在那些以暴力冲突和不稳定历史为特征的国家中变得更加明显，将它们标记为风险关键国家。在这些地区，与 Gen AI 相关的潜在风险被加剧。

错误信息和虚假信息

Gen AI 的普及，特别是在媒体环境监管较少的国家，引发了对错误信息和虚假信息传播的担忧。风险关键国家的不良行为者可以利用 Gen AI 的能力来操纵公众舆论，这类似于在社交媒体平台上观察到的情况。后果可能是严重的，因为寻找真相变得越来越遥不可及。

合成媒体和深度伪造

合成媒体（包括深度伪造）的战略使用在风险关键国家构成了重大威胁。由于媒体控制有限，对抗深度伪造的泛滥成为一场艰苦的战斗，而 Gen AI 的使用进一步加剧了这一点。最近的事件，如以色列-哈马斯冲突，表明 Gen AI 即使在拥有成熟媒体生态系统的国家也引入了新的风险。

性别骚扰

在以贞洁为重的社会中，性别骚扰是针对女性和女孩的一种普遍手段。Gen AI 加剧了这一问题，使骚扰者更容易创建和传播有害内容。此类案件对现实世界的影响可能是深远的，导致对个人造成实质性伤害。

数据偏见

AI 模型中的偏见是一个有据可查的问题。在低资源国家，开发人员难以在没有上下文专家访问的情况下识别和纠正偏见。因此，风险关键市场面临 Gen AI 开发人员更长的响应时间，使其更容易受到偏见不利后果的影响。

缓解建议

解决这些风险对于确保 Gen AI 的负责任使用并减轻其负面后果至关重要，特别是在风险关键国家。以下建议是朝着这个方向采取的必要步骤：

多样化的评估团队

Gen AI 模型应由多样化的专家团队进行内部和外部评估。红队测试（一种涉及外部专家评估 Gen AI 模型风险的过程）应向来自不同地理位置的参与者开放，避免基于薪酬或居住地的限制。这将有助于有效识别和解决持续存在的风险。

内容归属和安全护栏

为了对抗虚假信息，由 Gen AI 生成的内容应明确标记水印，表明其 AI 来源。应优先考虑安全护栏，例如对训练数据的偏见评估、对图形训练数据的限制以及禁止生成色情内容的政策。在实施内容政策时，文化特异性和上下文专家的参与至关重要，并需持续更新以保持相关性。

多语言用户报告系统

大型 Gen AI 公司应在风险关键国家的语言中提供用户报告系统。目前，此类报告系统的可用性通常仅限于英语，使这些国家的用户缺乏解决问题和关切的手段。