bridging Tech and Humanity: Foundation Models in Reducing Civilian Harm

8月，国防部（DoD）在利用人工智能（AI）力量方面迈出了重要一步，成立了生成式AI工作组。该工作组就如何在从作战到医疗保健和商业事务等各种领域利用AI向该部门提供建议。其关键任务之一是探索基础模型在支持国防部长劳埃德·奥斯汀日益重视的优先事项方面的作用：理解、预测和防止平民伤亡。

基础模型的力量

像ChatGPT这样的基础模型在AI中独树一帜。与专为狭窄任务设计的专用模型不同，基础模型是在涵盖互联网上广泛信息的大数据集上训练的。它们可以参与对话、生成创意文本、翻译语言等，使其成为多功能工具。虽然它们可能缺乏人类般的主观体验和情境推理能力，但它们可以识别模式并做出预测，这在防止平民伤亡方面可能起到关键作用。

解决分析不足

国防部面临的一个重大挑战是其在冲突期间保护平民的能力。兰德公司2021年的一份报告指出了一个关键问题：缺乏用于检测平民潜在风险和核实伤害报告的数据和技术。冲突期间对平民的威胁迅速升级，仅靠人类认知很难掌握伤害的全貌。基础模型可以通过汇总来自各种来源的数据并突出显示表明平民潜在风险或过去伤害的模式来弥补这一差距。

利用社交媒体分析

基础模型，特别是大型语言模型（LLMs），在筛选大量社交媒体数据方面表现出色。在乌克兰等冲突地区，平民经常在Twitter、Diia和eVorog等平台上提供关于新兴威胁和伤害的实时信息。LLMs可以分析这些数据，发现模式，并为预测和防止伤害提供有价值的见解。它们解读充满当地细微差别和不断演变方言的信息的能力增强了其预测能力。

增强态势感知

将卫星图像与Vision Transformers等基础模型相结合，可以将静态数据转化为动态且信息丰富的见解。这些模型不仅分析图像的孤立部分，而且理解各部分之间的相互联系。军事规划者可以利用这种能力来解码模式、追踪历史趋势并确定潜在的平民聚集点，从而更深入地了解地面现实。

增强人类决策

虽然人类判断在军事决策中仍然不可或缺，但基础模型可以解决与快速处理大量实时数据和识别细微模式相关的挑战。最近的事件，如喀布尔的无人机袭击和战斗中的平民伤亡，凸显了改善决策的需求。基础模型充当“直觉检查”，将当前决定与历史数据进行交叉引用，识别潜在偏见并标记异常。这种AI驱动的验证层可以显著提高目标准确性并减少悲剧性错误。

独角兽技术：范式转变

基础模型代表了通往一些人所称的“独角兽技术”的门户。想象一下由这些模型增强的冲突模拟器，捕捉有形事件、社会文化动态和历史背景。此外，基础模型超越了单纯的翻译；它们弥合了文化理解差距，促进了冲突地区更细致的互动。然而，承认其局限性，包括潜在的算法偏见和数据遗漏，是必不可少的。

挑战和伦理考量

基础模型并非没有挑战。弱势群体不太可能在线活跃，虚假信息仍然是一个重大关切。如果没有适当的筛选，这些模型可能会放大虚假叙事或成为对抗性技术的受害者。因此，关键决策，尤其是那些影响生命的决策，必须继续以人类判断为中心，同时利用AI作为有价值的工具。

国防部成立生成式AI工作组标志着利用AI和基础模型力量以减少平民伤亡的重要一步。这些模型为冲突管理提供了新的维度，提供快速分析、增强态势感知并改善决策。虽然它们具有巨大的潜力，但应谨慎使用，并结合人类专业知识。随着我们拥抱这一未来，我们承诺实现一个愿景，即技术成为战争中的盟友和人道主义价值观的守护者。