当杀手级算法超越国际法时会发生什么？

人工智能算法使用不当可能会对人类造成超乎想象的负面影响。尽管人工智能在过去两年取得了长足进步，但全球范围内仍未出台相关法规来预防“杀手算法”带来的负面影响。. 

许多国家正在将人工智能融入军事系统，用于目标识别和提升火力输出，但其滥用却会造成毁灭性后果。人工智能的负面影响还体现在它试图通过散布虚假信息来操纵舆论，从而扰乱民主进程。.

致命算法夺走无辜生命

我们最近看到许多国家宣布将人工智能集成到军事系统中，并且有相当多的军事trac推出了人工智能增强型目标定位和火力系统，从无人机到雷达系统，以及用于识别人类目标的监视系统。. 

以色列最草率的部署莫过于利用杀手算法对加沙民众进行攻击。这些算法生成的目标名单往往错误百出，或者被滥用，导致数十甚至数百名无辜平民丧生，而他们的主要目标仅仅是一个被认定为潜在目标的人。试想一下，这给加沙平民带来了多么巨大的灾难，成千上万的儿童和妇女被杀害。正如一位官员所说，机器冷酷无情地执行了这一切。真的吗？冷血杀害平民，这就是杀手算法能够变得多么残酷的现实。.

以色列媒体《+972杂志》近期的一项调查揭露了以色列军队利用人工智能进行空袭的惊人事实。名为“薰衣草”（Lavender）的系统被用来生成数千名疑似武装分子的名单，而另一个名为“福音”（Gospel）的系统则用于选择建筑物和基础设施作为攻击目标。其策略是即使哈马斯成员身处居民区家中，也要将其作为目标进行打击，导致数百名平民丧生。. 

该报告包含对六名以色列情报人员的采访，为保护消息来源，他们的姓名均未公开。这些消息人士声称，以色列方面使用了“薰衣草”（Lavender）以及其他人工智能系统来选择目标。他们还讨论了这些系统使用监管的宽松性，并估计了有多少平民因附带损害而被杀害或被允许杀害，其中涉及的哈马斯官员人数从两位数到三位数不等，无论其级别高低。. 

但实际数字似乎远远超过了这些允许的估计值，而这些估计值在现代全球战争事件中已经是最高的。战争头三个月丧生的儿童人数也超过了全球其他战争中丧生的儿童人数。想到他们，就令人心碎。.

全球监管仍然不足。

尽管人工智能算法在战争中造成人员伤亡，但全球领导人似乎并未采取足够措施来阻止这一威胁。尽管杀人、破坏关键基础设施、剥夺平民的基本生活需求显然是战争罪行，但目前尚无针对人工智能在战争中应用的全球性法规。. 

我们看到的是全球领导人的口头承诺，随后美国又一次向以色列提供武器，这些武器可能与上述基于人工智能的杀手算法配合使用。唯一采取的法律行动是南非就以色列遭受的战争罪行向国际法院提起诉讼。.

全球各国军队都在尝试利用 人工智能，许多国家试图通过部署这些系统来获取军事优势。地缘政治紧张局势也推动了这些发展，从美国到中国，各国都在竞相开发用于目标选择和决策的人工智能系统，以加快决策过程。 

到目前为止，人们一直声称人工智能的部署可以提高准确性并减少民事损害，但实际情况与这些说法相悖，致命算法的危害远远超过了其声称的精确性，这就要求在全球范围内大力监管人工智能。.

您可以在这里找到《+972杂志》的报道。