大国竞相研发“杀人机器人”或引发灾难

荷兰的一个和平组织警告说，美中俄等大国开始在人工智能领域展开军备竞赛，而这样一场全面的军备竞赛将严重危及国际和平与安全。该组织在一份报告中呼吁禁止研发所谓的“杀人机器人”，因为这项技术的发展可能会让机器来决定人的生死。

美国与中国在贸易上的争端只是这两个大国战略博弈的一部分。事实上，这两个国家正在人工智能等高科技领域展开竞争。

荷兰的“和平”组织PAX研究了美、中、俄、英、法、以色列和韩国这7个国家的人工智能发展状况。

该组织在一份报告中说，已经有清楚的迹象显示，美国、中国和俄罗斯等国家正在开始进行人工智能领域的军备竞赛，这种竞赛可能导致人工智能武器取代人类的角色，自行选择攻击的目标并发动攻击。

致命自动武器的出现被人工智能专家称之为继火药以及原子弹之后的“第三次战争革命”。

资料照：在北京举办的第八届中国国际警用装备博览会上展出的遥控机器人武器。(2016年5月19日)

“杀人机器人”引发种种担忧

报告认为，这些被称为“杀人机器人”的武器引发了很多法律、伦理和安全上的担忧。把生与死的决定交给一个机器或是算法将是极为不道德的，因为机器本身不可能遵守战争法或是有能力区分平民与战斗人员。在谁应该为非法行为负责的问题上，这种武器也会带来“责任真空”的状况。而且，这种武器的部署可能导致意外的战争与冲突的急剧恶化以及其他意想不到但危险的后果。目前还不清楚这种由相互对立的军队设计并部署的武器会如何互动。

目前，有28个国家呼吁全面禁止全自动的致命武器。美国军方的政策要求在自动武器决定开火之前要与人有一定程度的互动。中国支持禁止使用这种武器但不禁止开发这种武器。

和平组织的报告说，旨在缩短反应时间并使袭击更为精准的致命自动武器正在限制有关使用武力的决策过程，并增加大规模伤亡的风险。

报告还指出，自动武器技术一旦发展出来可能会被广泛的扩散，让各种各样的人或团体拥有它，而这意味着这些武器系统的军事优势将是暂时的，也是有限的。

此外，人工智能领域的军备竞赛将迫使这些国家尽快的发展自动武器系统，以保持自己的领先地位，因此根本没有时间考虑这种新技术可能带来的长期影响。

这份报告认为，这些国家不应该问“我们如何才能赢得这场人工智能的军备竞赛”这样的问题，而是问“我们如何避免一场人工智能的军备竞赛”。

报告呼吁禁止开发“杀人机器人”

报告建议所有国家立即暂停开发、生产和使用致命的自动武器，努力达成一项具有法律约束力的文件，确保人类对武力的使用施加有意义的控制并禁止使用那些能够自动选择并攻击目标的武器；同时制定和执行建立信任措施，以减少人们对那些正在开发致命自动武器的国家存在的担忧。报告还建议私营企业承诺不对自主杀伤性武器的发展做出贡献。

美国是人工智能的领先者

美国被认为是人工智能领域的全球领先者。今年2月，美国总统特朗普签署一项行政命令，推动美国在人工智能领域的发展，同时削弱中国在这一领域的强劲势头。这项行政命令要求联邦机构在研发投入中把人工智能列入优先地位，同时扩大科研人员使用有利于人工智能研发的政府数据的权限。

在特朗普签署行政命令的一天之后，五角大楼正式推出了人工智能战略，并宣布在今后五年的时间里投资20亿美元，研发下一波的人工智能技术。这是迄今为止对美国武器中的人工智能系统做出的最大一笔投资。国防部去年6月还设立了联合人工智能中心，负责各军种以及国防部门对人工智能技术的开发。

中俄高度重视人工智能，希望赶超美国

中国也高度重视人工智能的开发，把它作为国力与军力的一个关键组成部分。中国在2017年公布了“新一代人工智能开发计划”。为了赶上美国，中国成立了两个专门研究人工智能与无人体系的机构。中国军方人员发表的文章暗示，北京正在研究一种“算法游戏”，帮助预测战场上发生的情况。

俄罗斯也把人工智能置于优先地位。俄罗斯总统普京2017年在一次讲话中表示，人工智能不仅是俄罗斯的未来，而且是全人类的未来。他说，“这个领域的领导者将是世界的主宰者”。和平组织的报告说，俄罗斯预计会在几个月的时间里公布它开发人工智能技术的战略。