致命的自主机器人必须停在他们的轨道上

作者:党凤忉

上周,杀手机器人的主题被回归到公共领域,广泛宣传呼吁暂停联合国人权专家的“致命自主机器人”的开发和使用;这不可避免地让人想起了一些熟悉的问题詹姆斯卡梅隆1984年电影“终结者”的开场画面描绘了人们在被破坏的建筑物下面掩护,而猎人杀手机器人则在头顶上肆虐。当然,这些图像在巴基斯坦已经有了一定的当代共鸣。阿富汗,人们生活在恐惧被美国运营商控制的“捕食者”或“收割者”无人机发射的地狱火导弹杀死的情况然而,如果人们今天死于无人机袭击,至少人类面临的问题是目前,世界各地的军事科学家正致力于开发旨在能够识别和攻击目标而无需直接人为监督的自主武器 - 可互换地称为致命的自主机器人和杀手机器人 - Cameron在他的电影的最初几分钟中描绘的场景也许是比我们想象的更接近在这里要强调的是,目前这种武器并没有被采用,尽管这种武器正在开发中,虽然不是“自主”,但某些机器人的复杂性正在为战场进行试验,如前所述“对话”提供了一些有关事情可能进展的见解上周关于联合国人权理事会致命自主机器人伦理的讨论紧跟2012年11月人权观察报告“失去人性:反对杀手机器人的案例”的脚步但是,推动迅速扩大无人机使用和开发自主武器的军事逻辑在一段时间内已经很明显了。因为我们看到这一前景,我和同事在英国的一次会议上成立了国际机器人军备控制委员会。 2009年9月,自主武器的发展将通过降低穹顶来破坏国际和平与安全发生战争的政治代价以及大幅度增加因事故引发的冲突的风险公众看到他们的儿子和女儿返回尸体袋的恐惧是目前阻止政府参战的主要因素如果政府认为可以战争将他们的意志强加于使用自主武器的外国事务中,几乎没有什么可以阻止他们轰炸和暗杀那些他们认为比他们已经做的更多的敌人当然,因为伊拉克和阿富汗的入侵表现得非常好,战争是更容易开始而不是完成同样,尽管西方人热衷于在其他人的国家完全打击战争,但这些冲突的暴力有办法找到回家的路。两名男子认定穆斯林在英国士兵的刺伤被广泛描述为恐怖主义行为:正如格伦格林沃尔德所说的那样,因为它涉及袭击英国一名成员在英国参与阿富汗战争的背景下提供医疗服务,人们想知道是否可能不会将其视为穷人的无人机罢工错误地相信无风险战争的可能性可能最终导致更多生命面临风险当自主潜艇每天24小时在太平洋上相互盘旋,并且如果计算机维护的清单上的某些特定条件得到满足,自主飞机将准备攻击战略目标,意外战争的风险将非常真实。正义战争理论的哲学传统,在武装冲突法中制度化,是目前限制战争范围和破坏性的关键制度之一。这一传统严重限制了战争的行为,包括关于谁是合法的和不合法的攻击目标平民不是合法的目标,也没有表示愿意投降或受伤的士兵,他们没有犯下任何罪行尽管计算机科学发展迅速,但我极其愤世嫉俗的是,在可预见的未来,机器将能够做出复杂的情境判断,以可靠地满足正义战争理论的要求。 人们被机器人杀死的想法也有一种特殊的恐怖,我一直在努力阐明我的研究即使他们愿意互相残杀,但战争中的敌人仍处于道德关系中。他们必须承认他们的敌人是他们的敌人并且愿意为杀死他们的决定承担责任机器人无法自己提供这种认可,并且可以说是使战斗人员之间的道德关系模糊不清,从而质疑他们使用的道德作为武器出于所有这些原因,我赞赏最近在今年4月由伦敦非政府组织联盟宣布的停止杀手机器人运动,并支持其全球禁止开发和部署致命自主武器的目标。 :机器人不杀人,我们应该担心掠夺者还是犁头?....