随着人工智能进入医疗保健和金融等行业，世界各国政府越来越多地投资于其他应用：自主武器系统。许多人已经在开发他们希望能够让他们比对手更具优势的计划和技术，给其他人带来越来越大的压力。

这些投资似乎标志着AI军备竞赛的早期阶段。就像20世纪的核军备竞赛一样，这种军事升级对全人类构成威胁，最终无法取胜。它在新技术的开发中激励了安全和道德的速度，随着这些技术的激增，它不会给任何一个玩家带来长期优势。

然而，军事人工智能的发展正在加速。以下是七个主要参与者的当前AI武器计划，政策和立场：美国，中国，俄罗斯，英国，法国，以色列和韩国。所有信息均来自人工智能：人工智能，军事和越来越多的自主武器，Pax的一份报告。

“PAX呼吁各州制定一项具有法律约束力的文书，确保尽快对武器系统进行有意义的人为控制，”该报告的主要作者Daan Kayser说。“科学家和科技公司也有责任防止这些武器成为现实。我们都可以在制止杀手机器人方面发挥作用。“

联合国立场

在2018年4月，美国强调有必要在决定具体的政策回应之前，发展“对该技术的风险和收益的共同理解。我们仍然相信，在2019年开始谈判任何特定的法律或政治文书为时尚早。“

AI在军事上

• 2014年，国防部发布了“第三抵消战略”，其目标是，如当时的副国防部长在2016年所述，“将利用人工智能和自治方面的所有进展，并将其纳入国防部的战斗网络（ ...）。”

• 2016年的报告“为人工智能的未来做准备”也指人工智能的武器化，特别是指出：“鉴于军事技术和人工智能的更广泛进展，科学家，战略家和军事专家都同意，法律的未来很难预测，变化的步伐很快。“

• 在2018年9月，五角大楼承诺在未来五年内通过国防高级研究计划局（DARPA）花费20亿美元来“开发下一波人工智能技术”。

• 高级目标和致死率自动化系统（ATLAS）计划是DARPA的一个分支，“将使用人工智能和机器学习来为地面战斗车辆提供自主目标能力。”

与私营部门的合作

• 与私人公司建立合作可能具有挑战性，因为Google和Project Maven广泛宣传的案例表明：在谷歌员工抗议后，谷歌表示不会续签合同。尽管如此，Clarifai，亚马逊和微软等其他科技公司仍在与五角大楼合作开展此项目。

• Maven项目的争议加深了人工智能社区与五角大楼之间的差距。政府已经制定了两项新举措来帮助弥合这一差距。

• DARPA的OFFSET计划旨在“使用包含超过250个无人机系统（UAS）和/或无人地面系统（UGS）的群体来完成复杂城市环境中的各种任务”，正在与一些大学和初创企业。

• DARPA的Squad X实验计划旨在让人类战士“对其自主合作伙伴有更大的信心，以及更好地了解自主系统如何在战场上行动”，正在与洛克希德公司合作开发马丁导弹。

联合国立场

中国表现出“谈判和缔结”“禁止使用完全
自主致命武器系统的新议定书”的愿望。但是，中国不想禁止这些
武器的发展，这对其确切的立场提出了质疑。

AI在军事上

• 中国政府内部已经呼吁避免人工智能军备竞赛。这种情绪在私营部门得到了回应，阿里巴巴董事长曾表示，包括机器学习和人工智能在内的新技术可能导致第三次世界大战。

• 尽管存在这些担忧，但中国领导层仍继续将人工智能用于军事目的。

与私营部门的合作

• 为推进军事创新，习近平主席呼吁中国走“军民融合创新之路”，将军事创新融入中国国家创新体系。这种融合已经提升到国家战略的水平。

• 人民解放军（PLA）严重依赖科技公司和创新型初创企业。中国较大的人工智能研究机构可以在私营部门找到。

• 中国的国防和学术机构之间的合作越来越多。例如，清华大学启动了军民融合国防峰技术实验室，创造了“追求新兴技术，特别是人工智能两用应用的平台”。

• 关于人工智能在武器上的应用，中国目前正在开发“下一代隐形无人机”，例如紫燕的Blowfish A2型号。据该公司称，该模型“自主执行更复杂的战斗任务，包括定点定时探测，固定范围侦察和目标精确打击。”

联合国立场

俄罗斯表示围绕致命自主武器的辩论不应忽视其潜在利益，并补充说“可以通过忠实执行现有的国际法律规范来解决对LAWS的担忧。”俄罗斯积极试图限制分配的天数。联合国的这种讨论。

AI在军事上

• 虽然俄罗斯尚未制定仅限军事的人工智能战略，但显然正在努力更全面地整合人工智能。

• 高级研究项目基金会（基金会）可以被视为俄罗斯相当于DARPA，于2015年开设了国家机器人技术和基本元素发展中心。

• 在2018年3月举行的人工智能会议上，国防部长绍伊古在推动人工智能技术开发方面加强了军事和民用科学家之间的合作，他说这对于打击“对俄罗斯技术和经济安全的可能威胁”至关重要。

• 2019年1月，有报道称俄罗斯正在开发一种自主无人机，“无论人们都在批准使用武器，”它将“能够起飞，完成任务，并且不会受到人为干扰”。

与私营部门的合作

• 一个名为Era的新城市，完全致力于军事创新，目前正在建设中。根据克里姆林宫的说法，“科技城计划研发的主要目标是建立军事人工智能系统和支持技术。”
• 2017年，俄罗斯最大的枪支制造商卡拉什尼科夫宣布，它已开发出基于神经网络技术的全自动作战模块，使其能够识别目标并做出决策。

联合国立场

英国认为“自治系统能够理解更高层次的意图和方向。”它表明自治“赋予了重要的优势，并且已存在于武器系统中数十年”，并且“不断发展的人机界面将使我们能够实现军事职能具有更高的精确度和效率，“虽然它补充说”致命武力的应用必须由人类指挥，而人类将始终对决定负责。“英国表示”目前缺乏共识关键主题违反任何法律禁令，“并且它”不具有任何
实际效果。“

AI在军事上

• 2018年国防部的一份报告强调，国防部正在“在
  人工智能，机器学习，人机组合和自动化等领域实现现代化，以提供
  我们在这方面所需的破坏性影响。”

• 国防部有各种与人工智能和自治有关的计划，包括自治计划。该计划的活动包括算法开发，人工智能，机器学习，“开发基础技术以实现下一代自治军事系统”，以及人类自治团队的优化。

• 国防部的研究部门国防科技实验室（Dstl）于2018年启动了AI实验室。

• 据国防部称，在武器装备方面，目前正在开发的最着名的自主技术示例是最具秘密性的Taranis武装无人机，这是“在英国建造的技术最先进的示范飞机”。

与私营部门的合作

• 国防部在2016年12月启动了一个名为国防和安全加速器（DASA）的跨政府组织.DASA“发现并资助可利用的创新，以便快速有效地支持英国国防和安全，并支持英国财产。”

• 2019年3月，DASA向Blue Bear Systems颁发了250万英镑的合同，作为Many Drones Make Light Work项目的一部分。在此，Blue Bear Systems的主管说：“部署一大批低成本自治系统的能力为战场作战提供了新的范例。”

联合国立场

法国将LAWS的自主权理解为完全的，从激活的那一刻起就没有任何形式的人为监督，也没有从属于指挥链。法国表示，关于该问题的具有法律约束力的文书不合适，将其描述为既不现实也不可取。法国确实提出了一项政治宣言，重申了基本原则，并“强调必须保持人类对使用致命武力的最终决定的控制。”

AI在军事上

• 法国的国家人工智能战略在2018年的Villani报告中有详细说明，该报告指出“人工智能越来越多地应用于国防等一些敏感领域（自主武器问题）引发了一场真正的全社会辩论，并暗示了分析人类责任问题。“

• 法国驻武装部队部长佛罗伦斯·帕利（Florence Parly）对此表示赞同，他说“让机器选择开火或决定生死是不可能的”。

• 在防御和安全方面，维拉尼报告指出，未来使用人工智能将是必要的，以确保安全任务，维持对潜在对手的控制，并维持法国相对于其盟友的地位。

• Villani报告将DARPA称为模型，但不是为了复制它。然而，报告指出，DARPA的一些方法“应该激励我们。特别是关于总统希望成立欧洲破坏性创新机构，为包括人工智能在内的新兴技术和科学提供资金。“

• Villani报告强调创建“技术创新的军民综合体，专注于数字技术，更具体地说是人工智能”。

与私营部门的合作

• 2018年9月，国防创新局（DIA）成立，是法国武器采购和技术机构Généraledel'Armement（DGA）的一部分。据Parly称，新机构“将汇集该部的所有参与者和所有有助于国防创新的计划。”

• 目前正在进行的最先进的项目之一是由法国武器生产商Dassault代表DGA开发的nEUROn无人作战空中系统，它可以自动飞行超过三个小时。

• 法国最大的武器生产商之一泰勒斯的首席执行官帕特里斯凯恩在2019年1月表示泰勒斯永远不会追求“自动杀人机器”，并且正在制定与人工智能相关的道德规范。

联合国立场

在2018年，以色列表示，“制定严格的标准或对在这个早期阶段如此投机的事情施加禁令，将是不谨慎的，可能会产生一个无知的，误导的结果。”以色列强调“也应该是意识到军事和人道主义的优势。“

AI在军事上

• 预计以色列在军队中使用人工智能工具将在不久的将来迅速增加。

• 以色列国防军（IDF）的主要技术部门和大多数人工智能开发项目背后的引擎称为C4i。在C4i中，有Sigma分支，其“目的是开发，研究和实施最新的人工智能和高级软件研究，以保持IDF最新。”

• 以色列军队部署了具有相当程度自治权的武器。其中一个最相关的例子是Harpy游荡弹药，也称为神风无人机：一种无人驾驶飞行器，它可以飞行很长一段时间，用爆炸弹头与地面目标接合。

• 以色列是最早“揭露它已部署全自动机器人的国家之一：自动驾驶军用车辆在巴勒斯坦管辖的加沙地带边境巡逻。”

与私营部门的合作

• 公私伙伴关系在以色列军事技术的发展中很常见。“以色列军方与数字部门之间存在着密切联系”，据说这是该国人工智能领导的原因之一。

• 以色列航空航天工业公司是以色列最大的军火公司之一，长期以来一直在开发越来越多的自主武器，包括上面提到的Harpy。

联合国立场

2015年，韩国表示“关于LAWS的讨论不应以阻碍民用机器人技术的研究和开发的方式进行”，但它“对完全自主武器系统的警惕”有助于消除有意义的人为控制从操作循环开始，由于存在故障风险，潜在的问责制差距和道德问题。“在2018年，它引起了对限制民用应用以及自主武器的积极防御用途的担忧。

AI在军事上

• 2018年12月，韩国陆军宣布成立一个专注于人工智能的研究所，名为人工智能研究与发展中心。其目的是利用尖端技术进行未来作战行动，并“将其转变为军方的下一代战斗控制塔”。

• 韩国正在开发新的军事单位，包括Dronebot Jeontudan（“勇士”）部队，目的是开发和部署包含先进自治和其他尖端能力的无人驾驶平台。

• 众所周知，韩国使用武装的SGR-A1哨兵机器人，该机器人在分离朝鲜和韩国的非军事区运作。机器人具有监督模式和无监督模式。在无监督模式下，“SGR-AI识别并跟踪入侵者[...]，最终在没有人类操作员进一步干预的情况下向他们开火。”

与私营部门的合作

• 公私合作是军事战略的一个组成部分：人工智能研究与发展中心的计划是“与当地大学和研究实体建立合作网络，如KAIST [韩国科学技术高级研究所]和国防发展局。“

• 2018年9月，韩国国防采办项目管理局（DAPA）发起了一项新的
  战略，以发展其国家军事工业基地，重点是推动“工业4.0
  技术”，如人工智能，大数据分析和机器人技术。

要了解有关联合国正在发生的事情的更多信息，请查看原子科学家公报中的这篇文章。