新报告：不要恶 - 关于技术部门致命自治武器立场的调查

随着我们迈向更加自动化的世界，科技公司越来越多地面临着他们想要 - 并且不希望 - 他们的产品被使用的决定。也许最关键的是，该部门正在谈判其与军队的关系，特别是发展致命的自主武器。一些公司，包括像谷歌这样的行业领导者，已经承诺放弃制造武器技术; 其他人则全心全意地接受军事合作。 

在一份题为“不要做恶”的新报告中，  荷兰倡导组织  Pax评估了50家领先科技公司参与军事技术发展的情况。他们发出了一项调查，要求公司了解他们当前的活动以及他们对自主武器的政策，并使用每家公司的回复将其归类为“最佳实践”，“中度关注”或“高度关注”。分类基于3个标准：  

• 该公司是否正在开发可能与致命自主武器相关的技术？

• 公司是否参与相关的军事项目？

• 公司是否承诺不致发展致命的自主武器？ 

“最佳实践”公司是那些有明确政策的公司，确保他们的技术不会被用于致命的自主武器。被归类为“中度关注”的公司是那些目前从事相关技术军事应用但却回应说他们没有从事自主武器研究的公司; 或者那些不知道从事军事技术应用但没有回应调查的公司。“高度关注”的公司是从事相关技术的军事应用的公司，他们对调查没有回应。 

该报告就公司如何防止其产品为致命自主武器的发展做出贡献提出了若干建议。它表明公司承诺不做出贡献; 他们制定明确的公司政策，重申这种承诺并提供具体的实施措施; 他们告知员工他们正在做的工作，并允许公开讨论任何问题。 

Pax确定了与自主武器相关的六个部门：大型技术，人工智能软件和系统集成，自主（蜂拥）天线系统，硬件，模式识别和地面机器人。该报告按这些类别分类，然后按国家和产品进一步细分。我们反而按字母顺序列出公司。查找图表中所有50家公司的基本信息，并阅读下面有关选定组的更多信息。

公司名称的颜色表示关注程度：最佳实践，  中等关注，  高度关注。

AerialX

• 开发DroneBullet，一种可以自主识别，跟踪和攻击目标无人机的神风无人机

• 努力修改DroneBullet“用于配备弹头的游荡弹药系统”

Airobotics

• 针对调查，他说“无人机系统与武器及相关产业无关

• 与军事和安全业务有明确的联系; 宣布成立国土安全和国防部门，并于2017年开展紧急服务

•  参与边境安全，特别是美墨边境; 提供巡逻机器人

• 联合创始人表示不会向其无人机添加武器

空域系统

• 利用人工智能和先进的机器人技术开发空域安全解决方案，包括“远程检测，即时识别，自动缓解 - 捕获和安全移除未授权或恶意无人机”

• 开发了Airspace Interceptor，一个可以捕获目标无人机的完全自主系统，与美国国防部合作

阿里巴巴

• 中国最大的网上购物公司

• 最近投资了七个研究实验室，专注于人工智能，机器学习，网络安全和自然语言处理等领域

• 于2018年9月成立了一家半导体子公司Pingtouge

• 科技行业的主要投资者，包括Megvii和SenseTime 

亚马逊

• 可能是JEDI合同的赢家，这是一个美国军事项目，将作为连接五角大楼和该领域士兵的通用数据基础设施

• 开发了警方使用的Rekognition程序; ACLU测试显示，近40％的假匹配涉及有色人种

• 首席执行官曾表示，“如果大型科技公司打算退回美国国防部，这个国家将陷入困境。” 

• 自与包括ICE在内的政府机构合作曝光以来，受到强烈反对

• 此后提出了负责任地使用技术的指导方针

Anduril Industries

• 由一名前情报官员共同创立

• 声音支持技术部门与五角大楼之间更紧密的联系：“人工智能具有范式转换潜力，成为一种力量倍增器，它将更快地提供更好的结果，成为战斗成功的秘诀。”

• 参与Project Maven

• 为五角大楼新成立的联合人工智能中心提供支持

• 开发了Lattice，这是一个自动系统，为士兵提供前线视图，可用于识别目标并指导无人驾驶车辆进入战斗; 已被用来捕捉过境者

• 联合创始人表示，Anduril“部署在几个军事基地。我们部署在美国边境的多个地方[...]我们部署在其他一些我无法谈论的基础设施周围。“

动物动力学

• 分拆公司起源于牛津大学的动物学系

• 开发无人机

• Stork是一个具有自主导航和导航功能的滑翔伞，受到了军事和人道主义援助/救灾组织的关注

• Skeeter，“破坏性无人机技术”是在英国政府国防科学与技术实验室的资助下开发的

• 2019年3月，接管了软件开发商Accelerated Dynamics，后者开发了ADx自主飞行控制软件

• 将ADx与Skeeter一起使用可以使其在具有军事应用的群组配置中运行

• 在回应调查时，首席执行官表示“我们不会武器化或为我们制造的产品提供'动力'功能”，并且“立法禁止有害使用自治是政府和立法框架的迫切和必要事项。条款。“

Arbe Robotics

• 开始在军事和国土安全部门，但已转向汽车

• 我对调查的回应称，它“将与客户签订协议，确认他们没有将我们的技术用于军事用途。”

百度

• 最大的中文互联网搜索服务提供商

• 高度致力于人工智能和机器学习，并正在探索面部识别技术的应用

• 2013年开设了硅谷人工智能研究实验室，该实验室一直在大力投资人工智能应用; 自中美贸易战以来，这项研究已经缩减

• 负责2017年3月成立的中国深度学习技术工程实验室

• 将为脑力激励智能技术和应用国家工程实验室做出贡献

蓝熊系统

• 研究公司涉及无人系统和自治的各个方面，包括大数据，人工智能，电子战和蜂拥系统

• 2019年3月，它领导的财团被授予英国国防部合同，价值250万英镑用于开发无人机群技术

城堡防御

• “保护士兵免受无人机攻击和敌人战斗中的监视”，并“为战士创造一个力量倍增器，使他们能够用相同或更少的资源完成更多任务”

• 与美国空军签约，提供可以击败武器化无人机和武器的系统

• 开发了名为Titan的自主反无人机系统

Corenova Technologies

•  据网站称，提供“军事级解决方案以确保自主运营”

• 开发HiveDefense，“一群不断发展的自学机器人”

• 与DARPA合作开展OFFSET，促进无人控制的无人驾驶任务

Dibotics

• 适用于自主导航

• 由Generate支持，这是一个法国国防初创公司的计划

• 创始人/首席执行官签署了FLI 2017年给联合国的公开信

EarthCube

• “基于地理空间信息的自动分析开发监控解决方案”

• 被描述为“构想未来的算法战工具”。

• 首席执行官表示，“随着新传感器的出现 - 无论是卫星，无人机还是飞机 - 我们在这里看到了一个很好的机会来缩小实验室人工智能与现场活动智能（ABI）之间的差距。”

通用机器人

• 机器人公司专注于防御和安全

• 创始人之前曾在以色列国防部的研发权威部门工作过

• 为全球反恐单位提供“先进的机器人系统”，其中许多都是为“城市战争”而设计的

• 开发Dogo，据称是“世界上第一个固有武装的战术战斗机器人”，但是远程控制而不是自主控制

• 在回应调查时，首席执行官表示“我们的立场是不允许没有人为监督和人类最终主动决定的致命自主武器[...]一般而言，我们的系统旨在提供实时高质量信息并将其呈现给训练有素的操作人员以直观的方式; 这样可以确保人类做出更好的决策，从而减少伤亡人数，从而获得更好的结果。“ 

苍鹭系统

• 为国家安全客户提供“领先的解决方案”

• 美国的使命是“通过提供创新的实验室测试和模拟解决方案来加强美国的防御”

Hivemapper

• 软件提供映射，可视化和分析工具; 使用视频素材生成即时详细的三维地图并检测变化; 可能被空军用来模拟轰炸

• 创始人/首席执行官表示，他“相信硅谷和美国政府必须共同努力，以维持美国的技术优势，以免那些不同于美国价值观的专制政权赶上来。”

• 创始人/首席执行官签署了FLI 2015年公开信; 在他的调查回复中，他表示“我们绝对希望看到一个人类掌控并负责所有致命决定的世界。”  

IBM

• 竞标绝地合同并未能获得资格 

• 积极致力于生产“下一代人工智能芯片”，并正在建立一个新的人工智能研究中心; 在未来10年内，预计人工智能计算将提高1000倍

• 军事承包的悠久历史，包括建造用于核武器研究和模拟的超级计算机

• 目前参与美国海军陆战队的增强军事情报研究

• 包括Watson设计负责人和IBM Research认知计算副总裁在内的3名员工签署了一份2015年公开信，呼吁禁止使用致命的自主武器

• 使用来自Flickr图像的信息在Faces数据集中开发多样性; 声称该项目将减少面部识别的偏见; 数据集适用于与世界各地的军事和执法有关的公司和大学

• 在回应调查时，证实它目前没有开发致命的自主武器系统

Innoviz

• 生产用于汽车的激光雷达

• 由以色列国防军精英技术部门的前成员创建，但目前似乎没有开发军事应用

英特尔

• 开发各种AI技术，包括为政府提供的特定解决方案，软件和硬件

• 2017年由DARPA选择与DARPA HIVE合作，这是一个利用AI和ML的数据处理和计算平台

• 2018年宣布，它将与DARPA合作开发“开发模块化电子系统所需的设计工具和集成标准”

• 在无人驾驶飞行器和飞行控制技术方面投入了大量资金

Megvii

• 人工智能提供商以面部识别软件Face ++而闻名

• 据报道，使用来自公安部照片数据库的面部扫描，其中包含几乎每个中国公民的文件

• 已经说过，“我们希望建立城市的眼睛和大脑，帮助警察分析车辆和人员，超出人类可能的范围。”

微软

• 与亚马逊竞争JEDI合同

• 在2018年发布了“未来计算”，它定义了有益AI发展所必需的核心原则 

• 据员工称，“有了JEDI，微软高管们有望背叛这些原则以换取短期利润。” 

• 公司对致命自主武器系统的立场不明确

• 第一家技术巨头呼吁制定法规以限制面部识别技术的使用

Montvieux

• 开发一种军事决策工具，使用基于深度学习的神经网络来评估复杂数据

• 获得英国政府的资助

Neurala

• 销售可在轻型设备上运行的AI技术，帮助无人机，机器人，汽车和消费电子产品分析其环境并做出决策

• 军事应用是关键的重点

• 与包括美国空军，摩托罗拉和鹦鹉在内的广泛客户合作

• 联合创始人/首席执行官签署了FLI 2017年给联合国的公开信

神谕

• 提供数据库软件和技术，云计算系统和企业软件产品

• 网站声明，“Oracle帮助现代防御为动态任务目标做好准备”

• 申请JEDI合同并且没有资格; 提出了几项投诉，部分涉及五角大楼决定只使用一家供应商

真知晶球

• 数据分析公司由特朗普顾问于2004年创立; 源自CIA支持的In-q-Tel风险投资机构

• “Palantir Intelligence”的制作人，这是一种分析整个情报界使用的数据的工具

• 已开发出美国各地执法部门使用的预测性警务技术

• 2016年，获得了一项价值2.22亿美元的特殊作战司令部合同 

• 2019年3月，赢得了一项价值超过8亿美元的美国陆军合同，建造了分布式共用地面系统，这是一种战斗区士兵使用的分析系统

Percepto

• 开发了Sparrow，一种带有安全应用的自主巡逻无人机

• 重点关注工业，而不是军事或边境安全应用

• 根据调查，“我们为工业市场制定解决方案，解决安全，安全和运营需求，致命武器的主题完全超出了我们的工作范围”

RoboTeam的

• 由两名前以色列军事指挥官创建，“以色列国防军作为我们的后院进行测试”

• 专门服务于包括五角大楼在内的军事市场

• 开发人工智能控制单元（AI-CU），它可以自动导航，面部识别和其他支持AU的功能，以控制和操作无人系统和有效载荷

• 中国投资公司丰和基金管理公司的链接曝光似乎使他们去年失去了一系列美国陆军机器人合同

三星

• 世界上最大的科技公司之一

• 开发人工智能技术以应用于其所有产品和服务，以保持其在电话/计算机市场上的地位

• Samsung Techwin是三星以SG1A Sentry机器人闻名的军用手臂，于2014年上市销售

SenseTime

• Megvii的主要竞争对手

• 销售识别物体和人物的软件

• 各种中国警察部门使用其SenseTotem和SenseFace系统分析视频并进行逮捕

• 该公司价值45亿美元，是“世界上最有价值的人工智能初创公司”，其收入中约有五分之二来自政府合同

• 2017年11月，出售了其帮助创建的“智能警务”公司Tangli Technology 51％的股份

盾AI

• 国家认为其“使命是用人工智能系统保护服务人员和无辜平民”

• 制作基于Hivemind，AI的系统，使机器人能够“从他们的经验中学习”

• 开发Nova，一种“经过实战验证”的机器人，可在流式传输视频和生成地图时自动搜索建筑物

• 与五角大楼和国土安全部合作“使全自动无人驾驶系统能够在最危险的情况下大幅降低风险并提高态势感知能力。

西门子

• 欧洲最大的工业制造企业集团

• 以医疗诊断设备（CT扫描仪），能源设备（涡轮机，发电机）和火车而闻名

• 生产MindSphere，这是一个基于云的系统，可帮助美国实现人工智能

• 2013年，与卡内基梅隆大学和HRL实验室签订了220万美元的军事研究合同，开发改进的智能工具

• 与DARPA合作开展TRA信息设计（TRADES）计划

• 针对调查，他表示：“西门子在这个业务领域并不活跃。如果我们发现组件或技术或融资可能被分配用于军事目的的潜在风险，西门子将进行更高的尽职调查。[...]我们的所有活动都遵循我们的商业行为准则，确保我们遵守高道德标准并在日常业务中实施。我们还致力于负责任的人工智能原则，我们的目标是在今年晚些时候发布。“

软银

• 通过其1000亿美元的Vision Fund投资人工智能技术，包括BrainCorp，NVIDIA和Slack Technologies; 拥有阿里巴巴约30％的股份

• 与沙特阿拉伯的主权财富基金合作，是沙特多元化远离石油战略的一部分

• 2017年，接管了与DARPA有关的Boston Dynamics和Schaft

• 开发了人形胡椒机器人

• 对调查的回应称，“我们没有武器业务，也无意开发可用于军事目的的技术”

SparkCognition

• 与世界上最大的组织合作，通过应用人工智能技术，为我们的社会提供动力，资助和保护，以发现他们的最大潜力。“

• 吸引了五角大楼前任和现任官员的兴趣，其中一些官员在董事会任职或担任顾问

• “跨越国家安全领域 - 包括国防，国土安全情报和能源 - 以简化其运作的每一步”; 曾与英国陆军合作开展军事AI应用

• 创始人/首席执行官表示，他认为对自主武器的限制将扼杀进步和创新

Synesis

• 开发Kipod，一个由执法机构，政府和私人安保组织用于查找面孔，车牌，对象特征和行为事件的视频分析平台

• 白俄罗斯，俄罗斯，哈萨克斯坦和阿塞拜疆的执法部门使用

腾讯

• 中国最大的社交媒体公司

• 创建了Miying平台，以协助医生进行疾病筛查等

•  专注于机器学习，语音识别，自然语言处理和计算机视觉方面的研究

• 在在线游戏，社交媒体和云服务中开发实用的AI应用程序

• 投资自动驾驶汽车人工智能技术

• 在社会契约方面描述了它与公众的关系：“数十亿用户委托我们提供他们的个人敏感信息; 这就是我们必须坚持我们的诚信超越法律要求的原因。“

VisionLabs

• 开发Luna软件包，帮助企业根据照片或视频验证和识别客户

• 与俄罗斯和独立国家联合体（CIS）的10多家银行合作

• 根据调查，他们表示“明确禁止将VisionLabs技术用于军事应用。这是我们合同的一部分。我们还监控合作伙伴开发的结果/最终解决方案。“

Yitu

• 开发了“智能服务平台”，一种涵盖面部识别，车辆识别，文本识别，目标跟踪和基于特征的图像检索的算法

• 据报道，它的DragonFly Eye System可以在几秒钟内识别出近20亿照片数据库中的人物

• 许多公安局使用的技术

• 2018年2月，为马来西亚警方提供面部识别技术; 与英国的地方政府和其他组织合作