美国军事人工智能发展及其安全问题的思考

2020年终，美国海军发布《人工智能手艺平安性》。该陈述重点存眷对此项手艺带来的平安性问题。美国海军以致全部国防部体系，都正在严肃认真地看待军事人工智能的进展。2019 年的 2、6、9 月，美国前后发布《国防部人工智能计谋》、《国度人工智能计谋》《空军人工智能计谋》三大计谋，注解其正在国度、部队、兵种三个层面的“智能化计谋”全面启动。可看得出美国人工智能正在军事范畴的进展态势日趋激烈。

一、推出多项政令战略规划，聚力进步人工智能

人工智能作为驱动第四次工业革命的主要引擎，深刻影响着经济财产和各技能学科的进步，为此美国以国度计谋地位提拔对人工智能正在社会进步各行业( 特别是国防行业) 的动能，以推进人工智能技能的研发。2019年10月，世界经济论坛公布制订国度人工智能计谋的框架白皮书，创建了最低限度可行的人工智能国度计谋制订框架，指出国度人工智能计谋的制订应考量具有计谋意义的优先事项人口需求资源限定和地缘政治等因素，旨正在引导还没有或正正在制订人工智能国度计谋的当局。

美国多措并举，持续把进步人工智能技术作为提拔国力保护国度安全的严重计谋，由国度计谋层面强化人工智能技术结构。2019年2月，美国政府高新科技政策办公室宣布由美国总统刻朗普签发的《保持美国正在人工智能范畴的领导地位》行政令，提出了美国进步人工智能的政策和标准计谋目标和重点范畴，启动旨正在推动美国正在人工智能范畴领导地位的美国人工智能建议，指导联邦政府整合资源，聚力进步人工智能。

同年2月，美国国防部宣布《2018年国防部人工智能计谋》的摘要部份( 题为《应用人工智能增进宁静取繁华》) 。该计谋是美国国防部首个人工智能计谋，旨正在落实美国政府《国家宁静计谋》和《国防计谋》提出的人工智能主要事项，为美国国防部追求军事人工智能上风生长军事人工智能实战化才能供应计谋引诱。2019年7月，美国空军推出数字空军筹划，旨正在革新其正在数据办理信息手艺架构和业务运营方面的不敷，使美国空军维持竞争力。2019年9月，美国能源部建立人工智能取手艺办公室，旨正在为美国人工智能研究人员供应联邦数据模型和高性能盘算资源。2019年9月，美国空军以美国《国防部人工智能计谋》附录情势宣布《2019空军人工智能计谋》，具体阐释正在数字时期若何有用办理引诱和引领所必需的基本原则本能机能和目的。2020年终，美国水兵剖析中央宣布专题告诉《人工智能手艺宁静性———对水兵的行为计划认为》。该告诉由当前美国水兵推进军事范畴人工智能手艺使用过程中激发的公家存眷开展先容入手，提出了水兵以致全部国防部体系正在军事范畴接纳采纳新兴手艺手段的整体立场取思绪。

两、多家军事机构展开研发项目，探索人工智能技术的军用新场景

作为军事大国，美国关于人工智能军事作战赋能的方针十分清楚，强力推进美国顶尖人工智能研讨走向新的技能打破，增进科学新功效的发明、加强经济竞争力、牢固国家安全。2019年3月，美国参议院军事委员会开展主题为国防部人工智能方案的听证会，美国国防预先研讨方案局 DARPA、国防立异小组( DIU) 、国防部结合人工智能中央( JAIC)等机构主管划分讲话，论述所在部分的人工智能项目及运行机制等状况，牢固并强化了人工智能技能及运用取军方之间的联络，保障美国的人工智能军用化步调进一步加速。以DARPA为例，DARPA正将投资和研发重点转向第三代人工智能技能，适用于创立能在特定语境下开展推理的机械。赞助的关键项目包孕毕生进修机械( L2M，2017年启动)，可解释人工智能( XAI，2018年启动)和机械知识( MCS，2018年启动)等，探索进步人工智能技能水平的方式，实现语境推理才能。DARPA以为，将这一些技能集成到取军事作战人员协作的军事体系中，将有利于在对空间敏感的庞大疆场环境中做出立即决议计划，掌握不完整或彼此冲突的海量信息，并利用无人体系安全自立地施行枢纽使命。

2019年1月，DARPA启动常识导向型人工智能推理形式( KAIROS)项目，旨在提拔面向庞大疆场环境发掘和明白海量信息中的庞大事务及其相互关系的才能。2019年1月，美国陆军研讨实验室( ARL)启动异构战术环境中的分布处置( DPHTE)设计，基于雾盘算平台在对抗性军事环境中为作战人员供应更多的态势感知。2019年2月，美国空军研讨实验室公布多域战和目的定位支撑信息阐发项目，旨在开辟基于算法战和人工智能等技能，针对时敏有价值的敌对挪动目的开展快速预判和攻击。2019年5月，DARPA启动旨在将人工智能使用于空战演化( ACE) 项目，人工智能空战使用成熟后可替换飞行员完成一些空战义务。2019年5月，麻省理工学院公布为美国空军打造人工智能加速器项目，该项目研讨范畴包含救灾和医疗筹办、数据管理、保护物流、车辆宁静和网络复原才能。2019年9月，美国国防部团结人工智能中间颁布发表美国军方网络宁静数据订定新框架，重点为将来人工智能网络防备体系奠基底子。

2020年终，美国特朗普当局向国会提交2021财年预算申请，加快生长人工智能等技能。提议当局预算由2020财年1560亿美圆削减至1422亿美圆，降低138亿美圆，但预算申请仍夸大优先生长“将来财产”，必需加快生长人工智能等技能。个中，500万美圆适用于能源部新立“人工智能取技能办公室”，增强人工智能的项目研发。

三、夯实人工智能实践使用的品德绳尺和宁静边境

伴随着人工智能技术的进展，人权伦理、隐私保障、蔑视私见、宁静题目等窘境日益突出。美国亦正在探索中多措并举，确保人工智能正在充实的监视和操纵之下进展。特别是正在2019年公布的国家级人工智能计谋和2020年头公布人工智能技术宁静性申报中，将品德、隐私、宁静等题目摆正在突出位置，以为应正在恭敬品德、看重宁静的前提下最大限度地发扬其社会效益。

（一）明白战役中使用人工智能技术的品德标准和尺度

美国推进多项研讨，分析美国正当品德地运用人工智能的愿景和指点标准，引诱负责任的人工智能利用和开辟。2019年1月，美国国防部规定国防立异委员会制定正在战斗中运用人工智能的品德标准，用以指点军方正在战斗中运用人工智能技术和兵器，并向硅谷高新科技公司确认其人工智能产物将若何被运用。美国国防部这一办法被以为旨正在构成环球军用人工智能标准的指点方针，并吸引硅谷高新科技公司到场防备事情；10月，人工智能标准: 国防部人工智能利用伦理的若干以为推出，被以为是美国对军事人工智能利用所招致伦理题目的初次回应。2019年1月，美国闻名智库布鲁金斯学会宣布《自动化和人工智能：机械对人及地域的危害》呈报，侧重分析了曩昔近30年间的帮助体系取人工智能对行业、失业、天文和人口的危害，并对当前至2030年的趋向进行了展望。最终针对国度、州和处所的政策制定者提出一个综合相应框架，为人们明白并标准自动化和人工智能的作用供应参考。

（两）人工智能对军事行业尚属新兴手艺，安全性不容忽视

人类历史上，充满着部队行使技能获得军事上风的实例。比方战车。战车，是泛起正在战场上的第一种车辆设备，由民间通用马车进步速度和机动性改善而来，正在军事使用层面获得了明显的上风。战车被描写为其时的“超等兵器”。又比方炸药。炸药源起于一个有时发明，它的泛起，使得部队可以操作把持化学反应能量来进步速度取威力，由此彻底改变了战斗的形态和款式。再比方内燃机。这类发动机继承并成长了蒸汽机的上风，改变了战斗运动的速度取局限。对内燃机的使用计划，包罗为后勤物流（补给运输卡车）给予动力和为潜艇、飞机取导弹给予长期的长途监督及攻击才能。

对大多手艺手段的接纳和使用，一度都曾起到了改变了战斗款式的作用。而个中有几项，更是完全推翻了以往战斗流动的款式和规模，个中便包罗炸药取核武器。人工智能手艺，亦被以为位居此类。此项手艺可以利用于全部战斗事业的方方面面，大幅增加了战斗流动的效能取效力。各种人工智能手艺，还因其各自独有的特征而有所区别。首先应注意到，实际天下中人工智能手艺利用计划，是用以处理特定领域题目的狭义人工智能手艺，而非具有广泛通用性的通用人工智能手艺利用计划。人工智能手艺正在军事领域的利用，可以取美国部队对核武器的使用体式格局开展类比：平安方面的关键性手艺领域常识，必须正在很大程度上由部队文职机构把握，正在很大程度上亦属手艺领域。

（三）赐与人工智能技术安全性 “适可而止”的信赖

人工智能技能安全性，还取对其信赖水平有关。美国军方运用人工智能技能方面的一个枢纽题目是，军方人员和美国政府高层领导可否信赖这一些体系的确有用且不容易激发不测题目。2016年国防科学委员会对自立掌握技能的研究报告指出：“决定正在特定义务中布置运用某体系的小我，必需信赖该体系。”正在伊拉克和阿富汗的行为解释，卖力实行特定行为的指挥官和战役/操纵人员正在不完全领会结果的情况下，纷歧定会运用某些体系。当某些体系被布置至疆场以知足紧要需求时（如反浅易爆炸安装体系或适用于供应枢纽性谍报的看管体系），一些队伍仍是选用了他们曾经熟悉的武器体系和谍报看管侦查平台，即便是老体系的功用目标比不上那些曾经能够选用的新体系。

对人工智能体系的信赖度太低是一种危险，会阻挠队伍使用他们所需的功效。而另一种危险，则是对某项才能的过分信赖。人类倾向于过分信赖机械，即使正在有证据解释不克不及够赐取这类水平的信赖情况下，还是如斯。战役流动中的过分信赖，还是有详细案例。如，2003年，陆军“爱国者”防空导弹体系曾击落1架水兵F/A-18飞机，该体系将飞机误判定为战术弹道导弹，并向操纵人员提出了认为，要求其发射导弹施行阻挡。操纵人员正在没有自力核实可以用信息的情况下，答应施行了这项认为。这解释，正在预期作战举动中，军方须要对人工智能赐取水平“恰如其分”的信赖，不克不及过热还不成太冷，防止滑向两个极度。须要告竣的方针，是水平适当的信赖，而且应当让人来介入决议计划进程。而这类决议计划进程，则须要以各类相干才能及对体系功效所具有的履历取常识为依托。

（四）军事人工智能安全问题将写入政策方针

军方和当局的高层领导，还应根据政策方针层面的决议对相干军事步履的性质施加危害，包孕肯定战役运动中该当运用哪些特定的技术手段。这一些方针政策，大概会对羁系水平组成危害。比方，国防部第3000.09号指令，就请求对某些范例的自立控制体系开展高级别审核。明白战役运动中容许运用的技术手段（比方，对白磷（弹药）应用的限定和运用集束弹药时相干设定请求以及对别的此类兵器详细性能参数的限定请求），而且对某些特定范例作战步履中的计谋标准开展限定。比方，《2013版总统政策指点（Presidential Policy Guidance，PPG）》及《2017版总统政策指点》中，对某些反恐步履的答应取羁系步骤的整体标准框架开展了明白。这一些政策方针标准，有助于确保相干军事运动契合美国的标准、价值观及长处。这一些政策方针层级的决议，都有反映出对此类体系或作战步履可靠性所应持有的信赖水平的意味。

值得注意的是，以上这一些实例内容皆触及到了宁静性原则问题，而《国防部第3000.09号指令》的目标，就在于防止“不测征战（inadvertent engagements）”事务的呈现（比方导致布衣伤亡）。限定白磷弹药和集束弹药的目标，还在于降低利用这一些兵器时为布衣带来的危险。《2013版总统政策引导》中，直接将导致布衣伤亡明白列为作战举动核准顺序中的反对前提（no-gocriterion）。因而能够预感，宁静性问题，必将将成为将来高层领导人关于将人工智能技术手段运用于战役运动层面所明白的相干引导取指令内容中的一部分。

（五）军方须取业界帮忙处理安全问题

人工智能技术的巨大进步，还使美国政府产生了对业界新的依赖性。自第二次世界大战以来，美国政府一直正在很大程度上依赖于本身投入的研发资金。然而，人工智能技术层面的研发投资，越来越多地由私营机构所核心。其特性，是已往十年来高新科技行业的研发支出急剧增添。正在图1中，我们将全部美国政府正在网络和信息技术研发层面的支出取美国排名前五位的高高新科技公司（亚马逊、谷歌/阿尔法控股、英特尔、微软、苹果）的研发投资举行了比照。如图1所示，高新科技行业企业正在研发层面的投入显明更多，并且二者间的差异正正在扩大。2010年，高新科技行业企业的研发支出，已经是美国政府团体高新科技研发投资范围的6倍。8年后，企业正在这里层面的投入范围将激增至美国政府的15倍。整体来讲，美国政府正在尖端技术层面研究事情的投资面临着敏捷扩大的缺口。这类近况，为美国政府营建出了一种处于接续变革中的环境。正在这里类环境中，取业界的合作，关于美国政府实现其战略目标必需坚持的技术优势来讲至关重要。正在这里个意义上，人工智能技术安全性应该是业界存眷的题目——正如谷歌等公司摒弃了对美国政府军事范畴运用计划的支撑，并开端运用伦理性审查顺序对其内部事情步骤举行监测所证实的那样，美国政府必需取业界合作，依托其匡助办理此类题目。

图1 美国政府取高新科技行业企业研发投资差异比拟图

四、美国军事人工智能面向未来的发展趋势

人工智能技术普通可分为弱人工智能、强人工智能、超人工智能 3 个级别，估计强人工智能技术大概在 2050 年前问世。将来美军智能化建立成长大概履历三个阶段：

2025 年前，美军重点是搭起智能化部队框架，总体水平处于弱人工智能阶段。美军建立关键环绕构建“环球监督袭击体系”，以升级水下、网电、空天、环球快速袭击和导弹防备作战体系为重点，突出生长无人化、隐身化、长途化作战平台，提拔“环球公域”参与本领，确保可托的“拒止”和“处罚”威慑。这一阶段，美军无人体系正在数目大将渐渐跨越有些人体系，自立无人体系将成为美军前沿作战的关键力气，无形、无人、隐形、灵便等力气将成为美军事干涉的关键手腕。

2035 年前，美国开端建成智能化作战体系，总体水平进入强人工智能阶段。美军建立关键经由过程成长智能化作战平台、信息体系和决议支持体系，和定向能、高明声速、仿生、基因、纳米等新型兵器，对关键敌手构成新的军事“代差”。在这里一阶段，美军无人体系的投资将凌驾有些人体系，无人体系建立范围及作战应用皆居于主导地位。

2050 年前，美军智能化作战体系将更进步前辈、更完善，总体水平到达超强人工智能阶段。美军正在强人工智能、通用量子较量争论、可控核聚变、纳米机器人、再生、创生、脑联网等手艺层面也许获得打破。作战平台、信息系统、批示操纵也许全面实现智能化、无人化，更多样的仿生、基因、纳米等新型兵器走上疆场，作战空间进一步向生物空间、纳米空间、智能空间拓展，人类进入“机器人战争时代”。