算法厌恶？公众对致命性自主兵器系统的魄力分析 | 国政学东说念主

图片

算法厌恶？公众对致命性自主兵器系统的魄力分析

图片

作家：Ondřej Rosendorf，查尔斯大学社会科学学院博士生，汉堡大学和平与安全策略议论所议论员；Michal Smetana，查尔斯大学社会科学学院副锻练，布拉格和平议论中心主任；Marek Vranka，查尔斯大学社会科学学院助理锻练，布拉格和平议论中心议论员。

起头：Ondřej Rosendorf, Michal Smetana and Marek Vranka, “Algorithmic Aversion? Experimental Evidence on the Elasticity of Public Attitudes to 'Killer Robots’,” Security Studies, Vol. 33, No. 1, 2024, pp. 115-145.

导读

致命性自主兵器系统（Lethal autonomous weapon system）是一项进军但存在争议的军事创新。尽管先前的议论标明，部署此类“杀手机器东说念主”将面对大批公众反对，但对公众魄力在不同成分影响下的弹性变化仍然表示有限。基于此，本文旨在探讨公众魄力对以下三个特定成分的明锐性：对时刻本人事故频发性的眷注、对不良效率牵涉包摄的眷注，以及对自动化夷戮实质上有失东说念主类尊荣的眷注。通过对大批好意思国样本进行拜谒实验，议论者发现，公众对部署自主兵器的魄力与他们对自主兵器相对于东说念主工操作兵器系统的袭击作假率表示权贵关系。然而，关心东说念主类尊荣被侵略并不一定平直导向反对“杀手机器东说念主”。上述发现对于现时对于自主兵器国外监管的策略狡辩具有进军敬爱。

国度将时刻越过旁边于军事宗旨才气是国外关系中组成国度权力的要津要素之一。现时，东说念主工智能、机器学习与自动化在全球军事创新中均处于当先地位。这些时刻在军事范畴中最凸起且最具争议的应用之一是“致命性自主兵器系统”，平素也被称为“杀手机器东说念主”。这些兵器系统若是被部署在战场后，不错在莫得平直东说念主工监督的情况下快速准确地定位并袭击方针。然而，致命性自主兵器系统的出现伴跟着严重的法律与伦理问题，国外社会还是就对致命性自主兵器系统进行可能敛迹或者将其全面禁锢张开了狡辩。

与早期的东说念主说念主义裁军倡议肖似，禁锢致命性自主兵器系统的倡导者以为将公众对此类兵器系统的反对魄力动作应当将其禁锢的论据之一。但也有议论清晰，当得知“杀手机器东说念主”比其他兵器类型具有更强的军事才气时，公众对致命性自主兵器系统的反对魄力会有所毛糙。举座来看，现时策略制定者与关系议论者仍不明晰何种成分会影响全球对该系统的魄力。

自主兵器的出现

新兴时刻如东说念主工智能和自主机器对军事兵器和现代干戈的性质具有紧要影响。固然对于这些时刻“更动性”影响的争论仍在不竭，但对自主军事时刻的日益增长的投资还是成为现实。

致命性自主兵器系统的发展是现时军事创新范畴中一个引东说念主正式且富余争议的标的。简便来说，它不错界说为一朝运行后无需进一步东说念主类过问即可选拔并袭击方针的兵器系统。也恰是其在方针选拔与袭击上的自主性，使其区别于东说念主类保留对方针选拔与袭击决策权的兵器系统。

致命性自主兵器系统的发展兼备收益与风险。一方面，东说念主们以为自主兵器或者有助于在干戈中赢得速率上风，减少东说念主员需求，况且裁减对通讯链路的依赖。同期，如费力适度无东说念主机一样，自主兵器还或者裁减东说念主类士兵面对的风险。另一方面，机器的决策速率与自主袭击缔造，意味着军事东说念主员会较少介入期运作流程，这可能导致事故或破损升级。同期，自主决策系统的弗成预测性与非东说念主性将组成对国外东说念主说念法挑战，因为致命性自主兵器系统无法贯通东说念主类人命的价值与掠夺一个东说念主人命的委果敬爱。

自2013年以来，对于自主兵器以过火他军事挑战的国外磋议就一直在聚积国《对于某些惯例兵器的合同》（CCW）上进行。2016年，CCW缔约国开荒了政府群众组（GGE）以制定对于怎样措置致命性自主兵器系统问题的提倡。但由于国度对此问题的关注点不同（一些国度关注利好，一些国度关注东说念主说念主义影响），GGE并未在此问题上取得实质性分解，但国外社会永远莫得住手对自主兵器的关注，许多非政府组织也正围绕这一问题张开责任。

致命性自主兵器系统在政事和军事宗旨上的效用，在某种进程上将取决于它们的公众继承度。主张禁锢致命性自主兵器系统的东说念主征引1977年《〈日内瓦合同〉附加议定书》马顿斯要求，以为其属于违抗“公众良心”的干戈技能和时势。尽管目下国外社会对该要求的解释存在相反，但回溯过往国外谈判案例，如实有过将公众良心这一成分纳入考量以禁锢兵器系统干与使用的前例。

算法厌恶

从会诊复杂疾病到法律究诘，算法在许多范畴中执行上还是优于东说念主类决策者。然而，即使后者的决策在客不雅上是较差的，公众仍经常拒却算法决策而偏疼东说念主类群众。举例，在医疗会诊范畴，患者更倾向于尊从东说念主类大夫的提倡，因为他们以为算法无法洽商到他们的“独到情况”。现存议论也真实标明，东说念主类倾向于抵制致命性自主兵器系统。据统计，大致55%的好意思国成年东说念主反对使用致命性自主兵器系统。民调公司Ipsos代表东说念主权不雅察组织进行了几次跨国拜谒，终结清晰全球约61%的参与者对“杀手机器东说念主”执反对魄力。近期对好意思国的东说念主工智能和机器学习议论东说念主员及父母官员的拜谒终结也体现出了对致命性自主兵器系统的潜在厌恶。

尽管通盘这些发现王人标明公众对致命性自主兵器系统有热烈的反感，但这一论断仍不解确。参与者可能响应仅仅和平主义魄力，而非对自主兵器本人的委果厌恶。目下已有议论解释，当公众了解到“杀手机器东说念主”在军事效用上赫然优于其他选项时，其反对意见会权贵减轻。

基于此，本议论将磋议国外上对于模范致命性自主兵器系统狡辩中的三个潜在中枢成分：终结主义——对自主时刻发闯事故的担忧；法律空缺——机器无法为误伤承担牵涉；伦理风险——让机器决定东说念主类存一火有违东说念主类尊荣。同期，本文也对“无意性担忧”与“固有性担忧”作念出了远离，前者主要基于现时自主兵器时刻的局限性（如该系统无法正确远离正当方针与违规方针）。后者则是基于某些孤独于时刻越过的原因，如自动化夷戮的固有不说念德性。牵涉包摄类担忧则处于两者之间。

若是公众魄力主要受“无意性担忧”驱动，那么跟着时刻发展，公众对致命性自主兵器系统的魄力可能变化。若是受“固有性担忧”驱动，不管时刻怎样越过，公众对该系统的魄力王人不太可能变化。

（一）易出事故

根据保罗·沙尔（Paul Scharre）的不雅点，东说念主类对自主机器有两种基本直观。一种是乌托邦式的直观，以为自主系统是一种可靠、安全且精确的东说念主类操作系统的替代决策。另一种是末日式的直观，以为自主系统容易失控并犯下凄冷性的作假。事实上，后一种信念的宽敞存在。基于对自主系统可预测性和可靠性的怀疑，以及在流行文化中战争到“机器东说念主末日”思象，公众会因此形成对使用致命性自主兵器系统的厌恶。

这部摊派忧并非毫无根据。寰宇列国的队列还是在搪塞高度自动化系统方面面对诸多挑战，如几起爱国者导弹留心系统的盟军误伤事件。在这些事件中，系统作假地将盟军飞机识别为敌方导弹。

这些时刻抛弃对于在战场上选藏基本的伦理门径可能具有深切影响。从国外东说念主说念法的角度来看，能否确保遵命远离原则可能是致命性自主兵器系统面对的最具挑战性的问题。但到目下为止，科学家尚未开荒出或者像东说念主类判断那样远离正当与违规方针的时刻。在现代战场环境中，这种时刻局限尤其令东说念主担忧，因为环境中平素同期存在着战斗东说念主员和苍生，且存在交战方遐想抵制其法律身份的可能。

关联词，此类挑战在时刻上具有无意性。原则上，时刻越过最终可能使致命性自主兵器系统或者像东说念主类操作系协调样远离正当和违规方针。以前，自主兵器以致可能比东说念主类更具有远离才气，因为它们不错配备庸俗的传感器进行战场不雅察，况且以远超东说念主类的速率进行数据处理，在战场高压情况下也不会东说念主为成分（如情谊）的影响。

不管致命性自主兵器系统最终是否或者解释其在方针远离方面更可靠，公众对其融会仍可能相对于事实发展存在“滞后性”，即受到之前该系统相对于东说念主类易出错的信念的影响。同期，实验心境学范畴的根据进一步标明，东说念主们对机器所犯作假的容忍度要远远低于对东说念主类所犯作假的容忍度。因此，假定公众对“杀手机器东说念主”的魄力受到对时刻易出错性的现存信念的影响，本议论预测，向公众呈现自主系统使用比东说念主类操作系统具有较低的方针误识别风险现象，将加多对致命性自主兵器系统的赈济：

假定1: 相对于东说念主类操作系统，若是致命性自主兵器系统的方针误识别风险较低，公众对该系统的赈济将加多。

（二）牵涉舛误

对致命性自主兵器系统的另一个反对意见是将导致赫然的“牵涉舛误”。此不雅点以为，将该系统应用于战场可能会使对不良终结（如致命事故或赫然的干戈罪恶）追责变得极其贫乏。让处于决策链中的东说念主对他们无法适度或预思的终结庄重是不自制的，但同期咱们也无法要求机器本人庄重，因为它缺少这种牵涉的说念德代理才气。因此，牵涉舛误的出现执行上对国外东说念主说念法组成了潜在挑战。一些学者以致以为，若是致命性自主兵器系统的性质酿成对其不良效率的追责贫乏，那么在干戈中使用该系统就无法得到说念德上的允许。

现存的拜谒标明，牵涉可能是庞杂公众关注的问题。2020年Ipsos拜谒终结清晰，大致有53%反对开荒和使用致命性自主兵器系统的东说念主以为这些系统将导致牵涉舛误。基于此，本议论但愿通过向参与者提供一个明确由军方指挥层承担这种牵涉的现象，探究在明确将潜在牵涉归于军方指挥层时，公众魄力会怎样变化。基于现存拜谒数据，本议论假定，当公众了解到军方指挥层将为致命性自主兵器系统导致的不良效率承担牵涉后，对部署致命性自主兵器系统的赈济会加多：

假定 2：若是公众知说念军事决策链中存在对致命性自主兵器系统不良效率庄重的军官，他们对该系统的赈济将加多。

（三）东说念主类尊荣

一个无法通过期刻越过措置的固有性问题是，使用自主机器杀死东说念主类将对东说念主类尊荣组成侮辱。致命性自主兵器系统将东说念主类视为简便的方针或数据点并对其实践打击，违抗了基本的东说念主类尊荣职权，即禁锢将东说念主类视为简便物体。

但将“东说念主类尊荣”论点引入对是否应许许部署该系统的磋议仍存在争议，许多群众以为“东说念主类尊荣”是一个具有争议且迷糊的见地。品评者平素用终结主义论据来反驳，即对尊荣的担忧最终将被提升军事遵守和裁减方针误识别风险的利好所对消。

尽管东说念主类尊荣论的逻辑连贯性存在争议，但它仍强调说念德本能亦然驱动公众厌恶“杀手机器东说念主”的潜在成分之一。2020年Ipsos拜谒清晰，在反对致命性自主兵器系统的参与者中，约有66%的东说念主以为将致命决策寄托给机器会“越过说念德红线”。基于此，本议论以为，若是说念德本能在塑造公众对“杀手机器东说念主”的魄力中有所作用，那么个东说念主对侵略东说念主类尊荣的明锐进程与他们对致命性自主兵器系统的赈济进程之间就将存在负关系性：

假定 3：更关注侵略东说念主类尊荣问题的个东说念主更弗成能赈济致命性自主兵器系统。

实验遐想与发现

为了测试这些成分是否以及怎样影响公众对致命性自主兵器系统的赈济度，本议论进行了一项针对999名好意思国公民的拜谒实验。议论者将参与者立期间拨到五个存在相反的假定现象中。该假定现象刻画一个聚积国授权的反叛乱行径，在这个现象中，教导官决定是否部署东说念主工遥控或自主无东说念主机来废除叛乱恫吓。在实验遐想中，在每种无东说念主机选项的方针误识别风险和对潜在苍生亏损的牵涉归因方面有所不同。为了计算对参与者对该系统的赈济进程，议论者要求参与者标明他们更偏好东说念主工遥控照旧自主无东说念主机。此外，议论还包括了一个绽开式问题，以拜谒参与者选拔偏好背后的原因。在对归拢批参与者进行的后续拜谒中，议论者还磨练了他们对侵略东说念主类尊荣的明锐度。

通过在线拜谒平台Prolific，议论员对999名好意思国成年公民进行了拜谒，拜谒时期为2022年6月7日至6月9日。拜谒好意思国公众具有赫然的策略关系性，因为好意思国目下在开荒此类时刻方面的处于指挥低位。为了加多样本的代表性，本议论对性别和党派招供（共和党、民主党和孤独派）进行了配额处理，因为Prolific平台倾向于眩惑男性、年青的、态度更倾向于解放派的且受培植进程较高的参与者。

（一）易出事故

数据处理终结清晰，向公众呈现自主无东说念主机相对于东说念主工操作系统更禁锢易作假地将苍生误以为方针的现象，权贵加多了他们对致命性自主兵器系统使用的赈济。因此，公众对该系统的魄力似乎取决于相对方针误识别风险的融会。此外，根据参与者在绽开式问题酬金中对对于时刻和算法在远离苍生与方针方面才气不及的担忧标明，对时刻的怀疑可能是导致公众对“杀东说念主机器东说念主”厌恶的主要驱动成分之一。拜谒终结进一步说明了这极少，即公众宽敞以为自主无东说念主机的风险更高，而这些信念影响了他们的偏好。

（二）牵涉舛误

总体来看，议论者莫得发现赈济假定2的实考根据，见告参与者教导链中有庄重的军官并莫得加多参与者对致命性自主兵器系统的赈济。此外，在对绽开式问题的回答中，很少有参与者提到牵涉方面的担忧，这标明对由自主无东说念主机酿成苍生亏损的牵涉问题并不会自动出当今普通公民的脑海中。零终结不应被解释为公众对牵涉问题澈底不关注。当被问及对遥控或自主无东说念主机酿成的苍生亏损是否更难以对某东说念主进行法律与说念德上的追责时，大多数东说念主王人坚决到“杀东说念主机器东说念主”可能给此问题带来更大的挑战。然而，即使个东说念主执有“致命性自主兵器系统将导致对不良效率追责贫乏”的信念，仍然不会使其更可能或更弗成能赈济对该系统的假定使用。

（三）东说念主类尊荣

拜谒清晰，尽管一些参与者顾虑将杀东说念主决定交给算法是不说念德的，但他们并不一定以为此类担忧与侵略东说念主类尊荣相关。固然有至极数目的受访者（41%）示意，被自主无东说念主机的筹画机时势杀死比被主管遥控无东说念主机的东说念主杀死更分歧伦理，但绝大多数受访者（71%）在波及东说念主类尊荣时，以为这两种无东说念主机莫得区别。这标明参与者以为致命性自主兵器系统的使用与东说念主类尊荣问题无关或仅有相配小的关联。固然议论发现，对东说念主类尊荣侵略更明锐的个体平均来看更反对使用该系统，但这些魄力仍然在很猛进程上取决于其他成分，独特是方针误识别的风险。当受访者坚决到自主无东说念主机比使用遥控无东说念主机有更低的击中作假方针的风险时，他们对该系统的厌恶进程较低。此外，对照组中的绽开式回答标明，固然对“杀东说念主机器东说念主”的宽敞厌恶可能部分受到对自动化夷戮不说念德性的表示的影响，但参与者并莫得将此类担忧贯通为对东说念主类尊荣的侵略，且绝大多数东说念主以为被东说念主工遥控或自主无东说念主机杀死是雷同不体面的。

结语

本文欲望通过查考公众对“终结主义——自主兵器的易错性”、“法律眷注——误伤追责”与“伦理眷注——机器杀东说念主”这三种目下国外上针对此问题张开狡辩时明确的中枢眷注的明锐性，对现时国外上对于致命性自主兵器系统的策略狡辩具有进军敬爱。

最先，本议论发现，尽管公众对致命性自主兵器系统的基准厌恶进程相配高，但公众魄力也具有至极的弹性。公众对这些兵器系统的反对魄力在很猛进程上取决于它们相对于东说念主操作系统的出错概率。在绽开性问答中参与者时常提到的对时刻水平不及的担忧，以及对风险料到的补充拜谒终结，王人标明以为时刻易错的信念可能是导致公众对该系统基准厌恶的主要驱动成分之一。此外，本议论莫得发现赈济明确说起教导牵涉不错减轻对致命性自主兵器系统反对的根据。临了，对于自动化夷戮不体面性的固有性担忧会加多公众对这些系统的反对这一假定，本议论只发现了十分有限的根据。平均而言，对东说念主类尊荣更关注的参与者更不偏好使用该系统。关联词，畸形分析清晰，当遥控无东说念主机相对于自主无东说念主机的误判风险较高（即使是略高）时，对东说念主类尊荣明锐的参与者也倾向于选拔后者。

综上，本议论对现时国外社会在抛弃或禁锢致命性自主兵器系统的问题上具有赫然敬爱。议论清晰自致命性自主兵器系统若是或者通过期刻更正提升该系统识别方针的精确度，以致最终独特东说念主工操作兵器系统，那么对于该系统的抛弃与禁令可能就无法耐久执续。因为若是最终解释致命性自主兵器系统在方针识别方面比东说念主工系统更可靠，公众对该系统的魄力会出现较大滚动。

但这一发现并不虞味着现时国外监管莫得价值。最先，目下莫得任何东说念主能保证时刻将发展到足以胜过东说念主类决策者的进程。其次，本议论在公众对侵略东说念主类尊荣明锐性问题上的发现标明，至少仍有部分对致命性自主兵器系统的厌恶受到固有性担忧的影响。因此，基于该系统易错性以论证国外社会搪塞其加以敛迹与抛弃在短期内是灵验的，不错动员公众赈济关系监管措施落实，但这么的框架策略仍然容易受到时刻变革引起的公众公论变化影响。将该系统固有不说念德性与易出错性相招引以动员公众赈济的监管措施最有意。

词汇累积

Lethal Autonomous Weapon Systems

致命性自主兵器系统

International humanitarian law（IHL）

国外东说念主说念主义法

The Convention on Certain Conventional Weapons （CCW）

《特定惯例兵器合同》

译者：张学玉，国政学东说念主编舌人，南开大学异邦语学院。

校对 | 王京 张倍祯

审核 | 李源

排版 | 张嘉益

本文为公益共享，劳动于科研教育，不代表本平台不雅点。如有任性，接待指正。

图片

本站仅提供存储劳动，通盘内容均由用户发布，如发现存害或侵权内容，请点击举报。