应该允许人工智能进行军事规划与决策

不应该允许人工智能进行军事规划与决策

　　谢谢主席，问候在场各位。开宗明义，ICRC专家咨询报告《人工智能及相关技术在军事决策中的使用》中，定义了AI进行军事规划决策的模式及所谓人工智能决策系统（DSS）。DSS在使用时，指的是在使用武力时，对哪些目标使用武力、使用何种程度的武力以及对于使用武力造成的损害进行分析。

　　允许AI进行军事规划与决策，是顺应时代发展、服务人道原则、提升国家军事能力的必然选择。在军事讨论之前，我们需明确ICRC对于DSS的态度。无论是之前提到的ICRC专家咨询报告，亦或是ICRC官方文件《国际红十字人道委员会对人工智能的政策》当中，都明确表示，AI进行军事决策并非完全取代人类决策者的位置，最终是否使用武力的决定依旧需要由人类做出。人类对DSS生成的军事决策依旧保留审核与最终决定的权限。

　　在此前提下，人类应确保DSS做出的军事决策符合国际人道法的原则及相关法律规范，并由人类对违反国际人道法的相关行为承担法律责任。

　　明确背景及前提之后，我方将从两个方面论证DSS在军事中的使用有助于实现国际人道法的目的。

　　首先，DSS的使用符合现代军事的需求，也兼顾国际人道法比例原则的实现。AI参与制定军事规划能够更合理地调配资源，规划军事力量，避免人主观误判导致的资源浪费和方向偏差。举例来说，美军的阿尔法空战AI反应速度是人类飞行员的250倍。密苏里大学的AI地理分析系统25分钟完成了人类分析师半年的工作量。2017年，美国就将DSS投入到对极端组织伊斯兰国的反恐军事行动中，切实增加了打击恐怖活动及极端组织的效率。

　　同时，DSS的运用能够兼顾反恐行动的效率以及对平民伤害的控制，更好实现国际人道法的比例原则。北约基于反恐爆炸物枪支检测计划开发的AI技术，不需要再对乘客或者检查站随机检查，能够远程实时识别拥挤移动人群中的枪支和爆炸物携带者，这是北约航空行动计划的重要成果。美国国防部开发使用的AI技术，在进行远程打击时，能控制爆炸的角度和范围，使更多的爆炸物或者碎片远离平民。

　　其次，DSS能提供人类更高的实质效率，能够更好减少伤亡，实现国际人道法的区分原则在现代军事环境中的保障。在现场即时决策方面，AI的大数据分析和场景预演功能，更精准的发令能最大程度消解人类生理心理局限带来的误判，实现以最短时间达成最小伤害。ICRC官方引用桑赫斯特皇家军事学院文章显示，在现代城市战争当中，DSS可以使用AI图像识别技术来识别和跟踪城市环境中平民的位置，并使用图像识别来识别受保护的标志，包括红十字会、民房和文化财产。

　　首先，我方很认可由AI单独进行军事决策本身就是违反国际章法的，这是它不能履行职责的一个行为。但是，我方主张允许AI参与军事决策，同时人类也进行决策，这两者并不矛盾。

　　首先，相关法规规定了为了实现责任的履行与追究，必须由人来进行这个行为。因此，我方今天坚持认为AI进行决策是建立在人机协作的基础上，AI进行决策后一定要由人类进行最终的审核和判断。人参与在伦理道德上是必不可少的，在确保国际人道法的实施上也至关重要。

　　今天对方一是在混淆人工智能辅助系统和自主武器系统的概念。因为我方已经提到，所谓由人工智能进行决策，不仅是有人参与的，这里面提到的人工智能类似于参谋长的作用，而人类依旧起到最高指挥官的决策作用。所以参谋长在进行军事决策的同时，最高指挥官才拥有最高的决策权，这符合今天我们所说的AI参与军事决策，人类拥有最高的决策权，其实两者并不矛盾。

　　因此，我方可以坚定地认为允许AI进行军事规划与决策。

　　请正方二辩和反方二辩进行对辩，时间各为 2 分钟。

　　对方辩友，请问平时多少节课学一起，可能有单一论点吗？所以我们今天认为大家跟人类同属经济决策，有什么不可以呢？您方告诉我们，今天必须要给出人类如何结合做决策的方式，其实这不是我方的义务，我方只要说明今天也可以学习这些决策即可。它到底是一个怎样的比例，没办法很精准地告知，但我们可以知道，当大家有一定缺陷时，给予其较小的权重；当它能够发展得更好时，会给予其更高的权重比例来进行决策。

　　我方也提到，有一些伦理道德方面的问题，AI 的自极算法无法理解。但最终的决策权在人类手里，人类拥有最高决策权。人类本身就会犯错误，其实 AI 也会犯错，只是 AI 还有更精准、更快的优势，可以帮助我们更好地提高准确率，但它并非百分百准确。人不是完美的，AI 也不是完美的，这有什么问题呢？这是运用它的人使用方向错误。

　　我们今天可以利用 AI 更好地区分战斗人员和非战斗人员，进行严格区分，为什么不可以呢？我们提出需要人在最后进行审核和确认，人来做最终的最高决策。

　　您方刚刚告诉我们很多 AI 单独使用不可行的原因，但我们已反复陈述，我方认为是人跟 AI 共同进行决策，并且人有最高决策权，所以所存在的一些伦理道德以及使用方向上的错误，本身可以通过人的学习来解决。

　　单次发言时间为2分30秒。我是正方三辩蔡军，能听见吗？那好，重新阐述一遍观点。

　　在2007年，河南市民因上街阻碍，军队对两侧没有武装分子的平民区域进行扫射，导致大量平民丧生。请问各方辩友，是否认为应该避免此类悲剧的发生？

　　我方刚刚询问对方四辩，对方其实并没有给出一个合理的解决方法。而我方今天给出了实例，提供了大量数据，表明人工智能的识别效率很高，能够基本识别目标。也就是说，无论是人类进行决策，还是严格按照法律执行，人工智能都能够在极大程度上提供一个合理、正确的决策，避免此类情况发生。

　　对方一辩，打断一下。我刚刚已经举例说明，人工智能足够高效且足够精准，这难道还不足以避免悲剧发生吗？我现在只是说让人工智能起到辅助作用，提升人类的决策能力。在人类可能出现决策失误，甚至故意违反法律做出决策的情况下，却不愿意让一个可以严格按照设定程序执行、一定不会伤害平民的人工智能来提供合理决策，这是不合理的。

　　再举个例子，2022年6月7日，第264列第14名士兵在寻找失踪人员时，遇到一群愤怒的村民，并误杀了他们。军方表示这是士兵们在村民自我保护的仓促反应下的行为。请问对方辩友，对这一事件中的过激反应作何感想？在这种情况下，是不是人类的行为更加不可控？

　　对方四辩，我刚刚询问的是针对这种仓促反应如何改善。我方理解，在短时间内让士兵在现场做出最合理的决策是非常困难的事情。那么请问对方辩友，如何减少由于时间仓促而做出的不合理反应？

　　对方一辩，我刚刚在陈述中提到，人工智能的反应速度已经可以达到人类的250倍，您方辩友认为这种反应速度不能提高人的反应速度，这合理吗？这是不是与您方之前所说的观点相矛盾了？

　　3. 衔接不当。非常老师好，你方现在这一节课大家得了80分，那你方在后面见人的形式是否可能不合格，这在景区完全是三信，你懂吗？

　　但接下来，人家这次就一定是弯道的吗？他刚刚没问题。这是没关注的事，10个角色大。而且我们说VII是几个角色，没有刷这个VII直接去杀人，所以说VIP大家直接做一个角色。

　　特别好，战场方时很重要。既然这个任务有助于提高学生治疗速度和一致性，减少人为失误，这使得IR这个文献里面的地方怎样怎样，就是说DNS有助于提高人的质量、速度和一致性，减少人的失误，提高性能，这是不是在我们满足的地方，在现场上满足养生需求呢？是不是我们才应该允许大家参与决策呢？

　　人类最终的1是什么？该数不对。这方辩友，我们今天从来没有让AI做出最终决定，并非让它算出我们这个战场的结果。我们是……

　　其实我方刚刚给您方举了两个例子，您方都没有给予很好的回应。

　　通过以上两个例子不难发现，人类在战场这一最常见情景之下，难以保持冷静，并遵循战场最基本的区分原则和比例原则。无论是指挥官下达的指令，亦或是士兵的应激反应，这些事故毫无疑问都是一场悲剧。

　　在这么多悲剧背后，最值得我们思考的就是如何减少悲剧发生，如何超越人类极限，从而减少战场上不必要的伤亡。此时必须要有一个能够按照预设程序运行的人工智能（AI），帮助人类更好地遵循人道法的原则。

　　我们今天不是在讨论如何能让这场仗打得更加漂亮，重点应该放在如何才能保证在这场战斗中受伤害的无辜人员减少到最低。我方坚信，有AI参与在很大程度上能弥补人类的不足之处。

　　至于这到底是补充还是决策，我方认为决策从不是单独一个人所能做出的，决策一定是多人表决讨论过后的结果。在我方定义下，人工智能起到类似参谋长的决策作用，而人类依旧起到最高指挥官的决策作用。请问对方辩友，参谋长是否在进行军事决策？是否因为最高指挥官拥有最高决策权，就可以认为参谋长没有在进行军事决策？

　　同时，我方承认现在AI可能还存在一定的问题，但这并不影响AI类型决策。完全可以跟随AI的发展完善程度来确定AI所提供的决策结果的重要程度。有些AI的完善程度已经被证实达到了百分百，提高这类AI的决策成果重要程度，无可厚非，不是吗？

　　比方说，您方花了大量篇幅说明AI若被用于不法途径会导致的结果，但我们现在要讨论的是AI的合理设计与应用，所以您方所说的问题，不是在当前讨论框架之下需要解决的。

　　好，感谢。

　　时间为1分30秒，打完就关麦。他们是哪个地方没听懂吗？这与辩题有什么关系呢？我认为他们没写稿子，说实话内容特别乱。

　　既然要嘲讽，礼貌也不要了。礼包也不要了。最气人的是，我感觉对方毫无礼貌。

　　谢谢，感谢反方三辩。

　　本环节开始。

　　人工智能没有决策权，如果它不行，我们可以找其他人。你不能打断我。今天就算是让大学生做作业，也需要4天时间，在此期间请暂停打断我。我还没说完，一下都没说完。

　　今天就算是大学生用AI完成作业，警察也会在学校。这种情况下，只会发现光学人才，人家穷困潦倒，你却如此评价，这是基于实力的评价吗？

　　我真的服了。这件事情毫无意义。我方已经多次强调，我方最高决策权在于指挥端。也就是说，就算最初做出退出的决定，最终还是可以决定是进攻、暂停还是战斗到最后。

　　相反，你方一直在说我方的观点不好，却没有举出任何事例表明人类的权力可以超过AI，能够在战场上做出完美无过失的决策。人类真的可以超越AI，在战场上做出完美无过失的决策吗？

　　首先回顾一下辩题，我们讨论的是军事领域，而你方拿出金融领域的例子，这算什么呢？AI在军事领域和金融领域的决策必然不同，应用场景也不一样，你方举这样的例子能说明什么问题呢？

　　AI的存在是为了服务人类，决策权掌握在人手中。当战争进入实际阶段，我方有策略，而你方只说AI。你方为何认为AI能增加胜算呢？

　　你方说AI的安全性不可控，但武器在他人手中也会造成极大伤害。你方讨论的内容中，AI似乎只与武器相关，这是不是过于片面了？

　　实际上，决策应该由人做出，今天的纠结也应由你们做出判断。你方指出AI可能会故意滥杀，但这难道不是人类的问题吗？为何要将不人道的责任归咎于只被动提供帮助的AI呢？

　　你方的观点是因为人类不可控，所以要禁止使用AI吗？这就好比饭店厨子技术不好，就决定不使用煤气，这个逻辑是错误的。你方刚刚说人类能绝对决定AI是否开枪，是这个意思吗？

　　也就是说，你方认为给AI装上一把枪，它就可以自行开枪，对吗？

　　在当前视角下，我方人员可能只是刚毕业的大学生甚至高中生，他们连最基本的判断能力都不足。就像大学生写作文，有AI提供帮助，直接复制粘贴，根本不用自己思考。但我之前提到，就算是大学生有AI提供论文，也需要自己进行删减和修改。为何在你方视角下，使用者可以直接依赖AI做选择，而不用自己决策呢？

　　你说时间紧迫，我很认可，所以需要AI介入，因为它可以提高质量、减少失误，这难道不能满足你方所说的需求吗？

　　你说尊重数理化能提高生命质量，但你自己的表述却很糟糕。请指出数据哪里体现了更高水平。你还说不是所有大学生都会检查AI生成的内容，那么请问，一开始的讨论是如何结束的呢？

　　时间快到了，之前提示还有10分钟，现在只剩6分钟了，不好意思，我们时间不够了，换个节奏。

　　4点几。因为要让人工智能正常发展，在这方面我们需要考量相关决策。我们可以这样来阐述：

　　第一，关于你所说的机器的问题。如果人将控制权掌握在自己手中，我们理解这一情况的发生。但是这个系统已经经过了验证。你所说的关于是否让机器决定军事行动的自主性、机器是否掌握决策权这一问题，实际上在产品A的技术能够尽可能大幅度减少人类干预，而且人类干预A的必要性真的很低的时候，我相信那些高级决策者只会产生一种反思，会慎重做出决策。

　　而且A的每一个算法都是有原因的，所以说这是更好的保障得以体现，既然体现出来了就可以去应用。

　　当时经过验证后就可以投入使用。所以，大部分人并不清楚人类是否应该完全掌控，而是应该给民众选择的机会。那我们尽可能在发展的道路上直接解绑。