大连工业大学 “常青杯”夏季辩论赛

　　我想请问对方辩友：人类历史每一次的技术进步都改变了原有的社会结构，为什么AI就应当被控制，而别的技术就不应该广泛使用？控制缓慢，就是没法完全规避它产生的风险。

　　我想问对方辩友：更广泛的使用有没有边界？有没有一个场景，你方认为肯定不该使用？我们并没有否认控制，我方主张更加推广、更加广泛使用。广泛使用不代表滥用，而是让风险更加浮于表面，更加有利于我们的发展，发现问题，先解决问题。你方没有直接回答我的问题。我问你们有没有边界，你们的意思是我方也没有边界。

　　现在全世界是个动荡的世界，俄乌战争、空动战争一直在使用那些AI性的杀人武器，你说这些武器不该控制吗？应该不是。我们使用不等于全面监管。还有刚刚关于我方三辩的事情，你方二辩说，你方三辩提到2024年欧盟提出出台相关政策，但AI会消失。那按照你方二辩所说，你方所说的控制就是禁止吗？这是你方二辩所说的控制不等于禁止，控制要有合理的边界和继续使用。

　　我感觉你们不太明白AI是什么。AI人工智能可以模拟人的认知，自主生成内容、做出判断，这种技术超越人的生产能力。但是你们说控制人而不去控制AI，那人能抵抗AI吗？AI比人多，AI能在几分钟内批量生产上百条换脸视频、诈骗视频，然后克隆，效率也高于人。AI可以筛选一下就解决，你觉得这些控制能真正解决吗？

　　因为人工智能只是辅助人类学习生活的工具，它本身是中立的。我们说广泛使用是在各方面、更多行业都能使用，不是滥用。而比如控制，控制要依靠企业自律，但企业有利益需求，当管控成本过高的时候，你怎么保证企业不会放松管控？这时候谁来监督呢？

　　国内已经宣判了全国首例AI代写种草笔记，就是无正当标注，给AI造假划定法律红线。还有我国《生成式人工智能服务管理暂行办法》要求，目前上线前提前备案、做安全评估，不是随便面向公众开放的。我国正在控制AI，这难道不是正在控制吗？

　　我方说是企业有一定需求，当代价过高的时候，谁来承担很大的问题。当危害发生的时候，造成的损失可能比社会更大。而且，您方一直在说利益一定大于成本，其实不一定。效率更高所带来的风险会越高，那危害真正发生的时候，所造成的成本损失可能大于收益。所以当危害发生的时候，你方应该怎么处理呢？可以通过法律规范、教育引导等方面不断优化，不能因为存在风险就拒绝时代进步，回到中世纪。

　　而你们说控制，会因为控制让我们的国家技术更加落后。我们国防方面会有国家威胁，别的国家发展AI而我们不发展，我们的国防技术就会落后于别的国防技术。那这时候我们应该怎么样呢？我方并不是禁止AI使用，而是在AI使用的路程上用更灵活的时间刹车，在道路前方增加防护。而当其他国家并没有广泛控制AI的使用，所造成的危害一旦发生，引起的舆论压力、社会公众信任问题，甚至难道没有可能导致AI发展停滞吗？

　　美国国务院已经发表言论说禁止使用AI，到昨天造成了美股3亿的蒸发，所以对方的言论正好是在证明我方的言论。所以我想还是请问对方那个问题，你根本就没有正面回答我的科林格里奇困境。边控制、边保持使用、边解决AI，完全就是一个乌托邦式的幻想。难道我们在可预判的未来之前，不应该去提前控制它吗？对方说的控制并没有实验依据。我方说的是在更加广泛的场景发现更多的问题。你说的问题只是你现在的风险。对方方才不讲，当您说边写边使用边解决的时候，当危害已经发生了，您方怎么弥补？难道现在所有法律已经完善吗？

　　那你方的意思是说，现在关于信息，除了AI以外，管控都不需要再管？那么，你方的意思是说，现在关于信息，除了AI以外，管控都不需要再去完善法律了吗？现在法律反正已经在完善管控这些东西了吗？还有，我们所说的这些问题，应该是技术法律管的是长期收益，而且AI的底层逻辑、算法都是相通的，它的收益是很大的。

　　你一辩说顺应发展是潮流，但是顺应这个发展，让发展有瓶颈了，不是禁止。是不是控制？是信任。这个东西都有危险，那大家都不敢用，所以我们就要控制它，让它没有风险，这样才能推动发展，谢谢。

　　你方刚才没有回答我方所提出的问题。你方所说我方提出的边发展边控制是乌托邦式的幻想。那你方的意思难道是在说，现有法律已经不够完善，其他的东西都已经不用再用自己的法律去完善了吗？那难道现在这个东西就已经是法律已经保控所有其他东西了？就是因为现在的法律要完善，所以我们才要去控制AI，去建立那个边界，建立法律，去控制AI。

　　几个提问：你刚刚提到的一个直接说教，那个时代和国外拉开差距。难道国外的那些AI技术，在未来的持续发展中，如果遇到了某一类风险，会导致这个技术停滞不前甚至后退，对吗？我想说的是，你说的是未来的问题，是远方的，我想的是当代问题，是现实的问题，是对现在的社会产生多大的影响。AI确实对我们社会应该是更好的事情。我方承认AI有用，但是广泛使用有一个更广泛的范围。

　　因为AI跟其他研究不一样，它有自我开展、自我发展的特点。如果一个模型进入国家电网并成为关键依赖后，事后发现风险，这个能否撤回？撤回成本该由谁承担？

　　我刚才已经提出了，任何技术发展都有风险。汽车出现车祸，难道今天禁止汽车？互联网发生诈骗就应该禁止互联网吗？我方从来没有提过这点。而且对方二辩说完善话很好，我们所有力量在做控制。

　　我们说的风险不等于限制，我们说的AI是真实落地的，对普通人来说并不是虚幻，难道我们真的不应该使用吗？我们从来没有禁止。我想请问一下，如果任何一项技术存在明显风险就应该被限制，那么汽车、互联网、医疗技术是否也应该受到同样的限制？我们判断一项技术是否值得发展，难道不应该同时考虑它带来的收益与风险，而不是只看风险这一点吗？安全优先我方同样认同，但安全优先不等于安全唯一，更不等于牺牲发展为代价去追求一个不可能的风险世界。

　　反方四辩：
　　整场比赛接下来，对方其实只证明了一件事情：AI很有用。但我方从未否认过AI有用，辩题也并不是说用不用AI。当AI的能力快速扩张时，我们更应该去更广泛地使用AI，还是控制AI？我方从未说过要禁止使用AI。我方一直主张的是：控制是使用的前提，控制先行，使用有度，先有治理能力，再扩大应用的范围。我方不反对用AI去解决难题，反对的是无控制的广泛使用AI。

　　对方始终没有回答收益与风险不对称的那个问题。AI的收益往往是局部的、渐进的、可修正的，但AI的风险是系统的、连锁的、不可逆的。伪造摧毁人与人之间的信任，算法偏见固化了歧视，AI进入医疗、司法、军事等高风险的场景，一旦出事，不是迭代一晚就能够挽回的。使用AI时，边使用边控制，等出了问题再治理。信任崩塌怎么回滚？生命损失怎么回滚？系统性的歧视怎么回滚？不能用不可逆的风险去换可逆的效率。

　　第二，对方没有解决责任归属的问题。AI会生成答案，但AI不会承担那个责任。当AI进入高风险的决策，例如军事、医疗等等，如果没有审计，没有人工复核，没有明确的责任主体，受害者面对的是一个看起来很智能、实际上没有人负责的系统，更广泛的使用就只会让责任的链条更长、更模糊。我方控制AI不是不让创新，不是给创新踩刹车，而是把责任装进系统里，谁部署，谁负责。高风险可以复核，可以审批，也可以关闭。没有责任的使用不叫广泛的使用，叫广泛的冒险，叫裸奔。

　　我认为真正让技术可持续的，从来不是先铺开再补漏洞，而是先建立信任，再扩大规模。没有控制，一次系统性的失误就足以让公众的信任崩塌，让整个行业都进入刹车状态。至于风险，最后我想说的是，AI越强大，人类越不能把“能不能用”当成唯一的问题，还要问“该不该用，谁来负责，出了事怎么办”。我方不反对去使用AI。我方反对的是把人类的安全、信任和公平压在这种侥幸上。我们不是要给大家踩一个急刹车，而是先装好刹车再加速。就像汽车没有刹车，谁敢用？没有控制的使用，不是广泛使用，是广泛的冒险。因此，我方坚持我们应该控制AI。

　　正方四辩：
　　谢谢主席，各位评委，对方辩友大家好。辩论进行到最后，我想请大家看一下这样一个场景：在一个偏远地区，有一个孩子，他想学好英语，是因为学校缺少英语老师，无法得到城市的指导。而今天，在AI市场上，他多了一个可以提问、可以学习、可以获得帮助的渠道。相比线下，至少让他多了一个可以提问、可以学习、可以获得帮助的渠道。我想请问，当一项技术能够让一个原本缺少机会的孩子离自己的梦想更进一步的时候，我们在考虑如何控制它的风险时，是不是也应该想一想，怎样才能让更多困境中的孩子梦想成真？这就是我方观点：在广泛的使用中维护今天双方的交流。

　　今天双方的交锋，对方一直在逃避，对方一直在逃避。我方关于AI不拒绝使用AI，更不拒绝使用AI；拒绝使用AI所要承担的代价一定更高，而且有风险也不意味着我们应该去拒绝使用。包括还有关于时代发展，而我方在责任与风险方面都对对方进行了一定的反击。对方辩友反复强调AI可能泄露隐私、制造虚假信息、影响世界甚至干预人类思维，但是这些风险我方从来没有否认。我想指出的是，证明存在风险，不等于证明更广泛的控制就是更合理的选择。我们不能因为有人违反交通规则就要求所有汽车停止行驶，也不能因为有人错误地使用工具，就让所有人失去使用工具的机会。真正合理的做法是根据AI风险程度采取不同的管制措施：高风险领域严格监管，普通生活、教育、科研中的合理应用则应该得到更多支持。所以我方认为我们一定要控制这个东西，而不是让控制成为技术发展的阻碍。

　　其次，我想请大家思考，AI究竟能给普通人带来什么？一个基层医生可以借助AI提高医学影像的分析效率，一个缺少教师的乡村学校可以让学生通过AI获得更多学习帮助，一个普通科研人员也可以借助AI处理复杂数据，探索过去的数据问题。这些人可能不是科技领域的领军人物，他们只是普通人，但接触技术进步的意义恰恰就在此。对于已经拥有丰富资源的人来说，AI可能只是提高效率的工具，但对于原本缺少资源的人来说，它可能意味着一次获得机会的可能。技术的价值不应该只属于站在高处的人，更应该让原本缺少机会的人也能够看见希望。

　　对方希望通过更加广泛的控制来降低风险。我方理解，但我想提醒各位，评价一种处理方式，不应该只看它减少了多少风险，却因此让更合理的应用付出了不必要的代价。最后，我们不应该因为害怕走错路，就……如果一项控制措施在保护安全的同时，也要让更多普通人失去获得知识、医疗和科研帮助的机会，那么这样的控制是否真正达到了服务社会的目的？控制AI的最终目的不应该是让AI远离人类，而应该是让AI更好地服务人类。

　　最后，我想把今天的辩论放在一个更大的背景下。回顾人类社会的发展，从蒸汽机到电力，从互联网到人工智能，每一次技术进步都曾伴随着未知与风险。但人类并没有因为未知而停止探索，而是在不断发现问题、解决问题的过程中，让技术逐渐走进普通人生活。今天，我们可以通过互联网获取知识，可以通过手机与远方的人进行交流，这些难以想象的事情，如今已经成为生活的一部分。AI也许还不完美，也许依旧存在着需要解决的问题，但我们不能只看见它可能带来的风险，就忘记它能够给这个世界带来机会。就像我们现在准备资料进行备赛一样，包括平时搜集查询资料，我们都在使用AI。AI早就进入了普通人的生活，人类早已无法离开AI。我方所希望的是一个愿景：这些孩子不会因为缺少教育资源就失去接触知识的机会；一个基层医生……