[AI生成]当前生成式人工智能风险防范更应依靠制度

[AI生成]当前生成式人工智能风险防范更应依靠技术

　　名言说让别人做什么不重要，让别人看见自己做才重要，我已经学会了。

　　下一个，你稍微吃点。我觉得那些没什么成就的人，别和他们计较。我们都要中药，哎，你用这个药试试。

　　我先进去，我看他们进去了，你们再进，别着急。最后一场别被骂就行。

　　你们用什么记录啊？我习惯用电脑，而且电脑还免费。就我一个人用电脑吗？你先去吧。

　　所以咱们这边，这么快就到现实情况了，他们要进去了。没事。

　　有限公司。头像弄好了吗？

　　你好，请问正方的同学都到齐了吗？哦，好，需要分别用麦，还是用一个麦？好的，那我们可以准备开始了。

　　首先请正方一辩进行开篇立论，时间为3分30秒。好的，那需要重新开始还是接着之前的？

　　使用技术治理是基于算法、模型、规则，融合多种内容的技术规则型治理，是结合国家法律法规、行业标准和道德规范对系统进行系统管理的一种治理方式。技术型治理借助技术优势，通过算法优化、数据控制、模型设计等手段降低风险。

　　从风险防范的可行性和有效性来看，我方认为当前生成式人工智能风险防范更依靠技术，论证如下：

　　第一，生成式人工智能广泛应用于智慧医疗、智能农业等各个领域，应用场景复杂多样且不断创新。从风险防范的可行性来看，技术形式对于风险解决针对性强，灵活性高，而规则型治理相比之下则局限性较为明显。生成式人工智能尚处于发展初期，速度尚不成熟和稳定，规则运行稳定性难以保障其在复杂领域中的具体应用。生成式人工智能发展迅速，无法及时应对各种创新性的风险。通过算法优化、数据控制、模型设计等手段的技术体系，能够依据不同场景的决策需求，在算法层面进行定制化调整，有针对性地进行研发和优化，以防范生成式人工智能因应用场景复杂多样而产生的相关风险，从基础层面确保技术应用的安全和稳定。

　　例如，在金融领域运用生成式人工智能进行风险评估，出现算法对复杂金融数据的处理偏差时，技术团队可快速优化算法，增强对金融数据特征的分析能力，精准及时防范风险。

　　第二，从有效性层面分析，生成式人工智能作为前沿技术驱动的新兴技术，其风险根源来自于技术的复杂难解性。相较于多依赖外部指导、约束和监管，难以深入技术内部解决问题的规则型治理方式，技术程序组通过直接优化和改进算法模型，从技术内部防范风险，有效贯穿了风险防控的全过程。

　　国家多次出台多种法律法规构建治理框架，但企业在执行时普遍面临合规意愿弱、落地能力弱的难题。面对当下层出不穷的风险，当务之急是通过优化研发技术构建全生命周期的风险防范机制。事前运用数据清洗技术，剔除数据库中那些包含偏见、有害内容的数据，为模型训练提供高质量数据，从源头上降低生成不良违法信息的可能性。事中构建生成内容的自动化过滤系统，实时动态识别和标记输出的违法有害信息，并及时过滤，减少风险的出现。例如，某公司的内容审核系统，利用模型对抗训练识别诈骗话术，每天拦截违规内容超 500 条。最后通过内容溯源技术，如寻找输出内容在训练数据中嵌入的数字指纹，对生成内容的数据来源和版权信息进行精准溯源，以便在纠纷中公正地划分各个主体的责任。

　　通过这三个环节的保障，技术形式能够不断完善和优化生成式人工智能的算法和模型，减少和防范因技术缺陷引发的各种风险。

　　综上，技术形式能够参透表层风险，深入技术创新的底层逻辑，在动态迭代中构建全面的风险防范网络，在安全与发展的辩证平衡中走出一条既有效能又有温度的发展之路。因此，我方坚定认为，当前生成式人工智能风险防范更应依靠技术而非制度。

　　以上，感谢！

　　对方辩友，首先您刚才提到在侵权责任方面，AI知识内容是否受到法律保护以及确认责任归属的问题。我想说，目前人工智能只是一个工具，本身没有承担责任的能力，所以责任归属很明确。如果强行将责任加在开发者、提供者身上，会阻碍其生存与发展。

　　况且，在设立责任规则时，需要对社会成员运用溯源技术，才能找到数据的来源。

　　其次，对方辩友说要用规则去划定，认为技术缺乏规则约束会导致恶意行为者利用机器做坏事。但我们今天并非在做紧急之事，而是要探讨更侧重用哪种治理方式来解决这个问题。所以我们要进行缺失性考量，看看当下更需要哪种方式进行治理，哪种方式具有可行性和有效性。

　　我方认为，现在企业有合规意识，只是能力较弱，需要关注技术层面的问题。

　　另外，我要明确一点，强制并不等于效率。在这些技术领域，它们自身有更有效的解决方式，例如谷歌的检测准确率已经高达99%。

　　还有关于制定法律规则成本的问题，即便您方所说的成本再低，其制定周期较长，无法满足解决风险的及时性要求。

　　最后，您刚提到规则可以实现多元主体协同共治，但统一的规则只是外在约束，而技术是直接从源头上避免做坏事。最快的立法周期也需要两三个周期，难以适应实际情况。后续看您方如何论证。

　　感谢正方二辩，下面首先请正方进行质询。

　　技术是在问题出现后可进行定制化调整，且技术研发出来后可直接应用。而你方规则即便制定，落实也需要时间。

　　你方仍在依靠事后追责，可坏事已然发生。但技术能从源头上杜绝坏事发生，从效率来看，这不是很明显吗？技术可以防范风险。

　　AI 公司的迭代时间平均是 30 - 35 周，行业竞争激烈，若不用新技术防范风险，如何适应竞争力大的市场？

　　对方主体认知存在问题，技术型治理的主体并非讨论重点。自主性治理难道不能全社会共同参与吗？国家和政府难道不能通过技术形式进行治理吗？若国家和政府研发出自动识别过滤系统并推广到企业使用，难道不能直接解决风险吗？

　　我方已表明，在当前市场环境下，企业若不优化技术防范风险，如何提升用户使用体验？所以企业有动力完善和使用技术防范风险。

　　目前有 45%的人将人工智能用于办公，这些人显然不是你方所指想要接收淫秽物品的主体。

　　在竞争如此激烈的环境下，企业若不提供高质量内容，还有受众吗？那岂不是自取灭亡？之所以出现问题，恰恰是因为技术未达到过滤标准，若能过滤，不良内容便无法传播。

　　下面请反方三辩进行质询。

　　正方辩友，你方所说的规则制定时间非常短，但实际上科技更新换代平均1.5年，实体经济发展周期很长，而且科技变革速度很快、风险频发。若一个风险就要单独制定一个规则，那么解决问题的根本着力点究竟在哪里？请正方辩友后期举证一个法律条款，能够概括这么多的问题。

　　接下来请问正方二辩，即便今天立法再完善，也会有人犯罪，你方如何保证规则颁布之后，每个人都会自律并遵守规则？

　　其次，即便立法再完善，仍会有犯罪行为。你方如何保证规则颁布之后，每个人都能自律并遵守规则？规则出台后，我们看到规则已经明确告知人们不要犯罪。然而，许多企业和规定存在技术缺陷、落地能力弱的问题，导致规则无法落实。在这种情况下，进一步细化规则如何解决风险问题？

　　正方辩友，我不明白你方为何一定要将此事归结到肖像权上。我认为相关责任人只要受到处罚即可。

　　感谢对方辩友。首先，你方提到技术层面和规则层面的边界。在当前现状下，规则已经出台了很多，但却无法落实，此时技术起到了关键作用，所以要维护技术。你方不必只强调一方，因为二者之间的边界实际上是相互开放的。

　　第二点，你方提及侵权责任归属问题。我方想让你明白，如果没有技术支撑，连事后追责的对象都难以确定。你方今天要求一定要有专门的法律，将某件事判定为侵犯肖像权，并加重判刑。但我方需要遵循罪责刑相适应的制度，不能随意加重处罚。你方并未解释，为何一定要加重处罚。

　　第三点，立法周期为何长？因为科技更新发展速度极快，以欧盟的人工智能法案为例，法案出台后不久，ChatGPT出现，法案内容又被迫重新调整。所以科技更新换代快，风险也存在，规则制定的速度非常慢，效率极低。而我方主张的技术可以进行动态监管，效率更高。而且我方看到企业合规能力较强，并非都需要专业人士处理。我方认为技术之所以重要，是因为规则难以落实，我方有相关技术举证，比如谷歌开发的水印技术和Meta开发的深度伪造检测技术，能将伪造率降低至0.5%，还能将违法信息筛查出来提供给警方，规范人性的效果更好。

　　现在进入技术暂停环节，双方各计时1分30秒。

　　首先，要清楚问题的根源。其次，跟对方说明不做趋势性判断的原因，规则和技术都需要不断精进。我们今天要解决他们的判断问题，希望他们不要跳口径。

　　第二，要跟对方讲清楚立法的可行性。如今规则具有突发性，规模化风险应用领域广泛，立法对于风险的综合治理体系究竟在哪里，其可行性又在哪里。

　　第三，要向对方说明企业的主动性。他们没有数据支撑，就天然地认为企业的主力一定是恶意的。实际上，我们的AI 30 - 35天就会更换大量数据，竞争促使进步，每个企业都需要参与竞争。

　　第四，跟对方讲清楚法律强制力并不等同于风险治理的效力，法律具有滞后性，他们没有解决法律抽象性应对风险的问题。对于如此多不同的风险，技术解决比法律更为直接有效。

　　要向他们展示技术效应的数据，他们没有数据，却总提及一些如99%、99.8%，降低了0.5%等数据，还提到虚假信息。我们可以举例问他们虚假幻想问题如何解决，不要只谈侵权。他们对法律的理解存在偏差，比如认为淫秽物品判罚过低，难道换个脸就要判十年。现在刑法是轻型化趋势，而非重型化。

　　时间到。

　　下面进入自由辩论环节，双方各计时4分钟，由正方先发言。

　　对方辩友，我方已经强调过很多遍了，我方的信息筛查，一旦出现黄色物性内容，我方直接可以通过GP进行筛查，让其连传播的途径都没有。

　　再有，我方今天主张不采用规则的原因是，技术和规则都需要不断完善，我们当务之急是判断更依靠哪一个、哪一个更有效。我方的技术是一个全生命周期的过程，我想知道你们认为技术和规则哪个更重要，是事前防控还是事后处理，请给我一个回答。

　　公权力不能随意干涉私生活。对方辩友，我方刚才已经强调，技术可以从源头阻止信息发出，而您方始终没有论证规则对这些问题的解决效率体现在哪里。

　　我已经说明，技术可以筛选出违法内容，这样一来，又如何利用这些内容做坏事呢？我方已经给出99%的数据，证明技术解决问题是有效率的，相反，您方始终没有给出规则对这些问题解决效率的相关举证。

　　现在法律规定要对犯罪者判重刑，您需要先说明理由。我方的水银技术有效率已达到99%，比如在具体情境中，即使是合法使用，也可能生成虚假信息，您方的规则如何追踪这种风险呢？

　　您方先回答这个问题，再解释一下，将物品进行传播为何不可行，您方的论证依据在哪里，为何说它很清晰呢？而且，规则不完善不能成为您方论证其有效性的借口。

　　对方辩友，请回答我，如何解决信息篡改的问题，您方颁布的规则如何弥补基础缺陷？

　　我方已经说明，技术可以直接拦截违法信息，您方始终没有正视我方的回应，也没有给出规则对解决风险（如刚才提到的矿计问题）的解决效率的相关举证，所以我方认为技术更有效率这一点可以确立。

　　您方始终没有解释，强制力为何等同于效力？有法律存在为何还有人犯罪？法律的强制力为何就等于风险治理的效力？世界上总会有人不怕法律，而我方技术能提高犯罪难度，让违法信息无法传播，这是第一点。

　　对方辩友，您今天提到欧盟数字法案问题，我已说明，该法案要求对AIP进行训练，但实际执行中由于技术层面有缺陷，效果未达预期。

　　您不回答我的问题，那我方在这一点上取得优势。您方说没有规则企业就会乱来，但我方认为企业会有采用技术的意愿。

　　对方辩友，请回答我，若规则因基础原因未达预期效果，您方的论证依据在哪里？

　　今天人工智能面临的难题是企业合规意愿很强，例如相关办法要求企业建立全链条数据管理制度，但现有加密技术无法满足需求，您方如何解决这个问题？目前规则因技术缺陷落地能力弱，所能达到的效果有限。

　　对方辩友，并非所有企业都会采取不正当手段。怎么能说没有规则呢？那些大型办法就是规则。只是规则和技术都需要不断完善。请您方正视我方提出的问题，补充说明为何认为企业都会破坏规则。

　　请说明规则如何操作、如何规范。

　　接下来请正反方四辩进行结辩。

　　今天我们第一个考量就是是否进行实质性补课。当下规则和技术都需要完善落实，我们更看重的是比较二者的可行性和解决效果。这也是我方强调的第二点，即责任归属问题。比如AI换脸，若判定侵犯肖像权，就应加重判刑。对方提出的举证，我方已说明为何当前刑法量刑较轻，不能用朴素的正义观干涉法律。

　　同时，若没有技术，甚至连侵权人都找不到，对方如何维护受害者权利？

　　对方试图渲染一种情形，称很多企业和个人为达目的不择手段。其一，对方需举证哪些企业是出于不良目的；其二，企业追求商业利益，个人追求自身利益又有何不可？新兴产业发展本就如此。

　　众多AI竞争会促使企业主动改进技术，因为只有产品被大众接受才能盈利。

　　关于现状，对方称我方未提及，我方在此说明，现在是人工智能治理难题。目前有15家大模型开发企业向政府自愿做出承诺、履行义务，即规则已明确告知不能做。欧盟数字法案要求对AI训练进行规范，但在实际落实中，因技术投入有缺陷，最终效果往往未达预期。这表明规则虽已出台，但未落实是因为技术有缺陷，此时单纯强化规则并无作用。

　　对方在咨询时称一步立法就可解决当前诸多风险问题，但未看到技术发展迅速、风险众多，一部立法难以解决所有风险，对方需对此进行举证。且立法更新换代速度为1.5年，很难保证时效性。

　　最后，我方认为技术更有效率。我方主张从事前、事中、事后进行追责，可直接规避风险。例如谷歌的使用基础检测准确率达99%，APA开发的模型伪造误报率低于0.5%。相比之下，对方称规则颁布就能规范人性，让人们自觉遵守，需进行举证。约束人心难度极大，并非每个人都能自律遵守规则。可见，我方观点更具直接效力。

　　感谢反方四辩。