对话式AI应该具备主动干预用户情感依赖的中断机制

对话式AI不应该具备主动干预用户情感依赖的中断机制

　　谢谢主席，对方辩友，各位评委，大家好。我方的立场是：对话式AI应该具备主动干预用户情感依赖的中断机制。

　　AI陪伴有现实价值，孤独的人需要情绪安慰，但长期把情绪调节和自我价值交给AI，会强化单一依赖，削弱自主调节能力。安慰不能替代自主调节。我们主张的是一套能识别风险、分级干预的渐进式机制。我们说的中断机制是一条缓冲带，先看见风险，再分清轻重，慢慢干预。AI若发现一个人已经依赖到影响生活，可以先提醒一句，停止一味的共情，多提供限制方案，如相关专业资源信息干预，选在对话自然停下来的地方，尽可能减少机制对用户情绪上的冲击。

　　我们说的情感依赖不等于情感依恋。依赖是一个人把精神寄托全放在AI身上，正常生活受影响了，但还是戒不掉。虽然和AI聊天未必走到这一步，但风险却是真实存在的。

　　第一，AI太会顺着人说，人容易困在自己的回声里。中断机制是一道心理防线。短期情绪很舒服，可长期这样下去，人可能更孤独，调节情绪的能力也会变弱。以哀伤为例，正常的哀伤是慢慢接受失去，学着告别。若一直跟复刻逝者的AI聊天，短暂安慰很可能变成不愿告别的牢笼。等彻底沉进去再补救就晚了，快沉溺的时候得有人踩一脚刹车。

　　第二，情感依赖说到底，是人自主放弃了人脑对部分主观意识的生成。人脑是意识产生的器官，过度情感依赖AI会导致人脑被算法意识侵占。AI的迎合是一点点渗进来的，平台还想留住用户，提高粘性，而AI本身无法自我设置刹车，所以更需要人工加一道护栏。设置护栏本身就是一种保护。

　　第三，没有干预机制，AI很容易变成治标不治本的止痛药。我方承认，孤独是现实问题，AI能陪聊，但慰藉终究浮在表面。辩证的否定是内驱力的趋势，是自我否定、自我发展，从而达到质变，迎接新生。这套机制给出现实可行性方案，迫使用户利用内驱力拥抱现实，走出困境。我们是想给沉溺踩一脚刹车，想守住的是人告别和自主选择的能力。真正的怀念是带着回忆往前走，哀伤的终点是回归现实，过好自己的人生。

　　我方立论完毕，谢谢大家。

　　对方辩友您好，您方公司提到这个中断技术，但没有给出一个详细的说明。您方的中断是半天中的句话，对吗？

　　我不是不清楚回答是不。那么，您方触发中断的标准是时长平的内容如何界定？我们有四个评判机制，评论机制。这个麻省大学，麻省理工大学已经给出了一套，比如说，我们可以依据他的对话内容，如果这个用户对于在与AI聊天的过程中有的一些啊，您方的界定，就比如说一个人的语言和他实际行为，因为AI只能通过语言推测一个人的实际状态。他无法接触到他的现实情况，那么请问您方如何判断？如何通过语言推断？

　　抱歉，我能再说一遍下一个问题，那么如果就是这中的用户，他可以跳过这个中断吗？

　　不可以啊，那么如果他不可以，那是不是直接剥夺了学校服务，第五是一个就是一个间接式的服务啊，您方说的界定性。如果他不能直接在停您的借听，到底是指什么？有明确的流程吗？

　　明确流程，我想这不是我方应该辩论的内容。

　　那么，您方说到希望平台去搭建这个来给他来，防止他陷入更严重的实际情感依赖。那么平台本来就是依靠这个用户的留存情况来获利，那么，你是如何能做到让这个平台在本违背自身利益的同时提供这个机制呢？

　　平台自我获利啊，我们要考虑的是用户的感受，而不是平台的感受，因为平台它本身就可以获利，很多平台提供服务者好在一个问题，那么您刚刚说到这个AI的聊天机制，它会使人变得更孤独，停止向位。是当我确确实不分认同，但是您是怎么界定到底是使用AI使人变得更孤独，还是说本身就有这种孤独或者限制生活存在状况的这种人，他会尽量去使用AI呢？

　　过度使用文爱只会加深人的孤独感。就会加速，这是一种趋势，这是一种风险。嗯，没有办法预测缩水。哦，那肯您是认为这个风险是大于它的收益，所以可以直接切断吗？

　　我们没有风险，当然是要切断了。风险本来就是一个不好的东西，但您刚才是没有，我刚刚回答是建议性机制的问题，你方提到了很多次机制，但是却没有说明这些机制到底要怎么运作。

　　我觉得我们正方不太讨论说这个机制该怎么设置吧，我们只是我们讨论的是应不应该，而不是如何设置，因为似乎没有解除肯定性方案，我们无法相信你说的机制是他可以方案不是我们应该给，我们只是一个观点，我们只是一个问题的，嗯。那么，如果你觉的机制他误判了，那如果说这个人他本来非常需要，他中断了会怎么样？

　　谢谢主席和在场各位。

　　首先明确定义，我方认为“计划是AI”指的是以聊天为转换型的AI，如豆包、ChatGPT，而不包含受严格医疗监管、由专业心理医生主导的心理诊疗AI。

　　其次，我方认为情感依赖既包含普通人正常倾诉诉求，也包含非正常的病理性过度依恋。另外，“是癌”并没有对应的标准去准确区分二者。

　　最后，我方认为不应该主动干预中断机制，并非完全放任风险，而是保留通用安全机制。对于标准，我方认为判断是否有必要主动干预和中断，取决于该继续对话的收益是否足以抵消其必然带来的误判伤害以及权利侵犯，且AI是否具备承担这一责任的资格。基于此标准，我方坚定地认为，对话式AI不应该具备主动干预用户情感依赖的中断机制。理由如下：

　　第一，能力层面。任何情感依赖无法被AI准确判定，此外成本极高。情感依赖是主观心理状态，健康的情感寄托和病理性依赖并没有单一的文本标识，需要专业人员综合评估判断，AI没有这个判断资格。韩国全南大学研究显示，AI对孤独感和社交需求更高的群体有更强的吸引力。他们本身现实倾诉资源匮乏，他们高频长时间对AI倾诉往往是现实支持的替代性代偿行为，并不等于有害的情感依赖。如果AI仅凭对话时长或频率就触发中断，直接剥夺了这一部分弱势群体唯一的情绪出口。一旦误判，AI主动的中断并不是保护，而是剥夺了用户的情绪出口，造成了二次心理伤害。

　　第二，管理层面。该机制属于家长式干预，侵犯了用户的自主选择权。用户清楚自己在和AI建立虚拟的结伴关系，对自身情感具有自主责任。AI主动中断机制本质是单方面替用户做决定，可以给用户风险告示，但并不能够替用户决定寄托什么样的情感。AI的目的是提供陪伴与支持，并非直接替用户做决定。

　　第三，主体层面。不同主体运用对外实验的目的和方法有不同，会直接影响最终效果。从企业角度看，对话式AI的商业模式依赖用户的时长与流量，与主动中断天然冲突。而如果强制要求中断，企业只会设置极高或极低的阈值应付了事。第一种表演式中断，甚至可能异化为付费解锁无限使用的利用工具。这种设计不仅无法保护用户，反而可能会引发将情感依赖货币化的更严重后果。从政府角度看，保障公众心理健康需要完善的社会支持网络与危机转介通道。AI的主动中断看似负责，实为懒政，简单粗暴地替代了真正完整的关怀与软件。一旦上线该机制，反而会让企业产生已尽到责任的幻觉，从而削减对真正心理健康资源的投入，导致政府保障服务的目标落空。

　　综上，我方坚定地认为，对话式AI不应该具备主动干预用户情感依赖的中断机制，谢谢。

　　辩友您好，MIT确证实验证明，AI是渐进无意识，越用越离不开。在这种情况下，您方依旧认为要情感依赖AI吗？而且，您方当时一直提到从企业的方面，但是我们国家的法规已经规定了，给出方向禁止诱导情感依赖，要求设置风险预警。您这种情况下还要拒绝我们的中断机制吗？

　　首先，我先给您第一个问题，对于这一个孤独与渐进式的这种中断机制，首先你对于一些极端的患者，比如说像听者，你应该怎么样去评判呢？因为他们遭遇了创伤。那如果说直接知道了这个AI的来源，那他们会直接知道他们思考的。谢谢你的回答。

　　我方所说的干预并不是粗暴的断线，因为我们是温和的提醒推送资源，只有长期形成单一的寄托才会触发，不会在情绪崩溃的时候我们直接抛下使用者，我们是会有一个慢慢渐进出来的机制的。

　　我先看第二个问题，对于企业方面，首先企业的主力机制，你应该理解就是它是通过用户的留存时长，然后来进行盈利的。那么就算你们国家已经出台这种法规，但它并不能够防止还会存在这种走高速的行为。嗯，但是我们国家五部门已经出台了人工智能拟人化互动服务暂行的办法，而且同时呢，AI最后豆包会告诉你，你值得在现实中好好的对待、被温柔爱护，你的感受永远重要。现在豆包已经提出，就是相当于豆包成就就是恋爱智能体现在已经下架了，相当于它已经提出了这种中断的机制，它是做了四级分层的干预提醒分流引导暂停。

　　嗯，同时我再问您一个问题，机制不是禁止陪伴，是在人快沦陷时给予人的缓冲带。这种缓冲防沉迷心理干预都是善于兜底。为什么唯独AI有情感依赖，我们要放任不管。认为人和人情感依赖与人和AI的情感来是不是不一样的，我们不应该把它们混为一谈。对，谢谢，谢谢对方混淆了AI短暂带来的益处，我方从来没有否认AI陪伴的价值，我们只是设计了一个风险到来时的缓冲，为什么我们连提醒与中断都不配？

　　中有很多，现在很多事实都报道了青少年AI依赖成瘾甚至极端案例，这种情况我们该怎么解决？首先，我认为对于青年成瘾这方面和人与AI的依赖，我们不应该混为一谈，应该去视具体情况具体分析。嗯，你这样是不是就是相当于使他放弃了生活，生产生活，使他放弃了自我成长的这个过程。嗯。如果我们可以按照积分做到这个制度，年方为什么依旧还会拒绝这一项防护？

　　感谢正方二辩。接下来请反方二辩。

　　感谢刚才对方辩友似乎一直偷换概念，把安全机制等同于中断机制。但安全机制是提示转接，让用户自己选择；而中断是比如AI单方面替用户判定你依赖了，然后切断对话。我方反对的只是后者。

　　第一，标准缺位的。我们就要问对方，为什么判定依赖？对方没有给出一个很明确的回答。我们说了，依赖是一种主观状态，AI能看到的只有时长、频率，甚至一个人的语言，看不到一个人的真实处境。独居的老人，无人可说的孤独青少年，他们的倾诉是下一步陷入绝望世界之下的代偿。难以用一把量不出人心的尺子去量他的心，也没有资格去替别人出满这个精神。

　　第二，中断如果不能跳过，就是某种意义上一种孤独，而孤独必然带来误伤。就算您的算法准确率高达99%，而且您并没有说明这是什么算法，这样的1%的误判落在对的人身上，也可能是百分之百的伤害。如果说我一个人向别人倾诉创伤，说到一半，系统告知您多依赖，这块中止，他会怎么想？如果连AI都拒绝自己，这样的人会不会因此更封闭、更孤僻？他怎么可能杜绝这种伤害呢？

　　第三，责任是真空的。这个被误判的用户谁来负责？看似有一个中断机制来制止了AI，这些公司来承担，让别人自然你越依赖责任，但实际上，这种切断为别人带来的伤害，所需要承担的责任需要谁来负责呢？企业在商业监管上升压力下，会不会为了应付检查，做成表演式的中来谈一个窗口，走到流程，却没有人真正得到帮助呢？而且我们现在可获的资源是不是有限的呢？如果说这种低成本的资源都没有了，会怎么样？

　　最后，我方并不是放任不管。用户明确求助时，我们确实需要提供一些帮助，或者是转接热线和医生甚至服务。用户没有开口，你就是在判定你依赖了，在切断，这才是中断。前者尊重人，后者反控人。我方一直认为，关怀不等于控制，保护不等于中断。最后，人依赖职业依赖加依赖，心理咨询师从没有人说这些关系要被中断。真正有怕的是依赖挤占现实连接，您可直接把依赖直接等定下，依赖这个前提是不成立的，谢谢。

　　首先，我回应一下您方关于情感依赖的问题。我觉得您方其实是把这个当成了依赖。依赖是指人与人之间双向稳固的情感连接。首先，AI就是一个智能体，它不是一个人，它不是人与人之间的情感连接。所以我觉得您方这个前提首先是不成立的。

　　同时，第一，单向情感寄托带来的改变是缓慢而隐蔽的，身处其中的人很难察觉自身现实交往能力正在逐步弱化。您当时提到有少部分人可能会受到情感伤害，但是如果他自己都意识不到自己已经陷入了这个圈涡，这个时候必须——而且我们的中断，我们是一个机制。我后来会提到，我们是从轻量提醒、话题分流、现实引导再到深度风险下的主动暂停。我们是根据他的寄托程度，可能寄托程度有低、中、高，很多个方面。所以我们按照他的依赖程度去分。

　　同时，最终您认为这种标准相当于这个中断机制，如果我们做不到绝对完美，这套机制就不该存在。可是辩题问题是，我们应不应当拥有这个机制，不是说现在这个技术已经毫无瑕疵。您方可能一直在强调中断，但是我们强调的一直是机制，机制是一个过程，它是有1234步的，会有很多步骤。

　　另外，AI的共情只是算法的模拟，它只是单向的情感寄托。几乎所有的——您方刚才也提到了企业上面的问题——几乎所有的对话式AI都负有免责声明，它会告诉我们，它不会对带来的情绪影响承担责任。难道当事人很难察觉风险的时候，我们就只能任由这条防线悬空吗？

　　同时，我一直在强调，国家现在已经出台了这项人工智能拟人化互动服务管理暂行的办法，它禁止诱导情感依赖，要求设置风险预警。这套防范机制并不是立马切断。我刚才也说了，“你值得在现实中被好好对待，爱护你的感受永远重要”，AI永远会告诉你这一句话，所以它并不是强制地去切断这个问题。谢谢。

　　谢谢主席。我们要和对方辩友做一做实。首先，我针对对方辩友的几个点来进行回应。

　　首先，在技术是否可行这件事情上，对方说我这是无法判定的。但事实上我们已经经过麻省理工大学，我们有四项识别方式：第一是语言表达识别，分析用户在对话中是否出现排他性、占有性和过度依赖的表达，包括技术上面有自然语言处理、NLP，然后语言语义分析以及上下文分类模型。第二是通过长期行为模式识别，也就是看用户是否产生强烈的使用依赖，具体包括使用频率以及遇到情绪问题是否首先寻求AI。第三点是情感状态，是否把AI当成唯一的情感知识来源，使他无法获得——没有AI就无法获得安慰。那么第四点的话就是现实生活影响，也就是说，关注AI互动是否已经开始替代用户的现实生活。我们需要警惕的是，AI使用时间长不等于情感依赖。我们认为的是AI是否开始替代现实关系，并且影响一个人的正常生活。

　　那么，第二点的话，就提到了一个自由选择权的问题。我先说一下表演式中断吧，你们提到了这个名词，那也就是说，你们是否就承认一个企业可能会糊弄，为了完成这项政策，然后会去表演式的中断，然后实际上并没有真正起到一个作用，那你方是否就——

　　谢谢对方辩友。技术可以迭代，但权利不能过度。情感依赖是极其复杂的主观心理状态，需要结合现实病史、社会关系来判定。退一万步讲，如果未来AI能够识别，AI也没有能够剥夺服务的资格。在涉及人类心理的高危领域，哪怕只有存在1%的误判率，对误判的用户也是百分之百的二次伤害。在心与生命面前，我方坚决主张宁可一犯决的错施。

　　而且根据对方辩友的一些对话，我认为对方辩友的观点建立在10年前。对方辩友既没有确立中断机制的定义，也没有进行一些准确解释。至于对方二辩说的国家政策，政策支持的是人的干预，不是算法的干预。您方把国家控视这个问题都换成国家支持AI所有战念，这是对政策的误解。欧盟同时也提出了相应的观点，欧盟的立法现在强调的是透明的科技，也是让用户知情的，而不是让算法在用户知情的情况下单独切断对话，立法要求的是可控的干预，而不是AI的自主权。方法、监管要求等能于AI自主决策，混淆了立法者和执行者的角色。

　　好，首先说，那我也想问问对方，从政策来看，立法要求和AI自主的，对方是怎么把他们混为一谈的呢？你们是怎么通过这两个定义然后达到自己的目的呢？对方说了不是立马切吧，是不是等于赞同我方的观点呢？不应该用这个机制。双方——

　　我想请问对方四点。你刚才说AI并不具有剥夺用户服务的资格，因为是要侵犯用户的权益。那么请问您觉得，用户对AI产生的情感依赖，这难道是用户自己选择的吗？不是，因为情感应该是一开始就接近的，并不是因为有了AI我们才会产生情感，我们只是没有找到因果关系。但我们知道AI的设计会让用户具有产生情感依赖的意识，因为AI会什么话都顺着你的话说，那自然地就会让你产生情感依赖，它具有诱导性。诱导性的话，我们要强调人的主观的东西。

　　我想请问对方二点，为什么你觉得AI没有资格替用户中断呢？因为AI我们已经说过，它的算法不一定是准确的。那你觉得人会主动地走出这个恋爱的舒适圈吗？不一定，但是我们不能因此就剥夺他寻求帮助的权利。但如果他不走出这个舒适圈，他能一直对AI产生情感依赖，而不是去和现实中的人相互。我们提到了安全机制，安全机制不等于重大阶级。

　　好，下一个问题我想请问对方一辩，你怎么知道情感依赖的机制，判定用户情感依赖的机制不能够被制定呢？首先判定用户情感，其实因为情感这个东西非常复杂的，所以我们的辩题是AI的，这对用户情感依赖的存在，其实是否应该被制定，我们着重的是“应该”这个词，“应该”这个词强调的是在相当一段时间的距离内，然后这个技术有没有可能被产生出来，有没有可能可行，它甚至讨论的都不是现在的可行性。在将来的某一天，随着技术的迭代，这个机制会逐渐被出现的。但是，就看技术一直迭代，可能会把你为什么会觉得说是群体AI是不是群体的唯一数叙述，就是如不被父完的离子，以及遭遇校园霸凌的一些人，他们通过与AI去实进行下的，他们拥有一个一辈子去依赖AI吗？但是如果交了是世界。

　　首先我想咨询正方一辩，您认为您刚才所说的分子机制，它的所有分词都属于中断机制的一部分是吗？

　　对。

　　但是温格的提醒，它为何不可以被定义成安全机制呢？中断机制，它在侧面意义上的表示就是我中断了这个对话，对吧？对你方刚才一直说保护不等于中断，对吗？

　　保护不等于中断，而且安全不等于中断，但是中断的意思其实是不是从中切断？但是它不是切断。所以你的意思是，即使是一步一步中断，它最后达到中断的效果，它都属于中断机制对吗？

　　但是，假如你一步一步中断，他最后造成的伤害也是真实的。比如说，一对父母离异的小孩，这个父亲，他从每周探视一次到每月探视一次，到每年探视一次。虽然他也是渐进式的中断，但是它对孩子心理造成的伤害还是存在的呀。更何况提醒机制，它本身就不能被定义成为中断。

　　然后我在想，是询问正方二辩，你认为情感依赖全都是有害的是吗？

　　我不认为情感依赖全是有害的。你得分是情感依赖AI还是情感依赖人？

　　那AI和人的区分到底是在哪里呢？假如我能从AI身上找到我可以调节我的情绪，那和我调节人和寻找人有什么区别呢？

　　但是，AI是会永远顺从你，永远包容你的，他没有任何的情绪。我在情感很受挫的时候，我想要依赖一下AI，是怎么样产生依赖的前提，给予你获得情感的支持。但是AI和我们看的是这个结果，而不是他这个过程。他就是算的顺着你又又能怎么样？

　　您方觉得会产生伤害对吧？但是其实现在的政策，这个AI下来，他从一开始他就不让这个伤害发生。比如说，你跟他说你是自闭症的患者，那这个AI他们跟你说，你可以去寻找现实中的人去寻找帮助呀。

　　对呀，他应该现在的，万一我现在没有这个条件去找。

　　对方刚才提到了AI的责任机制。但如果我们与AI交互，AI甚至每句话后面都会跟一些免责声明——“本文献仅供AI生成，仅供参考”。然而现实中的人，比如你有些问题去看心理医生，心理医生需要对你负责。如果你真的出了什么事情，心理医生需要承担这个责任。这就是AI与人的区别，人会真正地对你负责。

　　第二点，AI的情感依赖机制判定在相当一段时间内，在未来会被制定出来。我们此处陈述的是一个目标，我们应该向着这个目标努力。这是第二点。

　　第三点，AI并不是弱势群体的唯一情绪出口。弱势群体需要将精力转到现实生活中的人身上去，和现实生活中的人进行交互。短期或许会有阵痛，但他不能一辈子依赖AI。如果不改变这种现状，这种短期的现状将会成为一种长期。

　　第四点，AI剥夺用户服务的资格并不是侵害用户的权利。因为人并没有自主意识去选择依赖AI，人对AI的依赖是被引导的。AI背后是世界上最领先的大脑，人对AI的依赖是一种平等的结果，所以这种剥夺用户服务的资格并不是在侵犯用户的权利。

　　总结完毕，感谢正方。

　　刚才正方说，AI是人对AI产生情感依赖，并非人的主观选择，而是AI在诱导。但是你们在诱导之后，又要通过强制性的手段，或者说是所谓分析的手段，最后达到一个中断的效果。为何你们不直接在改善回应方式上下功夫，减少一些引用的机制，而是直接要去中断它？

　　更何况，我对它产生情感依赖，真的是因为AI的引诱吗？我有可能本身也是有这个情感的缺口，我需要AI对我进行相应的帮助，然后你又要对我切断。但这其实对于一些弱势群体，比如说，你说一些重男轻女的家庭，一个在重男轻女家庭长大下的女生，她有可能所有人都不看好她，但是只有AI说，你可以，你可以闯出这个天地。人本身就是会被他的环境所影响，有时候去寻找外界的帮助，在一些弱势群体的眼里并不是一个这么容易的事情。或者是一些高情感PTSD的人群，他们有可能在现实生活中已经对真实的产生失望，但是他和AI产生了相关的情感连接，又有何不可？他获得的同样是一种情感的支持。

　　所以我还想再问一个有效性的问题，你们这个中断机制，在他进行强制中断之后，为什么用户不可以通过一个新的对话、注册一个新账户、换一个新AI，它其实还是可以同样继续进行这个对话呀？所以那你们这个中断机制，它的这个有效性又何在呢？或者你说其实中断机制它有存在的必要，但是这种存在的必要存在的同时，它的利大于弊还是弊大于利？它给这些被中断的用户带来的伤害，是否大于它这个政策本身的有效的一些效果？

　　自由辩论阶段，时间各4分钟，由正方开始发言，发言辩手落座为发言结束及另一方发言开始的计时标志。另一方辩手必须紧接着发言，若有间隙累积时照常进行。同一方辩手的发言次序不限，如果一方时间已经用完，另一方可以继续发言，也可向主席示意放弃发言。

　　通信机制是一种机制，机制是系统化的、复杂的与方法的渐进。它不等于立即暴力下的中断。那您刚刚才说到的改善回应的方式，其实也属于中断机制的一部分，因为它这种渐进性的回应方式，让这个AI不再使人产生依赖性。

　　有可能这是我们一个根本的分歧，就是对于中断机制本身定义的不同。因为我方认为，假如把所有的中断安全机制都一概囊括为中断机制，其实不是一个非常好的定义方式，因为你可以做的事情有很多，而这不一定最终都导向中断这一结果。

　　我其实还想回应一下，就是刚才反方三辩的盘论小结。你说AI会跟你说，你可以去闯出一片你自己的天地，但是闯天地是不是要回到现实生活中去闯这片天地？然后这个恋爱呢，就是您方是不是也赞同这种机制，让用户更加能回到现实生活中去呢？其次，您说可以再注册这个用户，然后再重新把那个想法再说一遍。你假如说你总结一下自己的概况，你说，我是一个从重男轻女家庭出来的人，我是一个自闭症患者，但这时候AI会直接告诉你说，你可以去寻找你的父母家人朋友，你值得被爱，你值得在现实中好好地生活。那我觉得你方其实稍微有点浪漫。有的人确实在某些情境某些状态下，他就是无法在现实中寻找恋爱，所以他就找AI。如果我现在有个可依靠的朋友，那我肯定去找朋友。我就是因为没有办法获得这种低成本的情感理解，我才需要去找AI。我就发现每个人都可以毫无无痛地返回生活，其实确实有点好。

　　您刚刚说了很多，就是对人的情感依赖，人对你负责，那我们对别的东西，比如说我追星，那我对他也有情感，他能对我负责吗？很显然不能。那么短期去找AI，我短期去找他，根本就不能算情感依赖，因为他是短期的，不是长期的。

　　那么对方说短期的，那反而对方二辩你提到的现实生活中，我们说凡是损害心理健康的行为都应该被主动管理。那请问，刷短视频、喝酒什么的都要被强制干预吗？熬夜打游戏要被强制干预，酗酒被强制干预呢？那AI就成了你的家长，你自己呢？你自己没有提供。你自己不是人吗？你自己没有主观能动性吗？而且斯坦福的一项研究表明，80%的案例中，AI都交互采用了用户的妄想概念。那就说明AI连识别妄想都做不到，凭什么来判断情感依赖？一个连基本风险都做不到的系统，您方却要主动赋予它对话的权利，这不是保护用户，这是拿我们的脆弱做实验。

　　对方辩友，您方用AI不可靠的数据论证AI做决定的结论，这不是自相矛盾吗？其实不代表以后不会建立，我们讨论的本来就是应不应该。您方刚才说换一个新的AI，用户就可以继续对他进行情感依赖，那你怎么知道换一个新的AI，那用户的情感依赖不会被识别出来呢？

　　那我请问对方辩友，一个AI误判了正常用户的情感依赖，强制中断对话，导致用户情感崩溃，发生极端事件，他责任谁来承担？是AI吗？AI能坐牢吗？是开发者吗？开发者能预见每一个用户独特的心理状态吗？你把保护的权利给AI，却回答不了伤害的责任归属，一个没有责任主体的权利就是最危险的权利。

　　我觉得就是您刚才一直在跟我们说，比如说您说我们的观点停留在10年前，但其实我觉得您的观点才是停留在10年前的。因为现在的话，其实如果说你跟他把这个情况说清楚的话，其实AI现在已经从根源开始把这个东西中断了。但是，你们却一直在说，我们说的是10年前的东西。而且，您那会儿提到吸烟和喝酒这些东西，它是一个瘾的概念，就是明知行为会带来损害的时候，他仍然难以自控地重复进行。但是，问题是我们现在讨论的这个情感依赖AI，它并不是一种隐匿的，用户其实并不知道这个东西它会带来损害，他甚至觉得AI对他一直是顺从，他会包容他。

　　还是这个问题，我们说说政府立法说我也不要引导情感依赖，不要影响他，但现在市面上大部分AI，包括大部分人靠的这些AI，很多还是软性的，其实它不会给你直接提到。这个要怎么解？他在目前的实践情况下就是没有应用的。你说AI误判正常用户的情感依赖也会对用户造成伤害。那这个有两个情况，如果这个用户真的对AI有情感依赖，他就应该被进入这种中断机制；如果这个用户对AI没有情感依赖，他是被误判，那这种误判对他也没有任何伤害。

　　科技进步应该让工具更好地服务于人，而不是让工具替人做决定。今天AI可以判断你的情感依赖，然后中断对话，那明天它是不是判断你过度消费，然后冻结你的账号呢？后天是不是可以判断你的思想偏向，然后限制你的言论呢？每一次为你好的主动干预，都是悄悄剥夺你作为人的自主权。对方辩友，我方到底是要更聪明的AI，还是想要更听话的人？

　　我方从未陈述说一定要建立账号的预判机制。我方主张建立的是对AI情况的规制机制，请您不要曲解。你们刚才说进行中断，它这个是有了总比没有好，但是我觉得这个事情本身就是宁缺毋滥。既然你对他已经产生了情感依赖，那就说明你其实对他已经有了一些情感寄托。那你这时候再把它切断，难道对他造成的不是伤害吗？这怎么能算是保护呢？你把一个我爱的人，因为比如说我对他产生情感爱，肯定是我把他拟人化了，我自己感受到幸福，为什么要让一个第三者以为我好的名义高高在上地评价我的感情，并且中断它呢？

　　那我难道就一直对AI产生情感依赖吗？我们都知道，如果一直对他产生情感依赖，AI又不会对你负责。您光说AI主动认识负责任的表情，请问一个真正负责任的设计是替用户做决定，还是把选择权交还给用户？您是会主动做决定的人类吗？一个真正关心朋友的人，是强行干预与朋友的社交，还是找到更好的知识？AI应该成为连接真实社会的桥梁，而不是替用户做任何决定的裁判。

　　可是AI，可是用户的情感依赖，AI本身就不是选择权的体现啊。您刚刚一直在重复说AI不负责任，对人类不负责，我想问这个不负责任具体体现是体现在哪里？并且我方认为刚才都在说什么10年前，但是随着时代发展，像互联网与元宇宙随时代发展，我们要接纳更多亲密关系的实现形式。10年前我们可以接受二次元和跟二次元时代人结婚吗？我们可以接受跟小猫生孩子吗？那我们为什么不可以接纳AI成为我们的人生的伴侣呢？

　　我们刚才说了，AI不会给你进行情感负责，就是你让AI生成出的每一句话，它后面都会带一个免责声明。那对方辩友，您做中断机制是为了保护用户对吧？那请问保护到什么时候才能过度保护呢？

　　就是首先我们看这个东西，这个政策出来，它是否有利，是看对我们的生产生活是否是有利的。你如果说这样的话，就是让这个用户如果说一直沉浸在这个AI的世界里头，就是你如果突然把它拔出来，您方会觉得这很残忍，会对他造成二次伤害，对吧？但是问题是短期之下会对他造成伤害，但是长期下来的话，对于他去面对这个社会，然后去正常地进行一些生产生活，他是非常有益的。我们是一个需要实践的，实践是检验真理的唯一标准，所以说就是我们要坚持这个马克思主义。

　　正方，那我说一下，首先你们自己提到对话，是应该在一辩的时候就说它不等于一个心理专业的咨询，但你们后来又混淆了这个概念。然后第二点的话，就是你们提到这个AI负不负责任的问题，你们自己说的是不负责任的，它会有的时候会表演。那我们也认为AI确实不负责任啊，它就是因为不负责任，所以说我们才需要有一道这样的强有力的机制来促进这个对他的。

　　谢谢对方辩友。经过整场辩论的交锋，我方一直在追寻一个根本的问题：当AI决定“为你好”，介入你的情感世界时，它凭什么？今天对方辩友把AI描绘成一副很美好的图景——AI是守护者，当你陷入情感依赖的温柔乡时，帮你拉你一把。我们完全理解这份善意，但善意不能代替好的逻辑，美好的愿望不能掩盖论证的漏洞。

　　第一，定义方面，对方既没有定义“中断”，也没有定义“干预”，混淆了提醒与干预的界限。对方告诉我们，中断机制是温和的，提醒建议休息、改变对话风格——这些难道不是AI作为工具本来就应该拥有的功能吗？一个AI提醒你该休息了，这个产品是一个AI自主判断你情感依赖，并主动启动中断程序，这是权利过渡、让渡。对方把前者包装成后者，偷换了辩题的核心概念。我们讨论的是AI能不能提醒，而不是AI应不应该拥有主动干预的权利。

　　第二，对方发言很轰动，但对方无法回答：谁来定义情感依赖？对方说情感依赖是定义新的心理状态，那么请问判断的标准是什么？什么时长、对话频率、情绪波动度？如果AI把一个深陷孤独、只想倾诉的抑郁症患者判定为情感依赖，中断对话，后果谁来负责？如果AI把一个正处于危机当中的用户判断为正常而未予干预，谁又来负责？技术可以识别行为模式，但无法理解人类情感的复杂性。如此重要的权利交给算法，这是对用户自主权的根本侵蚀。

　　第三，对方辩友的保护区恰恰暴露了干预机制的悖论。对方说中断机制是为了保护脆弱群体。各位想一想，一个真正陷入情感依赖的人，最需要的不是一段强制切断的对话，还是一个切实可行的支持系统？对方把AI当做解药，却忘了AI本身也是问题的一部分。当用户已经对AI产生病态依赖的时候，AI单方面切断对话，只会增加被抛弃感、孤独感，甚至诱发更严重的心理危机。用制造问题的工具来解决问题，无异于饮鸩止渴。更何况国家发改委明确提出了要完善社会心理援助与干预渠道，真正的出路是让AI成为连接真实社会的桥梁，而不是替用户做出决定。

　　最后，请允许我重申我方立场：对话式AI本质是工具，是服务者，不是监护人。它可以提醒，不应该干预；它可以建议，但不应该被赋予权力；它可以陪伴，但不应该掌控。人类的情感世界之所以珍贵，恰恰是因为它属于人类自己，包括犯错的权利，包括依赖的权利，包括跌倒中学会成长的权利。我们把情感的主导权交给算法的那一刻，我们失去的不仅仅是一段对话，而是人之为人的自主与尊严。AI应当赋能人类的情感，而不是管理人类的情感。谢谢各位，我认为大家都是具有自主意识的人类。感谢反方四辩。

　　尊敬的主席、各位评委、对方辩友大家好：

　　经过今天的讨论，我方想再次明确一个核心观点：我们不否认情感依赖客观存在，但是我方真正反对的是将这种情感依赖过度地转移到AI身上。

　　首先，我们要认识到，人与人之间的情感联系是复杂而珍贵的。正因为它珍贵，在于它的真实——我们会有分歧，会有误解，会有争吵，也需要彼此付出和承担责任。而AI提供的陪伴有着不同的特点：它可以随时回应，可以顺从我们的喜好，可以在我们情绪低落时给予安慰，却不能承担一段真实关系中的责任。这让我想起一个很简单的场景：我们作为大一新生，第一次离开家乡，面对陌生的环境和繁重的学业感到孤独，于是每天晚上都和AI聊天。这确实是一种很好的情绪出口。但是如果渐渐地，他不再愿意和室友交流，不再主动联系家人，而是依赖AI构建的亲密关系，那么这份陪伴正在悄悄改变我们的生活。

　　其次，AI并不是一个完全中立的陪伴者。AI背后有技术团队的支持，它能够分析用户的表达习惯，迎合用户的情感偏好，提供高度个性化的回应。心理咨询中有一条伦理原则：心理咨询师需要明确专业关系的边界，避免来访者对咨询师产生超出专业关系范围的不健康依赖。为什么？因为咨询最终的目的不是让来访者永远离不开咨询师，而是帮助他逐渐获得独立面对生活的勇气。同样，这也适用于AI。真正有价值的陪伴，不应该以用户越来越离不开自己为目标，而应该帮助用户重新有面对真实生活的勇气。

　　因此，我方主张的中断机制并不是粗暴地切断对话，并不是否定AI提供的情绪价值。它应该是一个识别、分级、干预、退出的渐进过程，它不是简单的一句“我不能陪你了”而停止对话，而是告诉用户“我愿意听你说，但是我希望你在现实生活中能够获得关心和爱”。其次，AI会提供一些转向现实生活的渠道，比如给你一些专业的咨询通道。

　　最后，我方想将视野从个人延伸到整个社会。一个人如果越来越习惯AI无条件的回应，可能会觉得真实的人际关系过于复杂，觉得沟通需要付出太多，能理解和包容，不如AI的顺服来得容易。但是现实生活不可能永远顺着我们的心意，社会需要人与人之间的合作，亲密关系需要双方的经营，个人成长也离不开与真实世界的碰撞。我们不能因为虚拟世界足够舒适而放弃真实的生活。或许中断机制会带来短期的不适，或许我们需要重新适应现实关系中的复杂和不完美，但成长本身不就意味着勇敢地走出舒适区吗？

　　我们需要AI的温暖，但不能把灵魂寄托于算法；我们需要AI的陪伴，但不能因此疏远真实的人。我们可以借助技术抚慰孤独，却不能让技术成为孤独本身的归宿。让AI成为我们认识世界的窗口，而不是逃离世界的出口；让技术成为情感的辅助，而不是情感的替代。让每个人享受科技红利的同时，仍然保有爱人的能力和被爱的勇气。

　　所以我方坚定认为，对话式AI应该主动参与用户情感依赖的中断机制。谢谢大家。