AI应用发展过程中，应该优先发展RAG

AI应用发展过程中，应该优先发展SFT

　　时间一分钟，准备好了，随时开始。好的，就是听完大家的讨论，最后我简短补充一些内容。

　　反方证明了有些分类抽取和工具调用的任务可以先做，SFTT也证明了RAG会增加token和延迟，不能百分之百消灭幻觉。这些我方都承认，但优先不等于所有场景都只能用，也不等于RAG没有缺点。我们争论的核心是，在应用刚开始落地、资源有限、需求还在变化的时候，团队应该先把时间花在哪里？应该先把最真实、最新、可溯源的业务知识先接进来，再做一些稳定的训练行为。

　　最后反方刚刚也提到，检索错误会带来安全风险，所以它不等于可靠。这一点毋庸置疑，但这不能保证正确。我方并没有说可以核验就等于保证正确，检索出错时我们至少能看出调用了哪一部分资料、使用了哪个版本，再进行替换。而如果是微调的话，错误参数藏在哪里就更难修改。

　　大概就是这些，现在进行反方四辩的补充说明。

　　AI应用发展过程中，应当优先发展RAG。开宗明义，RAG即检索增强生成，是指模型在回答前检索外部知识，再结合信息生成答案。监督微调SFT是使用标注样本调整模型参数，使其更擅长特定任务格式或表达方式。本题讨论的不只是基础模型预训练，而是通用大模型具备基本能力后，应用团队应先投入知识接入，还是模型参数调整优先？不是只要RAG，而是要以先以RAG为基础，再对稳定任务进行SFT。我方的判断标准是，在有限资源下，哪条路径更能让AI应用获得持续可靠的、可持续更新的、可验证的业务能力，哪条路径就应该优先。

　　首先，AI应用首先要解决依据什么回答，然后才是以什么方式回答。SFT适合让模型学习固定格式、专业语气和任务行为，但不适合充当频繁变化需要溯源的知识库。价格制度、法律条文一旦改变，参数中的知识就可能过时，而RAG则把知识保留在模型之外，通过更新知识源和索引，让回答有据可查。摩根斯坦利持续优化检索后，其AI助手由覆盖的7000个契约问题扩展到面向12份内部文档生成答案。这说明面对持续变化的专业知识，企业首先需要的不是让模型去背书，而是让模型随时查对资料。

　　其次，RAG降低了知识更新和应用试错成本。企业制度变化后，通过SFT更新知识，需要重新准备样本、微调评测并部署；而RAG无需改动模型参数，可通过更新知识源和索引迭代。根据AWS与项目方披露，某基金公司采用高级RAG后，单份报告生成时间由两天缩短至10分钟。对于知识快速变化的场景，更新快、纠错快，才能真正落地业务。

　　第三，RAG建立的是可治理、可验证也能支持后续SFT的应用基础。RAG可以返回引用，并结合权限系统控制资料范围，引用不保证答案正确，却能降低核验和纠错成本。任何运行中积累的真实信息、错误检索和用户反馈，还能帮助团队识别并提炼稳定任务，形成高质量样本。因此RAG不是排斥SFT，而是让SFT更有目标。我方承认，RAG可能会存在一些检索错误、延迟或上下文成本，但可以通过混合检索、重排序、缓存和评测优化。相反，模型若是缺少了最新的知识和事实依据，回答再快、再专业，也只是更高效地产生不可控的答案。所以AI应用发展应该遵循先连接正确知识，再训练稳定行为的顺序。再次强调我方观点，AI应用发展过程中应当优先发展RAG。

　　五辩反方，准备好了吗？ 　　准备好了。

　　我想问一下，对方一辩，您方标准是在有限资源下，能够让AI应用持续发展的路径应当优先。那我想问一下，你是如何定义持续发展的？ 　　（5秒保护时间） 　　是。可持续还要考虑成本和性价比。那请问，如果模型本身理解推理归纳文档能力很差的话，就算知识实时更新，它看不懂检索到的文档，那这种应用能够长久持续的发展吗？ 　　如果没有RAG作为基础，SFT本身是无法继续搭建。 　　对方刚才也有提到，没有新知识的基座模型很容易输出错误的答案。那我觉得，一个完全没有经过SFT对齐的原始大模型，拿到专业检索出来的法律条文，会不会出现曲解条文或者前后矛盾的问题呢？ 　　并不会，这是从固定的答案去检索，不会产生错觉。SFT会产生错觉。 　　你方提出先搭建RAG结构知识，再利用RAG产生的数据做SFT，那我请问你，如果底层模型指令遵循能力不足的话，前期RAG涉及到的用户反馈全是错误，那低质量数据反过来用于SFT的话，会不会污染后训练的效果呢？你方怎么去规避这个风险呢？ 　　对数据进行清洗、标注，做工程化处理，这个不可能出现很多错误，如果出现了错误，我可以离职了。

　　好的，我们来到下一个环节。

　　准备好了，随时开始。

　　我方坚持认为，RAG是优于SFT的AI应用发展方向，主要总结一下我们认为优先的几个层级。

　　首先，RAG解决的是AI最核心的痛点——知识滞后带来的幻觉，也就是时效性问题。大模型无论怎样微调，知识都固化在参数中。其次，如果数据需要随行业每日更新，单纯依靠SFT进行迭代，成本极高。因此在AI应用发展前期进行实验验证时，RAG是最适合的选择，没有之一。

　　第二个优势是成本更低，落地更快。仅需10分钟即可搭建知识库，验证整个流程是否可行，再判断该项目是否值得推进。

　　第三个优势是安全可控，能够兼容隐私合规要求。企业若将内部个人数据、业务知识上传用于SFT，将面临极大的合规风险。

　　以上就是我方的主要论点，发言完毕。

　　我先回应一下反方二辩刚才提出的一些问题。首先你提到IG无法回答用户的问题，包括模糊问题，我对此并不认同。

　　首先，无论公司规模大小，开展AI业务都应该先让AI的基础环节跑通。只有先保证输出正确，才能进一步谈量级提升。如果连最基础的结果都无法保证，比如今天是7月14号，用大模型去回答客户关于当天的相关问题，连SFT都无法解决客户最基本的问题，那又怎么能保证后续的量级拓展呢？

　　可以暂停吗？好，对方。反方。可以盘问，双方之间可以互相盘问，可以进行对辩。哦，可以对辩是吧，对，可以对辩，还可以有5秒时间打断对方。那我想问一下正方，如果你们只做了验证，那后期维护是持续维护RAG，而不是去更新模型吗？如果在当前情况下，比如本周内通过新增RAG数据来解决当下的问题，但时间拉长到一年，还是只更新RAG吗？这期间难道不应该优先考虑升级SFT模型，而不是完全依靠维护RAG来解决问题吗？

　　我认为，无论公司规模大小，在接触AI领域时，首先应该从基础说起。就像面前有苹果和西瓜，但你只能吃下一个苹果，却非要去吃西瓜，这并不现实。就像IG这个概念，只有把基础点吃透，才能将所有点连成线。SFT的覆盖范围更广，我认为还是应该从基础开始做对。

　　那你刚刚也提到从基础点开始做，那后续是否还是要向SFT靠拢？如果一直停留在单点突破，模型能力就不需要升级吗？模型本身是基础，如果不对SFT进行调整，只专注于更新RAG的相关数据，成本也会非常高。当前的RAG维护只是最基础的版本，但在法律、医疗等行业，RAG的搭建难度极大，并非所有公司都能完成。目前成熟的RAG产品大多由大公司推出，小公司很难打造出可用的大体量模型。

　　好的，时间到了，双方的时间都到了。我们进入下一个环节，下一个环节由反方三辩盘问除正方三辩以外的选手，反方三辩你现在要盘问谁？

　　大家好，我是反方一辩，我方认为在AI应用的发展中，IG和SFT应该优先发展SFT。SFT即监督微调，是用高质量的领域数据训练模型，把知识和技能内化为模型自身的能力。我方认为应该把SFT作为优先发展的方向，因为它的价值会更高。

　　首先，知识不等同于能力，AI的应用瓶颈恰恰在于能力。就比如说，一个没有学过医的人，他拥有一整座医学图书馆的资料，却不敢给人开药方。IG提供的也都是资料，而非医学问诊的严谨措辞和解决方法，它只能帮用户查询信息，但没有经过针对性训练，无法进行正确的处理。这些都需要通过SFT来完成微调训练。

　　第二个，从用户体验和工程角度来看，SFT是一次投入、长期受益，而IG需要每次使用时都付费。SFT的训练是长期的，可以为企业带来长期价值，IG则每次使用都相当于全新的调用。经过SFT训练后的模型具备很强的独特性，能够为企业带来显著的竞争优势。而且，SFT带来的效果是确定的，而RAG引入了更多的不确定性。在生产级的AI中，确定性是生命线，IG在这个过程中引入了大量不可控的变量。

　　此外，SFT带来的是质变，IG带来的是量变。举刚才的医学例子，SFT可以让一个模型变为真正的医生，而RAG只是让一个普通人假装医生，它只是提供大量资料，但拥有临床经验或真正手术经验的医生，才能正确治疗病人。

　　从这些角度来讲，无论是价值、可靠性还是本质层面，SFT可以改变模型，而RAG只能包装模型。因此，我方还是认为在AI的发展过程中，SFT和IG应该优先发展SFT。

　　首先第一问，您方刚刚认为SST更适用于高质量训练领域，那么请问您是否承认高质量训练需要大量的人工标注、专家审核和实际维护？

　　我现在可以回答吗？ 　　可以。 　　我方并不是说它不是基于这个，而是说在AI的发展过程中应该更加注重SFT，它要对这个模型进行训练，不只是说是基石。因为IAG的话，它是构建了一个基石，我方强调的是构建过程中的SFT的重要性。

　　不是只有5秒吗？它是5秒保护时间，5秒之后可以打断，现在可以打断。这是你方的原话。 　　既然企业知识持续在变化，那么您方一次的高质量训练，如何保证这半年之后的知识仍然有效呢？

　　那我这边有第二问，就是您发动一次性投入，后期长期使用。如果说企业新增1000条，国家修改五百条业务规则，增加新的管理制度，这些变化技术模型需要重新训练吗？ 　　我方强调的是，对模型进行微调，因为在AI发展的过程中确实也会有各种各样的变化，这才有SFT的意义，也就是对这个模型不断的进行微调。

　　那这是我的问题，但我们今天讨论的是优先性的问题，因为时间有限，我们在后面继续讨论，谢谢。

　　好的，进入到我们的正方二辩的申论。

　　当时口误说错了，但错误数据更容易定位和替换。

　　如果一条引用了三处错误的答案，和一条没有引用的错误答案，你觉得用户更会相信哪一个？

　　你这是假定，并不是真实情况。在这个过程当中，不可能会有这么大的错误？那你这不是又在直接下定义吗？你能确定不会有这么多错误吗？这不就和你之前说百分之百不会产生错觉是一样的道理吗？

　　我说的是检索的错误和观测可评测，更加容易纠正。它没有办法保证完全正确，但是能够提供依据和核验路径。所以我就想问，如果用户在有引用的情况下，会相信还是相信一条没有引用的？

　　有引用格式的内容，用户可以查到，可以验证，而不是需要花比较多的成本去调试。

　　首先想先明确，反方二辩的申论发言，我会先梳理原始文本里的核心观点，再按照要求优化：

　　首先，先修正口语化的冗余和错误： 　　1. 删除“嗯”“那个”这类口头语，修正口误的地方，比如“RA”“SFT”“SVD”这些专业术语保留，还有“SSD”应该是口误？不对原始里是“SSD给出来的那个只是一个答案”，哦可能是转写错误？不对原始里前面是RAG？哦不对原始里有“RA的时，那个有RA的时候”，应该是转写把RAG写成RA了？不对用户给的原始文本里是RA，那保留？不对看后面“Rag只是告知”，哦对，原始里有“Rag”，应该是转写的时候把RAG写成RA了？不对看原始文本：“短期的验证RA可能会快一点”“在RA的时候”“Rag只是告知”，哦应该是转写的同音错误，RA应该是RAG？不对不对，用户给的原始文本里的术语是RA、SFT、SVD，还有后面的Rag，可能是转写的时候混了？不对不管，按照原始文本的专业术语保留，只是修正明显的口误，比如“一个一个一个模型形态”改成“一个模型形态”，“你你是”改成“你是”，“你你翻开”改成“你翻开”，“完全完全看不懂”改成“完全看不懂”，“我觉得”保留，还有“结，一个一个一个”改成“结局”？不对原始是“一个最后的一个结，一个一个一个模型形态”，应该是“一个最终的模型形态”？不对要保真，只是修正冗余的重复，比如“一个一个一个”改成“一个”。

　　然后分段： 　　首先是开篇的问题： 　　想先请教正方一辩、正方二辩，你们提到的场景基于什么样的企业规模？如果只是小型公司，短期验证RAG确实会快一些，但验证完成后，后期的维护场景是怎样的？ 　　如果是垂直教育、医疗云这类大型企业，仅依靠现有方案做维护，他们的SFT模型是否需要升级迭代？ 　　如果用户提出第二个问题时，系统仅给出答案而未提供执行方法，用户体验会非常差。 　　举个例子：如果是练武功的小白，拿到葵花宝典和降龙十八掌，翻开后完全看不懂内容，必须先提升自身能力才能练习，否则根本无法理解内容。

　　然后是成本和长期发展的部分： 　　虽然部分场景下，RAG的成本比SVD更低，但长期来看，SVD必然是发展方向，是最终的模型形态。 　　但从数据能力来看，仅依靠RAG时，系统仅会返回数据和策略，真正的执行仍需要依靠SFT。RAG只是告知模型需要关注的内容，真正能落地执行的是SFT。

　　然后是结束发言，还有后面的流程提示语全部删除。

　　等一下，原始文本里的“反方正方一辩，正方二辩”应该是“想先请教正方一辩、正方二辩”，因为原始是“我想先问一下，反方正方一辩，正方二辩”，应该是转写错误，应该是“想先请教正方一辩、正方二辩”，因为是反方二辩在盘问正方？不对当前环节是反方二辩申论，所以发言是反方二辩的内容，原始文本里的“反方正方一辩，正方二辩”应该是口误，应该是“想先请教正方一辩、正方二辩”。

　　还有原始文本里的“SSD”，应该是转写错误？因为上下文都是RAG、SFT、SVD，可能是“系统”？不对，原始文本里是“SSD给出来的那个只是一个答案”，可能是转写错误，但是如果不确定的话，暂时保留？不对，不对，可能是“RAG”？不，前面已经提了RAG，可能是“系统”？不对，用户要求保真，所以如果是转写的错误，但是原始文本里是SSD，那要不要保留？不对，看上下文“用户问的第二个问题，然后SSD给出来的那个只是一个答案”，可能是“系统”的转写错误，但是如果不确定的话，还是按照原始？不对，不对，可能是“RAG”？不，前面说的是RAG的验证，然后这里说的是给出答案，可能是“系统”，但是为了保真，还是保留？不对，不对，用户说“专业术语保留原始表述”，如果SSD不是专业术语，那可能是转写错误，但是原始文本里的其他术语是RA、SFT、SVD、Rag，所以可能是“RAG”的转写错误？不对，RA和Rag，可能是转写的时候把RAG写成RA了，因为后面有“Rag只是告知”，所以前面的“验证RA”应该是“验证RAG”，“在RA的时候”是“在RAG的时候”，这个是同音错字，应该修正。

　　哦对，步骤2里有修正同音错字，所以“RA”和后面的“Rag”应该是同一个术语，应该统一为RAG，因为“Rag”是RAG的小写，所以应该统一为RAG。

　　还有“短期的验证RA”改成“短期验证RAG”，“在RA的时候”改成“在使用RAG的时候”，“Rag只是告知”改成“RAG只是告知”。

　　然后“一个最后的一个结，一个一个一个模型形态”改成“最终的模型形态”，因为重复太多，而且是口误。

　　“你你是一个小那个练武功的小白”改成“如果是练武功的小白”，删除“那个”。

　　“你翻开了那个葵花版里面和降龙十八掌”改成“翻开葵花宝典和降龙十八掌”，删除“那个”，“葵花版”应该是“葵花宝典”，修正错字。

　　“你根本完全看不懂”改成“完全看不懂”，删除“根本”，重复。

　　“那我这边结束了”保留。

　　然后流程提示语“好的，我们进入盘问的环节...好的用时一共1分30秒”全部删除，因为步骤4是删除所有环节流程提示语。

　　现在整理一下：

　　想先请教正方一辩、正方二辩，你们提到的场景基于什么样的企业规模？如果只是小型公司，短期验证RAG确实会快一些，但验证完成后，后期的维护场景是怎样的？

　　如果是垂直教育、医疗云这类大型企业，仅依靠现有方案做维护，他们的SFT模型是否需要升级迭代？

　　如果用户提出第二个问题时，系统仅给出答案而未提供执行方法，用户体验会非常差。

　　举个例子：如果是练武功的小白，拿到葵花宝典和降龙十八掌，翻开后完全看不懂内容，必须先提升自身能力才能练习，否则根本无法理解内容。

　　虽然部分场景下，RAG的成本比SVD更低，但长期来看，SVD必然是发展方向，是最终的模型形态。

　　但从数据能力来看，仅依靠RAG时，系统仅会返回数据和策略，真正的执行仍需要依靠SFT。RAG只是告知模型需要关注的内容，真正能落地执行的是SFT。

　　我的发言结束。

　　等一下，原始文本里的“SSD给出来的那个只是一个答案”，这里的SSD是什么？哦，可能是转写错误，应该是“系统”？因为上下文里没有SSD这个术语，所以应该修正为“系统”？不对，用户说“专业术语保留原始表述”，如果SSD是专业术语，那保留，但如果是转写错误，那应该修正。看上下文，前面说的是用户的问题，然后系统给出答案，所以应该是“系统”，所以这里的SSD是转写错误，应该修正为“系统”。

　　还有原始文本里的“我再说，我再说一下”改成“另外”或者“还有”，更通顺。

　　哦，原始文本里的“然后我再说，我再说一下现在的那个，虽然说它的。成本比在那个在某些的场景下”，这里的“那个”“。”都是口语化的，应该修正为“另外，虽然部分场景下，RAG的成本比SVD更低”。

　　还有“在那个在某些的场景下”改成“在某些场景下”，删除重复的“在那个”。

　　“它的。成本”改成“其成本”，删除多余的标点。

　　“会会低一些”改成“会低一些”，删除重复的“会”。

　　“一个最后的一个结，一个一个一个模型形态”改成“是最终的模型形态”。

　　“那肯定你你只是在那个RA的时，那个有RA的时候”改成“但仅依靠RAG时，系统仅会返回数据和策略”，哦不对，原始文本是“但是但是对于数据方面的能力，那肯定你你只是在那个RA的时，那个有RA的时候，你只是给用户返回了一个数据，数据和一个一个策略”，这里的重复很多，应该修正为“但从数据能力来看，仅使用RAG时，系统仅会返回数据与策略”。

　　“真正的执行还是需要看SFT”改成“真正的落地执行仍需依靠SFT”。

　　“Rag只是告知告知那个模型，你看看到什么”改成“RAG只是为模型提供检索到的信息”，哦不对，要保真，不能改原意，原始是“Rag只是告知那个模型，你看看到什么”，所以应该修正为“RAG只是告知模型需要关注的内容”，删除重复的“告知”和“看”。

　　“真正能做的是SF进去来来执执行在这个地方”改成“真正能落地执行的是SFT”，删除多余的“进去来来”。

　　现在再调整得更通顺，同时保留原意：

　　想先请教正方一辩、正方二辩，你们提到的场景基于什么样的企业规模？如果只是小型公司，短期验证RAG确实会快一些，但验证完成后，后期的维护场景是怎样的？

　　如果是垂直教育、医疗云这类大型企业，仅依靠现有方案做维护，他们的SFT模型是否需要升级迭代？

　　如果用户提出第二个问题时，系统仅给出答案而未提供执行方法，用户体验会非常差。

　　举个例子：如果是练武功的小白，拿到葵花宝典和降龙十八掌，翻开后完全看不懂内容，必须先提升自身能力才能练习，否则根本无法理解内容。

　　另外，虽然部分场景下，RAG的成本比SVD更低，但长期来看，SVD必然是发展方向，是最终的模型形态。

　　但从数据能力来看，仅使用RAG时，系统仅会返回数据与策略，真正的落地执行仍需依靠SFT。RAG只是告知模型需要关注的内容，真正能落地执行的是SFT。

　　我的发言结束。

　　等一下，原始文本里的“反方正方一辩，正方二辩”，是不是“正方一辩、正方二辩”？因为反方二辩在发言，所以应该是请教正方的辩手，所以原始的“反方正方一辩”是转写错误，应该是“正方一辩、正方二辩”，对吗？因为如果是反方的话，应该是“正方一辩、正方二辩”，所以这里修正这个错字。

　　还有原始文本里的“你前面说的那个就场景”改成“你们提到的场景”，删除“那个就”。

　　哦，对，原始文本开头是“我想先问一下，反方正方一辩，正方二辩，你前面说的那个就场景是基于什么样的一个企业规模？”，这里的“反方正方一辩”明显是转写错误，应该是“正方一辩、正方二辩”，“你前面说的那个就场景”改成“你们提到的场景”，这样更通顺。

　　现在再整合一下，最终的文本应该是：

　　想先请教正方一辩、正方二辩，你们提到的场景基于什么样的企业规模？如果只是小型公司，短期验证RAG确实会快一些，但验证完成后，后期的维护场景是怎样的？

　　如果是垂直教育、医疗云这类大型企业，仅依靠现有方案做维护，他们的SFT模型是否需要升级迭代？

　　如果用户提出第二个问题时，系统仅给出答案而未提供执行方法，用户体验会非常差。

　　举个例子：如果是练武功的小白，拿到葵花宝典和降龙十八掌，翻开后完全看不懂内容，必须先提升自身能力才能练习，否则根本无法理解内容。

　　另外，虽然部分场景下，RAG的成本比SVD更低，但长期来看，SVD必然是发展方向，是最终的模型形态。

　　但从数据能力来看，仅使用RAG时，系统仅会返回数据与策略，真正的落地执行仍需依靠SFT。RAG只是告知模型需要关注的内容，真正能落地执行的是SFT。

　　我的发言结束。

　　不对，原始文本里的“SSD给出来的那个只是一个答案”，我刚才改成了“系统”，对吗？因为SSD是转写错误，上下文里没有这个术语，所以应该修正为“系统”，对吗？是的，因为如果保留SSD的话，会很奇怪，所以这里应该修正为“系统”。

　　还有原始文本里的“然后如果说你是个大公司，像那种垂直领域的教育行业，医疗云，还有一些企业类型的话”，改成“如果是垂直教育、医疗云这类大型企业”，更通顺。

　　还有“他们如果只只用那个去做为一个维护”改成“仅依靠现有方案做维护”，删除重复的“如果”“只只用”“那个”。

　　还有“那他们的那个SFT是模型是不是需要。去做一个升级迭代”改成“他们的SFT模型是否需要升级迭代”，删除多余的标点和“那个”。

　　对，这样就符合要求了。</think_never_used_51bce0c785ca2f68081bfa7d91973934>想先请教正方一辩、正方二辩，你们提到的场景基于什么样的企业规模？如果只是小型公司，短期验证RAG确实会快一些，但验证完成后，后期的维护场景是怎样的？

　　如果是垂直教育、医疗云这类大型企业，仅依靠现有方案做维护，他们的SFT模型是否需要升级迭代？

　　如果用户提出第二个问题时，系统仅给出答案而未提供执行方法，用户体验会非常差。

　　举个例子：如果是练武功的小白，拿到葵花宝典和降龙十八掌，翻开后完全看不懂内容，必须先提升自身能力才能练习，否则根本无法理解内容。

　　另外，虽然部分场景下，RAG的成本比SVD更低，但长期来看，SVD必然是发展方向，是最终的模型形态。

　　但从数据能力来看，仅使用RAG时，系统仅会返回数据与策略，真正的落地执行仍需依靠SFT。RAG只是告知模型需要关注的内容，真正能落地执行的是SFT。

　　我的发言结束。

　　首先我刚才就是说根据他这一点，我就想说，其实就是根据这个Red的能力问题，他说也是会说是不会有百分之百的确定的，那我其实也是说，这其实数据就是私有的，他不能说如果RAG答案上线被锁死，检索一错就全盘皆错了吧。那其实对方的定义就是这样子，而我们觉得就应该更加去训练模型，然后用模型，用模型是底座，就像其实就像是一个，医生你不会说我就抱着一整座的医书，就去给别人看病的吧。我们肯定也要有自己的基础，就是相当于医术这样子。

　　好了，我总结结束了。现在我们进入到下一个环节，由我们的正方三辩来盘问对方除反方三辩以外的选手，我们的正方三辩要盘问谁？

　　在吗？在的，好的，准备开始。OK，我先问一下对方辩友，请问把企业知识写入模型参数以后，某条政策某条制度如果出现错误，能不能像RAG一样，直接找到对应文档并删除？能还是不能？ 　　啥？你可以再说一遍吗？ 　　我说就是，如果你把一项企业的规章制度写入了模型以后，它出现错误能不能像RAG一样直接找到对应的文档并删除和修改？能还是不能？ 　　要说这个功能是没有，但是，那我觉得那我们在知识纠错和回滚方面，为什么会觉得SFT要优先于RAG呢。因为就像你刚才说的，这个问题如果出现的话，它就可以把它。 　　OK，下一个问题，SMT输出某项企业规定的时候，能不能直接展示该结论对应的原始文件页码和段落？能还是不能？ 　　直接检索的话没有。不能。 　　就是说，那如果说面对审计法务还有内部制度问答这种回答，我怎么能验证他不是编出来的？ 　　注意一下对方有5秒保护时间，让他回答完5秒之后再发问。 　　OK啊，就是刚才你说这些，其实就是说能不能查到原文件这个问题。但是关于这个，如果真的是有需求的话，他需要有这个要求的话，那是可以通过后期的SFT来设置这些东西，就是设置这个功能。 　　那你觉得就是不同企业拥有完全不同的私域知识吗？就是我们SFT是每家企业需要分别训练，还是说训练一个模型，所有企业通用？ 　　他是就是因为每家企业他要进行每家企业单独的SFT，那我们大量的企业训练评测和维护成本应该怎么支撑呢？ 　　就是要这么讲的话，那所有的用一个模型就好了，他就不需要训练自己专属的一些东西了，也不用说叫豆包或者是叫千问了。那大家用一个就好了，对不对。 　　好的，我们的时间到了，接下来进行我们的正方盘问的小结。

　　时间一分钟，准备好了，随时开始。OK，就是说刚才举的那个例子，大部分时候我们企业还是小型企业对吧，也就是说，大部分情况下，我们的SFT优先级其实并没有大于RAG的精准建立。

　　对方刚才也承认了SFT是需要重新训练的。如果我们的业务发生变化以后，SFT需要重新准备数据并且训练，我觉得它的更新链条要比RAG长得多，试错成本也高得多。我方也没有否认说SFT适合优化稳定格式和一些任务的能力。

　　但是，AI应用我觉得应该首先要解决的是依据什么回答，然后才是怎么回答。也就是说对方辩友举的这个例子，我再举一个反例：如果一个特别聪明的人，不知道任何法律条文的话，那他也是解决不了问题的。

　　下一个环节开始了，是我们的正方四辩的补充。

　　时间一分钟，准备好了，随时开始。大家好，我是反方四辩。刚刚对方三辩说接最新的知识，它是信息的更新，而不是能力的更新。正方混淆了知识更新和能力更新。SFT不是为了把所有知识塞进模型，而是训练模型掌握稳定的业务能力。业务交给RAG，稳定的业务能力交给SFT，两者解决的问题完全不同。那么请问正方是否认为一个员工只要拥有公司的全部资料，就可以自动成为优秀员工？

　　还有对方二辩的合规问题，SFT不是天然不合规，关键在于数据的治理。安全也不是天然的，关键同样在于权限、数据治理和架构设计，这也需要处理数据权限、敏感信息脱敏、访问控制。如果知识库权限管理不好，同样可能把敏感数据泄露给无权查看的人。

　　我们的下一个环节是自由辩环节，自由辩论环节采用双方轮换发言，一方回答结束后，另一方才可以发言，每方不能让连续两名队友进行发言，单方回答时间不限，在一方时间结束之后，另一方如果有时间剩余可进行发言。

　　4分钟计时开始。准备好了吗？我们先由正方开始发言。正方有没有话说？正方谁先开始？好，我倒数五下我们开始计时，那就我来说吧。正方，正方，正方形好，正方形开始，我倒数五下开始，54321开始，那我先来吧。就是您方提及S，FT是一次性投入，长期使用，这个话题因为我刚刚提问过，且时间有限，既然是长期使用，请问如果企业新增1000条产品资料，修改500条业务规则，新增的制度进入模型需要重新训练吗？

　　反方辩友一直在说训练的问题，但对方辩友混淆了训练成本和产品成本。作为AI产品经理，我们关注的不仅是开发成本，更是长期运营成本和商业价值。看似便宜，但企业真实落地时，包括知识清洗、In白优化等大量的企业RA项目，最后发现并不是搭建了知识库就能成功的。企业不是为了最低成本上线一个demo，而是为了最低成本运营一个长期产生价值的项目。请问对方辩友，如果RAG成本低，但用户体验差，无法完成任务，这个低成本是否还有意义？

　　刚刚对方也承认了需要重新训练，那是否意味着企业每一次知识的变化都需要承担重新采集数据、训练评估和部署的成本？embedding成本怎么算？而且我们作为AI产品经理，你只看到了前期的那些成本，后期呢？后期如何应对？还有，你没有正面回答我，如果RAG成本低，但用户体验差，无法完成任务，这个低成本是否有意义？

　　低成本只是因为我们在这次的辩题是优先拿一个。初期，你不能和老板说我们这个就行，你们要上，起码要给老板一个期许，先把这个做了，然后再进行优化。我们从来没有否认过SFT的属性，而且我们认为RAG和SFT其实是结合的方式，只是我们更认为优先RAG。反方还有话说吗？

　　哦，我说一下吧。但是增量微调，现在其实价格并不贵，而且每次都是应用核心能力、推理和风格合规，十几年不会变的，真正变的不就是那些信息吗？那你说十几年不会变的话，那我问你，SFT是不是相当于买房一次性投入？那RAG是租房，那你每次如果后面成本越来越高的话，那你为什么不直接去买一个房呢？那就是为什么不直接去SFT一次呢？

　　我并没有承认说要优先于说一定是SFT，但是你没有一个好的地基，那你应该怎么去做后面的RAG呢？好，结束了。其实对方辩友的观点我非常认同，就像租房或买房。但是一上来就和老板说我要买房，那你不应该先让他先租房，先证明一些东西一定有效，然后产生一定成效之后再上买房吗？那我觉得我们我方这个RA就相当于地基，我这次都是基于对方这个观点进行提炼的，不知道对方这一点是否是因为认同我们说错了，还是说单纯觉得一上来就买房会更合适。

　　首先，我直接强调的是，你说的微调，其实现在价格成本如果是小的微调，价格成本是很低的。其次，我说的租房和买房其实都是要规模化的，所以这不是一个概念。我们规模化这个事情，是你后面才需要考虑。我们今天的辩题是优先度啊。然后AI应用我觉得应该就是首先要解决依据什么回答，然后才是怎么回答。

　　晚风。OK，一开始主要是你们在说成本，所以你们一直在往成本这边引。然后我争论了成本，其实如果多策的话，SFT的成本和RA的成本并不是说SFT的成本就低。所以我就觉得如果是一个地基的话，刚才说是RAG是地基，这个观点我是不承认的。一个模型的地基难道不应该是SFT后的吗？

　　OK，正好。资源有限的情况下，我们就是应该先先用RAG建立一个可以更新可以核验的知识基础。就是你不确定这间房子好不好的情况下，你是不是要先住一住，然后确定你的知识系统OK了以后，再用SFT去训练稳定行为。先连接正确的知识，再训练稳定行为，这样才是一个可靠的发展顺序。

　　OK，那我就想问，如果你的时候是没有模型的吗？你这一点真的是很搞笑，就是你把SFT做到极致和短暂地把RAG做到没有错误，或者说跟你的业务结合哪个重要。如果小公司甚至都没有去SFT优化的成本，但是RAG的话，我觉得只要你有内部的企业内部的信息，你其实是有希望把它做的很正确的。

　　晚风。嗯，首先您是在想小公司，其实我之前一直说过了，其实微调的成本现在已经不高了，就一张消费级显卡就能调了。

　　OK，对方辩友有说RAG上线后是快速验证，是一次性的交付嘛，但是我们说AI产品经理啊，我们不仅是上线后的一次性交付，上线后还是要关注用户是否持续使用，是否形成竞争壁垒。那么如果现在的商家都是用一个大模型加一个知识库，它是没有商业壁垒的，不能快速进行商业沉淀，那么所以呢，我们还是要坚持监督微调的，你们的这个场景上不太适合长期的一个应用。

　　你这个话你确定你是在从反方的方向说啊？我们RAG才是能够直接去展示哪一个文件页、它的页码或者段落，哪一个地方错了。你不断的微调，那我问你，你能通过模型的微调先确认它的问题吗？就是在模型情况下的问题，如果它出现了错误，你能马上精确的定位到是哪个页码和段落吗？这难道不应该是RAG才能有能力做到的事情？

　　那我问你，那个能从检索资料按指令把材料变成答案的模型从哪来的？那不就是SFT训练出来的吗？所以你外头解决的是知不知道，但是SFT解决的是会不会想。SFT改的就是模型本身，你这个改是为给模型，为的是什么？所以模型本身需要的还是SFT。能明白吗？

　　正方的其他辩友没有话说了。嗯。我来解释一下吧，就是刚才小唐市频问的这个问题，SFD就好比于一个很大的一个蛋糕，但是这个蛋糕它并不适合每一个，现在很多还是小企业比较多的，并不适合每一个小企业，对吧？有的小企业可能喜欢吃咸的，有的可能喜欢吃甜的。我们现在讨论AI发展应用中的一个问题。

　　好的，我们反方还有5秒钟。还需要发言吗？在长期的发展中啊，请问一下为什么现在的cloud code已经放弃了呢？好的，我们的这一局自由辩论时间已经结束了。接下来我们要进行总结陈述环节，由反方五辩先进行陈述。

　　整场辩论时长3分钟，可随时开始。我来梳理一下：对方整场翻来覆去就那几句话，称RAG省钱且能快速上线，这些我们都认可。但今天的辩题并非讨论哪个操作更省事，而是在AI应用的发展过程中，哪个应该优先发展。省事的选择和值得投入资源的方向并非一回事，这点对方始终回避一个核心问题：能看懂检索资料、听懂命令，将材料转化为可靠答案的模型从何而来？答案是SFT训练出来的。每一次RAG的成功，本质都是依托SFT作为基础。这个问题我们整场都在追问，对方从未正面回应。

　　说得更直白些，RAG解决的是“知不知道”的问题，SFT解决的是“会不会想”的问题。想要输出内容随时可调整，自身的能力却需要逐步打磨。我们需要通过监督微调，逐步纠正模型的问题，这正是SFT的核心价值。一个应用真正拉开差距的，并非接入哪个数据库——谁都能接入知识库，即便使用同样的资料，模型能否思考准确、输出稳定，才是无法被复制的核心竞争力，毕竟知识库可以直接复制。

　　因此我方坚持优先发展SFT，而非先推进RAG。要分清本末：如果只会查资料却不会思考，那查询的结果也必然是错误的。必须先将模型训练成具备思考能力的模型，再为其搭配合适的知识库。AI应用的未来，绝非看哪个上线速度最快，而是要优先发展SFT。

　　时间还剩50秒，需要补充发言吗？那我再总结一下：一个应用的价值由其上限决定，模型的上限体现在SFT中，而非RAG。必须先扎实练好基本功，再谈招式与外挂。

　　时间还剩30秒，最后总结一句话：我方坚持优先发展SFT，这是最基础的核心环节，没有SFT就无从谈起后续发展。Right，OK，结束。