模型微调的一个关键优势是：因为不涉及额外的检索步骤，它有可能在推理过程中提高性能并降低延迟。这使得微调模型非常适合低延迟和高吞吐量至关重要的场景，例如实时对话式 AI 应用程序
模型微调也有其自身的挑战。与 RAG 相比，它通常需要更大的计算资源投入。因为它需要标记、精选数据进行训练，以及微调过程本身的额外计算资源。此外，微调模型可能会难以应对快速变化的数据，因为模型需要定期重新训练才能有效地整合新信息。
可以在《Generative AI on Amazon》一书中找到模型微调的实际示例。该书作者提供了示例代码，指导用户使用 Amazon SageMaker JumpStart 在 Dolly 数据集的子集上微调 Llama 2 模型
RAG概述
RAG 是一种将 LLM 的强大功能与信息检索技术相结合的方法。在 RAG 设置中，模型可以根据提供的提示生成文本，从知识库或语料库中获取相关信息以增强模型的输出。
在处理频繁变化的数据或领域知识太广泛而无法仅通过微调模型有效捕获时，RAG 特别有用。新闻机构、媒体和处理快速变化信息的组织通常会受益于 RAG 方法，因为他们可以轻松更新知识库，而无需重新训练整个模型。
RAG 的关键优势之一在于其灵活性和易于实施性。由于不需要大量训练，因此与微调相比，RAG 系统可以相对快速地建立，并且初始成本较低。但是，由于额外的检索步骤，RAG 往往比微调模型慢，并且由于涉及多个组件（如矢量数据库、嵌入模型和文档加载器）的协同工作，使得其实现的架构可能会变得比较复杂。
关于基于 RAG 搭建的完整实现代码示例，可以参考 Amazon Bedrock Workshop 提供的一个精彩案例。该案例以亚马逊云科技过去几年来的致股东信作为外部文本语料库，这个外部知识库允许 RAG 系统通过从语料库中检索相关信息来获得更好的问答结果。通过利用这些检索到的知识增强语言模型的输出，基础模型可以生成更多针对特定上下文且准确的响应，而无需持续重新训练。
微调
何时使用微调：
领域专门任务：微调非常适合精度和性能至关重要的领域专门任务。例如，如果你正在开发医学诊断模型，则对精选的医疗记录数据集进行微调将产生更高更准确的模型输出结果。
高性能和低延迟：如果你的应用程序需要低延迟和高吞吐量，则模型微调是更好的选择。微调模型不需要额外的检索步骤，从而使其推理速度更快。
精选数据集：如果你可以访问与特定任务相关的定义明确、标记和精选的数据集，则微调可以利用这些数据来优化性能。
预测质量：对于预测质量和准确性至关重要的任务，模型微调允许你根据特定要求定制模型。
微调的优势：
高性能：针对特定任务进行了优化，从而提高了模型输出的准确性和性能。
低延迟：推理时间更快，因为不需要额外的检索步骤。
任务特异性：经过量身定制，可在所训练的特定任务上表现出色。
微调的权衡（Trade-Offs）：
成本：微调需要大量的模型训练所需的计算资源投入，包括抓取、转换和清理数据等数据预处理的成本。
缺乏泛化能力：微调模型高度专业化，这意味着不同的任务需要不同的模型。
不适合频繁变化的数据：由于模型是在静态数据集上训练的，因此它不能很好地适应动态数据环境。
RAG
何时使用 RAG：
频繁变化的数据：当数据频繁变化时，例如在新闻机构或媒体机构中，由于信息变化量巨大，因此 RAG 是首选，模型无需重新训练即可检索最新信息。
广泛的领域知识：如果你的应用程序涵盖广泛的主题或领域，RAG 可以通过动态检索相关信息来有效地处理多样性。
标记数据有限：当缺少大量优质的标记数据时，RAG 就非常有帮助。它可以使用预先训练的模型从外部数据源来检索上下文，从而减少对大量训练数据的需求。
成本和时间效率：RAG 可以快速实施，初始成本较低，因为它避免了极为耗时耗资源的模型再训练过程。
RAG 的优点：
灵活性：通过动态检索相关信息来处理各种各样的任务。
较低的初始成本：避免与训练相关的成本，使其更易于访问和部署更快。
保留泛化：基础模型保持不变，保持其在不同任务中进行泛化的能力。
RAG 的权衡：
推理速度较慢：由于 RAG 架构中增加了外部信息源检索这一步骤，因此会相应增加延迟，使 RAG 与微调模型相比响应速度会更慢。
复杂性：由于 RAG 涉及多个组件，例如矢量数据库、嵌入模型和文档加载器，这可能会使系统复杂化。
更高的令牌（Token）使用率：由于 RAG 需要解析查询和上下文，从而导致每个提示的令牌使用量增加。
选择准则小结：
性能敏感性：如果你的应用程序需要高性能、低延迟和针对狭窄领域的高质量预测，则建议使用模型微调方法。
动态数据环境：对于处理频繁更新信息或广泛领域知识的应用程序，RAG 通常是更实用且更具成本效益的解决方案。
通过仔细评估你的用例和要求，你可以选择最合适的方法，平衡成本、性能和复杂性之间的权衡。无论你选择微调还是 RAG，每种方法都具有独特的优势，可以利用这些优势来满足你的特定业务需求。
评论区