何时应用 RAG 与微调
充分发挥 LLM 的潜力需要在检索增强生成（RAG）和微调之间选择正确的技术。 让我们来看看何时对 LLM、较小的模型和预训练模型使用 RAG 与微调。我们将介绍： LLM 和 RAG 的简要背景 RAG 相对于微调 LLM 的优势 何时针对不同模型大小对 RAG 进行微调 对预训练模型使用 RAG 和微调 RAG 和微调的金融服务示例 实际考虑和建议 LLM 和 RAG 背景 大型语言模型利用一种称为预训练的技术，对互联网、代码、社交媒体和书籍等大量文本数据集进行预训练。这使他们能够生成文本、回答问题、翻译语言等，而无需任何特定于任务的数据。然而，他们的知识仍然有限。 检索增强生成 (RAG) 通过在生成文本之前从数据库中检索相关知识作为上下文来增强 LLMs。例如，财务顾问 LLM 可以在提出财务建议之前检索客户的投资历史和概况。 检索增强结合了 LLMs 理解语言的能力与特定领域数据库中相关知识的优势。与普通的 LLMs 相比，这使得 RAG 系统知识更丰富、更一致、更安全。 RAG 相对于微调 LLM 的优势 微调通过针对特定领域的数据进行训练，使预训练的 LLM 适应特定...
