# 檢索增強生成

ViDoRAG 是阿里巴巴自然語言處理團隊開發的一種新型多模態檢索增強生成框架，專為處理視覺豐富文檔的複雜推理任務設計。該框架通過動態迭代推理代理和高斯混合模型（GMM）驅動的多模態檢索策略，顯著提高了生成模型的魯棒性和準確性。ViDoRAG 的主要優點包括高效處理視覺和文本信息、支持多跳推理以及可擴展性強。該框架適用於需要從大規模文檔中檢索和生成信息的場景，例如智能問答、文檔分析和內容創作。其開源特性和靈活的模塊化設計使其成為研究人員和開發者在多模態生成領域的重要工具。

M2RAG是一個用於多模態上下文中的檢索增強生成的基準測試代碼庫。它通過多模態檢索文檔來回答問題，評估多模態大語言模型（MLLMs）在利用多模態上下文知識方面的能力。該模型在圖像描述、多模態問答、事實驗證和圖像重排等任務上進行了評估，旨在提升模型在多模態上下文學習中的有效性。M2RAG為研究人員提供了一個標準化的測試平臺，有助於推動多模態語言模型的發展。

bRAG-langchain是一個開源項目，專注於Retrieval-Augmented Generation (RAG)技術的研究與應用。RAG是一種結合了檢索和生成的AI技術，通過檢索相關文檔並生成回答，為用戶提供更準確、更豐富的信息。該項目提供了從基礎到高級的RAG實現指南，幫助開發者快速上手並構建自己的RAG應用。其主要優點是開源、靈活且易於擴展，適合各種需要自然語言處理和信息檢索的應用場景。

MiniRAG是一個針對小型語言模型設計的檢索增強生成系統，旨在簡化RAG流程並提高效率。它通過語義感知的異構圖索引機制和輕量級的拓撲增強檢索方法，解決了小型模型在傳統RAG框架中性能受限的問題。該模型在資源受限的場景下具有顯著優勢，如在移動設備或邊緣計算環境中。MiniRAG的開源特性也使其易於被開發者社區接受和改進。

CohereForAI/c4ai-command-r7b-12-2024是一個7B參數的多語言模型，專注於推理、總結、問答和代碼生成等高級任務。該模型支持檢索增強生成（RAG）和工具使用，能夠使用和組合多個工具來完成更復雜的任務。它在企業相關的代碼用例上表現優異，支持23種語言。

LlamaIndex.TS是一個為構建基於大型語言模型（LLM）的應用而設計的框架。它專注於幫助用戶攝取、結構化和訪問私有或特定領域的數據。這個框架提供了一個自然語言界面，用於連接人類和推斷出的數據，使得開發者無需成為機器學習或自然語言處理的專家，也能通過LLM增強其軟件功能。LlamaIndex.TS支持Node.js、Vercel Edge Functions和Deno等流行運行時環境。

Nemotron-Mini-4B-Instruct 是 NVIDIA 開發的一款小型語言模型，通過蒸餾、剪枝和量化優化，以提高速度和便於在設備上部署。它是從 Nemotron-4 15B 通過 NVIDIA 的大型語言模型壓縮技術剪枝和蒸餾得到的 nvidia/Minitron-4B-Base 的微調版本。此指令模型針對角色扮演、檢索增強問答（RAG QA）和功能調用進行了優化，支持 4096 個令牌的上下文長度，已準備好用於商業用途。

C4AI Command R 08-2024是由Cohere和Cohere For AI開發的35億參數大型語言模型，專為推理、總結和問答等多種用例優化。該模型支持23種語言的訓練，並在10種語言中進行了評估，具有高性能的RAG（檢索增強生成）能力。它通過監督式微調和偏好訓練，以符合人類對有用性和安全性的偏好。此外，該模型還具備對話工具使用能力，能夠通過特定的提示模板生成基於工具的響應。

C4AI Command R+ 08-2024是一個擁有104B參數的大規模研究發佈模型，具備高度先進的能力，包括檢索增強生成（RAG）和工具使用，以自動化複雜任務。該模型支持23種語言的訓練，並在10種語言中進行評估。它優化了多種用例，包括推理、總結和問答。

Easy-RAG是一個檢索增強生成(RAG)系統，它不僅適合學習者瞭解和掌握RAG技術，同時也便於開發者使用和進行自主擴展。該系統通過集成知識圖譜提取解析工具、rerank重新排序機制以及faiss向量數據庫等技術，提高了檢索效率和生成質量。

SaltAI Language Toolkit 是一個集成了檢索增強生成（RAG）工具 Llama-Index、微軟的 AutoGen 和 LlaVA-Next 的項目，通過 ComfyUI 的可適應節點接口，增強了平臺的功能和用戶體驗。該項目於2024年5月9日增加了代理功能。

HippoRAG是一個啟發自人類長期記憶的新型檢索增強生成(RAG)框架，它使得大型語言模型(LLMs)能夠持續地整合跨外部文檔的知識。該框架通過實驗表明，HippoRAG能夠以更低的計算成本提供通常需要昂貴且高延遲迭代LLM流水線的RAG系統能力。

Command-R是一個可擴展的生成型模型，旨在平衡高效率和強大的準確性，使企業能夠超越概念驗證階段，進入生產階段。它專為長內容任務設計，如使用外部API和工具的檢索增強生成。Command-R與Cohere的Embed和Rerank模型協同工作，為RAG應用提供一流的集成，並在企業用例中表現出色。

Superpowered.ai通過自主研發的技術組件SuperStack,解決了標準RAG流水線在實際使用中出現的許多失敗情況。SuperStack包含AutoQuery、相關段落提取和自動上下文注入等技術,可以轉換易混淆或表述不當的用戶輸入為良構的搜索查詢,動態檢索相關信息,確保語言模型充分理解每段文本的含義。通過Chat端點快速部署會話式AI應用;提供UI組件加速應用開發。可廣泛應用於客戶支持助理、員工生產力工具、教育應用、法律援助工具等場景。