# 文本嵌入

Gemini Embedding 是 Google 推出的一種實驗性文本嵌入模型，通過 Gemini API 提供服務。該模型在多語言文本嵌入基準測試（MTEB）中表現卓越，超越了之前的頂尖模型。它能夠將文本轉換為高維數值向量，捕捉語義和上下文信息，廣泛應用於檢索、分類、相似性檢測等場景。Gemini Embedding 支持超過 100 種語言，具備 8K 輸入標記長度和 3K 輸出維度，同時引入了嵌套表示學習（MRL）技術，可靈活調整維度以滿足存儲需求。該模型目前處於實驗階段，未來將推出穩定版本。

Trieve Vector Inference是一個本地矢量推理解決方案，旨在解決文本嵌入服務的高延遲和高限制率問題。它允許用戶在自己的雲中託管專用的嵌入服務器，以實現更快的文本嵌入推理。該產品通過提供高性能的本地推理服務，幫助企業減少對外部服務的依賴，提高數據處理速度和效率。

Jina ColBERT v2是一個先進的晚交互檢索模型，基於ColBERT架構構建，支持89種語言，並提供優越的檢索性能、用戶可控的輸出維度和長達8192個token的文本處理能力。它在信息檢索領域具有革命性的意義，通過晚交互評分近似於交叉編碼器中的聯合查詢-文檔注意力，同時保持了接近傳統密集檢索模型的推理效率。

Snowflake Arctic Embed是一系列基於Apache 2.0許可開源的文本嵌入模型，專為檢索用例設計。這些模型在Massive Text Embedding Benchmark (MTEB)檢索基準測試中提供了領先的檢索性能，為組織在結合專有數據集與大型語言模型（LLMs）進行檢索增強生成（RAG）或語義搜索服務時提供了新的優勢。這些模型的尺寸從超小型（xs）到大型（l），具有不同的上下文窗口和參數數量，以滿足不同企業的延遲、成本和檢索性能需求。

E5-mistral-7b-instruct 是一個具有 32 層和 4096 個嵌入大小的文本嵌入模型。它可以用於編碼查詢和文檔，以生成語義向量表示。該模型使用自然語言任務描述指導文本嵌入過程，可以根據不同的任務進行定製。該模型在 MS-MARCO passage ranking 數據集上進行了訓練，可用於信息檢索、問答等自然語言處理任務。

Jina Embeddings V2 Base是一種英文文本嵌入模型，支持8192個序列長度。它基於Bert架構（JinaBert），支持ALiBi的對稱雙向變體，以允許更長的序列長度。該模型在C4數據集上進行了預訓練，並在Jina AI的超過4億個句子對和負樣本的集合上進行了進一步訓練。該模型適用於處理長文檔的多種用例，包括長文檔檢索、語義文本相似度、文本重排序、推薦、RAG和LLM基於生成式搜索等。模型具有137百萬個參數，推薦在單個GPU上進行推理。