# 快速推理

vdr-2b-multi-v1 是一款由 Hugging Face 推出的多語言嵌入模型，專為視覺文檔檢索設計。該模型能夠將文檔頁面截圖編碼為密集的單向量表示，無需 OCR 或數據提取流程即可搜索和查詢多語言視覺豐富的文檔。基於 MrLight/dse-qwen2-2b-mrl-v1 開發，使用自建的多語言查詢 - 圖像對數據集進行訓練，是 mcdse-2b-v1 的升級版，性能更強大。模型支持意大利語、西班牙語、英語、法語和德語，擁有 50 萬高質量樣本的開源多語言合成訓練數據集，具有低 VRAM 和快速推理的特點，在跨語言檢索方面表現出色。

OnnxOCR是基於PaddleOCR重構的輕量級OCR模型，它脫離了PaddlePaddle深度學習訓練框架，實現了快速的推理速度。該模型支持超過80種語言的推理，並在轉換為ONNX模型後，推理速度比使用PaddlePaddle框架快5倍。OnnxOCR獨立於深度學習訓練框架，可以直接部署，適用於計算能力有限但需要保持準確性的場景，並且可以在ARM和x86架構的計算機上部署。

Swift是一個由Groq、Cartesia和Vercel支持的快速AI語音助手。它使用Groq進行OpenAI Whisper和Meta Llama 3的快速推理，Cartesia的Sonic語音模型進行快速語音合成，並即時流式傳輸到前端。VAD技術用於檢測用戶說話並運行語音片段上的回調。Swift是一個使用TypeScript編寫的Next.js項目，並部署在Vercel上。