# 快速推理

vdr-2b-multi-v1 是一款由 Hugging Face 推出的多语言嵌入模型，专为视觉文档检索设计。该模型能够将文档页面截图编码为密集的单向量表示，无需 OCR 或数据提取流程即可搜索和查询多语言视觉丰富的文档。基于 MrLight/dse-qwen2-2b-mrl-v1 开发，使用自建的多语言查询 - 图像对数据集进行训练，是 mcdse-2b-v1 的升级版，性能更强大。模型支持意大利语、西班牙语、英语、法语和德语，拥有 50 万高质量样本的开源多语言合成训练数据集，具有低 VRAM 和快速推理的特点，在跨语言检索方面表现出色。

OnnxOCR是基于PaddleOCR重构的轻量级OCR模型，它脱离了PaddlePaddle深度学习训练框架，实现了快速的推理速度。该模型支持超过80种语言的推理，并在转换为ONNX模型后，推理速度比使用PaddlePaddle框架快5倍。OnnxOCR独立于深度学习训练框架，可以直接部署，适用于计算能力有限但需要保持准确性的场景，并且可以在ARM和x86架构的计算机上部署。

Swift是一个由Groq、Cartesia和Vercel支持的快速AI语音助手。它使用Groq进行OpenAI Whisper和Meta Llama 3的快速推理，Cartesia的Sonic语音模型进行快速语音合成，并实时流式传输到前端。VAD技术用于检测用户说话并运行语音片段上的回调。Swift是一个使用TypeScript编写的Next.js项目，并部署在Vercel上。