

Farfalle
简介 :
Farfalle是一个开源的AI驱动搜索引擎,它允许用户运行本地大型语言模型(LLMs)或使用云模型。它是基于Perplexity克隆的,可以与多种技术栈集成,如Next.js前端、FastAPI后端、Tavily搜索API等。它还提供了自定义设置的文档和演示视频,以帮助用户快速开始。
需求人群 :
Farfalle适合开发者和技术人员,特别是那些对AI驱动搜索技术感兴趣的人。它提供了一个开源的解决方案,使得个人和企业能够利用大型语言模型来增强搜索能力,无论是本地还是云端部署。
使用场景
开发者可以利用Farfalle创建个性化的AI搜索引擎。
企业可以部署Farfalle来提供内部搜索服务,提高员工的工作效率。
教育机构可以利用Farfalle作为教学工具,帮助学生更好地获取信息。
产品特色
支持本地运行大型语言模型如llama3、gemma、mistral。
支持云模型,如Groq/Llama3、OpenAI/gpt4-o。
提供Docker部署设置,方便用户部署。
集成了Tavily搜索API,无需外部依赖。
使用Logfire进行日志记录。
使用Redis进行速率限制。
提供详细的自定义设置文档。
使用教程
首先,确保安装了Docker和Ollama(如果运行本地模型)。
下载支持的模型之一:llama3、mistral或gemma。
启动Ollama服务器:ollama serve。
获取Tavily、OpenAI(可选)和Groq(可选)的API密钥。
克隆Farfalle仓库到本地。
在.env文件中添加必要的环境变量。
使用Docker Compose运行容器。
访问http://localhost:3000来查看应用程序。
精选AI产品推荐

Pseudoeditor
PseudoEditor是一款免费在线伪代码编辑器。它具有语法高亮、自动完成等功能,帮助您更轻松地编写伪代码。您还可以使用我们的伪代码编译器功能进行测试。无需下载,即可立即使用。
开发与工具
4.5M

Erbuilder
Softbuilder的AI-powered ER diagrams generation是一款基于人工智能技术的数据建模工具,能够根据自然语言的数据模型描述、用户故事或需求自动生成ER图。通过使用OpenAI GPT,它能够快速生成精美的ER图,大大提高了数据建模的效率。此外,它还提供数据模型文档、验证、探索等功能,可满足各种数据建模需求。Softbuilder的AI-powered ER diagrams generation适用于各类企业和组织,帮助用户轻松创建和管理数据模型。
开发与工具
4.1M