# LLMs

AI Builder's Program是一個為AI建設者設計的導師帶領的項目，致力於將有潛力的AI想法轉化為成功的產品。通過提供清晰的目標、技術支持和持續改進，幫助AI建設者在短時間內將創意變為實際應用。

MegaParse是一個強大的文件解析器，專為大型語言模型（LLMs）設計，以確保在解析過程中不丟失任何信息。它支持多種文件格式，包括PDF、PowerPoint、Word文檔等，並且是開源的。這個工具的主要優點是速度快、效率高，且能夠廣泛兼容不同文件類型。MegaParse的背景信息顯示，它是由QuivrHQ開發的，並且擁有活躍的社區和貢獻者。產品是免費的，並且可以通過GitHub訪問其源代碼。

Arch是一個開源的網關，專為處理提示（prompts）而設計，它利用快速的大型語言模型（LLMs）來處理提示，並與後端系統無縫集成。Arch基於Envoy構建，支持任何應用程序語言，並提供快速部署和透明升級。它提供了包括流量管理、前端/邊緣網關、監控和端到端追蹤在內的多種功能，幫助開發者構建快速、健壯和個性化的GenAI應用。

Kiroku是一個多代理系統，旨在幫助用戶組織和撰寫文檔。它通過模擬博士論文寫作過程中學生與導師的互動，讓寫作者扮演顧問的角色，而多代理系統則扮演學生的角色。這種流程的優勢在於能夠快速生成段落序列，通過迭代評估信息來改變溝通方式，並藉助大型語言模型（LLMs）討論複雜話題。Kiroku需要OPENAI_API_KEY和TAVILY_API_KEY來運行，支持Python 3.7至3.11版本。

curiosity是一個基於ReAct框架的聊天機器人項目，旨在通過LangGraph和FastHTML技術棧探索和構建類似Perplexity的用戶交互體驗。項目核心是一個簡單的ReAct代理，使用Tavily搜索增強文本生成。支持三種不同的LLMs（大型語言模型），包括OpenAI的gpt-4o-mini、Groq的llama3-groq-8b-8192-tool-use-preview以及Ollama的llama3.1。項目通過FastHTML構建前端，儘管在調試過程中可能遇到一些挑戰，但整體上提供了快速的用戶體驗。

llm_aided_ocr是一個高級系統，旨在顯著提高光學字符識別（OCR）輸出的質量。通過利用尖端的自然語言處理技術和大型語言模型（LLMs），該項目將原始OCR文本轉化為高度準確、格式良好、易讀的文檔。

Mastering LLMs 是一個由25多位行業資深人士主講的免費課程，涵蓋了評估、檢索增強生成（RAG）、微調等主題。課程內容由信息檢索、機器學習、推薦系統、MLOps和數據科學等領域的專家提供，旨在將這些領域的先前技術應用於LLMs，為用戶提供有意義的優勢。課程面向需要指導如何改進AI產品的技術IC（包括工程師和數據科學家）。

AnyNode是一個為ComfyUI設計的插件，它利用LLMs（大型語言模型）的能力，根據用戶的輸入生成所需的輸出。它支持使用OpenAI API或本地LLMs API，允許用戶通過簡單的配置和指令，實現複雜的編程任務，無需編寫代碼。該插件的主要優點包括易用性、靈活性和強大的功能，能夠顯著提高開發效率，尤其適合需要快速原型開發和自動化任務的開發者。

Skyvern是一個自動化工具，它結合了大型語言模型（LLMs）和計算機視覺技術，用於自動化基於瀏覽器的工作流程。它提供了一個簡單的API端點，可以完全自動化手動工作流程，替代易碎或不可靠的自動化解決方案。

Open WebUI是一個為LLMs（大型語言模型）設計的友好型Web用戶界面，支持Ollama和OpenAI兼容的API。它提供了直觀的聊天界面、響應式設計、快速響應性能、簡易安裝、代碼語法高亮、Markdown和LaTeX支持、本地RAG集成、Web瀏覽能力、提示預設支持、RLHF註釋、會話標記、模型下載/刪除、GGUF文件模型創建、多模型支持、多模態支持、模型文件構建器、協作聊天、OpenAI API集成等功能。

LanguageGUI是一個開源的設計系統和UI Kit，為LLMs提供了將文本輸出格式化為豐富圖形用戶界面的靈活性。它包括數十個獨特的UI元素，可用於豐富對話式用戶界面的不同用例。主要功能包括100個可自定義的UI組件和屏幕、10個對話式UI小部件、20個聊天氣泡、30個預建屏幕、5個可自定義設置的聊天側邊欄、多個提示框、深色模式等。LanguageGUI是免費的，可以用於個人或商業項目。它由Tonki Labs團隊開發，並以MIT許可證發佈。

LMOps是一個基於LLMs和生成式AI模型的AI產品的基礎研究和技術。它提供了自動提示優化、Promptist、可擴展的提示、通用提示檢索、LLM檢索等功能。此外，還包括結構化提示、可擴展的提示、LLM加速器、LLM定製化和理解上下文學習等基本功能。LMOps的鏈接包括microsoft/unilm和microsoft/torchscale等。它適用於各種場景，如文本到圖像生成、長序列提示消耗和擴展提示等。LMOps是一個開源項目，遵循MIT許可證。

Salk AI是一款基於人工智能的自動化任務工具，用戶只需輸入變量，AI即可自動連接數據，快速完成任務。Salk AI支持多種任務類型，包括Offer letter generation、Content Ideas、Sales Pitch、Onboarding Steps、Blog writing等。Salk AI具有數據隱私保護、多種LLMs支持、無需提示等優勢，可幫助企業提高工作效率，節省時間，減少錯誤。

xTuring是一個開源的人工智能個性化軟件。xTuring通過提供簡單的界面來為您的數據和應用程序個性化LLMs提供便利。xTuring提供了以下工具：使用不同方法微調LLMs、從數據源生成數據集、評估修改後的模型。xTuring的優勢在於簡單易用、計算和內存效率高、靈活可定製。xTuring可通過pip進行安裝。