# llm

GraphRAG Visualizer是一個基於網絡的工具，旨在可視化和探索微軟GraphRAG工具產生的數據。GraphRAG是微軟開發的一種用於生成圖結構數據的技術，GraphRAG Visualizer通過讓用戶上傳parquet文件，無需額外軟件或腳本即可輕鬆查看和分析數據。該工具的主要優點包括圖形可視化、數據表格展示、搜索功能以及本地處理數據，確保數據安全和隱私。

輕量級任務引擎，基於並行執行等原則構建。適合開發者和 AI 工程師構建複雜工作流和 AI 代理。免費。

AI-Data-Analysis-MultiAgent是一個高級的AI驅動研究助理系統，利用多個專業智能體協助進行數據分析、可視化和報告生成等任務。該系統採用LangChain、OpenAI的GPT模型和LangGraph處理複雜的研究流程，集成多樣化的AI架構以實現最佳性能。該系統的獨特之處在於集成了一個專門的Note Taker智能體，通過維護項目的簡潔而全面的記錄，可以降低計算開銷，提高不同分析階段之間的上下文保持能力，並實現更連貫一致的分析結果。

Extractous是一個用Rust編寫的非結構化數據提取工具，提供多語言綁定。它專注於從各種文件類型（如PDF、Word、HTML等）中提取內容和元數據，並且性能優異，內存佔用低。Extractous通過原生代碼執行實現快速處理速度和低內存使用，支持多種文件格式，並集成了Apache Tika和tesseract-ocr技術，使其能夠處理廣泛的文件類型並進行OCR識別。該工具的開源性質和Apache 2.0許可使其可以免費用於商業用途，適合需要處理大量文檔數據的企業和開發者。

Sidecar是為Aide編輯器設計的人工智能插件，它在本地機器上與編輯器一起工作，負責創建提示、與大型語言模型（LLM）通信以及處理它們之間的所有交互。Sidecar的主要優點包括提高編程效率、智能代碼補全和集成化的AI輔助開發。它基於Rust語言開發，確保了性能和安全性。Sidecar適用於需要在本地機器上進行高效編程和代碼管理的開發者。

pdf-extract-api是一個使用現代OCR技術和Ollama支持的模型將任何文檔或圖片轉換為結構化的JSON或Markdown文本的API。它使用FastAPI構建，並使用Celery進行異步任務處理，Redis用於緩存OCR結果。該API無需雲或外部依賴，所有處理都在本地開發或服務器環境中完成，確保數據安全。它支持PDF到Markdown的高精度轉換，包括表格數據、數字或數學公式，並且可以使用Ollama支持的模型進行PDF到JSON的轉換。此外，該API還支持LLM改進OCR結果，去除PDF中的個人身份信息（PII），以及分佈式隊列處理和緩存。

rag-chatbot是一個基於人工智能技術的聊天機器人模型，它能夠讓用戶通過自然語言與多個PDF文件進行交互。該模型使用了最新的機器學習技術，如Huggingface和Ollama，來實現對PDF內容的理解和回答生成。它的重要性在於能夠處理大量文檔信息，為用戶提供快速、準確的問答服務。產品背景信息表明，這是一個開源項目，旨在通過技術創新提升文檔處理的效率。目前該項目是免費的，主要面向開發者和技術愛好者。

gptme是一個運行在終端的個人AI助手，它裝備了本地工具，可以編寫代碼、使用終端、瀏覽網頁、視覺識別等。它是一個不受軟件、互聯網訪問、超時或隱私問題限制的ChatGPT“代碼解釋器”的本地替代方案。

CyberScraper 2077是一款基於AI的網頁爬蟲工具，它利用OpenAI和Ollama等大型語言模型(LLM)來智能解析網頁內容，提供數據提取服務。這款工具不僅擁有用戶友好的圖形界面，還支持多種數據導出格式，包括JSON、CSV、HTML、SQL和Excel。此外，它還具備隱形模式，以降低被檢測為機器人的風險，以及遵循robots.txt和網站政策的道德爬取特性。

Data-Juicer 是一個一站式的多模態數據處理系統，旨在為大型語言模型(LLMs)提供更高質量、更豐富、更易消化的數據。它提供了一個系統化和可複用的數據處理庫，支持數據與模型的協同開發，通過沙盒實驗室實現快速迭代，並提供基於數據和模型的反饋循環、可視化和多維度自動評估等功能，幫助用戶更好地理解和改進他們的數據和模型。Data-Juicer 正在積極更新和維護，定期增強和添加更多功能、數據配方和數據集。

AI Artifacts是一個開源的Anthropic Claude Artifacts界面版本，使用E2B的代碼解釋器SDK和核心SDK執行AI代碼。E2B提供了一個雲沙箱來安全地運行AI生成的代碼，並可以處理安裝庫、運行shell命令、運行Python、JavaScript、R以及Nextjs應用程序等。

IncarnaMind是一個開源項目，旨在通過大型語言模型（LLMs）如GPT、Claude和本地開源LLMs，實現與個人文檔（PDF、TXT）的交互對話。該項目利用滑動窗口分塊機制和集成檢索器，提高查詢效率，增強LLMs的準確性。它支持多文檔對話問答，突破了單文檔限制，併兼容多種文件格式和LLM模型。

Composio是一個為AI代理提供高質量工具和集成的平臺，它簡化了代理的認證、準確性和可靠性問題，使得開發者能夠通過一行代碼集成多種工具和框架。它支持100多種工具，覆蓋了GitHub、Notion、Linear等90多個平臺，提供了包括軟件操作、操作系統交互、瀏覽器功能、搜索、軟件開發環境（SWE）以及即席代理數據（RAG）等多種功能。Composio還支持六種不同的認證協議，能夠顯著提高代理調用工具的準確性。此外，Composio可以作為後端服務嵌入到應用程序中，為所有用戶和代理管理認證和集成，保持一致的體驗。

AgentScope是一個創新的多智能體平臺，旨在賦能開發者使用大規模模型構建多智能體應用。它具有易於使用、高魯棒性和基於Actor的分佈式特性，支持自定義容錯控制和重試機制，以增強應用穩定性。

Album AI是一個實驗性項目，它使用gpt-4o-mini作為視覺模型，自動識別相冊中圖像文件的元數據，並利用RAG技術實現與相冊的對話。它既可以作為傳統相冊使用，也可以作為圖像知識庫，輔助大型語言模型進行內容生成。

LazyLLM是一個致力於簡化人工智能應用構建流程的開發工具，它通過提供低代碼的解決方案，使得開發者即使不瞭解大模型也能輕鬆組裝包含多個Agent的AI應用。LazyLLM支持一鍵部署所有模塊，跨平臺兼容，自動進行網格搜索參數優化，以及高效的模型微調，從而提升應用效果。

Semantic Kernel是一個集成了大型語言模型（LLMs）如OpenAI、Azure OpenAI和Hugging Face的軟件開發工具包（SDK），它允許開發者通過定義可串聯的插件，在幾行代碼內實現與AI的交互。其特色在於能夠自動編排AI插件，使用戶能夠通過LLM生成實現特定目標的計劃，並由Semantic Kernel執行該計劃。

DB-GPT是一個開源的AI原生數據應用開發框架，利用AWEL(Agentic Workflow Expression Language)和代理(agent)技術，簡化了大型模型應用與數據的結合。它通過多模型管理、Text2SQL效果優化、RAG框架優化、多代理框架協作等技術能力，使企業和開發者能夠以更少的代碼構建定製化應用。DB-GPT在數據3.0時代，基於模型和數據庫，為構建企業級報告分析和業務洞察提供了基礎數據智能技術。

OpenAgents是一個開放平臺，旨在使用戶和開發者能夠在日常生活中使用和託管語言代理。該平臺已經實現了三種代理：數據分析的Data Agent、集成200+日常工具的Plugins Agent和自動網頁瀏覽的Web Agent。OpenAgents通過優化的Web UI使普通用戶能夠與代理功能進行交互，同時為開發者和研究人員提供在本地設置上的無縫部署體驗，為創新語言代理的構建和現實世界評估提供了基礎。

june是一個結合了Ollama、Hugging Face Transformers和Coqui TTS Toolkit的本地語音聊天機器人。它提供了一種靈活、注重隱私的解決方案，可以在本地機器上進行語音輔助交互，確保沒有數據被髮送到外部服務器。產品的主要優點包括無需聯網即可使用、保護用戶隱私、支持多種交互模式等。

ChatTTS-Forge是一個圍繞TTS生成模型ChatTTS開發的項目，實現了API服務器和基於Gradio的WebUI，能夠提供全面的API服務，支持生成1000字以上的長文本，保持一致性，並通過內置32種不同風格進行風格管理。

ModelScope-Agent是一個可定製且可擴展的代理框架，具備角色扮演、大型語言模型調用、工具使用、規劃和記憶等能力。它簡化了代理應用的實現過程，提供了豐富的模型和工具接口，統一的接口和高可擴展性，低耦合性，使得開發者可以輕鬆使用內置工具、LLM、記憶等組件，而無需綁定更高層次的代理。

AutoCoder是一個專為代碼生成任務設計的新型模型，其在HumanEval基準數據集上的測試準確率超過了GPT-4 Turbo（2024年4月）和GPT-4o。與之前的開源模型相比，AutoCoder提供了一個新功能：它可以自動安裝所需的包，並在用戶希望執行代碼時嘗試運行代碼，直到確定沒有問題。

llama-recipes是Meta Llama模型的配套倉庫，旨在提供一個可擴展的庫，用於微調Meta Llama模型，並提供一些示例腳本和筆記本，以便快速開始使用模型在各種用例中，包括領域適應的微調和構建基於LLM的應用程序。

Farfalle是一個開源的AI驅動搜索引擎，它允許用戶運行本地大型語言模型(LLMs)或使用雲模型。它是基於Perplexity克隆的，可以與多種技術棧集成，如Next.js前端、FastAPI後端、Tavily搜索API等。它還提供了自定義設置的文檔和演示視頻，以幫助用戶快速開始。

create-tsi是一個生成性AI RAG（Retrieval-Augmented Generation）工具包，用於低代碼生成AI應用程序。它利用LlamaIndex和T-Systems在Open Telekom Cloud上託管的大型語言模型（LLMs），簡化了AI應用程序的創建過程，使其變得快捷、靈活。用戶可以使用create-tsi生成聊天機器人、編寫代理並針對特定用例進行定製。

MaxKB 是一款基於 LLM 大語言模型的知識庫問答系統，旨在成為企業的最強大腦。支持文檔上傳、自動爬取在線文檔，智能問答交互體驗好。支持快速嵌入到第三方業務系統。技術棧包括 Vue.js、Python/Django、Langchain、PostgreSQL/pgvector。

ctoc是一個快速的代碼統計工具,可以統計代碼行數和token數量。它基於gocloc代碼統計工具進行擴展開發,兼容gocloc所有功能。ctoc非常適合用於大型代碼庫的token級別分析,可幫助進行prompt engineering以及模型token費用估算。