# llm

GraphRAG Visualizerは、Microsoft GraphRAGツールによって生成されたデータを視覚化および探索することを目的としたウェブベースのツールです。GraphRAGは、グラフ構造データを生成するためにMicrosoftによって開発された技術であり、GraphRAG Visualizerを使用することで、ユーザーはParquetファイルをアップロードするだけで、追加のソフトウェアやスクリプトなしにデータを簡単に表示および分析できます。このツールの主な利点としては、グラフの可視化、データテーブルによる表示、検索機能、そしてローカルでのデータ処理によるデータの安全とプライバシーの確保が挙げられます。

ExtractousはRustで記述された非構造化データ抽出ツールで、複数の言語バインディングを提供します。PDF、Word、HTMLなど、様々なファイルタイプからのコンテンツとメタデータの抽出に特化しており、優れたパフォーマンスと低メモリ消費を実現しています。ネイティブコードで実行することで高速な処理速度と低メモリ使用を実現し、様々なファイル形式をサポート。Apache Tikaとtesseract-ocr技術を統合することで、幅広いファイルタイプを処理し、OCR認識も可能です。オープンソースであり、Apache 2.0ライセンスの下で商用利用も無料で可能です。大量の文書データを扱う企業や開発者にとって最適なツールです。

SidecarはAideエディタ向けに設計されたAIプラグインです。ローカルマシン上でエディタと連携し、プロンプトの作成、大規模言語モデル（LLM）との通信、それらの間のすべてのインタラクション処理を担当します。Sidecarの主な利点には、プログラミング効率の向上、スマートコード補完、統合されたAIアシスト開発などが含まれます。Rust言語で開発されており、パフォーマンスとセキュリティが確保されています。ローカルマシン上で効率的なプログラミングとコード管理が必要な開発者にとって最適です。

pdf-extract-apiは、最新のOCR技術とOllama対応モデルを使用して、あらゆるドキュメントや画像を構造化されたJSONまたはMarkdownテキストに変換するAPIです。FastAPIで構築されており、Celeryによる非同期タスク処理、RedisによるOCR結果のキャッシングを使用しています。クラウドや外部依存関係を必要とせず、すべての処理はローカル開発環境またはサーバー環境で行われ、データの安全性を確保します。PDFからMarkdownへの高精度変換（表データ、数値、数式を含む）をサポートし、Ollama対応モデルを使用してPDFからJSONへの変換も可能です。さらに、LLMによるOCR結果の改善、PDFからの個人情報（PII）の削除、分散キュー処理、キャッシングにも対応しています。

IncarnaMindは、GPT、Claude、ローカルのオープンソースLLMなどの大規模言語モデル（LLM）を使用して、個人ドキュメント（PDF、TXT）との双方向対話を実現するオープンソースプロジェクトです。スライドウィンドウ分割メカニズムと統合検索エンジンを利用することで、検索効率の向上とLLMの精度向上を実現しています。複数ドキュメントの対話型Q&Aに対応しており、単一ドキュメントの制限を打破し、様々なファイル形式とLLMモデルに対応しています。

Composioは、AIエージェントに高品質なツールと統合を提供するプラットフォームです。エージェントの認証、正確性、信頼性の問題を簡素化することで、開発者は一行のコードで複数のツールやフレームワークを統合できます。100種類以上のツールをサポートし、GitHub、Notion、Linearなど90以上のプラットフォームを網羅しており、ソフトウェア操作、OSとの連携、ブラウザ機能、検索、ソフトウェア開発環境（SWE）、そして即席代理データ（RAG）など、多様な機能を提供します。Composioは6種類の認証プロトコルをサポートし、エージェントによるツールの呼び出し精度を大幅に向上させます。さらに、Composioはアプリケーションのバックエンドサービスとして組み込むことができ、すべてのユーザーとエージェントの認証と統合を管理し、一貫性のあるエクスペリエンスを維持します。

DB-GPTはオープンソースのAIネイティブデータアプリケーション開発フレームワークです。AWEL（Agentic Workflow Expression Language）とエージェント技術を活用し、大規模言語モデルとデータの連携を簡素化します。多モデル管理、Text2SQL効果最適化、RAGフレームワーク最適化、多エージェントフレームワーク連携といった技術により、企業や開発者は少ないコードでカスタマイズされたアプリケーションを構築できます。DB-GPTはデータ3.0時代において、モデルとデータベースを基盤に、エンタープライズレベルのレポート分析とビジネスインサイトを提供する基盤データインテリジェンス技術を提供します。

juneは、Ollama、Hugging Face Transformers、Coqui TTS Toolkitを組み合わせたローカル音声チャットボットです。柔軟でプライバシーを重視したソリューションを提供し、ローカルマシン上で音声アシストによるインタラクションを実現します。データが外部サーバーに送信されることはありません。主な利点としては、インターネット接続不要、ユーザーのプライバシー保護、多様なインタラクションモードのサポートなどがあります。

ChatTTS-Forgeは、TTS生成モデルChatTTSを基盤としたプロジェクトです。APIサーバーとGradioベースのWebUIを実装しており、包括的なAPIサービスを提供します。1000文字以上の長文生成に対応し、一貫性を維持しながら、32種類の異なるスタイルを内蔵し、スタイル管理が可能です。

AutoCoderはコード生成タスク用に設計された新型モデルです。HumanEvalベンチマークデータセットにおけるテスト精度は、GPT-4 Turbo（2024年4月）やGPT-4oを上回っています。以前のオープンソースモデルと比較して、AutoCoderは新たな機能を提供します。必要なパッケージを自動的にインストールし、ユーザーがコードを実行したい場合、問題がないことを確認するまでコードの実行を試みます。

Farfalleは、ローカルの大規模言語モデル（LLM）を実行したり、クラウドモデルを使用したりできる、オープンソースのAI駆動型検索エンジンです。Perplexityをベースにクローン化されており、Next.jsフロントエンド、FastAPIバックエンド、Tavily検索APIなど、複数のテクノロジースタックと統合可能です。ユーザーが迅速に開始できるように、カスタマイズ設定に関するドキュメントとデモビデオも提供しています。

MaxKBは、LLM大規模言語モデルに基づく知識ベースQAシステムで、企業の強力な知能を目指しています。ドキュメントのアップロード、オンラインドキュメントの自動取得、優れたインタラクティブなインテリジェントなQ&Aに対応。サードパーティのビジネスシステムへの迅速な埋め込みをサポートします。技術スタックはVue.js、Python/Django、Langchain、PostgreSQL/pgvectorです。