# ローカル展開

Xark-Argoは、ユーザーが独自の大規模言語モデルを簡単に構築?利用できるように設計されたデスクトップクライアント製品です。MacOSとWindowsに対応した複数のオペレーティングシステムをサポートし、強力なローカルモデル展開機能を提供します。ollamaテクノロジーを統合することで、ユーザーはオープンソースモデルをワンクリックでダウンロードでき、ChatGPT、Claude、Siliconflowなどの大規模モデルAPIにも対応しており、利用ハードルを大幅に低減します。この製品は、テキストや知識管理を効率的に処理する必要がある個人および企業ユーザーに適しており、高い柔軟性と拡張性を備えています。現時点では明確な価格情報は公開されていませんが、その機能から、中高端ユーザー層をターゲットとしている可能性があります。

autoMateはOmniParserベースのAI + RPA自動化ツールで、自然言語によるタスク記述を通じて複雑な自動化プロセスを実現することを目指しています。ローカル展開に対応し、データの安全とプライバシーを保護しながら、コンピュータインターフェースを自動操作して複雑なワークフローを完了できます。このツールは、反復的なタスクを効率的に処理する必要があるユーザーを主な対象としており、時間を節約し、より価値のある仕事に集中できるように支援します。現在、この製品はGitHubでオープンソースとして公開されており、ユーザーは無料で使用できます。

Mistral Sabaは、Mistral AIが発表した、中東および南アジア地域に特化した初のカスタマイズ言語モデルです。240億のパラメータを持ち、厳選されたデータセットでトレーニングされており、同等の規模の大規模モデルと比較して、より正確で関連性の高い、低コストなレスポンスを提供します。アラビア語と複数のインド起源言語をサポートし、特に南インド言語（タミル語など）に優れており、正確な言語理解と文化的背景を必要とする場面に適しています。Mistral SabaはAPI経由で使用することも、ローカルに展開することもでき、軽量で単一GPUシステムへの展開と高速なレスポンスを特徴とし、エンタープライズアプリケーションに最適です。

Mistral Small 3は、Mistral AIによってリリースされた、24Bパラメーターを持つオープンソースの言語モデルです。Apache 2.0ライセンスを採用しており、低遅延と高効率な性能のために設計されているため、迅速なレスポンスが必要な生成AIタスクに適しています。多言語理解（MMLU）ベンチマークテストで81％の精度を達成し、毎秒150トークンの速度でテキストを生成できます。Mistral Small 3は、ローカル展開とカスタマイズ開発のための強力な基盤モデルを提供することを目的としており、金融サービス、医療、ロボティクスなど、さまざまな業界アプリケーションをサポートしています。強化学習（RL）や合成データによるトレーニングは行っていないため、モデルの生産パイプラインでは初期段階にあり、推論能力の構築に適しています。

Nexa AIは、企業向けのデバイス搭載型スマートAIソリューションを提供します。Tiny Multimodal Modelsとシームレスなエッジ展開ソリューションを含み、プライバシー保護、コスト効率、信頼性の高いデバイス上AI構築を目指しています。インターネット接続がない環境でも信頼性の高い機能を提供できる点が特長で、遠隔地、油田?ガス田、インターネット接続が制限された職場、極端な状況など、さまざまな困難な環境に適しています。Nexa AIは、企業向けにカスタマイズされたデバイス上モデルとローカル展開ソリューションを提供し、オンプレミスでもあらゆるデバイス上でも、制御と速度を向上させます。

Trieve Vector Inferenceは、テキスト埋め込みサービスの高遅延と高制限率の問題を解決することを目的とした、ローカルベクトル推論ソリューションです。ユーザーは独自のクラウドで専用の埋め込みサーバーをホストし、より高速なテキスト埋め込み推論を実現できます。この製品は、高性能なローカル推論サービスを提供することで、企業が外部サービスへの依存を減らし、データ処理速度と効率を向上させるのに役立ちます。

セルフホスト型AIスターターキットは、ユーザーが自社ハードウェア上でAIプロジェクトを迅速に開始できるように設計された、ローカル展開型のAIツールキットです。Docker Composeテンプレートを使用することで、ローカルAIツールの展開プロセスを簡素化します。このキットには、n8nと、Ollama、Qdrant、PostgreSQLなど厳選されたローカルAIツールが含まれており、セルフホスト型AIワークフローの迅速な構築をサポートします。データプライバシーの強化、外部APIへの依存の削減によるコスト削減が大きなメリットです。さらに、AIワークフローテンプレートとネットワーク設定を提供し、ローカル展開またはプライベートクラウドインスタンスでの展開をサポートします。

voicechat2は、WebSocketベースの高速で完全にローカル化されたAI音声チャットアプリケーションです。ユーザーはローカル環境で音声対音声のリアルタイム通信を実現できます。AMD RDNA3グラフィックスカードとFaster Whisperテクノロジーを活用することで、音声通信の遅延を大幅に削減し、通信効率を向上させます。この製品は、迅速な応答とリアルタイム通信が必要な開発者や技術者向けです。

bilibotはbilibiliユーザーのコメントデータでトレーニングされたローカルチャットボットで、テキストチャットと音声会話に対応しています。基盤モデルにはQwen-1.5-32B-Chatを使用し、Appleのmlx-lm LORAプロジェクトを用いてファインチューニングされています。音声生成部分はGPT-SoVITSプロジェクトに基づき、パイモン音声モデルを使用しています。高速な会話生成が可能で、インテリジェントな対話システムが必要な場面に適しています。

FunClipは、完全にオープンソースでローカルに展開できる自動動画編集ツールです。阿里巴巴通義實驗室がオープンソース化したFunASR Paraformerシリーズのモデルを使用して動画の音声認識を行い、ユーザーは認識結果のテキストセグメントや話者を自由に選択し、切り出しボタンをクリックするだけで対応する動画セグメントを取得できます。FunClipは阿里巴巴がオープンソース化したエンタープライズレベルのモデルParaformer-Largeを搭載しており、現在最も優れた認識効果を持つオープンソースの中国語ASRモデルの一つであり、タイムスタンプの高精度予測も可能です。