# ローカル推論

llmcはllama.cppをベースとしたローカル推論コマンドラインツールで、自然言語記述を実行可能なシェルコマンドに変換します。様々な事前設定済みモデルに対応しており、ユーザーは特定のワークフローに合わせてモデルをカスタマイズすることも可能です。主な利点としては、自然言語によるコマンド生成、モデルのカスタマイズ、複数操作モード、コマンド解釈、そして追跡機能などが挙げられます。llmcはguoriyue氏によって開発されたオープンソースプロジェクトであり、活発なコミュニティと継続的なアップデートが特徴です。無料のオープンソースツールとして位置付けられ、開発者や技術者の作業効率向上を目指しています。

DiffusionKitは、Appleシリコン搭載デバイスで拡散モデルのローカル推論を可能にするオープンソースプロジェクトです。PyTorchモデルをCore ML形式に変換し、MLXを使用して画像生成を行うことで、効率的な画像処理を実現しています。Stable Diffusion 3とFLUXモデルに対応し、画像生成と画像変換が可能です。

ローカルAI遊園地は、ローカルAIモデルの管理、検証、推論を行うデスクトップクライアントアプリケーションです。GPU不要で、技術的な設定ゼロのAI実験環境を提供します。ユーザーはローカルのオフライン環境でAIモデルを実行し、高いプライバシー保護を実現できます。シンプルで使いやすいインターフェースと強力な機能を備え、CPU推論、モデルのダウンロードと管理、モデルの完全性検証などの機能をサポートしています。ローカルAI遊園地は無料でオープンソースです。