# ローカル実行

Opera Browser Operatorは、Operaブラウザに統合されたAIアシスタントです。ユーザーの自然言語による指示を理解し、オンラインショッピングや情報収集など、さまざまなタスクをブラウザ内で直接実行できます。この機能は、クラウドサーバーではなくローカルで処理されるため、ユーザーデータのプライバシーとセキュリティが確保されます。これは、ブラウザとAI技術の深い統合を示す将来的なトレンドであり、ユーザーが時間をより効率的に活用し、より意義のあることに集中できるようにすることを目指しています。

Site RAGは、自然言語処理技術を利用して、ユーザーがウェブページ閲覧中に迅速に質問への回答を得られるChrome拡張機能です。現在のページの内容をコンテキストとして問い合わせることができ、ウェブサイト全体の内容をベクトルデータベースにインデックスして、後続の検索強化生成（RAG）を行うことも可能です。この製品は完全にローカルブラウザ上で動作し、ユーザーデータの安全性を確保します。また、ローカルで実行中のOllamaインスタンスに接続して推論することもできます。開発者、研究者、学生など、ウェブページの内容から迅速に情報を抽出する必要があるユーザーを主な対象としています。現在、無料で提供されており、ウェブページ閲覧中にすぐにヘルプが必要なユーザーに適しています。

Codename Gooseは、開発者がエンジニアリングタスクを効率的に完了できるよう支援する、ローカルで動作するAIエージェントツールです。オープンソースとローカル実行を重視し、ユーザーがタスク実行を完全に制御できるようにします。外部サーバーまたはAPIに接続することで、ユーザーのニーズに合わせて拡張し、複雑なタスクの自動処理を実現し、開発者はより重要な業務に集中できます。Gooseのオープンソース特性は、開発者の貢献とイノベーションを促進し、ローカル実行モードはデータプライバシーとタスク実行効率を保証します。

video-analyzerは、Llamaの11BビジョンモデルとOpenAIのWhisperモデルを組み合わせた動画分析ツールです。キーフレームを抽出し、ビジョンモデルに入力して詳細情報を取得し、各フレームの詳細情報と利用可能な転写内容を組み合わせることで、動画の内容を記述します。このツールは、コンピュータビジョン、音声転写、自然言語処理を統合し、動画コンテンツの詳細な説明を生成します。主な利点として、クラウドサービスやAPIキーを必要とせず完全にローカルで動作すること、動画からキーフレームをインテリジェントに抽出すること、OpenAIのWhisperを用いた高品質な音声転写、OllamaとLlama3.2 11Bビジョンモデルを用いたフレーム分析、自然言語による動画コンテンツの説明生成などが挙げられます。

Custom Pilotは、Visual Studio Code拡張機能フレームワークです。ユーザーは、このフレームワークを使用して、カスタムコード補完モデルをVS Codeに簡単に統合できます。OpenAI APIフォーマットに準拠した任意のAPIサーバーをサポートしており、特に/v1/modelsと/v1/completionsの2つのエンドポイントを提供する必要があります。拡張機能のサイドバーパネルでAPIサーバーのURLを設定し、推論モデルを選択し、APIキー（必要な場合）を入力できます。さらに、Custom PilotはLM Studioと連携して、ローカルマシン上で大規模言語モデル（LLM）をオフラインで実行し、VS Codeでコード補完を行うことができます。

Proton Scribeは、Proton Mailに統合されたインテリジェントなライティングアシスタントです。プライバシーを最優先事項として、ユーザーがメールの下書きを作成および改良し、メール作成時間を節約し、最も機密性の高い貴重なデータを保護するのに役立ちます。Proton Scribeはローカルで実行されるように設計されているため、ユーザーデータがデバイスから送信されることはありません。Protonは、プライバシー保護AI技術の研究に継続的に取り組んでおり、2023年にはアカウント保護機能を強化するAIを活用したProton Sentinelを発表しました。Proton Scribeもオープンソースであり、独立したセキュリティとプライバシー監査を行うことができます。

MusicGPT は、最新の音楽生成AIモデルをあらゆるプラットフォームで高性能にローカル実行できるアプリケーションです。テキスト条件付き音楽生成、メロディー条件付き音楽生成、不定長/無限音楽ストリームに対応しています。Pythonや機械学習フレームワークなどのヘビーな依存関係をインストールする必要がなく、AIモデルをローカルで実行し、自然言語プロンプトによる音楽生成機能を提供するという点が特長です。

Phi-3 WebGPUは、Transformers.jsとonnxruntime-webを組み合わせたAIモデルです。WebGPUによる高速化技術を活用し、20t/sを超える処理速度を実現しています。全てのデータ処理はローカルで行われるため、ユーザーのプライバシーとセキュリティが確保されます。中国語の回答には幾つかの課題が残りますが、ブラウザ上でAIモデルを実行できる点は注目に値します。

Gravityは、Macのためのインテリジェントなアシスタントですが、非常にプライベートです。クラウドではなく、常にコンピュータ上に留まるため、あなただけが自分のデータにアクセスできます。バックグラウンドで静かに動作し、あなたのあらゆることを理解します。そのため、あなたが助けを求めたとき、文脈を理解しています。Gravityは、会議議事録の自動作成、フォローアップメールの下書き作成、タスクの抽出、重要な意思決定の検出を実行できます。ロボットは使用せず、すべての会議プラットフォームに対応しています。シークレットモードのウィンドウをデフォルトで除外する以外にも、記録しないアプリケーションを簡単に選択できます。すべてのモデルは、あなたのMac上でローカルに動作します。あなただけがデータにアクセスできます。インターネットは不要です。Gravityは、あなたが提示し、教えた内容から学習し、あなたがこれまでコンピュータを使用してきた方法と同じように思考します。GravityのLLMもローカルで動作します。つまり、すべてがクラウドにデータを送信することなく、あなたのデバイス上で直接実行できます。Gravityはデータプライバシーの保護に尽力しており、最もプライベートなAIアシスタントです。