# 本地運行

Opera Browser Operator 是一款集成在 Opera 瀏覽器中的 AI 助手，能夠理解用戶的自然語言指令並直接在瀏覽器中完成各種任務，如在線購物、信息收集等。這一功能通過本地處理而非雲端服務器，確保用戶數據的隱私和安全。它代表了瀏覽器與 AI 技術深度融合的未來趨勢，旨在幫助用戶更高效地利用時間，專注於更有意義的事情。

Site RAG 是一款 Chrome 擴展程序，旨在通過自然語言處理技術幫助用戶在瀏覽網頁時快速獲取問題答案。它支持將當前頁面內容作為上下文進行查詢，還能將整個網站內容索引到向量數據庫中，以便後續進行檢索增強生成（RAG）。該產品完全在本地瀏覽器運行，確保用戶數據安全，同時支持連接本地運行的 Ollama 實例進行推理。它主要面向需要快速從網頁內容中提取信息的用戶，如開發者、研究人員和學生。目前該產品免費提供，適合希望在瀏覽網頁時獲得即時幫助的用戶。

Codename Goose 是一款本地運行的人工智能代理工具，旨在幫助開發者高效完成工程任務。它強調開源和本地運行，確保用戶對任務執行有完全控制權。通過連接外部服務器或API，Goose 可以根據用戶需求進行擴展，實現複雜任務的自動化處理，從而讓開發者專注於更重要的工作。Goose 的開源特性鼓勵開發者參與貢獻和創新，其本地運行的模式保障了數據隱私和任務執行效率。

video-analyzer是一個視頻分析工具，它結合了Llama的11B視覺模型和OpenAI的Whisper模型，通過提取關鍵幀、將它們輸入視覺模型以獲取細節，並結合每個幀的細節和可用的轉錄內容來描述視頻中發生的事情。這個工具代表了計算機視覺、音頻轉錄和自然語言處理的結合，能夠生成視頻內容的詳細描述。它的主要優點包括完全本地運行無需雲服務或API密鑰、智能提取視頻關鍵幀、使用OpenAI的Whisper進行高質量音頻轉錄、使用Ollama和Llama3.2 11B視覺模型進行幀分析，以及生成自然語言描述的視頻內容。

Custom Pilot 是一個 Visual Studio Code 擴展框架，允許用戶輕鬆地將自定義的代碼補全模型集成到 VS Code 中。它支持使用任何遵循 OpenAI API 格式的 API 服務器，特別是需要提供 /v1/models 和 /v1/completions 兩個端點。用戶可以在擴展的側邊欄面板中設置 API 服務器的 URL、選擇推理模型，並輸入 API 密鑰（如果需要）。此外，Custom Pilot 還可以與 LM Studio 配合使用，允許用戶在本地機器上離線運行大型語言模型（LLMs），並通過 VS Code 進行代碼補全。

Proton Scribe是一個集成在Proton Mail中的智能寫作助手，它以隱私優先，可以幫助用戶撰寫和潤色郵件草稿，節省撰寫郵件的時間，同時保護最敏感、最有價值的數據。Proton Scribe設計為本地運行，確保用戶數據不會離開設備。Proton一直致力於研究保護隱私的AI技術，並在2023年推出了Proton Sentinel，這是第一個利用AI提供增強賬戶保護的功能。Proton Scribe也是開源的，可以進行獨立的安全和隱私審計。

MusicGPT 是一款允許在任何平臺上以高性能方式在本地運行最新音樂生成 AI 模型的應用程序。它支持文本條件音樂生成、旋律條件音樂生成以及不確定長度 / 無限音樂流。產品優勢在於無需安裝重型依賴如 Python 或機器學習框架，能夠本地運行 AI 模型，提供自然語言提示生成音樂的功能。

Phi-3 WebGPU是一款結合了Transformers.js和onnxruntime-web的AI模型，它利用WebGPU加速技術，提供超過20t/s的處理速度，並且所有數據處理在本地完成，確保用戶隱私安全。儘管在中文回答上存在一些不足，但其在瀏覽器中提供的AI模型運行能力仍然值得關注。

Gravity是您的Mac上的智能助手，但它非常私密。它始終留在您的計算機上，而不是在雲端，因此只有您可以訪問您的數據。它在後臺悄悄運行，瞭解您的一切。這樣，當您尋求幫助時，它知道您的上下文。Gravity能自動寫會議記錄、起草後續電子郵件、提取任務和檢測關鍵決策。沒有機器人，適用於所有會議平臺。除了默認排除隱身窗口，Gravity還可以輕鬆選擇不記錄哪些應用程序。所有模型在本地運行在您的Mac上。只有您可以訪問您的數據。不需要互聯網。Gravity從您展示和告訴它的內容中思考和學習，就像您已經使用您的計算機的方式一樣。即使Gravity的LLM也在本地運行。這意味著一切都可以直接在您的設備上進行，而不依賴於向雲端發送數據。Gravity致力於保護您的數據隱私，是最私密的AI助手。