# 本地运行

Opera Browser Operator 是一款集成在 Opera 浏览器中的 AI 助手，能够理解用户的自然语言指令并直接在浏览器中完成各种任务，如在线购物、信息收集等。这一功能通过本地处理而非云端服务器，确保用户数据的隐私和安全。它代表了浏览器与 AI 技术深度融合的未来趋势，旨在帮助用户更高效地利用时间，专注于更有意义的事情。

Site RAG 是一款 Chrome 扩展程序，旨在通过自然语言处理技术帮助用户在浏览网页时快速获取问题答案。它支持将当前页面内容作为上下文进行查询，还能将整个网站内容索引到向量数据库中，以便后续进行检索增强生成（RAG）。该产品完全在本地浏览器运行，确保用户数据安全，同时支持连接本地运行的 Ollama 实例进行推理。它主要面向需要快速从网页内容中提取信息的用户，如开发者、研究人员和学生。目前该产品免费提供，适合希望在浏览网页时获得即时帮助的用户。

Codename Goose 是一款本地运行的人工智能代理工具，旨在帮助开发者高效完成工程任务。它强调开源和本地运行，确保用户对任务执行有完全控制权。通过连接外部服务器或API，Goose 可以根据用户需求进行扩展，实现复杂任务的自动化处理，从而让开发者专注于更重要的工作。Goose 的开源特性鼓励开发者参与贡献和创新，其本地运行的模式保障了数据隐私和任务执行效率。

video-analyzer是一个视频分析工具，它结合了Llama的11B视觉模型和OpenAI的Whisper模型，通过提取关键帧、将它们输入视觉模型以获取细节，并结合每个帧的细节和可用的转录内容来描述视频中发生的事情。这个工具代表了计算机视觉、音频转录和自然语言处理的结合，能够生成视频内容的详细描述。它的主要优点包括完全本地运行无需云服务或API密钥、智能提取视频关键帧、使用OpenAI的Whisper进行高质量音频转录、使用Ollama和Llama3.2 11B视觉模型进行帧分析，以及生成自然语言描述的视频内容。

Custom Pilot 是一个 Visual Studio Code 扩展框架，允许用户轻松地将自定义的代码补全模型集成到 VS Code 中。它支持使用任何遵循 OpenAI API 格式的 API 服务器，特别是需要提供 /v1/models 和 /v1/completions 两个端点。用户可以在扩展的侧边栏面板中设置 API 服务器的 URL、选择推理模型，并输入 API 密钥（如果需要）。此外，Custom Pilot 还可以与 LM Studio 配合使用，允许用户在本地机器上离线运行大型语言模型（LLMs），并通过 VS Code 进行代码补全。

Proton Scribe是一个集成在Proton Mail中的智能写作助手，它以隐私优先，可以帮助用户撰写和润色邮件草稿，节省撰写邮件的时间，同时保护最敏感、最有价值的数据。Proton Scribe设计为本地运行，确保用户数据不会离开设备。Proton一直致力于研究保护隐私的AI技术，并在2023年推出了Proton Sentinel，这是第一个利用AI提供增强账户保护的功能。Proton Scribe也是开源的，可以进行独立的安全和隐私审计。

MusicGPT 是一款允许在任何平台上以高性能方式在本地运行最新音乐生成 AI 模型的应用程序。它支持文本条件音乐生成、旋律条件音乐生成以及不确定长度 / 无限音乐流。产品优势在于无需安装重型依赖如 Python 或机器学习框架，能够本地运行 AI 模型，提供自然语言提示生成音乐的功能。

Phi-3 WebGPU是一款结合了Transformers.js和onnxruntime-web的AI模型，它利用WebGPU加速技术，提供超过20t/s的处理速度，并且所有数据处理在本地完成，确保用户隐私安全。尽管在中文回答上存在一些不足，但其在浏览器中提供的AI模型运行能力仍然值得关注。

Gravity是您的Mac上的智能助手，但它非常私密。它始终留在您的计算机上，而不是在云端，因此只有您可以访问您的数据。它在后台悄悄运行，了解您的一切。这样，当您寻求帮助时，它知道您的上下文。Gravity能自动写会议记录、起草后续电子邮件、提取任务和检测关键决策。没有机器人，适用于所有会议平台。除了默认排除隐身窗口，Gravity还可以轻松选择不记录哪些应用程序。所有模型在本地运行在您的Mac上。只有您可以访问您的数据。不需要互联网。Gravity从您展示和告诉它的内容中思考和学习，就像您已经使用您的计算机的方式一样。即使Gravity的LLM也在本地运行。这意味着一切都可以直接在您的设备上进行，而不依赖于向云端发送数据。Gravity致力于保护您的数据隐私，是最私密的AI助手。