# WebGPU

Moonshine Web是一个基于React和Vite构建的简单应用，它运行了Moonshine Base，这是一个针对快速准确自动语音识别（ASR）优化的强大语音识别模型，适用于资源受限的设备。该应用在浏览器端本地运行，使用Transformers.js和WebGPU加速（或WASM作为备选）。它的重要性在于能够为用户提供一个无需服务器即可在本地进行语音识别的解决方案，这对于需要快速处理语音数据的应用场景尤为重要。

WebLLM是一个高性能的浏览器内语言模型推理引擎，利用WebGPU进行硬件加速，使得强大的语言模型操作可以直接在网页浏览器内执行，无需服务器端处理。这个项目旨在将大型语言模型（LLM）直接集成到客户端，从而实现成本降低、个性化增强和隐私保护。它支持多种模型，并与OpenAI API兼容，易于集成到项目中，支持实时交互和流式处理，是构建个性化AI助手的理想选择。

Phi-3 WebGPU是一款结合了Transformers.js和onnxruntime-web的AI模型，它利用WebGPU加速技术，提供超过20t/s的处理速度，并且所有数据处理在本地完成，确保用户隐私安全。尽管在中文回答上存在一些不足，但其在浏览器中提供的AI模型运行能力仍然值得关注。

Web LLM 是一个模块化、可定制的 JavaScript 包，可直接将语言模型聊天引入到 Web 浏览器中。一切都在浏览器内部运行，无需服务器支持，并且通过 WebGPU 进行加速。它可以为大家构建 AI 助手提供很多有趣的机会，并在享受 GPU 加速时保护隐私。此项目是 MLC LLM 的附属项目，MLC LLM 可以在 iPhone 和其他本地环境中本地运行 LLM。