Gemma 4 在浏览器中通过 WebGPU 运行
该项目展示了如何在浏览器端利用 WebGPU 技术运行 Gemma 4 模型，实现高性能的本地推理。通过 WebGPU 的 GPU 加速能力，用户无需安装任何依赖即可在浏览器中直接体验大语言模型的能力，显著降低了使用门槛并保护了数据隐私。
背景速读
- **Gemma 4**：Google 最新发布的开源大语言模型系列（2025年），包含 270 亿和 4000 亿参数版本，主打高效推理和多模态能力。
- **WebGPU**：新一代浏览器图形/计算 API，可让网页直接调用 GPU 进行高性能计算（替代旧版 WebGL），是运行大模型的关键基础设施。
- 该项目展示的是在 Hugging Face Spaces 上托管的一个交互演示，核心目标是让 Gemma 4 完全在浏览器本地运行，无需将数据发送到服务器。
- 意义：用户隐私得到保护（数据不出设备），且无需昂贵服务器即可在个人设备上体验前沿模型。但当前仍需高端显卡/大量显存，普通笔记本可能无法流畅运行。
- 背景：此前已有多款模型（如 Llama、Gemma 2/3）通过类似方式（WebLLM、MLC-LLM 等项目）移植到浏览器，Gemma 4 的加入进一步扩大了“浏览器内 AI”的生态。