本地 AI - WebLLM

本地处理提建议

基于开源 WebLLM Chat:浏览器里跑开源大模型,对话数据不出设备。

正在检测设备…
已下载模型

还没有已下载的模型。可在 AI 配置页或模型选择器中下载。

来源与许可开源组件与许可

把开源大模型装进浏览器

工具详细介绍

如何使用

  1. 打开页面,自动检测设备是否支持 WebGPU。
  2. 从精选模型列表选择一个,确认体积后同意下载。
  3. 下载完成后即可开始对话,断网也能用。
  4. 在模型管理里可查看占用并删除已下载模型。

功能特点

  • 模型在浏览器内运行(WebGPU 加速)
  • 对话数据不出设备,可离线使用
  • 精选开源模型,体积与要求提前说明
  • 模型下载前明确授权,可查看占用与删除
  • 基于开源 WebLLM Chat 改造

隐私说明

模型与对话都在你的浏览器内运行和保存;只有首次下载模型文件时需要联网,权重保存在浏览器缓存中,可随时删除,不上传任何服务器。

常见问题

需要什么设备配置?

需要支持 WebGPU 的桌面浏览器(Chrome/Edge 113+ 等)和足够的内存;每个模型的体积与要求会在下载前说明。

对话会上传吗?

不会。模型在本地运行,对话数据不出设备;断网后依然可以继续对话。

支持手机吗?

多数移动浏览器的 WebGPU 支持还不完整,页面会如实检测并提示。

相关工具