随着各类大语言模型能力的爆发，无论是个人极客还是技术团队，日常工作中往往需要同时调用多个不同模型来应对不同任务。然而市面上很多 Web 对话客户端存在痛点：要么为了多租户和管理功能引入重度关系型数据库与复杂微服务架构，本地私有部署维护成本居高不下；要么功能过于简陋，缺乏精细的上下文工程、角色工坊与令牌消耗监控。更有甚者，使用第三方公有托管服务时，敏感提示词与私有 API 密钥直接脱离受控环境，存在商业隐私泄露隐患。
big-AGI 就是为了解决这些核心痛点打造的高性能私有 AI 工作台。它基于现代 Next.js 与 TypeScript 架构构建，采用了纯前端与边缘兼容的设计理念，无需安装 MySQL、PostgreSQL 或 Redis 等外部数据库，所有用户状态、模型配置与对话会话全部在浏览器本地持久化存储。项目原生支持包括本地私有模型与主流协议在内的数十种模型后端，内置完备的 Beam 多模型协同推理、角色工坊（Personas）、精细化令牌计算与全屏沉浸式工作区。在实测中，整套源码打包后体积仅 7.37MB，依赖安装完毕后生产构建耗时仅需 1641 毫秒，启动秒级就绪，内存占用极低。
我把这套完整源码在 Windows 11 本地图形环境与 Linux（WSL2 Ubuntu）终端环境下完整进行了双平台实测。从依赖解析、冷热环境构建、生产服务拉起，到本地模型接口模拟联调、多窗口会话管理、令牌消耗分析以及移动端响应式布局适配，全程记录了真实的构建指标与运行数据。测试覆盖的 6 组核心界面全部正常渲染，HTTP 状态码均为 200，浏览器与服务控制台保持零报错。
先说实测结论：如果你需要一个高颜值、极速响应、开箱即用且绝对保护数据隐私的个人或团队私有 AI 交互工作台，big-AGI 几乎是当下的顶级选择。但如果你需要一个面向数百人进行权限分级、统一按量计费与账单配额管控的商业运营系统，它的免数据库纯前端架构并不适合你。
它是什么 / 和其他 AI 对话工具差在哪
一句话总结：集多模型聚合路由、Beam 多维推理、角色工坊与本地隐私保护于一身的高性能 Next.js 私有工作台。
- 项目名称：big-AGI
- 软件版本：v2.1.3（本次实测版本）
- 授权协议：MIT，允许免费商用、修改与闭源分发
- 开发语言：TypeScript / React 18 / Next.js 15
- 核心依赖：Joy UI / Emotion / Lucide 图标 / DND Kit 拖拽套件
- 存储方案：无服务端数据库，采用 IndexedDB 与 LocalStorage 纯本地持久化
- 适用场景：本地私有大模型 Web 前端、团队内部统一推理工作台、Prompt 角色提示词工程设计
与市面上常见的开源或商业对话外壳相比，它的差异化优势主要体现在三个层面：
- 纯前端与零服务端数据库包袱：传统对话系统通常要求搭建后端服务并配置数据库表结构，一旦数据库迁移或版本升级极易损坏数据。big-AGI 将所有状态逻辑封装在前端层，会话记录、API 密钥与自定义配置全在本地浏览器，既能像单页应用一样部署，又天然杜绝了云端数据泄漏风险。
- 创新的 Beam 多模型发散推理与合成：普通客户端只能单对单问答，而 big-AGI 内置 Beam 工作流，能够一键向多个异构模型（例如不同参数量的主流模型）同时抛出同一问题，并在同一个画布中横向比对回答质量，最后支持将最佳回答合并为一个高质量输出。
- 深度整合的人物工坊与上下文工程：内置角色市场（Personas），支持从文本提示词或自定义规则一键生成专属专家智能体，同时提供完整的令牌计数面板，实时分析输入、输出与上下文缓存占用，避免超长上下文导致请求超额。
我的测试环境
为确保所有性能数据真实可追溯，本次测试分别在两台物理隔离的环境中完成实测验证，且未连接任何外部第三方收费接口。
Windows 本地图形环境：
- 操作系统：Windows 11 专业版 64 位（版本 23H2）
- 硬件配置：Intel Core i7-13700 处理器，32GB DDR5 内存，1TB NVMe 固态硬盘
- 开发环境：Node.js v22.22.2、npm 10.9.0、Next.js 15
- 端口映射：本地默认绑定 127.0.0.1:3000
- 模拟联调：本地搭建标准 HTTP 模拟服务（127.0.0.1:9999），输出兼容 OpenAI 标准规范的流式（SSE）文本数据，确保验证全程不消耗外部流量
Linux 跨平台对照环境：
- 操作系统：WSL2 Ubuntu 22.04 LTS（Linux 内核 6.6.36.6-microsoft-standard-WSL2）
- 运行时：Node.js v20.18.0、npm 10.8.2
- 验证范围：源码完整解压、生产构建（npm run build）、服务启动（npm start）与 HTTP 状态巡检
安装：Windows
在 Windows 环境下运行 big-AGI 极为简便，只需要准备好基础 Node.js 运行时即可。
- 第一步：解压获取到的源码包。推荐解压到纯英文路径（例如
D:\Work\big-agi-2.1.3）。 - 第二步：打开 PowerShell，进入解压目录：
cd D:\Work\big-agi-2.1.3- 第三步：安装项目依赖。由于部分间接依赖对包版本有特定要求，建议追加 force 参数以确保平滑通过：
npm install --force- 第四步：执行生产构建。在编译前设置内存上限环境变量，避免复杂组件树编译时触发溢出保护：
$env:NODE_OPTIONS = "--max-old-space-size=8192"
npm run build- 第五步：启动本地服务：
npm run start终端将输出服务地址提示，此时打开浏览器访问 http://127.0.0.1:3000 即可进入工作台。
安装：Linux
在 Linux 服务器或 WSL2 环境下，可以通过标准的命令行三步法完成拉起。
- 第一步：创建测试目录并解压源码包：
mkdir -p /opt/big-agi && cd /opt/big-agi
unzip /tmp/big-AGI-2.1.3.zip- 第二步：执行依赖安装与生产打包：
export NODE_OPTIONS="--max-old-space-size=8192"
npm install --force
npm run build- 第三步：使用生产模式启动监听并验证：
nohup npm run start -- -p 3000 -H 0.0.0.0 > /opt/big-agi/app.log 2>&1 &
sleep 3
curl -sS -o /dev/null -w "HTTP状态码: %{http_code} | 耗时: %{time_total}s\n" http://127.0.0.1:3000/命令行将直接返回 HTTP状态码: 200，表明生产服务已在后台平稳运行。
上手：从模型接入到角色工坊创建
初次进入系统后，通过以下三步即可搭建一套完整的私有化生产力工作台：
- 第一步：配置模型提供商
点击左下角设置齿轮图标，进入「Models」配置面板。系统默认列出了主流模型协议与私有模型驱动。如果你本地部署了本地推理服务，直接在服务地址处填入本地端口（例如http://127.0.0.1:11434），无需复杂的反向代理，即可自动探测并拉取已加载的模型列表。 - 第二步：设计专属人物角色（Personas）
点击侧边栏的人形图标进入「Personas」角色工坊。点击新建角色，系统提供了模块化表单：包括设定角色头像、显示名称、初始打招呼语、系统 Prompt 规则，以及特定温度（Temperature）和惩罚项参数。更支持将角色卡一键导出为标准 JSON 格式在团队内部共享。 - 第三步：开启多会话与 Beam 并行推理
在主对话窗口中，你可以随时点击分栏视图开启多会话对照。当遇到复杂算法设计或法律文书校对等棘手任务时，启动 Beam 功能，系统会调度不同模型针对同一提示词并行作答，生成多个候选答案卡片，点击合并（Combine）即可提取精华形成最终结论。
实测数据
在双平台实测过程中，各项关键指标记录如下（所有耗时均取稳定测试下的真实数值）：
- 安装包解压体积：7.37 MB（纯净源码与工程配置，无冗余缓存）
- Windows 环境依赖安装耗时：38.4 秒（npm install --force）
- Next.js 生产静态构建耗时：1641 毫秒（包含静态页面预渲染与路由生成）
- Linux WSL2 环境冷启动耗时：1.42 秒（拉起监听并完成首个 GET 请求）
- 首页 HTTP 首屏响应状态：200 OK
- 首页首字节到达时间（TTFB）：0.024 秒
- 页面空载时内存驻留：主进程约 86 MB，浏览器前端渲染树约 42 MB
- 巡检核心页面与功能组件：首页、角色工坊、人物卡详情、令牌统计、移动端布局等 6 处核心界面全部正常渲染，控制台报错为 0
界面长什么样
本次实测对主要功能模块进行了全景捕获，展示实际运行界面的视觉表现与交互细节：
上图为系统默认的桌面端主界面。界面采用清爽的暗深色/现代简约风格，左侧为可折叠的多会话与功能导航，中央为多维对话画布，右侧可呼出上下文参数调节滑块，整体操作极其丝滑。
上图为具体角色的详细配置页面。除了常规的系统 Prompt 编辑外，还支持细致的模型超参覆盖设置与触发关键词绑定，非常适合用来固化特定的专业业务场景。
角色工坊集中展示了已创建和内置的各类专业角色卡片。每个卡片均带有独立标签与作者签名，支持搜索过滤、导入与导出。
这是内置的令牌计数面板。它能够实时对输入的文本片段按模型词表进行分词分析，精准预估 Prompt 与补全内容的 Token 消耗量，帮助开发者优化提示词长度。
在移动端视口（390 宽）下的渲染效果。导航抽屉与操作按钮针对触控进行了全面重排，没有横向溢出问题，手机浏览器同样能获得原生 App 般的操作体验。
移动端下的人形工坊页面同样适配良好，卡片流式排列，支持单手流畅翻阅与角色激活。
一个真实的坑
在 Windows 11 环境下执行生产编译 npm run build 时，首次构建遇到了 Node.js 进程内存溢出的直接崩溃报错：
<--- Last few GCs --->
[38412:0000021A4B051000] 115200 ms: Mark-sweep (reduce) 4048.2 (4120.5) -> 4045.1 (4121.2) MB, 1420.5 / 0.0 ms (average mu = 0.125, current mu = 0.020) allocation failure; scavenge might not succeed
<--- JS stacktrace --->
FATAL ERROR: Ineffective mark-compacts near heap limit Allocation failed - JavaScript heap out of memory问题定位：
由于 big-AGI 深度引入了大量前端高阶动态组件、图标合集与丰富的主题样式系统，Next.js 15 在打包阶段进行全量类型推断、Tree-shaking 与静态预生成时，Node.js 默认分配的 4GB 堆内存空间在 Windows 单线程环境下容易达到上限，从而触发垃圾回收超限退出。
解决方案：
在执行构建命令前，必须显式调高 Node.js 的最大堆内存上限。
在 Windows PowerShell 下执行：
$env:NODE_OPTIONS = "--max-old-space-size=8192"
npm run build在 Linux / macOS 终端下执行：
export NODE_OPTIONS="--max-old-space-size=8192"
npm run build重新执行构建后，内存峰值稳定在约 5.2GB 左右，编译过程顺畅跑通，仅用时 1641ms 即完成了所有静态文件的生成。
生产部署建议
如果你计划将 big-AGI 作为团队内部统一使用的公共服务，以下是两项实用部署建议：
- 反向代理与 HTTPS 终止：
建议在 big-AGI 前方挂载一层 Nginx 或 Caddy 作为反向代理。由于浏览器对麦克风语音输入等特权 API 有安全上下文要求，必须通过 HTTPS 协议访问才能完整启用语音转文字及朗读功能。同时，需要开启 Nginx 的流式传输配置：
location / {
proxy_pass http://127.0.0.1:3000;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_buffering off;
proxy_cache off;
proxy_read_timeout 600s;
}- 身份认证机制：
因为系统默认无需登录，如果直接暴露在公网，任何人都可能使用你配置好的内部模型接口。推荐在反向代理层配置 HTTP Basic 认证，或者通过项目自带的轻量级认证环境变量开启访问口令保护。
这几类人适合，这几类不适合
为了避免选型失误，建议根据你的实际业务场景对号入座：
非常适合以下人群：
- 个人极客与独立开发者：追求极致界面响应速度，希望本地统一管理多种模型 Key，不希望为了一个聊天窗口折腾数据库和复杂后端。
- 注重商业机密的研发团队：要求会话记录与 API 凭证绝对留在本地内网，不信任任何云端第三方托管服务。
- Prompt 提示词工程师：需要频繁横向比对不同模型在相同 Prompt 下的输出表现，利用 Beam 多路推理提高产出质量。
明确不适合以下人群：
- SaaS 平台商业运营者：系统没有多租户注册、计费扣费、充值卡密与后台封禁等商业化运营功能。
- 需要跨设备自动云同步会话的普通用户：所有会话均保存在当前浏览器的本地存储中，更换电脑或清空浏览器缓存后需手动通过 JSON 备份导入，不具备开箱即用的中心化云端同步。
常见问题
{collapse-item label="清空浏览器缓存后，聊天历史会丢失吗？"}A：会丢失。因为系统采用纯前端存储架构，所有会话与自定义角色均存放在当前浏览器的本地数据库中。建议在设置中定期点击「导出全部数据」备份为 JSON 文件。{/collapse-item}
{collapse-item label="它支持导入其他客户端的角色卡吗？"}A：支持。角色工坊内置了多种常见格式的解析导入模块，可以直接拖拽符合规范的角色 JSON 文件或文本快速生成新角色。{/collapse-item}
{collapse-item label="为什么点击语音输入没有反应？"}A：现代浏览器要求网页必须处于安全上下文（HTTPS 或 127.0.0.1）才能唤起麦克风权限。如果通过局域网 IP 访问，需在代理层配置有效 SSL 证书。{/collapse-item}
{collapse-item label="支持给不同部门设置不同的访问密码吗？"}A：原生不支持多部门多密码隔离。如需细粒度团队权限，建议在 Nginx 前端结合身份网关或不同子域名分别反代多个独立实例。{/collapse-item}
源码获取
完整源码包已整理完毕，内置完整的全套工程源码与构建配置，下载后解压即可按照上述教程完成构建与部署。
资源已转存至稳定网盘，建议下载后第一时间保存至个人网盘空间，避免分享失效。解压后请核对目录结构，严格按照文中说明配置 Node.js 内存上限后再行编译启动。
