隐私优先的产品哲学
传统网页版 AI 助手的对话要上传到厂商服务器处理,而 Jan 把推理过程整个搬到你的 CPU/GPU 上:输入的草稿、合同片段、私人问题不出本机。对处理敏感材料的用户来说,「数据物理隔离」比任何隐私条款都更直接。
Open-source · Local-first LLM Client
Jan 是什么?一句话说:一个开源的桌面端大语言模型客户端,由 janhq 团队开发并在 GitHub 上开放源码,主打「在你的设备上 100% 离线运行」——模型文件、对话记录全部存在本机,断网也能继续聊[2]。你可以把它理解成「装在电脑里的私有 ChatGPT 外壳」:壳是自己的,脑子(模型)也是自己下载的,中间不经过任何人的服务器[1]。
传统网页版 AI 助手的对话要上传到厂商服务器处理,而 Jan 把推理过程整个搬到你的 CPU/GPU 上:输入的草稿、合同片段、私人问题不出本机。对处理敏感材料的用户来说,「数据物理隔离」比任何隐私条款都更直接。
模型一旦下载到本地,聊天推理就不再需要联网。飞机上、内网环境里、或者单纯不想被网络波动打断工作流时,它都照常工作。订阅费、限流、账号风控这些云服务的烦恼也随之消失。
源码托管在 GitHub,代码怎么处理数据、往哪里发请求都是公开可见的,社区可以审查也可以自行构建[2]。「隐私」从一句承诺变成了一件可以被检验的事。
内置模型中心可以直接浏览、下载常见的开源权重,社区通行的是 GGUF 这类为本地推理设计的量化格式[6]。同一个界面里能管理多个模型,按任务切换。
Jan 内置了本地 API 服务,开启后会提供兼容 OpenAI Chat Completions 格式的 HTTP 接口[3]。原本对接 OpenAI 的脚本、插件、笔记工具,把地址指到本机就能复用,这是它区别于纯聊天窗口的关键。
遇到本机跑不动的重活,也可以在设置里接入 OpenAI 等远程模型服务,本地与云端模型收在同一个对话界面里切换[3]。隐私敏感的任务走本地,质量优先的任务走云端,选择权在你。
| 对比维度 | Jan | Ollama | LM Studio |
|---|---|---|---|
| 形态定位 | 开源完整桌面客户端,图形界面 + 内置本地 API | 以命令行为核心的本地模型运行器,开发者味浓 | 闭源的图形界面客户端,模型发现体验细致 |
| 上手门槛 | 装完点开就用,适合不想碰终端的用户 | 需要习惯命令行;配合前端组件则很灵活 | 同样开箱即用,向导式下载体验友好 |
| 开放程度 | 源码公开在 GitHub,社区可审计、可参与[2] | 同样开源,服务器与容器场景生态庞大[4] | 个人免费使用但闭源,代码不可自行审查[5] |
| 适合谁 | 看重隐私、想兼顾 GUI 与 API 的日常用户 | 爱折腾终端、要在服务器侧部署的技术玩家 | 追求精致下载与调参体验的 Mac/PC 用户 |
| 共存建议 | 三者并不互斥:不少用户的组合是「Ollama 跑后台服务 + Jan/LM Studio 当日常聊天面板」,按场景混用即可 | ||
新手建议从小参数量的量化模型起步,对内存和显存的压力最小;配置宽裕再逐步尝试更大的模型。各模型的许可证不同,商用前记得核对授权条款。
模型文件普遍有几个 GB,第一次下载需要些耐心;完成后新建线程即可开始完全离线的对话,界面上可以随时切换已安装的其他模型。
上下文长度、温度等参数都能在设置里调整:写长文就把上下文调大,求稳定输出就压低温度。不确定怎么设就先用默认值,够用再动。
在设置中启用本地服务器后,Jan 会提供一个兼容 OpenAI 格式的接口地址[3];把第三方应用的 Base URL 改成这个地址,就能让它们调用你本地的模型。
① 硬件是硬约束:几个 GB 内存的旧机器只适合最小的量化模型,别拿它硬刚大参数模型;② 首次下载模型体积不小,建议在网络稳定时进行;③ 「本地运行」解决的是技术路径问题,公司设备上的使用仍要遵守所在组织的合规规定。
它是开源项目,桌面应用可以免费下载使用,源码在 GitHub 公开;至于各个模型的授权,取决于上游权重各自的许可证,商用前请自行确认。
可以。模型下载到本地之后,聊天推理全程在本机完成,不需要联网;只有下载新模型或使用远程云端模型服务时才需要网络。
取决于你选的模型规模:小参数量化模型普通办公笔记本就能带动,更大的模型则需要更多内存或独立显卡显存。建议从小模型试起,逐步升级,详细要求以官方文档为准。
启用内置本地 API 服务后,Jan 会提供一个兼容 OpenAI Chat Completions 格式的接口;凡是支持自定义 OpenAI 接口地址的工具,改成指向本机即可接入。
偏好图形界面、希望开箱即用并顺带获得本地 API 的日常用户会更容易上手 Jan;习惯命令行、需要在服务器或容器里部署的玩家则更适合 Ollama。两者可以并存互补。
产品设计中对话记录与模型文件都保存在本机目录;但如果你主动接入了 OpenAI 等远程模型服务,那部分请求的数据自然会经过对应服务商,两种模式的边界需要在设置里分清。