Open-source · Local-first LLM Client

Jan:把大语言模型搬回自己电脑的开源客户端

开源项目100% 本地离线运行兼容 OpenAI 接口Windows / macOS / Linux数据留在本机
访问官网 ↗

本文最后更新于 2026-08-25 · 阅读约 9 分钟 · 文末含 FAQPage 结构化问答与第三方来源清单

Jan 是什么?一句话说:一个开源的桌面端大语言模型客户端,由 janhq 团队开发并在 GitHub 上开放源码,主打「在你的设备上 100% 离线运行」——模型文件、对话记录全部存在本机,断网也能继续聊[2]。你可以把它理解成「装在电脑里的私有 ChatGPT 外壳」:壳是自己的,脑子(模型)也是自己下载的,中间不经过任何人的服务器[1]。

理念篇「本地运行」到底意味着什么

隐

隐私优先的产品哲学

传统网页版 AI 助手的对话要上传到厂商服务器处理,而 Jan 把推理过程整个搬到你的 CPU/GPU 上:输入的草稿、合同片段、私人问题不出本机。对处理敏感材料的用户来说,「数据物理隔离」比任何隐私条款都更直接。

离

离线可用,网络不再是依赖

模型一旦下载到本地,聊天推理就不再需要联网。飞机上、内网环境里、或者单纯不想被网络波动打断工作流时,它都照常工作。订阅费、限流、账号风控这些云服务的烦恼也随之消失。

开

开源带来的可验证性

源码托管在 GitHub,代码怎么处理数据、往哪里发请求都是公开可见的,社区可以审查也可以自行构建[2]。「隐私」从一句承诺变成了一件可以被检验的事。

能力篇三张能力卡:模型、接口、跨平台

M

模型管理:像装 App 一样装模型

内置模型中心可以直接浏览、下载常见的开源权重,社区通行的是 GGUF 这类为本地推理设计的量化格式[6]。同一个界面里能管理多个模型,按任务切换。

A

本地 API:一个隐藏的「私有云」

Jan 内置了本地 API 服务,开启后会提供兼容 OpenAI Chat Completions 格式的 HTTP 接口[3]。原本对接 OpenAI 的脚本、插件、笔记工具,把地址指到本机就能复用,这是它区别于纯聊天窗口的关键。

C

云端补充:一个界面管两套大脑

遇到本机跑不动的重活,也可以在设置里接入 OpenAI 等远程模型服务,本地与云端模型收在同一个对话界面里切换[3]。隐私敏感的任务走本地,质量优先的任务走云端,选择权在你。

对照篇Jan、Ollama、LM Studio 怎么选

对比维度JanOllamaLM Studio
形态定位开源完整桌面客户端,图形界面 + 内置本地 API以命令行为核心的本地模型运行器,开发者味浓闭源的图形界面客户端,模型发现体验细致
上手门槛装完点开就用,适合不想碰终端的用户需要习惯命令行;配合前端组件则很灵活同样开箱即用,向导式下载体验友好
开放程度源码公开在 GitHub,社区可审计、可参与[2]同样开源,服务器与容器场景生态庞大[4]个人免费使用但闭源,代码不可自行审查[5]
适合谁看重隐私、想兼顾 GUI 与 API 的日常用户爱折腾终端、要在服务器侧部署的技术玩家追求精致下载与调参体验的 Mac/PC 用户
共存建议三者并不互斥:不少用户的组合是「Ollama 跑后台服务 + Jan/LM Studio 当日常聊天面板」,按场景混用即可

上手篇五步跑通第一段本地对话

1

下载安装桌面应用

去官网或 GitHub Releases 获取对应系统的安装包,Windows、macOS、Linux 都有覆盖,安装过程与普通桌面软件无异[1]。

2

在模型中心挑一个合适的起点

新手建议从小参数量的量化模型起步,对内存和显存的压力最小;配置宽裕再逐步尝试更大的模型。各模型的许可证不同,商用前记得核对授权条款。

3

等待下载,然后新建对话线程

模型文件普遍有几个 GB,第一次下载需要些耐心;完成后新建线程即可开始完全离线的对话,界面上可以随时切换已安装的其他模型。

4

按需微调推理参数

上下文长度、温度等参数都能在设置里调整:写长文就把上下文调大,求稳定输出就压低温度。不确定怎么设就先用默认值,够用再动。

5

打开本地 API 服务,接入你的工作流

在设置中启用本地服务器后,Jan 会提供一个兼容 OpenAI 格式的接口地址[3];把第三方应用的 Base URL 改成这个地址,就能让它们调用你本地的模型。

动手前先看这三行提醒

① 硬件是硬约束:几个 GB 内存的旧机器只适合最小的量化模型,别拿它硬刚大参数模型;② 首次下载模型体积不小,建议在网络稳定时进行;③ 「本地运行」解决的是技术路径问题,公司设备上的使用仍要遵守所在组织的合规规定。

答疑篇关于 Jan 的常见问题

Jan 是免费的吗?

它是开源项目,桌面应用可以免费下载使用,源码在 GitHub 公开;至于各个模型的授权,取决于上游权重各自的许可证,商用前请自行确认。

完全断网的情况下能用吗?

可以。模型下载到本地之后,聊天推理全程在本机完成,不需要联网;只有下载新模型或使用远程云端模型服务时才需要网络。

需要多强的电脑配置?

取决于你选的模型规模:小参数量化模型普通办公笔记本就能带动,更大的模型则需要更多内存或独立显卡显存。建议从小模型试起,逐步升级,详细要求以官方文档为准。

它如何和我现有的软件集成?

启用内置本地 API 服务后,Jan 会提供一个兼容 OpenAI Chat Completions 格式的接口;凡是支持自定义 OpenAI 接口地址的工具,改成指向本机即可接入。

Jan 和 Ollama 应该怎么选?

偏好图形界面、希望开箱即用并顺带获得本地 API 的日常用户会更容易上手 Jan;习惯命令行、需要在服务器或容器里部署的玩家则更适合 Ollama。两者可以并存互补。

我的对话数据会被上传吗?

产品设计中对话记录与模型文件都保存在本机目录;但如果你主动接入了 OpenAI 等远程模型服务,那部分请求的数据自然会经过对应服务商,两种模式的边界需要在设置里分清。

SOURCES参考资料

  1. 来源:Jan 官方网站(产品介绍与下载入口) https://jan.ai
  2. 来源:GitHub 开源仓库 janhq/jan https://github.com/janhq/jan
  3. 来源:Jan 官方文档(本地 API 服务与设置说明) https://jan.ai/docs
  4. 来源:Ollama 官网(对照信息:命令行本地模型运行器) https://ollama.com
  5. 来源:LM Studio 官网(对照信息:闭源本地 LLM 图形客户端) https://lmstudio.ai
  6. 来源:Hugging Face 文档:GGUF 格式说明 https://huggingface.co/docs/hub/gguf
青衣网络 AI 观察团队 · 最后更新 2026-08-25 · 本文为独立观察稿,功能细节以 Jan 官方仓库与文档为准