当 ChatGPT 把技术细节捂得严严实实，复旦的回答是把门推开，连图纸一起递出来
2023 年初，ChatGPT 的爆火让整个行业既兴奋又焦虑：一个能力如此惊艳的对话模型，核心方法却完全闭源。国内能不能走出一条自己的类 ChatGPT 技术路线？复旦大学自然语言处理实验室（邱锡鹏团队）用 MOSS 给出了回应——不仅最早公开亮相了国内的对话式大模型，更在 2024 年把整条研发路径写成了论文，连同代码与权重一并开源。读懂这篇论文，等于拿到一份「资源受限条件下也能造出对话大模型」的公开说明书。
一句话认识它：《MOSS: An Open Conversational Large Language Model》是复旦大学自然语言处理实验室（邱锡鹏、孙天祥等团队）发表于 Machine Intelligence Research 的总结性论文[1]，系统披露了这座 160 亿（16B）参数对话模型的完整技术路线——从大规模预训练、监督微调到人类偏好对齐，并声明模型代码与权重全部公开在 GitHub[2]。它要回答的核心问题不是「谁更大」，而是「在算力和数据都远少于头部公司时，类 ChatGPT 能力到底能不能被复现」。
为什么在闭源的那一年，这篇论文被反复引用
MOSS 论文最被低估的价值，在于它把「闭源神话」拆成了可复现、可教学、可批判的工程步骤。下面四张不规则卡片，分别指向它真正不可替代的四点。
把闭源拆成公开步骤
论文没有停留在「我们做了一个模型」，而是把预训练、监督微调、偏好对齐三个阶段逐一展开，连数据构成与训练策略都写得足够细，让后来者能在更小规模上复现思路，而不是只能围观。
16B 参数的「资源受限可行性」证明
MOSS 基座仅 160 亿参数，比同期动辄千亿的闭源模型小一个数量级。论文用实证说明：在受限算力下，通过数据质量与对齐策略的设计，仍然能走通「理解人类意图并具有多轮对话能力」的全部技术路径[3]。这一点对学术团队和中小企业尤其关键——它把「造对话模型」从天价工程拉回了可参与的范围。
多轮合成对话 + AI 反馈对齐
论文基于早期模型 API 收集的用户提示，生成了约 110 万（1.1M）条合成对话，并在 AI 反馈标注的偏好数据上做偏好感知训练，替代了动辄数十万条人工标注的高成本路线。
插件增强：大模型不止会聊天
论文还给出一套把 MOSS 与外部工具（搜索、图像生成、计算器、方程求解）结合的有效实践，证明开源模型也能拥有「调用工具补全能力」的落地形态，而非只做单轮问答。
一条发展时间线：从内测到论文发表
MOSS 不是一个「写完论文再发布」的安静项目，而是一条边公开、边迭代、边开源的路线。把它放回时间轴，才能理解论文为何那样组织。
- 2023-02-20内测发布，引爆关注。复旦 NLP 实验室将国内首个类 ChatGPT 对话模型 MOSS 放到公开平台邀公众内测，访问量一度压垮服务器；团队公开致歉并承诺在初步验证后开源经验、代码与参数[7]。
- 2023-04-21插件增强版开源上线。升级版 MOSS 成为国内首个插件增强的开源对话语言模型，支持搜索引擎、图像生成、计算器、方程求解器等外部工具，并把代码、数据、模型参数在 GitHub 与 Hugging Face 等平台开放。
- 2024论文正式发表。《MOSS: An Open Conversational Large Language Model》刊于 Machine Intelligence Research 第 21 卷第 5 期第 888–905 页，DOI 为 10.1007/s11633-024-1502-8，系统沉淀了从预训练到对齐的完整技术路线图[1]。
MOSS 模型家族：论文背后那一串开源产物
论文并不是孤立的一篇文章，它背后是一整套被陆续开源的模型与数据。下面这张家族表，帮你在「读论文」和「用模型」之间建立对应。
| 名称 / 形态 | 规模与语言 | 在论文与开源中的角色 |
|---|---|---|
| MOSS 基座语言模型 | 160 亿参数，中英双语 | 在大规模无标注英文、中文与代码数据上预训练，是对话能力的底座。 |
| MOSS 对话（指令）模型 | 16B，多轮指令 | 基于约 110 万条合成对话做监督微调，使模型理解并遵循人类指令。 |
| MOSS 插件增强对话模型 | 16B + 外部工具 | 接入搜索、图像生成、计算器、方程求解器，验证「工具增强」的有效实践。 |
| 开源对话训练数据 | 超 100 万条 | 多为多轮对话，覆盖有用性、忠实性、无害性，且包含中英双语。 |
| 开源代码与权重 | GitHub 公开 | 涵盖训练与推理代码，供科研人员下载、复现与二次开发[2]。 |
技术拆解：论文到底公开了什么
把论文正文摊开，最值得普通开发者与研究者借鉴的，是下面五块技术决策。它们共同回答了「小模型也能像样对话」这件事。
① 三语混合预训练
基座在大规模无标注的英文、中文与代码数据上预训练，使模型天然具备跨语言与代码能力，而不是事后翻译补丁。
② 1.1M 合成对话
论文利用早期版本模型 API 收集到的用户提示，自动生成约 110 万条合成对话，用「模型教模型」的方式高效积累训练语料[4]。
③ 偏好感知对齐
在由 AI 反馈标注的偏好数据上做偏好感知训练，替代昂贵的人工标注，让模型输出更贴合人类期望。
④ 工具增强实践
论文给出把 MOSS 与外部工具结合的有效方案，让模型在事实问答、数学求解、文生图等任务上补足自身短板。
⑤ 完整路线图
从预训练、监督微调到对齐，论文建立了一条可被学术界与工业界共同参考的技术路线图，验证资源受限条件下的可行性[5]。
该读这篇论文的人，和容易误读的人
这几类人会很有收获
- 高校与研究院的 NLP 方向师生：论文把复现对话模型所需的步骤、数据与策略讲得很透，适合作为课程与实验的参考骨架。
- 想做垂直对话系统的工程师：偏好感知训练与合成数据思路，能直接迁移到客服、助手等落地场景。
- 关注「开源 vs 闭源」路线选择的决策者：它用实证展示了受限资源下仍可走通类 ChatGPT 路径，对预算敏感团队有参考价值。
这几类容易误读
- 期待「国产 ChatGPT 平替」的普通用户：论文是科研总结，模型能力受 16B 规模限制，与千亿闭源模型存在客观差距。
- 只想要现成 API 的接入方：MOSS 以开源权重与代码为主，部署与调优需要自行承担工程成本。
- 把论文当产品说明书的人：它描述的是 2023–2024 年的技术状态，模型与生态此后已快速演进，勿以它为当下能力上限。
三个最容易踩的坑
坑一：把「开源」误会成「开箱即用」
代码与权重虽公开，但推理、微调仍需相应的算力与环境配置；直接下载不等于立刻能用，工程落地要预留部署成本。
坑二：用闭源千亿模型的标准去比
MOSS 的论文价值在「可行性证明」而非「参数碾压」。拿它和 GPT-4 比绝对能力会忽略它真正的贡献——路线图与可复现性。
坑三：忽视数据与时间边界
论文基于 2023 年初的技术与数据，引用时务必标注发表年份与版本，避免把当时结论当成当前 SOTA。
常见问答
MOSS 论文和 MOSS 模型到底是什么关系？
MOSS 模型是复旦 NLP 实验室在 2023 年初发布的对话式大模型；这篇论文是团队在 2024 年发表的总结性著述，系统披露了模型的训练路径、数据构成与对齐方法，并把代码与权重指向 GitHub 开源仓库。论文是「写清楚怎么做」，模型是「做出来并开源」。
160 亿参数在当时算大吗，为什么还值得写进论文？
相比同期千亿级闭源模型，16B 属于「小一个数量级」的规模。论文的价值恰恰在于用受限算力证明类 ChatGPT 能力可被复现，这对资源有限的学术团队和中小企业更具参考意义，而非比拼参数体量。
论文里说的「约 110 万条合成对话」是怎么来的？
团队基于早期版本模型 API 收集到的真实用户提示，自动生成了约 1.1M 条合成对话，再用 AI 反馈标注的偏好数据做偏好感知训练，从而绕开了海量人工标注的高成本环节。
MOSS 的「插件增强」具体指什么？
指让模型在生成时调用外部工具，如搜索引擎获取实时事实、图像生成模型作画、计算器与方程求解器处理数学题。论文把它作为开源模型补足能力短板的落地实践来呈现。
这篇论文对普通开发者有什么实际用处？
它提供了一条从预训练、监督微调到对齐的可复现技术路线，并公开了数据思路与开源权重。想自建对话系统、做教学实验或研究偏好对齐的人，都能从中取到可直接借鉴的「骨架」。
现在还能用到 MOSS 吗？
论文声明模型代码与权重已公开在 GitHub（OpenMOSS/MOSS），社区可下载、复现与二次开发；但模型能力与生态随时间在演进，使用时请以官方仓库的最新说明为准。
MOSS 和 ChatGPT 的差距到底在哪？
团队公开坦言，差距主要在自然语言模型基座预训练阶段——MOSS 参数量更小、知识储备与中文表述顺畅度相对有限。论文的意义不是抹平差距，而是证明在受限条件下这条路走得通。
参考资料
- 来源：机器智能研究（MIR）期刊官方论文页——《MOSS: An Open Conversational Large Language Model》，卷 21 第 5 期第 888–905 页，DOI 10.1007/s11633-024-1502-8：https://www.mi-research.net/en/article/doi/10.1007/s11633-024-1502-8
- 来源：GitHub — OpenMOSS/MOSS 官方代码与模型权重仓库（论文公开的主页与 CTA 目标）：https://github.com/OpenMOSS/MOSS
- 来源：Springer 官方全文 PDF（Machine Intelligence Research 论文原始排版与摘要）：https://link.springer.com/content/pdf/10.1007/s11633-024-1502-8.pdf
- 来源：邱锡鹏教授个人主页 Selected Publications（MOSS 论文条目、作者列表与 DOI 信息）：http://xpqiu.github.io/pubs.html
- 来源：国家科技图书文献中心（NSTL）文献详情——MOSS 论文元数据、作者机构与 DOI：https://shz.nstl.gov.cn/paper_detail.html?id=1b8c950eb800a4ee0614911c8ec24c8a
- 来源：复旦大学计算机科学技术学院——MOSS 升级版模型开源上线报道（插件增强、开源数据与模型参数）：https://ai.fudan.edu.cn/78/3e/c24280a489534/page.htm
- 来源：上海市人民政府新闻办公室——国内首个类 ChatGPT 模型 MOSS 发布报道（内测、团队与开放计划）：https://www.shio.gov.cn/TrueCMS/shxwbgs/ywts/content/a1c25caf-6f70-4976-b04d-e6c258f72cbe.html
青衣网络 AI 观察团队 · 最后更新 2026-08-25 | 本文基于 MOSS 论文公开信息及复旦团队官方报道整理，用于帮助读者理解论文定位与技术边界；模型能力、开源状态与生态随时可能演进，实际研究与使用请以官方仓库与期刊原文最新信息为准。