7B 到 70B 全摆上桌：Code Llama 家族规格、许可证与落地选型笔记
2023 年 8 月，Meta 在开源 Llama 2 之后乘势推出专攻编程的姊妹系列 Code Llama：在 Llama 2 底座上追加海量代码语料继续训练，首发即给出 7B、13B、34B 三个尺寸，并于 2024 年 1 月补齐 70B 旗舰[1]。凭借宽松的社区许可与可自由下载的权重，它迅速成为本地部署代码模型的事实起点，也是此后大量代码微调项目的共同底座[2]。本文按家族规格、许可证边界、成绩读法与硬件门槛四个层面，把这套全家桶摊开讲清楚。
FAMILY家族一览：四档尺寸，三种口味
Code Llama 不是单个模型，而是一棵按参数规模和用途展开的树。横向看是四档参数规模，纵向看每档又派生出基础版、Python 特调版与指令版三条支线，组合出完整的型号矩阵[2]。先把四张规格卡摆在桌面上：
消费级显卡即可驱动的轻量档。论文口径下支持 FIM 中间填充，是本地 IDE 补全场景最常用的选择，也是微调实验的低成本起点。
同样支持填充补全，代码续写质量较 7B 有肉眼可感的提升。显存要求仍在上代旗舰显卡的可承受范围内，属于个人玩家的甜点位。
首发时的质量天花板，论文摘要口径其在 HumanEval 上的表现超过了当时的 GPT-3.5。注意：该档未训练填充目标，不适合做光标补全。
2024 年 1 月压轴登场，官方给出的 HumanEval 成绩进一步抬高了开源上限。需要多卡环境支撑，面向机构与研究场景。
三条支线的分工也值得记住：基础版擅长代码续写与前文推断；Python 版在同一底座上再用 Python 语料加训一轮，这门语言的输出更稳，代价是通用性略有收窄；Instruct 指令版经过指令对齐，可以直接用自然语言下达需求，回答带解释、安全性更好，适合当编程助手而非补全引擎[2]。
LICENSE专属许可证：能商用，但别急着叫它开源
Code Llama 沿用 Llama 2 社区许可（Llama 2 Community License）这一自定义协议，而不是 Apache、MIT 那类标准开源协议。它给了开发者相当大的空间，同时在两处画了线，使用前应当心里有数[1][3]：
要点速记
- 允许免费的商业使用，包括用其输出训练其他模型——这一点在当年颇为罕见，直接催生了大量下游微调模型；
- 门槛条款：若贵司产品的月活跃用户超过 7 亿，需向 Meta 申请专项授权，普通团队完全触不到这条线；
- 须遵守可接受使用政策，违规用途会被许可终止；
- 开放源代码促进会（OSI）并不认可此类自定义协议为「开源」，严谨场合请表述为「开放权重」。
一句话总结：中小团队拿它做商业集成基本没有法律障碍，但对外宣传时措辞要克制，「开源模型」与「开放权重模型」在合规语境里是两回事。
BENCHMARK成绩单怎么读：HumanEval 上的定性判断
衡量代码模型绕不开 HumanEval——一套函数级的「看签名补实现」测试集。按论文摘要口径，Code Llama 34B 在 HumanEval 上取得约 54% 的 pass@1，在 MBPP 上约为 56%，两项均超过了当时的 GPT-3.5，也胜过参数量大得多的 Llama 2 70B[2]。2024 年 1 月发布的 70B 版本，官方公告给出的 HumanEval 成绩进一步提升到约 67%，坐稳了当时开源阵营的头排[1]。
两个阅读提醒：其一，上下文方面官方称训练窗口为 16K token，并展示了远超窗口的长输入外推能力，这对「整文件理解」是利好，但离仓库级工程还有距离[2]；其二，函数级合成基准的高分不等于真实项目里的高可用——跨文件依赖、隐式约定与业务语义，才是这类模型真正的失分区。把基准成绩当作筛选漏斗，而不是采购依据。
HARDWARE硬件需求对照：哪一档塞得进你的显卡
四档尺寸最大的现实差别就是显存。下面用「参数量乘以每参数字节数」的最粗口径估算 FP16 全精度占用，再给出社区常见的落地方式。所有数字均为量级参考，实际开销取决于量化方案、批大小与上下文长度[5]：
| 尺寸 | FP16 占用粗估 | 常见跑法 | 适合谁 |
|---|---|---|---|
| 7B | 约 14GB 级 | 16GB 消费卡全精度可跑；4bit 量化后 8GB 级显卡亦可行 | 本机补全、笔记本外接显卡玩家 |
| 13B | 约 26GB 级 | 24GB 旗舰消费卡或量化部署，速度尚可 | 进阶自托管、小工作室 |
| 34B | 约 68GB 级 | A100/H100 单卡勉强，更多靠双卡并行或重量化方案 | 有服务器的团队批量任务 |
| 70B | 约 140GB 级 | 多卡并行是标配，量化可压缩但仍属重负载 | 机构、研究与高预算场景 |
※ 显存估算仅为数量级参考：FP16 约为每参数 2 字节，4bit 量化约可压缩至四分之一左右，另需为 KV 缓存预留余量；长上下文推理的峰值显存会显著高于静态权重占用。
PICKING选型建议：按场景对号入座
- 本地 IDE 补全党首选 7B/13B 基础版——要光标中间填充就必须锁定这两档，34B 以上没有 FIM 能力。
- 批量生成与转译任务交给 34B：吞吐放在服务器上跑，质量与成本的平衡点在当年最舒服。
- 追求输出上限且有多卡预算，直接上 70B Instruct，把它当可自托管的编程问答引擎。
- 想微调发论文或造私有模型，从 7B 起步把数据与训练管线跑通，再考虑放大尺寸验证收益。
最后交代一句时代坐标：以今天的眼光看，这个家族的绝对成绩已被更新的开源模型超越，但它确定的「开放权重＋宽松商用」范式影响了整个赛道。查阅权重、更新日志与许可原文，请以官方渠道为准[4]。
FAQ常见疑问速答
Q1Code Llama 与 Llama 2 是什么关系？
同一血统的代码特调分支：在 Llama 2 底座上追加大量代码语料继续训练而来，许可框架也与 Llama 2 社区许可一脉相承。
Q2四个尺寸到底怎么选？
由显存与延迟预算倒推：个人本机看 7B/13B，团队服务器看 34B，机构级才谈 70B；另外需要光标填充补全的话，只能选 7B/13B 两档。
Q3可以直接用在商业产品里吗？
默认可以。社区许可允许月活 7 亿以下的产品免费商用，超出需另行向 Meta 申请授权，同时遵守可接受使用政策。
Q4它的成绩放到今天还算强吗？
作为 2023 年的开源标杆曾长期领跑，如今已被后辈超越；但它的许可范式与生态积累仍有价值，且基准分数从来不等于生产环境表现。
Q5FIM 填充是什么？哪些档位支持？
即 Fill-in-the-Middle：给定光标前后文、只补中间缺失部分，是编辑器补全的核心能力。论文口径下仅 7B 与 13B 训练了该目标。
Q6中文注释与中文提示的表现如何？
训练语料以英文为主，中文可用但并非强项；提示词与关键命名用英文通常更稳，中文团队建议用自己的真实任务先实测再定。
Q7想在本机跑起来，最省事的路径是什么？
用 Ollama 等运行时一键拉取对应尺寸的标签最快；也可以从 Hugging Face 下载权重，配合 llama.cpp 或 transformers 自行搭建，量化版对消费卡更友好[6]。
参考资料
- 来源：Meta AI 官方博客 · Code Llama 发布公告： https://ai.meta.com/blog/code-llama-large-language-model-coding/
- 来源：arXiv 论文《Code Llama: Open Foundation Models for Code》： https://arxiv.org/abs/2308.12950
- 来源：Wikipedia · Code Llama 词条： https://en.wikipedia.org/wiki/Code_Llama
- 来源：GitHub · facebookresearch/codellama 官方仓库： https://github.com/facebookresearch/codellama
- 来源：Ollama 模型库 · codellama 页面： https://ollama.com/library/codellama
- 来源：Hugging Face · codellama 模型集合： https://huggingface.co/codellama
- 来源：Llama 官方站点 · 模型下载与许可入口： https://www.llama.com/
青衣网络 AI 观察团队 · 最后更新 2026-08-25 —— 本文依据 Meta 官方公告、技术论文与公开仓库资料独立撰写，仅供选型研究参考；各档成绩与许可条款请以官方最新发布为准。