Xiaomi AI // MiLM 小米大模型 访问官网 ↗
  • 小米自研大模型
  • 端云协同
  • 0.3B~30B 矩阵
  • 澎湃 OS 内置
  • 多模态
  • 长文本 200k

MiLM 不是又一个聊天机器人，它是长在你手机、汽车和家电里的「小米大脑」

你可能在新闻里见过「小米大模型」这个词，也可能已在小爱同学、相册一键成片、手机实时字幕里用过它却没察觉。MiLM 区别于文心、通义这类「在网页里对话的云服务」，它的核心打法是把模型塞进设备本身——手机、音箱、汽车座舱、电视都能本地跑一部分推理。这篇先把它讲清楚，再带你一步步把 MiLM 用起来。

一句话认识它：MiLM 是小米集团自研的大语言模型系列（LM 即 Large Language Model），首代 MiLM-6B 于 2023 年 8 月发布，总参数约 64 亿，并在 C-Eval 中文评测同参数量级中排名第一[1]；2024 年 5 月正式通过大模型备案，11 月升级到第二代 MiLM2，参数矩阵扩展到 0.3B 至 30B，平均能力较一代提升超 45%[2]，并已在澎湃 OS、小爱同学、智能座舱与智能客服中落地[3]。

先把话说清楚：MiLM 到底是一套什么模型

要理解 MiLM，关键在「端云协同」四个字。它不是单一的一个巨型模型，而是一整套按参数大小分级、分别部署在设备端和云端的模型家族。小参数的跑在手机 NPU 上，响应快、不联网、隐私好；大参数的留在云端，处理复杂推理。二者分工配合，共同支撑「人车家全生态」的交互。

01

端侧微模型 0.3B~6B

塞进手机、IoT 设备的轻量模型，做具体、低成本、低延迟的任务，如本地语音指令、文本摘要、相册语义搜索，断网也能用。

02

中量级 6B / 13B

具备一定零样本与上下文学习能力，支持多任务微调，是「可能涌现出更复杂能力」的起点，常用于小爱同学的进阶对话。

03

云端 30B 旗舰

专为云端设计的参数量级最大版本，拥有扎实的指令遵循、常识推理与阅读理解能力，可承担复杂多任务，基本达到通用大模型水平。

04

MoE 混合专家结构

二代中加入 MiLM2-0.7B×8、MiLM2-2B×8 两个 MoE 模型，并行调用多个「专家」子网络，用稀疏激活换取「高参数、低算力消耗」。

注意：MiLM 目前主要作为小米产品内部的 AI 能力底座，并非面向公众的独立 Chat 网页产品。想「直接用」它，最现实的路径是进入小米生态的设备与系统能力，而不是去某个开放对话站。下面按「从 0 到 1 体验」的思路一步步来。

从 0 到 1 把 MiLM 用起来：五步上手 walkthrough

下面这条路径假设你手里至少有一台较新的小米/Redmi 手机，并愿意把系统升级到最新。每一步都标了你能实际碰到的 MiLM 能力，跟着做就能感受到它和「传统语音助手」的区别。

  1. 认领你的第一台 MiLM 设备。最稳妥的入口是搭载澎湃 OS 的小米手机或平板。MiLM 已内置于系统层，你不需要单独下载 App，它跟着小爱同学、相册、笔记、输入法一起到你手上。若你用的是小米汽车或米家智能屏，座舱与家居场景同样接了同一套模型能力。提示：2023 年 8 月小米就已在手机上跑通 1.3B 参数模型，性能媲美云端更大模型，说明端侧体验早有基础。
  2. 把系统升到最新澎湃 OS / 小爱同学。大模型能力随系统 OTA 推送，老版本可能只用到旧的小爱模型。进入「设置—我的设备—系统更新」拉满版本，并在应用商店把「小爱同学」更新到最新，确保 MiLM2 代的对话、翻译、闲聊能力已就位。二代在指令跟随、翻译、闲聊等关键能力上平均提升超 45%，这些提升需要新版本才能体现。
  3. 唤醒小爱，体验端侧长对话。直接对手机说「小爱同学」或用电源键唤醒，试着让它写一段话、翻译一句外语、总结一篇长文。你会发现它不再只会「打开蓝牙」，而是能理解上下文、连续多轮对话、帮你起草消息——这背后就是 MiLM 在端云协同地工作。端侧模型负责低延迟的本地理解，复杂生成再交给云端 30B，你几乎感觉不到切换。
  4. 打开长文本与多模态能力。把一份几十页的 PDF 或长网页丢给小爱/笔记的摘要功能，感受 200k 长窗口带来的「一口气读完不丢上下文」；再试试相册的语义搜索（用一句话找照片）和一键成片，这些都是多模态版 MiLM 在理解图像。二代最长窗口从一代 4k 扩到 200k，长文档、长对话场景的体验提升最明显。
  5. 把 MiLM 接进你的「人车家」闭环。在米家 App 里用自然语言编排自动化（如「晚上回家自动开灯并播报明日天气」），在 SU7 座舱里用口语指令控制导航与空调，在电视上让小爱帮你找内容。MiLM 真正的护城河，是让同一套语言理解贯穿手机、车、家三类场景。这也是它和纯云端大模型最大的不同：模型紧贴硬件，离传感器与控制接口最近。

穿插一张能力卡：MiLM2 凭什么「既快又省」

很多人疑惑：手机那点算力和电量，怎么跑得动大模型？小米的答案不是硬堆参数，而是一整套端侧工程优化。下面四张卡拆开看，你就明白它为什么强调「轻量化本地部署」。

A

三种端侧推理加速

支持大小模型投机、BiTA、Medusa 三种加速方案，在不明显损失效果的前提下把端侧解码速度拉起来，让本地模型「跟得上嘴」。

B

自研量化降损 78%

自研端侧量化方案对比业界标准高通方案，量化精度损失降低 78%，让 4B 模型能在端侧真正落地运行。

C

结构化剪枝 TransAct

用仅 8% 的训练算力，从 6B 模型剪出 4B 模型（实际 3.5B、40 层），大幅压低端侧部署的存储与计算门槛。

D

MoE 提效 50%

以 MiLM2-2B×8 为例，整体性能与 MiLM2-6B 相当，但解码速度提升约 50%，用稀疏激活换效率。

和文心一言、通义千问比，MiLM 的差异在哪

同为国产自研大模型，选择路线却很不一样。文心、通义以「云端通用大模型 + 开放对话/API」见长，强调在网页和开放平台里解决通用任务；MiLM 的重心则是把模型下沉到小米硬件，做「离用户最近的那一跳」。这不是谁更强，而是定位不同。

MiLM 的差异化优势

  • 贴硬件：模型内置于手机、汽车、家电，能直接调用设备能力与传感器，做「可见即可说、可说即可做」。
  • 端侧隐私：轻任务本地推理，不上云，断网可用，敏感数据不出设备。
  • 全生态贯通：同一套语言理解贯穿人、车、家，跨设备意图连续。
  • 低延迟：端云协同分工，简单指令本地秒回，复杂任务才上云。

你该知道的限制

  • 非独立开放产品：没有面向公众的通用对话网页，能力散布在各设备功能里。
  • 通用创作上限：相比纯云端旗舰模型，开放式长文创作、代码生成的峰值能力不占优。
  • 依赖生态：要完整体验，最好身处小米手机 + 汽车 + 家电的设备组合中。
  • 版本随 OTA：能力随系统推送，老设备可能长期停留在旧模型。

一句话总结差异：文心、通义是「你去找它聊天」，MiLM 是「它就在你手边的设备里随时待命」。选哪个，取决于你是想要一个通用创作工具，还是想要一个融入硬件的智能体。

参数矩阵速查表

下面这张表把 MiLM 从一代到二代的关键指标整理出来，方便你快速对照「哪档模型干什么活」。所有数据均来自小米官方公告与公开评测报道。

指标第一代 MiLM（2023）第二代 MiLM2（2024）
代表模型MiLM-6B（约 64 亿参数）0.3B / 0.7B / 1.3B / 2.4B / 4B / 6B / 13B / 30B 多档
部署形态以云端为主，端侧初步验证云边端结合，端侧 0.3B~6B、云端 30B
平均能力C-Eval 同参数量级第一十大能力维度较一代平均提升超 45%
最长窗口4k token200k token
模型结构稠密模型为主新增 MoE 混合专家（0.7B×8、2B×8）
端侧优化基础端侧运行3 种加速方案、量化损失降 78%

文末技巧清单：把 MiLM 玩出花来的 8 个实用招

上面的步骤帮你「能用」，下面这些技巧帮你「用得好」。它们大多藏在小米系统的具体功能里，需要你主动去点开。

  1. 用相册语义搜索替代翻找：别再按时间滚相册，直接搜「上周在海边的合影」「有猫的照片」，多模态 MiLM 会按内容理解帮你定位。
  2. 让小爱帮你写而非只执行：试着说「帮我把这段语音整理成会议纪要」「把这条消息改成更客气的说法」，它已具备起草与改写能力，不只是开关控制。
  3. 长文交给 200k 窗口：把论文、合同、长网页贴进小爱/笔记摘要，让它一次性读完再问答，比分段喂更连贯，上下文不丢。
  4. 实时字幕与翻译随身走：看外语视频、听外文播客时开实时字幕/翻译，MiLM 的低延迟端侧推理让转写跟得上语音。
  5. 用自然语言编排米家自动化：在米家 App 用一句话描述触发条件与动作，让模型把口语转成可执行的智能场景，省去逐项点选。
  6. 座舱里用口语而非菜单：开 SU7 时直接说「有点冷帮我调高两度并导航去公司」，复杂指令的理解靠的就是车端 MiLM。
  7. 断网也能用基础能力：坐地铁、进电梯信号差时，端侧 0.3B~6B 模型仍能在本地完成简单指令与摘要，别以为「没网就废了」。
  8. 保持系统最新吃到迭代：MiLM2 比一代强 45%，后续版本还会持续 OTA，定期更新系统和小爱同学才能一直站在能力前沿。

三个最容易踩的坑

!

坑一：期待一个「小米版 ChatGPT 网页」

MiLM 不是开放对话产品，没有独立公网聊天站。抱着「去网站和它聊」的期待会扑空，正确姿势是进设备系统能力。

!

坑二：老设备当新模型用

端侧能力随 OTA 推送，几年前的机型可能停留在旧小爱模型，体验不到 MiLM2 的长窗口与多模态，建议先确认系统版本。

!

坑三：拿它和云端旗舰比创作

开放式长文、代码、专业研究这类重任务，纯云端大模型通常更强。MiLM 的强项是「贴硬件、低延迟、跨设备」，别用错战场。

常见问答

MiLM 和小爱同学是什么关系？

小爱同学是面向用户的语音助手入口，MiLM 是背后驱动它「更懂语言」的自研大模型。简单说，小爱是前台嘴替，MiLM 是后台大脑；没有 MiLM，小爱更多只能执行固定指令，有了它才能多轮对话、写稿、翻译、总结。

普通用户怎么「直接使用」MiLM？

最现实的方式是拥有一台搭载澎湃 OS 的小米/Redmi 设备，并保持系统与小爱同学为最新版。MiLM 已内置于相册、笔记、输入法、小爱奇艺等联动场景，你用这些功能时就在间接使用它，无需单独安装。

MiLM 和文心一言、通义千问最大的区别是什么？

文心、通义以云端通用模型 + 开放对话/API 为主，强调在网页里解决通用任务；MiLM 强调端云协同、把模型下沉到手机汽车家电，做离硬件最近的那一跳。定位不同：一个是你去找它聊，一个是它就在你设备里待命。

没有小米手机，还能体验 MiLM 吗？

部分能力随小米汽车、米家智能屏、电视等硬件提供，但完整体验高度依赖小米生态。若你只用其他品牌手机，接触到 MiLM 的机会非常有限，它本质上是为小米「人车家全生态」服务的基础设施。

MiLM 支持多模态吗，能看懂图片吗？

支持。二代体系包含多模态能力，落地到相册语义搜索、一键成片、跨设备意图理解等场景，能够理解图像内容并用自然语言交互，不只是纯文本的大语言模型。

端侧运行大模型，隐私和耗电怎么算？

端侧轻任务在本地 NPU 推理，数据不出设备、断网可用，隐私性更好；小米通过量化降损 78%、TransAct 剪枝等手段压低算力与存储占用，日常轻任务耗电可控，但持续长文本生成仍建议连接电源。

MiLM 会持续升级吗，未来能更强吗？

会。小米已明确把 AI 作为「手机、汽车等产品的第二发展曲线」，研发投入向 AI、OS、芯片倾斜，MiLM 后续通过 OTA 持续迭代，二代较一代已平均提升超 45%，路线是长期投入而非一锤子买卖。

参考资料

  1. 来源：小米 MiLM 官方网站（产品定位、模型能力与生态落地说明）：https://www.mi.com/ai/milm
  2. 来源：IT之家 — 小米大模型升级第二代 MiLM2，实现云边端结合、能力平均提升超 45%：https://www.ithome.com/0/810/050.htm
  3. 来源：观察者网 — 小米大语言模型 MiLM 正式通过备案，将逐步应用于汽车、手机、智能家居：https://www.guancha.cn/qiche/2024_05_16_735007.shtml
  4. 来源：维基百科 — Xiaomi（小米公司发展史、AI 与生态战略背景）：https://en.wikipedia.org/wiki/Xiaomi
  5. 来源：钜亨网 — 小米的 AI 战略：研发投入、GPU 集群与 MiLM 演进脉络：https://hao.cnyes.com/post/129530
  6. 来源：arXiv — cs.CL 计算语言学期刊（大模型评测、端侧智能体相关研究范畴）：https://arxiv.org/list/cs.CL/recent
  7. 来源：C-Eval 中文大模型评测榜单（MiLM 同参数量级排名第一的公开评测依据）：https://cevalbenchmark.com/

青衣网络 AI 观察团队 · 最后更新 2026-08-25　|　本文基于小米官方公开信息及主流科技媒体报道整理，用于帮助用户理解 MiLM 的定位、能力边界与上手路径；功能、命名、版本与落地范围随时可能调整，实际使用请以小米官方最新公告与产品说明为准。