它不是又一个聊天机器人，而是给全世界 AI 立「规矩」的那本说明书
你大概听过无数「AI 治理框架」「负责任 AI 白皮书」，但真正被微软、谷歌、OpenAI、欧盟立法者和各国监管者同时拿去当参照系的，少之又少。NIST 人工智能项目组做的，正是把「什么叫可信赖的 AI、怎么管住它的风险」从口号变成一本可操作、可审计、可落地的工程手册。它不卖模型、不接 API，却深刻影响着你用的每一个大模型背后的安全评估逻辑。
一句话认识它：NIST 人工智能项目组（NIST AI）是美国国家标准与技术研究院（National Institute of Standards and Technology，隶属美国商务部）下设的、专门研究人工智能测量、标准与风险治理的官方机构[1]。它最广为人知的产出是 AI Risk Management Framework 1.0（AI RMF，NIST AI 100-1）——一份 2023 年 1 月 26 日发布的、自愿使用却几乎成为行业事实标准的 AI 风险管理框架[2]；以及在其之上延伸出的 生成式 AI Profile（NIST AI 600-1）与直属的 美国人工智能安全研究所（U.S. AI Safety Institute, AISI）[3]。
先问清楚：NIST 到底是「谁」，凭什么给 AI 定标准
在聊框架之前，得先厘清一个常见误解：NIST 不是一家商业公司，也不是某个大厂的实验室。它是美国联邦政府下属的标准与计量科学机构，成立于 1901 年，有超过一百二十年「定标准、做测量」的官方传统。从砝码、时钟到网络安全框架（著名的 NIST CSF），再到今天的 AI 风险框架，它的权威来自「中立、公开、共识驱动」的方法论，而不是来自商业利益。
所以 NIST AI 发布的东西，是法律吗？企业不照做会被罚款吗？
不是法律，至少 AI RMF 本身是自愿性（voluntary）框架。它的官方定位非常明确：保护权利、不分行业、不绑定具体用例，给任何组织——无论规模大小、身处哪个行业——一套灵活、可度量、可落地的风险管理思路。真正让它「硬」起来的，是拜登 2023 年 10 月 30 日签发的行政令《安全、可靠、可信地开发与使用人工智能》（Executive Order 14110），该行政令把一系列具体任务（生成式 AI 配套资源、内容溯源与水印指引、红队评测基准、测试环境等）直接指派给 NIST，于是「自愿框架」之上长出了带强制力的政府行动。[4]
既然是「自愿」，那它凭什么被全球大厂当真？
因为它解决了行业里最缺的东西：一套能对齐语言和度量的「共同坐标系」。在 AI RMF 之前，每家说自己「负责任」都说得天花乱坠，却没人能回答「你用什么指标证明可信」。NIST 把可信 AI 拆成七个可检验的特征，又把管理动作拆成 Govern / Map / Measure / Manage 四个函数，让企业、审计方、监管者终于能用同一套词对话。当欧盟《AI 法案》、各国立法者、采购方都引用它时，自愿框架就自然变成了事实上的准入门槛。NIST 自己在新闻稿里也提到，框架历经 18 个月、吸收了 240 多家机构约 400 份正式意见，这种开放透明的过程本身就积累了公信力。[2]
AI RMF 1.0 到底讲了什么：四个函数，七条可信特征
AI RMF 1.0 分两部分。第一部分讲「怎么框定风险」以及「什么是可信赖的 AI」；第二部分也就是框架核心，给出四大函数，可在 AI 全生命周期、任意具体用例里落地。
① Govern（治理）
贯穿全局的横向职能，负责把 AI 风险治理嵌入组织文化与权责体系，明确谁对 AI 系统的可信负责。它是其它三个函数的「地基」。
② Map（映射）
把 AI 系统的背景、预期用途、相关方、潜在危害与受益「画地图」，在没动手之前先想清楚风险从哪来、会落到谁身上。
③ Measure（度量）
用定量与定性方法评估、分析、测试 AI 系统的表现与风险指标，让「可信」从形容词变成可记录的数字。
④ Manage（管理）
基于前三个函数持续设定优先级、分配资源、处置已识别风险，并在系统上线后持续监控与改进。
而「可信赖 AI」被拆成七个可检验特征：有效且可靠（Valid and Reliable）、安全（Safe）、安全 resilient 且有韧性（Secure and Resilient）、可问责且透明（Accountable and Transparent）、可解释（Explainable and Interpretable）、增强隐私（Privacy-Enhanced）、公平且有害偏见受控（Fair – with Harmful Bias Managed）。这七条不是装饰，而是后面所有度量动作的对齐目标。[5]
生成式 AI 来了，框架够用吗？于是有了 NIST AI 600-1
大语言模型爆发之后，NIST 很快意识到：通用框架虽好，但生成式 AI 有一堆「独属于它」或「被它放大」的风险，旧文档没专门覆盖。于是 2024 年 7 月 26 日，NIST 发布 《AI RMF：生成式人工智能 Profile》（NIST AI 600-1），作为 AI RMF 1.0 的跨行业配套资源。[6]
这份生成式 AI Profile，到底列了哪些「专属风险」？
它点名了 12 类由生成式 AI 带来或被其加剧的风险，并给出共计 200 多条建议动作。这 12 类包括：CBRN（化学、生物、放射、核）相关信息或能力外泄；编造/幻觉（confabulation）；危险、暴力或仇恨内容；数据隐私；环境影响；有害偏见与同质化；人—AI 配置风险（过度依赖）；信息完整性（虚假信息）；信息安全；知识产权；淫秽、贬损或滥用内容；以及价值链与组件集成风险。每一条都映射回 Govern / Map / Measure / Manage，方便开发者按优先级取用。[4]
那它对「幻觉」这种老毛病，给出的解法是什么思路？
Profile 把幻觉定义为「自信地输出错误内容、可能误导用户」的风险，并强调它不只是准确率问题，更是校准（calibration）问题：组织应当同时度量「自信但错误」的输出比率，并在高后果决策场景里把不确定性显式地呈现给终端用户。这与单纯追求 benchmark 分数形成鲜明对比——NIST 的态度是「先把风险讲清楚，再谈怎么压下去」。
真正「动手」的那块：美国人工智能安全研究所（AISI）
如果说 AI RMF 是「说明书」，那 AISI 就是「检测实验室」。2023 年 11 月，在美国商务部于英国 AI 安全峰会（Bletchley Park）宣布成立的 U.S. AI Safety Institute，是 NIST 牵头、回应上述行政令的核心机构，同时配套启动了 AI Safety Institute Consortium（AISIC）——一个汇聚政府、企业、学界与公民社会的协作联盟，共同研发 AI 安全测量方法。[3]
使命
发展 AI 安全的科学，建立测试、评估、指南与基准，帮助美国及全球加速「安全、可靠、可信」的 AI 创新，尤其关注最先进模型的评测与红队。
执行力
2024 年 8 月，AISI 与 Anthropic、OpenAI 签署首批政府—行业协议，可在模型公开发布前后获得大模型访问权限，联合研究能力评测与风险缓释方法。[7]
国际协同
AISI 与英国 AI 安全研究所（UK AISI）等盟友机构共享最佳实践、对齐能力评测与红队基准，把安全方法论推向国际一致。
值得一提的是，AISI 的首任主任是 Elizabeth Kelly，而长期主导 AI RMF 编写、担任 NIST 联邦 AI 标准协调员的则是 Elham Tabassi（AI RMF 1.0 署名作者）。这两个名字，几乎是今天美国政府 AI 标准工作的「门面」。[7]
配套工具与资源中心：光有文档还不够
为了让框架真正「用起来」，NIST 还搭了一整套生态。
Trustworthy and Responsible AI Resource Center（AIRC）
2023 年 3 月 30 日上线，帮助组织落地 AI RMF、并促进国际对齐；里面有 AI RMF Playbook 与各类用例示例。[8]
Dioptra
一款开源评测软件，可量化「怎样的攻击会让模型表现下降、下降多少」，帮助社区与中小企业评估开发者对系统性能的宣称，回应行政令对模型测试的要求。[4]
SP 800-218A
《面向生成式 AI 与双用途基础模型的安全软件开发实践》，作为 SSDF 的配套，专门应对「训练数据投毒」等新型软件风险。[4]
一张总览表：NIST AI 的三块核心产出
| 产出 | 编号 / 时间 | 解决什么问题 | 性质 |
|---|---|---|---|
| AI 风险管理框架 | NIST AI 100-1 · 2023-01-26 | 给任何组织的 AI 风险治理提供通用四函数与七特征坐标系 | 自愿性框架 |
| 生成式 AI Profile | NIST AI 600-1 · 2024-07-26 | 专门拆解生成式 AI 的 12 类风险与 200+ 建议动作 | 跨行业配套资源 |
| 美国 AI 安全研究所 | AISI · 2023-11 成立 | 对先进模型做测试、评测、红队，并联合产业与国际对齐 | 政府直属机构 |
| 可信赖 AI 资源中心 | AIRC · 2023-03-30 | 落地工具、Playbook 与用例，降低采用门槛 | 公开资源平台 |
最容易踩的三个认知误区
误区一：NIST AI 是个能直接用的 AI 产品。错。它不提供聊天、不卖 API、不部署模型，产出的是标准、框架、度量方法与测试工具，是「造 AI 的人该遵守的规矩」，而非「你拿来用的 AI」。
误区二：框架是法律，不照做就违法。AI RMF 1.0 明确是自愿、权利保留、非行业特定、用例无关的。真正带强制力的是行政令与后续立法（如欧盟 AI 法案）对它的引用，而非框架文本本身。
误区三：有了框架，AI 就自动安全了。框架只是方法论，价值取决于组织是否真的去 Govern/Map/Measure/Manage。NIST 反复强调，纸面合规不等于系统可信，红队、度量与持续监控缺一不可。
对你——无论是开发者、采购方还是普通用户——意味着什么
对开发者：当你写「我们遵循负责任 AI 原则」时，最硬的证据就是对着 AI RMF 的四函数和七特征逐条交代你做了什么、度量了什么。对企业采购方：可以把 AI RMF 当作供应商尽调的 checklist，问对方「你的 Map 阶段识别了哪些危害、Measure 阶段用了哪些指标」。对普通用户：你不必读懂全文，但要知道——当一款产品声称「通过 NIST 标准」，你有权追问它具体对齐了哪一条、有没有第三方审计。NIST 给行业的，正是一把让「可信」变得可质疑、可验证的尺子。
常见问答
NIST 人工智能项目组和 NIST 是什么关系？
NIST（美国国家标准与技术研究院）是隶属美国商务部的联邦标准与计量机构，人工智能项目组是它在 AI 测量、标准与风险治理方向上的专门力量，AI RMF、生成式 AI Profile 与 U.S. AI Safety Institute 都由它牵头或直属。
AI RMF 1.0 是强制标准吗？
不是。框架文本是自愿、权利保留、非行业特定、用例无关的；强制力来自行政令与后续立法对它内容的引用，而非框架本身。NIST 的措辞始终是「帮助组织管理风险」，而非「要求组织照做」。
生成式 AI Profile（NIST AI 600-1）和 AI RMF 是替代关系吗？
不是替代，而是延伸。600-1 是 AI RMF 1.0 的跨行业配套资源，专门覆盖生成式 AI 的 12 类专属或加剧风险，并把建议动作映射回 Govern/Map/Measure/Manage 四大函数，二者配合使用。
U.S. AI Safety Institute 具体在干什么？
AISI 负责发展 AI 安全的科学，建立测试、评估、指南与红队基准，对最先进模型做能力评测与风险缓释研究，并通过 AISIC 联盟和 UK AISI 等国际伙伴对齐方法论；2024 年 8 月起还获得 Anthropic、OpenAI 新模型的提前访问权限。
NIST AI 和中国、欧盟的 AI 治理框架有何不同？
最大区别在于方法论而非立场：NIST 强调自愿、共识驱动、可度量、技术中立，依靠行业采信与立法引用形成事实约束力；欧盟 AI 法案是横向立法、按风险分级强制；中国的治理则以分级分类办法与部门规章结合推进。三者都在借鉴彼此的术语与度量思路。
普通开发者要怎么「用」NIST AI 的成果？
不必全文背诵。最实用的是：用 AI RMF 四函数搭自己的风险管理流程，用生成式 AI Profile 的 12 类风险做上线前自查清单，关注 AIRC 资源中心的 Playbook 与开源工具（如 Dioptra）做红队与度量，把「可信」落到具体动作与指标上。
这些框架会过期吗，NIST 会更新吗？
会演进。AI RMF 被设计为「活文档」，NIST 计划定期评审并在重大变更时进入新版本（如 1.1），并持续更新 Playbook 与配套资源，欢迎社区通过 AIframework@nist.gov 等渠道持续反馈。
参考资料
- 来源：NIST 人工智能项目主页（AI RMF、Generative AI Profile、U.S. AISI 总览与资源入口）：https://www.nist.gov/artificial-intelligence
- 来源：NIST 新闻稿——AI Risk Management Framework Aims to Improve Trustworthiness of Artificial Intelligence（2023-01-26 发布说明）：https://www.nist.gov/news-events/news/2023/01/nist-risk-management-framework-aims-improve-trustworthiness-artificial
- 来源：NIST AI RMF 1.0 全文（NIST AI 100-1，Tabassi 等，DOI 10.6028/NIST.AI.100-1）：https://doi.org/10.6028/NIST.AI.100-1
- 来源：NIST 生成式 AI Profile（NIST AI 600-1，2024-07-26，DOI 10.6028/NIST.AI.600-1）：https://doi.org/10.6028/NIST.AI.600-1
- 来源：NIST 新闻稿——Seeks Collaborators for Consortium Supporting Artificial Intelligence Safety（U.S. AISI 与 AISIC 成立，2023-11）：https://www.nist.gov/news-events/news/2023/11/nist-seeks-collaborators-consortium-supporting-artificial-intelligence
- 来源：NIST 新闻稿——U.S. AI Safety Institute Signs Agreements With Anthropic and OpenAI（2024-08 安全研究协议）：https://www.nist.gov/news-events/news/2024/08/us-ai-safety-institute-signs-agreements-regarding-ai-safety-research
- 来源：美国商务部声明——At the Direction of President Biden, Department of Commerce to Establish U.S. Artificial Intelligence Safety Institute（2023-11）：https://www.commerce.gov/news/press-releases/2023/11/direction-president-biden-department-commerce-establish-us-artificial
- 来源：维基百科——National Institute of Standards and Technology（NIST 机构背景与隶属关系）：https://en.wikipedia.org/wiki/National_Institute_of_Standards_and_Technology
青衣网络 AI 观察团队 · 最后更新 2026-08-25 | 本文基于 NIST 官方公开信息（nist.gov 及美国商务部声明）整理，用于帮助中文读者理解 NIST 人工智能项目组的定位、核心产出与能力边界；框架版本、机构职能与政策随时可能调整，实际使用与合规判断请以官方最新公告为准。