跳到主要内容

指南

NIST AI RMF 与 OSFI E-23

本页逐项说明 Oloproof 针对 NIST AI RMF 的 Measure 职能和 OSFI 的 Guideline E-23 记录了哪些证据,以及没有记录哪些证据。所依据的版本是 NIST AI Risk Management Framework 1.0(NIST AI 100-1,2023 年 1 月)和 Guideline E-23《Model Risk Management》(2025 年 9 月 11 日定稿,自 2027 年 5 月 1 日起对加拿大受联邦监管的金融机构生效)。

本页不是认证,不是对你合规情况的评估,也不是法律意见。框架要求的是贯穿整个组织的实践;Oloproof 产出的是关于 AI 系统的证据,它只是这些实践的一部分。NIST 已表示 AI RMF 1.0 正在更新,因此请核实你所须遵循的版本。

如何阅读这些表格

  • 已记录:Oloproof 按条目原文为该条目记录证据,记录在该行所列的每一次运行或每一份记录中。
  • 部分:Oloproof 记录了该条目所要求内容的一部分;其余部分在旁边说明。
  • 未涵盖:该条目要求的是 Oloproof 不做的事情。

条目内容为转述。在依赖某一行之前,请先阅读框架本身的原文。

NIST AI RMF 1.0:Measure

条目简要要求Oloproof 记录的内容状态
MEASURE 1.1针对 Map 职能所发现的风险选定指标每次运行的指标规格、规则和发布策略,按摘要记录。选择它们由你负责部分
MEASURE 1.2随时间重新评估指标和控制措施在评判模型或用例发生变化之处做出标记的趋势;决策会在其证据过时时说明(CI 门禁)部分
MEASURE 1.3由未参与构建该系统的人进行评估依据自身证据作出决策的工作区、按账户计数的标注者,以及可由第二方离线核查的决策记录。这些人是谁,由你来安排部分
MEASURE 2.1测试集、指标和工具有文档记录每次运行都按内容地址列出其测试套件、系统和评估器的版本、指标和方法,以及分析版本已记录
MEASURE 2.2对作为研究对象的人的保护无未涵盖
MEASURE 2.3性能得到度量和证明每条规则都依据区间作出决定:PASS、FAIL、INSUFFICIENT_EVIDENCE 或 MANUAL_REVIEW。测试套件是否与部署环境相似,由你判断部分
MEASURE 2.4监控生产环境中的行为由人评审工作区从真实流量中抽取的样本(评估生产环境)部分
MEASURE 2.5证明有效性和可靠性带有分母的区间,以及在获准作出决定之前先与人对照度量的评判模型(评判模型)部分
MEASURE 2.6定期评估安全风险针对出错情况的上限,在你的用例上作出决定;如果你有红队工具的评分,也会读取它们(风险上限)。Oloproof 不编写攻击部分
MEASURE 2.7评估安全性和韧性仅通过针对你编写或导入的用例设定的上限部分
MEASURE 2.8审视透明度和问责由两位具名人员给出的签字确认和批准,保存在一条链中,并随决策记录一并携带部分
MEASURE 2.9解释模型并解读其输出基于干预的诊断会指出与失败有关的部分;它们不解释任何模型部分
MEASURE 2.10审视隐私风险出站(egress)策略将内容保留在你这一侧;不评估任何隐私风险未涵盖
MEASURE 2.11评估公平性和偏差在多重性控制下度量所声明的切片;怎样的切片才算公平,由你决定部分
MEASURE 2.12评估环境影响记录成本;不记录能耗未涵盖
MEASURE 2.13评估度量本身依据人的标签验证过的评判模型,以及每一种通过方法说明、覆盖率网格和审计而获得认可的统计方法部分
MEASURE 3.1随时间跟踪风险趋势、时效和生产环境评审部分
MEASURE 3.2难以度量的风险证据无法决定的规则会如实说明(INSUFFICIENT_EVIDENCE、MANUAL_REVIEW),未能决定的区间会说明还需要多少用例才能作出决定部分
MEASURE 3.3来自最终用户的反馈无未涵盖
MEASURE 4.1将度量与部署情境联系起来来自你自己的评审者的标签;情境由你负责部分
MEASURE 4.2结果参考了领域专家的意见评审者的标签决定一个评判模型的价值部分
MEASURE 4.3记录改进和退步将一项变更与线上版本进行的配对比较,带有区间(比较)已记录

OSFI Guideline E-23(2027)

原则简要要求Oloproof 记录的内容状态
1.1 至 1.3汇报关系、模型风险框架、适合其用途的模型针对某一用途的适用性证据:依据区间作出决定的发布策略规则。框架及其治理由你负责部分
2.1在用模型的清单每个项目的系统版本,按评估它们的运行所记录的内容列出。不是企业级清单部分
2.2模型风险评级无未涵盖
2.3投入与风险相称每个项目一份策略:它的门槛、它的置信水平,以及通过的发布是否需要两个人批准部分
3.1有文档记录的生命周期策略发布策略是一个文件,按摘要记录,并随依据它作出决定的每一个门禁一并记录部分
3.2数据适合其用途按内容进行版本管理的测试套件;它们是否适合该用途,由你判断部分
3.3针对性能和文档的开发标准带有阈值的规则,以及每次运行的记录部分
3.4对稳健性和性能的独立审查依据自己核验过的证据作出决定的工作区门禁、由你的平台团队注册的 runner 签名的运行,以及可由审查者离线核查的决策记录。审查职能由你负责部分
3.5带有质量控制和变更控制的部署无:签名的运行证明的是 runner 执行了什么,而不是生产环境中提供服务的是什么未涵盖
3.6监控与退役用于监控的生产环境评审和时效;退役不在涵盖范围内部分
批准在使用之前批准,并确认剩余风险通过的发布可以等待两位具名人员的批准,批准会被记录并串接成链(要求批准通过的发布)部分

下一步