检查检验员之间的一致性

比较检验员之间的分类判定,并可选择与参考判定比较。

指南 · 测量系统(MSA) · 阅读约需 4 分钟

应用命令、工作表标识符和示例数据值保留原文。截图、图表和下载文件均为英文。

示例: 外观检验

两名检验员分别将同一组 60 个涂装壳体判为 Accept(接收)或 Reject(拒收)。质量评审组的参考判定不向他们公开。研究包含界限清晰和临界的样例,共有 120 次判定。

下载外观检验示例(CSV,英文列名)

此示例与 Help 中使用的示例相同。sample_id 标识壳体,operator_id 标识检验员,trial 为 1,decision 包含检验员判定,reference_decision 包含评审组的参考判定。

1. 创建分析

在侧边栏中打开 Measurement systems,选择 Kappa (Attributes),并为分析命名。选择 New blank worksheet 和 Create analysis。

2. 导入数据

在 Worksheet 中选择 Import。选择已下载的文件或粘贴其内容。将分隔符设为 Comma,使用 Decimal dot,并选中 First row contains column names。预览导入内容,然后选择 Import into worksheet。保持全部数据行的原始顺序。

3. 指定输入列

在 Inputs 中,使用各字段的列选择器,将 sample_id 指定给 Sample ID,将 operator_id 指定给 Appraiser,将 trial 指定给 Trial ID,将 decision 指定给 Rating,将 reference_decision 指定给 Reference rating (optional)。

检查应用是否识别出 60 × 2 × 1:60 个壳体、两名检验员及一轮判定。

4. 设置研究选项

在 Significance level (α) 中输入 0.05。在 Appraiser vs standard κ 中选择 Pool ratings across trials。

打开 Bootstrap intervals。在 Number of bootstrap resamples 中输入 1000,在 Bootstrap seed 中输入 42。使用相同的数据顺序和种子以复现区间。此研究使用已导入的数据,无需 Create a worksheet template。自助重抽样对研究中的壳体进行有放回的重复抽样,以估计区间的不确定性。种子固定抽样序列,使区间可复现;它不会提高区间的准确性。

Kappa (Attributes): 输入信息,包含示例的列分配和设置
英文 Inputs 界面,展示五项列指定、合并判定后与参考的比较、显著性水平及设置种子的自助法选项。 查看原尺寸图片 (在新标签页中打开)

5. 运行分析

选择 Run analysis,然后打开 Results。

6. 解读结果

  1. 比较检验员

    检验员对 60 个壳体中的 48 个判定一致,即 80%。热图显示 Cohen κ = 0.5946,它对根据各自类别判定总数而产生的偶然一致性进行了校正。95% 区间约为 0.3667–0.7966。κ 并非准确率百分比。

    操作员之间的一致性(英文图表)
    英文图表:两名检验员之间的 Cohen κ。它是经偶然一致性校正的一致性指标,并非准确率百分比。 查看原尺寸图表 (在新标签页中打开)
  2. 与参考判定比较

    两名检验员各自与 60 个参考判定中的 52 个一致。检验员 A 漏判了四个参考拒收件,并误拒收了四个参考接收件。检验员 B 漏判了两个参考拒收件,并误拒收了六个参考接收件。相同的总符合率掩盖了不同的错误类型。

  3. 阅读错误计数表

    箭头方向为检验员判定 → 参考判定。Accept→Reject 为漏判拒收件;Reject→Accept 为误报。漏判率以 24 个参考拒收件为分母,误报率以 36 个参考接收件为分母。

  4. 明确研究设计

    此研究中,参考接收件占 60%,参考拒收件占 40%。这种构成会影响 κ,且并非生产拒收率。每名检验员对每个壳体只判定一次,因此此研究无法检查同一检验员能否可靠地重复给出相同判定。

  5. 决定审查内容

    对照书面检验准则审查存在争议的壳体。分别考虑漏判拒收件和误报。如需评估各检验员自身的一致性,应增加一轮判定后重复研究。

更多详情:阅读各结果部分

完整结果表采用六位有效数字,与 Help 中一致。

操作员之间的一致性(两两 κ)

检验员对 60 个壳体中的 48 个判定一致(80%)。根据各类别边际总数计算的预期一致率为 50.67%,得到 Cohen κ = 0.5946。设置种子的 95% 自助法区间约为 0.3667–0.7966。κ 并非准确率百分比,检验员之间判定一致也不能证明其判定符合参考。

操作员之间的一致性(两两 κ) · 1 行
第一位观察者 / 轮次第二位观察者 / 轮次比较次数观测一致率 P₀预期一致率 Pₑκ95% 置信区间下限95% 置信区间上限
Inspector AInspector B600.80.5066670.5945950.3666670.79661

操作员与标准比较(准确性)

两名检验员各自与 60 个参考判定中的 52 个一致(86.67%)。两者 κ 略有不同:A 为 0.7222,B 为 0.7297,因为各自的类别边际总数不同。Reject 被视为缺陷类别。A 的漏判率为 16.67%,B 为 8.33%;误报率分别为 11.11% 和 16.67%。这些比率使用不同参考类别的数量作为分母。

与标准比较的 κ 使用合并各轮判定后得到的一个 Cohen 系数。观测和预期一致率均为合并比例。符合率、漏判率和误报率均为比例(0–1)。

操作员与标准比较(准确性) · 2 行
操作员比较次数观测一致率 P₀预期一致率 Pₑκ95% 置信区间下限95% 置信区间上限符合率(全部)符合率(任一)漏判率误报率
Inspector A600.8666670.520.7222220.5070420.8933650.866667—0.1666670.111111
Inspector B600.8666670.5066670.729730.5333330.8977270.866667—0.08333330.166667

混淆计数 — 检验员 A 与标准比较

箭头方向为检验员判定 → 参考判定。Accept→Reject 表示 24 个参考拒收件中有四个漏判。Reject→Accept 表示 36 个参考接收件中有四个误报。其余 52 次判定与参考一致。

混淆计数 — 检验员 A 与标准比较 · 4 行
判定 → 标准计数
Accept→Accept32
Accept→Reject4
Reject→Accept4
Reject→Reject20

混淆计数 — 检验员 B 与标准比较

检验员 B 漏判了 24 个参考拒收件中的两个,并误拒收了 36 个参考接收件中的六个。因此,与检验员 A 相同的总一致率掩盖了不同的错误类型构成。

混淆计数 — 检验员 B 与标准比较 · 4 行
判定 → 标准计数
Accept→Accept30
Accept→Reject2
Reject→Accept6
Reject→Reject22

类别占比

参考类别构成为 60% Accept 和 40% Reject,分别为 36 和 24 个壳体。这是研究中的构成,并非生产拒收率的估计。类别占比影响经偶然一致性校正的一致性指标,因此仅应结合合适的背景比较 κ。

类别占比 · 2 行
类别比例
Accept0.6
Reject0.4

Kappa — 研究摘要

共有 60 个样本、两名检验员,未丢弃任何比较。每名检验员对每个样本只判定一次,因此无法评估同一检验员内的重复性。对于相同的数据、设置和计算版本,种子 42 配合 1,000 次重抽样可复现这些自助法区间。种子留空则进行随机抽样。

Kappa — 研究摘要 · 7 行
统计量数值
零件数60
操作员Inspector A, Inspector B
类别Accept, Reject
评价者间/内方法Cohen κ
与标准比较时的轮次处理方式合并评级
剔除的比较数0
Bootstrap 随机种子42

列联计数 — 检验员 A / 检验员 B

列联计数直接比较检验员 A 与检验员 B,用于说明其观测一致率;应使用与参考比较的混淆表评估漏判拒收件和误报。

列联计数 — 检验员 A / 检验员 B · 4 行
第一类别第二类别计数
AcceptAccept28
AcceptReject8
RejectAccept4
RejectReject20

7. 创建报告

保留英文 Between operators (pairwise κ)、Operator vs standard (accuracy)、两张与参考比较的混淆计数表、Category prevalence、Kappa — study summary、检验员之间的列联计数及一致性热图。记录每名检验员对每个壳体仅判定一次。

在已完成的运行中选择 Add to report 。打开 Choose individual items and advanced options 以选择表格和图表,然后选择 Add to draft。隐藏的项目仍会保留在已保存的分析中。

为报告命名,并添加研究目的和您的解读。选择 Save,查看 Preview,然后使用 Export → Download HTML。以下示例包含全部已选内容,包括超出单屏显示范围的结果。

此报告在应用中生成,为英文原版。 此 Help 示例在应用内生成的完整输出,包括适用的表格、图表和运行说明。 报告中的数值采用应用显示的数值精度。导出的图表为静态图表。在窄屏上,请横向滚动查看较宽的图表和表格。
查看示例报告: 检验员对外观验收判定是否一致?

我们使用 Microsoft Clarity 了解访客如何使用本网站,包括会话录制和热图。 无需接受分析服务,也可使用本网站。

您的选择将在此浏览器中保存六个月。 隐私声明

当前选择: 尚未选择.