Zkontrolujte shodu mezi kontrolory

Porovnejte kategoriální hodnocení mezi kontrolory a s volitelným referenčním rozhodnutím.

Návody · Systémy měření (MSA) · Čtení na 4 min

Názvy příkazů aplikace, identifikátory datových listů a hodnoty ukázkových dat zůstávají v původní podobě. Snímky obrazovky, grafy a soubory ke stažení jsou v angličtině. Vědecké příklady zachovávají anglické číselné konvence: desetinnou tečku a čárku oddělující tisíce.

Příklad: vzhledová kontrola

Dva kontroloři klasifikují každý stejných 60 lakovaných krytů jako Přijmout (Accept) či Zamítnout (Reject). Referenční rozhodnutí komise kvality je před nimi skryté. Studie zahrnuje jednoznačné i hraniční případy, celkem 120 hodnocení.

Stáhnout příklad vzhledové kontroly (CSV v angličtině)

Jde o stejný příklad jako v Help. sample_id identifikuje kryt, operator_id kontrolora, trial je 1, decision obsahuje hodnocení kontrolora a reference_decision referenční hodnocení komise.

1. Vytvořte analýzu

Na postranním panelu otevřete Measurement systems, vyberte Kappa (Attributes) a pojmenujte analýzu. Vyberte New blank worksheet a Create analysis.

2. Importujte data

Na kartě Worksheet vyberte Import. Zvolte stažený soubor nebo vložte jeho obsah. Nastavte oddělovač na Comma, použijte Decimal dot a zaškrtněte First row contains column names. Zobrazte náhled importu a poté vyberte Import into worksheet. Zachovejte každý řádek v původním pořadí.

3. Přiřaďte vstupní sloupce

Na kartě Inputs přiřaďte sample_id k Sample ID, operator_id k Appraiser, trial k Trial ID, decision k Rating a reference_decision k Reference rating (optional), vše výběrem sloupce.

Ověřte, že aplikace rozpoznala 60 × 2 × 1: 60 krytů, dva kontrolory a jeden pokus.

4. Nastavte možnosti studie

Do Significance level (α) zadejte 0.05. V Appraiser vs standard κ vyberte Pool ratings across trials.

Otevřete Bootstrap intervals. Do Number of bootstrap resamples zadejte 1000 a do Bootstrap seed hodnotu 42. Pro reprodukci intervalů použijte stejné pořadí dat a stejnou počáteční hodnotu generátoru. Pro tuto importovanou studii nepotřebujete Create a worksheet template. Bootstrapové převzorkování opakovaně vybírá kryty ze studie s vracením a odhaduje nejistotu intervalu. Počáteční hodnota určuje posloupnost tohoto výběru, aby bylo možné intervaly reprodukovat; nezvyšuje jejich přesnost.

Kappa (Attributes): Vstupy s přiřazením a nastavením příkladu
Pět přiřazení, sdružené porovnání s referencí, hladina významnosti a nastavení bootstrapu s počáteční hodnotou generátoru na anglické kartě Inputs. Zobrazit obrázek v plné velikosti (otevře se na nové kartě)

5. Spusťte analýzu

Vyberte Run analysis a poté otevřete Results.

6. Interpretovat výsledky

  1. Porovnejte kontrolory

    Kontroloři se shodují na 48 ze 60 krytů, tedy 80%. Tepelná mapa zobrazuje Cohenův koeficient κ = 0.5946, který koriguje shodu o náhodnou shodu očekávanou při jejich celkových počtech hodnocení v kategoriích. 95% interval je přibližně 0.3667–0.7966. κ není procento správnosti.

    Shoda mezi operátory
    Cohenův koeficient κ mezi dvěma kontrolory. Jde o shodu upravenou o náhodu, nikoli procento správnosti. Zobrazit graf v plné velikosti (otevře se na nové kartě)
  2. Porovnejte s referencí

    Oba kontroloři se shodují s 52 ze 60 referenčních rozhodnutí. Kontrolor A přehlédne čtyři referenčně zamítnuté kryty a zamítne čtyři referenčně přijaté kryty. Kontrolor B přehlédne dva referenčně zamítnuté a zamítne šest referenčně přijatých krytů. Stejná celková míra shody skrývá různé typy chyb.

  3. Přečtěte si tabulky chyb

    Šipka znamená rozhodnutí kontrolora → referenční rozhodnutí. Accept→Reject je přehlédnuté zamítnutí; Reject→Accept je falešný poplach. Míry přehlédnutí mají ve jmenovateli 24 referenčních zamítnutí. Míry falešných poplachů mají ve jmenovateli 36 referenčních přijetí.

  4. Mějte na paměti uspořádání studie

    Studie obsahuje 60% referenčních přijetí a 40% referenčních zamítnutí. Tato skladba ovlivňuje κ a není výrobní mírou zmetkovitosti. Každý kontrolor hodnotí každý kryt jednou, takže studie nemůže ověřit, zda kontrolor spolehlivě opakuje stejné rozhodnutí.

  5. Rozhodněte, co posoudíte

    Sporné kryty posuďte podle písemných kritérií kontroly. Přehlédnutá zamítnutí a falešné poplachy zvažujte samostatně. Pokud potřebujete posoudit konzistenci opakovaných rozhodnutí každého kontrolora, zopakujte studii s dalším pokusem.

Další podrobnosti: přečtěte si každou sekci výsledků

Úplné tabulky výsledků používají šest platných číslic, stejně jako Help.

Mezi operátory (κ dvojic)

Kontroloři se shodují na 48 ze 60 krytů (80%). Očekávaná shoda z jejich marginálních četností kategorií je 50.67%, což dává Cohenův koeficient κ = 0.5946. 95% bootstrapový interval s pevnou počáteční hodnotou je přibližně 0.3667–0.7966. κ není procento správnosti a shoda mezi kontrolory neprokazuje správnost vůči referenci.

Mezi operátory (κ dvojic) · 1 řádek
První hodnotitel / pokusDruhý hodnotitel / pokusPorovnáníPozorovaná shoda P₀Očekávaná shoda Pₑκ95% interval spolehlivosti — dolní mez95% interval spolehlivosti — horní mez
Inspector AInspector B600.80.5066670.5945950.3666670.79661

Operátor vůči referenci (správnost)

Oba kontroloři se shodují s 52 ze 60 referenčních rozhodnutí (86.67%). Jejich hodnoty κ se mírně liší: 0.7222 pro A a 0.7297 pro B, protože se liší jejich marginální četnosti kategorií. Reject se považuje za kategorii vady. Míry přehlédnutí jsou 16.67% pro A a 8.33% pro B; míry falešných poplachů jsou 11.11% a 16.67% v tomto pořadí. Tyto míry používají různé jmenovatele referenčních kategorií.

κ vůči referenci používá jeden Cohenův koeficient ze sdružených hodnocení pokusů. Pozorovaná a očekávaná shoda jsou sdružené podíly. Úspěšnost a míry přehlédnutí a falešných poplachů jsou podíly (0–1).

Operátor vůči referenci (správnost) · 2 řádky
OperátorPorovnáníPozorovaná shoda P₀Očekávaná shoda Pₑκ95% interval spolehlivosti — dolní mez95% interval spolehlivosti — horní mezÚspěšnost (všechny)Úspěšnost (alespoň jedno)Míra přehlédnutíMíra falešných poplachů
Inspector A600.8666670.520.7222220.5070420.8933650.866667—0.1666670.111111
Inspector B600.8666670.5066670.729730.5333330.8977270.866667—0.08333330.166667

Počty záměn — kontrolor A vůči referenci

Šipka znamená rozhodnutí kontrolora → referenční rozhodnutí. Accept→Reject představuje čtyři přehlédnutá zamítnutí ze 24 referenčních zamítnutí. Reject→Accept představuje čtyři falešné poplachy ze 36 referenčních přijetí. Zbývajících 52 rozhodnutí odpovídá referenci.

Počty záměn — kontrolor A vůči referenci · 4 řádky
Rozhodnutí → referencePočet
Accept→Accept32
Accept→Reject4
Reject→Accept4
Reject→Reject20

Počty záměn — kontrolor B vůči referenci

Kontrolor B přehlédne dva z 24 referenčně zamítnutých krytů a chybně zamítne šest z 36 referenčně přijatých krytů. Stejná celková shoda jako u kontrolora A proto skrývá jinou rovnováhu typů chyb.

Počty záměn — kontrolor B vůči referenci · 4 řádky
Rozhodnutí → referencePočet
Accept→Accept30
Accept→Reject2
Reject→Accept6
Reject→Reject22

Zastoupení kategorií

Referenční skladba je 60% Accept a 40% Reject: 36 a 24 krytů. Jde o skladbu studie, nikoli odhad výrobní míry zmetkovitosti. Zastoupení kategorií ovlivňuje shodu upravenou o náhodu, proto hodnoty κ porovnávejte pouze ve vhodném kontextu.

Zastoupení kategorií · 2 řádky
KategoriePodíl
Accept0.6
Reject0.4

Kappa — souhrn studie

Je zde 60 vzorků, dva kontroloři a žádná vyřazená porovnání. Každý kontrolor hodnotí každý vzorek jednou, takže nelze posoudit opakovatelnost rozhodnutí téhož kontrolora. Počáteční hodnota 42 s 1,000 převzorkováními reprodukuje tyto bootstrapové intervaly pro stejná data, nastavení a verzi výpočtu. Pro náhodný výběr ponechte počáteční hodnotu prázdnou.

Kappa — souhrn studie · 7 řádků
StatistikaHodnota
Díly60
OperátořiInspector A, Inspector B
KategorieAccept, Reject
Metoda mezi skupinami / uvnitř skupinCohenovo κ
Metoda pokusů vůči standarduSloučená hodnocení
Vynechaná porovnání0
Seed bootstrapu42

Kontingenční četnosti — kontrolor A / kontrolor B

Kontingenční četnosti porovnávají kontrolora A a kontrolora B přímo. Vysvětlují jejich pozorovanou shodu; pro posouzení přehlédnutých zamítnutí a falešných poplachů použijte tabulky záměn vůči referenci.

Kontingenční četnosti — kontrolor A / kontrolor B · 4 řádky
První kategorieDruhá kategoriePočet
AcceptAccept28
AcceptReject8
RejectAccept4
RejectReject20

7. Vytvořit zprávu

Zachovejte Between operators (pairwise κ), Operator vs standard (accuracy), obě tabulky počtů záměn vůči referenci, Category prevalence, Kappa — study summary, kontingenční četnosti mezi kontrolory a tepelnou mapu shody. Zaznamenejte, že každý kontrolor hodnotil každý kryt jednou.

Vyberte Add to report z dokončeného výpočtu. Otevřete Choose individual items and advanced options pro výběr tabulek a grafů a poté vyberte Add to draft. Skryté položky zůstávají v uložené analýze.

Pojmenujte zprávu a doplňte účel studie a svou interpretaci. Vyberte Save, zkontrolujte Preview, poté použijte Export → Download HTML. Příklad níže obsahuje veškerý vybraný obsah včetně výsledků přesahujících jednu obrazovku.

Tato zpráva byla vygenerována v aplikaci a je v angličtině. Úplný výstup aplikace pro tento příklad z Help včetně příslušných tabulek, grafů a poznámek k výpočtu. Čísla ve zprávách používají přesnost zobrazení aplikace. Exportované grafy jsou statické. Na úzkých obrazovkách posouvejte široké grafy a tabulky do stran.
Zobrazit ukázkovou zprávu: Shodují se kontroloři na přijatelnosti vzhledu?

Používáme Microsoft Clarity, abychom porozuměli tomu, jak návštěvníci používají tento web, včetně záznamů relací a tepelných map. Web můžete používat i bez přijetí analytiky.

Vaše volba se ukládá v tomto prohlížeči na šest měsíců. Oznámení o ochraně soukromí

Aktuální volba: Nezvoleno.