Sprawdź zgodność ocen kontrolerów

Porównaj oceny kategorialne kontrolerów między sobą i z opcjonalną oceną odniesienia.

Poradniki · Analiza systemów pomiarowych (MSA) · 4 min czytania

Nazwy poleceń aplikacji, identyfikatory kolumn i wartości danych przykładowych zachowano w oryginale. Zrzuty ekranu, wykresy i pliki do pobrania są w języku angielskim.

Przykład: kontrola wyglądu

Dwaj kontrolerzy klasyfikują te same 60 malowanych obudów jako Accept lub Reject. Decyzja wzorcowa zespołu jakości jest ukryta. Badanie obejmuje przypadki jednoznaczne i graniczne, łącznie 120 ocen.

Pobierz przykład kontroli wyglądu (CSV w języku angielskim)

To ten sam przykład co w Help. sample_id identyfikuje obudowę, operator_id kontrolera, trial wynosi 1, decision zawiera ocenę kontrolera, a reference_decision ocenę wzorcową zespołu.

1. Utwórz analizę

Na pasku bocznym otwórz Measurement systems, wybierz Kappa (Attributes) i nazwij analizę. Wybierz New blank worksheet oraz Create analysis.

2. Zaimportuj dane

Na karcie Worksheet wybierz Import. Wskaż pobrany plik lub wklej zawartość. Ustaw separator Comma, wybierz Decimal dot i zaznacz First row contains column names. Sprawdź podgląd i wybierz Import into worksheet. Zachowaj każdy wiersz w pierwotnej kolejności.

3. Przypisz kolumny wejściowe

Na karcie Inputs przypisz sample_id do Sample ID, operator_id do Appraiser, trial do Trial ID, decision do Rating, a reference_decision do Reference rating (optional) z selektora kolumn.

Sprawdź wykrycie 60 × 2 × 1: 60 obudów, dwóch kontrolerów, jedno powtórzenie.

4. Ustaw opcje badania

Wpisz 0.05 w Significance level (α). W Appraiser vs standard κ wybierz Pool ratings across trials.

Otwórz Bootstrap intervals. Wpisz 1000 w Number of bootstrap resamples i 42 w Bootstrap seed. Zachowaj kolejność danych i ziarno, aby odtworzyć przedziały. Dla tego badania nie potrzebujesz Create a worksheet template. Bootstrap wielokrotnie losuje obudowy ze zwracaniem do oszacowania niepewności przedziałów. Ziarno ustala sekwencję losowań, zapewniając odtwarzalność, a nie większą dokładność.

Kappa (Attributes): Karta Inputs z przypisaniami i ustawieniami przykładu
Angielski zrzut ekranu Inputs: pięć przypisań, łączne porównanie ze wzorcem, poziom istotności i ustawienia bootstrapu z ziarnem. Otwórz obraz w pełnym rozmiarze (otwiera się w nowej karcie)

5. Uruchom analizę

Wybierz Run analysis, a następnie otwórz Results.

6. Zinterpretuj wyniki

  1. Porównaj kontrolerów

    Kontrolerzy zgadzają się dla 48 z 60 obudów, czyli 80%. Mapa pokazuje κ Cohena = 0.5946, korygujące zgodność o przypadkową zgodność wynikającą z sum ocen. 95% przedział to około 0.3667–0.7966. κ nie jest procentem trafności.

    Zgodność między operatorami
    κ Cohena między dwoma kontrolerami. To zgodność skorygowana o przypadek, nie procent trafności. Otwórz wykres w pełnym rozmiarze (otwiera się w nowej karcie)
  2. Porównaj z wartością odniesienia

    Obaj kontrolerzy zgadzają się z 52 z 60 decyzji wzorcowych. A przeocza cztery wzorcowe odrzuty i odrzuca cztery wzorcowe akceptacje. B przeocza dwa odrzuty i odrzuca sześć akceptacji. Taka sama łączna zgodność ukrywa różne rodzaje błędów.

  3. Odczytaj tabele błędów

    Strzałka oznacza decyzja kontrolera → decyzja wzorcowa. Accept→Reject to przeoczony odrzut; Reject→Accept to fałszywy alarm. Odsetki przeoczeń odnoszą się do 24 wzorcowych odrzutów, a fałszywych alarmów do 36 wzorcowych akceptacji.

  4. Uwzględnij schemat badania

    Badanie zawiera 60% wzorcowych akceptacji i 40% odrzutów. Proporcja wpływa na κ i nie jest produkcyjnym odsetkiem braków. Każdy kontroler ocenia obudowę raz, więc badanie nie sprawdza powtarzalności jego decyzji.

  5. Wybierz, co przeanalizować

    Przeanalizuj sporne obudowy według pisemnych kryteriów. Oddzielnie rozpatrz przeoczone odrzuty i fałszywe alarmy. Dodaj kolejną rundę badania, aby ocenić spójność decyzji każdego kontrolera.

Więcej szczegółów: omówienie poszczególnych wyników

Pełne tabele wyników zachowują sześć cyfr znaczących, tak jak w sekcji Help.

Między operatorami (κ parami)

Kontrolerzy zgadzają się dla 48 z 60 obudów (80%). Oczekiwana zgodność z rozkładów brzegowych to 50.67%, co daje κ Cohena = 0.5946. 95% przedział bootstrapu z ustalonym ziarnem to około 0.3667–0.7966. κ nie jest procentem trafności, a zgodność kontrolerów nie potwierdza zgodności ze wzorcem.

Między operatorami (κ parami) · Liczba wierszy: 1
Pierwszy oceniający / powtórzenieDrugi oceniający / powtórzeniePorównaniaZaobserwowana zgodność P₀Oczekiwana zgodność Pₑκ95% przedział ufności — dolna granica95% przedział ufności — górna granica
Inspector AInspector B600.80.5066670.5945950.3666670.79661

Operator względem wzorca (trafność)

Obaj kontrolerzy zgadzają się z 52 z 60 decyzji wzorcowych (86.67%). κ nieznacznie się różni: 0.7222 dla A, 0.7297 dla B, bo różnią się rozkłady brzegowe kategorii. Reject jest kategorią wady. Przeoczenia to 16.67% dla A i 8.33% dla B; fałszywe alarmy odpowiednio 11.11% i 16.67%. Odsetki mają różne mianowniki kategorii wzorcowych.

κ względem wzorca używa jednego współczynnika Cohena dla połączonych ocen rund. Zgodność zaobserwowana i oczekiwana to łączne udziały. Skuteczność, przeoczenia i fałszywe alarmy są udziałami (0–1).

Operator względem wzorca (trafność) · Liczba wierszy: 2
OperatorPorównaniaZaobserwowana zgodność P₀Oczekiwana zgodność Pₑκ95% przedział ufności — dolna granica95% przedział ufności — górna granicaSkuteczność (wszystkie)Skuteczność (dowolny)Odsetek przeoczeńOdsetek fałszywych alarmów
Inspector A600.8666670.520.7222220.5070420.8933650.866667—0.1666670.111111
Inspector B600.8666670.5066670.729730.5333330.8977270.866667—0.08333330.166667

Liczby pomyłek — kontroler A względem wzorca

Strzałka oznacza decyzja kontrolera → wzorzec. Accept→Reject to cztery przeoczenia spośród 24 wzorcowych odrzutów. Reject→Accept to cztery fałszywe alarmy spośród 36 akceptacji. Pozostałe 52 decyzje są zgodne ze wzorcem.

Liczby pomyłek — kontroler A względem wzorca · Liczba wierszy: 4
Decyzja → wzorzecLiczba
Accept→Accept32
Accept→Reject4
Reject→Accept4
Reject→Reject20

Liczby pomyłek — kontroler B względem wzorca

Kontroler B przeocza dwa z 24 wzorcowych odrzutów i fałszywie odrzuca sześć z 36 wzorcowych akceptacji. Ta sama łączna zgodność co u A ukrywa inny rozkład błędów.

Liczby pomyłek — kontroler B względem wzorca · Liczba wierszy: 4
Decyzja → wzorzecLiczba
Accept→Accept30
Accept→Reject2
Reject→Accept6
Reject→Reject22

Częstość kategorii

Skład wzorca to 60% Accept i 40% Reject: 36 i 24 obudowy. To proporcje badania, nie oszacowanie produkcyjnego odsetka braków. Częstość kategorii wpływa na zgodność skorygowaną o przypadek; porównuj κ z właściwym kontekstem.

Częstość kategorii · Liczba wierszy: 2
KategoriaUdział
Accept0.6
Reject0.4

Kappa — podsumowanie badania

Jest 60 próbek, dwóch kontrolerów i brak pominiętych porównań. Każdy ocenia próbkę raz, więc nie można ocenić jego powtarzalności. Ziarno 42 i 1,000 powtórzeń odtwarza przedziały bootstrapu przy tych samych danych, ustawieniach i wersji obliczeń. Puste ziarno oznacza losowe próbkowanie.

Kappa — podsumowanie badania · Liczba wierszy: 7
StatystykaWartość
Części60
OperatorzyInspector A, Inspector B
KategorieAccept, Reject
Metoda między / wewnątrzκ Cohena
Metoda porównania powtórzeń ze wzorcemPołączone oceny
Pominięte porównania0
Ziarno bootstrapu42

Liczby kontyngencji — kontroler A / kontroler B

Tabela kontyngencji porównuje bezpośrednio kontrolerów A i B. Wyjaśnia ich zgodność zaobserwowaną; do oceny przeoczeń i fałszywych alarmów użyj tabel pomyłek względem wzorca.

Liczby kontyngencji — kontroler A / kontroler B · Liczba wierszy: 4
Pierwsza kategoriaDruga kategoriaLiczba
AcceptAccept28
AcceptReject8
RejectAccept4
RejectReject20

7. Utwórz raport

Zachowaj Between operators (pairwise κ), Operator vs standard (accuracy), obie tabele pomyłek względem wzorca, Category prevalence, Kappa — study summary, tabelę kontyngencji kontrolerów i mapę zgodności. Zapisz, że każdy kontroler ocenił każdą obudowę raz. Natywny raport jest po angielsku.

Wybierz Add to report z zakończonego przebiegu. Otwórz Choose individual items and advanced options aby wybrać tabele i wykresy, a następnie wybierz Add to draft. Ukryte elementy pozostają w zapisanej analizie.

Nadaj raportowi nazwę, dodaj cel badania i swoją interpretację. Wybierz Save, sprawdź Preview, a następnie użyj Export → Download HTML. Poniższy przykład zawiera całą wybraną treść, w tym wyniki wykraczające poza jeden ekran.

Raport w języku angielskim. Pełny oryginalny wynik tego przykładu z Help, obejmujący odpowiednie tabele, wykresy i uwagi do obliczeń. Liczby w raporcie zachowują precyzję wyświetlaną przez aplikację. Wyeksportowane wykresy są statyczne. Na wąskich ekranach przewijaj szerokie wykresy i tabele w poziomie.
Zobacz przykładowy raport: Czy kontrolerzy zgodnie oceniają wygląd?

Używamy Microsoft Clarity, w tym nagrań sesji i map cieplnych, aby zrozumieć sposób korzystania z witryny. Możesz korzystać z witryny bez wyrażania zgody na analitykę.

Twój wybór jest zapisywany w tej przeglądarce na sześć miesięcy. Informacja o prywatności

Obecny wybór: Nie wybrano.