Лекция

БиоСтатистика — 07. Тема 4 (продолжение). Непараметрические критерии для сравнения выборок

Обсуждение нескольких непараметрических критериев, используемых для сравнения выборок: Манна-Уитни, Краскела-Уоллиса и критерия знаков

pithia

D. Shabanov, M.A. Kravchenko. Статистичний аналіз даних у зоології та екології

Тема 4 (продовження). Багатократні порівняння

Тема 4 (продовження). Непараметричні критерії для порівняння вибірок

Тема 5. Коротке введення в дисперсійний аналіз

Біостатистика‑06

Біостатистика‑07

Біостатистика‑08

4.8. Непараметричні аналоги параметричних методів
Параметричні критерії, які ми розглядали до цього, базуються на тому, що порівнювані вибірки можна охарактеризувати двома параметрами: середнім і стандартним відхиленням (або якоюсь іншою мірою змінності). А що робити, якщо розподіл у вибірках (або, точніше, у тій генеральній сукупності, звідки були отримані ці вибірки) є зовсім іншим?
Якщо чисельність кожної з порівнюваних вибірок достатньо велика (більше ста), параметричні критерії можна використовувати все одно. Яке б розподілення не мали ці вибірки, їхні середні «ведуть себе» приблизно так само, як середні вибірок з нормальним розподілом. Однак якщо чисельність вибірок нижча, слід використовувати непараметричні критерії.
Наприклад, непараметричним аналогом t‑критерію Ст’юдента є U‑критерій Манна‑Уїтні. Критерій Ст’юдента побудований на основі розподілу, який описує відхилення середнього значення вибірки певної чисельності mean навколо генерального середнього нормально розподіленої величини myu. Чим сильніше відхилення mean від myu, тим нижча ймовірність того, що воно отрималося випадково при формуванні вибірки. А як діяти, якщо ми нічого не знаємо про характер розподілу генеральних сукупностей?
Розглянемо досить простий приклад, що пояснює, як працює велика група непараметричних методів, — рангові критерії. Маємо дві вибірки. Розташуємо їх елементи у порядку зростання: перша — a1, a2, a3, a4, a5; друга — b1, b2, b3, b4, b5, b6. Складемо з елементів цих вибірок загальний ряд, побудований у порядку зростання їхніх значень. Порівняємо три різні випадки:
№ 1: a1, a2, a3, a4, a5, b1, b2, b3, b4, b5, b6;
№ 2: a1, a2, a3, a4, b1, a5, b2, b3, b4, b5, b6;
№ 3: b1, a1, b2, a2, b3, a3, b4, b5, a4, a5, b6.
У випадку № 1 всі елементи однієї вибірки розташовані з одного боку загального ряду, а всі елементи іншого ряду — з іншого боку. У випадку № 2 однієї перестановки (елементів b1 і a5) було б достатньо, щоб порядок елементів став, як у випадку № 1. Нарешті, у випадку № 3 елементи двох вибірок переплутані, і щоб розташувати їх у ряд, де спочатку будуть одні, а потім — інші, треба зробити 5 перестановок. Нам потрібно вибрати між альтернативною гіпотезою (за якою вибірки a і b взяті з різних сукупностей) і нульовою гіпотезою (за якою ці вибірки взяті з однієї сукупності). Чи однакові ймовірності альтернативної і нульової гіпотез для показаних нами трьох різних випадків? Ні; альтернативна гіпотеза більш ймовірна у першому випадку, а нульова — у третьому.
Ідея рангового непараметричного критерію полягає в тому, що ми можемо використати кількість необхідних перестановок як мірило для оцінки нульової і альтернативної гіпотези. Конкретні величини, які обчислюються при застосуванні непараметричних критеріїв, виявляються іншими, але логіка порівняння приблизно відповідає розглянутому нами прикладу.
Отже, завдяки застосуванню кмітливих підходів, для параметричних методів порівняння вибірок підбрані їх непараметричні аналоги (табл. 4.8.1). Найчастіше непараметричні методи мають меншу потужність (тобто частіше відхиляють альтернативну гіпотезу в ситуації, коли вона насправді вірна), але дозволяють працювати з різнорозподіленими даними і менш чутливі до малої чисельності порівнюваних вибірок.
Таблиця 4.8.1. Непараметричні аналоги параметричних методів

Тип порівняння

Параметричні методи

Непараметричні методи

Порівняння значень величини в двох незалежних вибірках

t‑критерій Ст’юдента;
Дисперсійний аналіз (ANOVA)

U‑критерій Манна‑Уїтні;
Критерій серій Вальда‑Вольфовіца;
Двовибірковий критерій Колмогорова‑Смірнова

Порівняння значень величини в двох залежних вибірках

t‑критерій Ст’юдента для парних порівнянь

Критерій знаків
Критерій Вілкоксона

Порівняння значень величини в кількох незалежних вибірках

Дисперсійний аналіз (ANOVA)

Ранговий дисперсійний аналіз Краскела‑Уолліса;
Медіанний тест

4.9. U‑критерій Манна‑Уїтні
Щоб розглянути застосування критерію Манна‑Уїтні на нашому файлі‑прикладі Pelophylax_example.sta, доведеться використати кілька штучних прикладів. Як приклад величини, розподіл якої сильно відрізняється від нормального, можемо використати ознаку, що називається DNA — вміст ДНК на клітину (у піграм‑ах, пг), виміряний за допомогою проточної ДНК‑цитометрії.
Рис. 4.9.1. Ознака «DNA» має розподіл, різко відмінний від нормальногоВизначимо, чи відрізняються за значенням цієї ознаки самки і самці Pelophylax esculentus. Щоб скористатися критерієм Манна‑Уїтні, перейдемо в меню Statistics / Nonparametrics. Зв
Рис. 4.9.1. Ознака «DNA» має розподіл, різко відмінний від нормального
Визначимо, чи відрізняються за значенням цієї ознаки самки і самці Pelophylax esculentus. Щоб скористатися критерієм Манна‑Уїтні, перейдемо в меню Statistics / Nonparametrics. Зверніть увагу на піктограми в меню: вони відповідають тим, що використовуються для аналогічних порівнянь за допомогою t‑тесту.
Рис. 4.9.2. U‑критерій Манна‑Уїтні обчислюється тутУ діалоговому вікні треба вказати залежну (Dependent) і групуючу (Grouping) змінні; якщо групуюча змінна має більше двох значень, треба вибрати ті два значення, яким відповідатимуть порівнювані виб
Рис. 4.9.2. U‑критерій Манна‑Уїтні обчислюється тут
У діалоговому вікні треба вказати залежну (Dependent) і групуючу (Grouping) змінні; якщо групуюча змінна має більше двох значень, треба вибрати ті два значення, яким відповідатимуть порівнювані вибірки. Щоб вибрати лише представників Pelophylax esculentus, скористаємося вікном Select cases і використаємо текстово‑цифрові позначення, введені в пункті 3.1, при описі файлу‑прикладу.
Рис. 4.9.3. Налаштування, що вибираються для описаного порівнянняВи можете бачити, що Statistica обчислює всі три згадані в табл. 4.9.1. критерії, які використовуються для порівняння двох незалежних вибірок, але «рекомендовано» (запускається кнопко
Рис. 4.9.3. Налаштування, що вибираються для описаного порівняння
Ви можете бачити, що Statistica обчислює всі три згадані в табл. 4.9.1. критерії, які використовуються для порівняння двох незалежних вибірок, але «рекомендовано» (запускається кнопкою, розташованою у лівому верхньому куті) критерій Манна‑Уїтні. Обчислимо його і переконаємося, що відмінності між самками і самцями за кількістю ДНК на клітину статистично незначимі.
Рис. 4.9.4. Результат порівняння за Манном‑УїтніЯкщо нас не цікавить односторонній критерій, доцільно використати p‑значення, обчислене з поправкою (те, що знаходиться після стовпця «Z adjusted», тобто 0,906780). Ця поправка підвищує потужність кри
Рис. 4.9.4. Результат порівняння за Манном‑Уїтні
Якщо нас не цікавить односторонній критерій, доцільно використати p‑значення, обчислене з поправкою (те, що знаходиться після стовпця «Z adjusted», тобто 0,906780). Ця поправка підвищує потужність критерію у випадку вибірок, чисельність яких перевищує 20. Так чи інакше, жодної суттєвої різниці між самцями і самками не виявлено.
Використаний нами діалог для порівняння за Манном‑Уїтні передбачає можливість побудови коробчастих графіків. Оскільки ми застосовуємо непараметричний метод, на графіку не відображаються параметри вибірки (наприклад, її середнє), а використовуються непараметричні міри — медіана і квартилі (значення, «перерізаючі» розподіл у чверті).
Рис. 4.9.5. Графічне порівняння розподілів значення ознаки DNA для самок і самців Pelophylax esculentusМоже здатися дивним, чому перша (від Min до 25 %) і остання (від 75 % до Max) чверті настільки вже, ніж друга і третя? Щоб це зрозуміти, побудуєм
Рис. 4.9.5. Графічне порівняння розподілів значення ознаки DNA для самок і самців Pelophylax esculentus
Може здатися дивним, чому перша (від Min до 25 %) і остання (від 75 % до Max) чверті настільки вже, ніж друга і третя? Щоб це зрозуміти, побудуємо категоризовану гістограму.
Рис. 4.9.6. Гістограма, що показує розподіли значення ознаки DNA, зареєстровані для самок і самців Pelophylax esculentusСтає зрозуміло, що вражаюча властивість показаних на попередньому рисунку розподілів є наслідком бімодальності розглянутої нами
Рис. 4.9.6. Гістограма, що показує розподіли значення ознаки DNA, зареєстровані для самок і самців Pelophylax esculentus
Стає зрозуміло, що вражаюча властивість показаних на попередньому рисунку розподілів є наслідком бімодальності розглянутої нами ознаки.
4.10. Критерій знаків для парних порівнянь
У нашому файлі‑прикладі Pelophylax_example.sta відсутні дані, які потребують порівняння значень двох пов’язаних вибірок, тому ми створимо їх штучно. Уявімо, що вибірку з 25 жаб виміряли два дослідники. Їхні результати вимірювань знаходяться у стовпцях First і Second. Розмірне розподілення у цій вибірці спочатку було далеким від нормального.
Рис. 4.10.1. Розподіл розмірів жаб (у 0,1 мм) за даними вимірювань, виконаних двома людьми на одному і тому ж матеріаліПроте для багатьох жаб результати вимірювань, зроблених першим і другим дослідником, різняться. Наше завдання — встановити, чи одн
Рис. 4.10.1. Розподіл розмірів жаб (у 0,1 мм) за даними вимірювань, виконаних двома людьми на одному і тому ж матеріалі
Проте для багатьох жаб результати вимірювань, зроблених першим і другим дослідником, різняться. Наше завдання — встановити, чи однаково вимірюють довжину жаб два дослідники. Для пошуку відповіді скористаємося критерієм знаків.
Рис. 4.10.2. Використання критерію знаків для порівняння результатів вимірювань, зроблених двома різними дослідникамиКритерій знаків просто визначає частку випадків, у яких значення з однієї вибірки більше, ніж значення з іншої вибірки.
Рис. 4.10.2. Використання критерію знаків для порівняння результатів вимірювань, зроблених двома різними дослідниками
Критерій знаків просто визначає частку випадків, у яких значення з однієї вибірки більше, ніж значення з іншої вибірки.
Рис. 4.10.3. Відмінності статистично значимі!Ми можемо встановити, що другий дослідник статистично значно частіше завищував результати вимірювань порівняно з першим дослідником.Порівняємо отриманий результат з результатом від використання параметрич
Рис. 4.10.3. Відмінності статистично значимі!
Ми можемо встановити, що другий дослідник статистично значно частіше завищував результати вимірювань порівняно з першим дослідником.
Порівняємо отриманий результат з результатом від використання параметричного методу — t‑критерію для парних вибірок.
Рис. 4.10.4. Параметричний метод дав той самий результат, але з трохи більшою надійністюНижче p‑значення, визначене за допомогою параметричного критерію, цілком узгоджується з вищезгаданим фактом, що параметричні методи мають більшу потужність, ніж
Рис. 4.10.4. Параметричний метод дав той самий результат, але з трохи більшою надійністю
Нижче p‑значення, визначене за допомогою параметричного критерію, цілком узгоджується з вищезгаданим фактом, що параметричні методи мають більшу потужність, ніж непараметричні. Але чи доцільно ми використали параметричний критерій? Насправді, так. Парні порівняння розглядають не сукупність значень у першій і другій вибірці, а різницю за кожним елементом між першою і другою вибіркою. Побудуємо розподіл різниці між вибірками First і Second.
Рис. 4.10.5. Розподіл різниці між вимірюваннями двох дослідниківМожна бачити, що відхилення розподілу різниці між двома вимірюваннями від нормального є статистично незначимим. Використання параметричного тесту було цілком доцільним.А чи могли ми вик
Рис. 4.10.5. Розподіл різниці між вимірюваннями двох дослідників
Можна бачити, що відхилення розподілу різниці між двома вимірюваннями від нормального є статистично незначимим. Використання параметричного тесту було цілком доцільним.
А чи могли ми використати методи для порівняння незалежних вибірок? У випадку порівняння незалежних вибірок те, що розподіл цікавих нам величин сильно відрізняється від нормального, є важливим. Таким чином, треба застосовувати не t‑критерій, а U‑критерій. Щоб використати U‑критерій Манна‑Уїтні, файл з даними доведеться переструктурувати: всі вимірювання мають бути в одному стовпці, а другий стовпець стане групуючим.
Рис. 4.10.6. За Манном‑Уїтні результати вимірювань, виконаних двома різними людьми, не відрізняютьсяЯк пояснити таку відмінність? Як і в багатьох інших випадках, перше, що треба зробити при будь‑якому нерозумінні — подивитися на розподіл цікавих нам
Рис. 4.10.6. За Манном‑Уїтні результати вимірювань, виконаних двома різними людьми, не відрізняються
Як пояснити таку відмінність? Як і в багатьох інших випадках, перше, що треба зробити при будь‑якому нерозумінні — подивитися на розподіл цікавих нам величин.
Рис. 4.10.7. Розподіли результатів вимірювань, виконаних двома людьми, практично однакові. Проте, як свідчить рис. 4.10.3, для 75 % жаб результати вимірювання другого дослідника виявляються більшими, ніж результати вимірювання першого дослідника!Зви
Рис. 4.10.7. Розподіли результатів вимірювань, виконаних двома людьми, практично однакові. Проте, як свідчить рис. 4.10.3, для 75 % жаб результати вимірювання другого дослідника виявляються більшими, ніж результати вимірювання першого дослідника!
Звичайно, отриманий результат цілком закономірний. Використовуючи критерій Манна‑Уїтні замість критерію знаків (або критерію Вілкоксона), ми втратили важливу інформацію, що характеризує закономірності змін розглянутої нами величини.
До речі, використані нами дані були згенеровані штучно. Стовпець First був фрагментом з файлу Pelophylax_example.sta, куди потрапили в основному найменші і найкрупніші особини, а стовпець Second отримано за формулою =Trunc(First‑2,4+Rnd(8)). Вам зрозуміло, що і як «робить» ця формула?
4.11. Ранговий дисперсійний аналіз Краскела‑Уолліса
До цього часу ми використовували лише парні порівняння вибірок. Тепер розглянемо метод, що дозволяє порівнювати одночасно кілька вибірок. Тест Краскела‑Уолліса є непараметричним аналогом дисперсійного аналізу (ANOVA), який докладно обговорюється в наступному розділі нашого посібника. З обчислювальної точки зору це багатовимірне узагальнення тесту Манна‑Уїтні. Хоча тест Краскела‑Уолліса в деяких аспектах і поступається дисперсійному аналізу (наприклад, у тому, що не дозволяє одночасно оцінювати дії двох чи більш факторів), він є потужним інструментом, придатним для розв’язання багатьох задач.
Покажемо дію тесту Краскела‑Уолліса на прикладі нашого файлу Pelophylax_example.sta (см. пункт 3.1). Потрібно з’ясувати, чи відрізняються представники різних генотипів за довжиною внутрішнього п’яткового бугра статистично значущо. Це цілком змістовне завдання, адже розмір і форма внутрішнього п’яткового бугра є важливим діагностичним ознакою, корисною для визначення різних форм зелених жаб.
Рис. 4.11.1. Зверніть увагу на виділену піктограму, що відповідає порівнянню кількох незалежних групОчевидно, що залежною змінною є довжина п’яткового бугра (Ci), а групуючою — генотип.
Рис. 4.11.1. Зверніть увагу на виділену піктограму, що відповідає порівнянню кількох незалежних груп
Очевидно, що залежною змінною є довжина п’яткового бугра (Ci), а групуючою — генотип.
Рис. 4.11.2. Налаштування обрано. Якщо треба порівнювати не всі значення групуючої змінної, слід скористатися діалогом, що викликається кнопкою CodeНатиснувши кнопку Summary, ви отримаєте результати одразу двох тестів: непараметричного дисперсійного
Рис. 4.11.2. Налаштування обрано. Якщо треба порівнювати не всі значення групуючої змінної, слід скористатися діалогом, що викликається кнопкою Code
Натиснувши кнопку Summary, ви отримаєте результати одразу двох тестів: непараметричного дисперсійного аналізу Краскела‑Уолліса та медіанного тесту, який базується на методі Рис. 4.11.1. Зверніть увагу на виділену піктограму, що відповідає порівнянню кількох незалежних групОчевидно, що залежною змінною є довжина п’яткового бугра (Ci), а групуючою — генотип.Рис. 4.11.2. Налаштування обрано. Якщо треба порівнювати не всі Пірсона. Використання Рис. 4.11.1. Зверніть увагу на виділену піктограму, що відповідає порівнянню кількох незалежних групОчевидно, що залежною змінною є довжина п’яткового бугра (Ci), а групуючою — генотип.Рис. 4.11.2. Налаштування обрано. Якщо треба порівнювати не всі детальніше обговорюється в одній з наступних глав цього посібника, а тут достатньо сказати, що цей метод застосовується для непараметричного порівняння розподілів. Якщо розподіли залежної величини для різних груп, виділених за значенням групуючої ознаки, виявляються різними, це свідчить про зв’язок між групуючою і залежною змінними. Метод Краскела‑Уолліса, як ви пам’ятаєте, належить до рангових непараметричних методів. Ці два методи працюють за різними принципами і часто дають досить різко відмінні результати.
Рис. 4.11.3. Обидва методи демонструють статистично значущий вплив групуючої змінної на залежну змінну. Метод Краскела‑Уолліса дає p=0,0047, а медіанний тест — p=0,0112Зверніть увагу: через якийсь незрозумілий снобізм у деяких вікнах програми Statis
Рис. 4.11.3. Обидва методи демонструють статистично значущий вплив групуючої змінної на залежну змінну. Метод Краскела‑Уолліса дає p=0,0047, а медіанний тест — p=0,0112
Зверніть увагу: через якийсь незрозумілий снобізм у деяких вікнах програми Statistica 0 перед десятковим розділювачем (при налаштуваннях ОС — кома) не ставиться.
Натиснувши кнопку Multiple comparisons of mean ranks for all groups, можна отримати результати парного порівняння всіх груп. Фактично, це еквівалентно виконанню порівняння за Манном‑Уїтні для всіх можливих пар груп. Програма при цьому виводить два вікна: значення величини z, що використовується у розрахунках за Манном‑Уїтні, і розрахований для кожної пари рівень статистичної значимості різниць.
Рис. 4.11.4. Парні порівняння груп у діалозі тесту Краскела‑Уолліса еквівалентні множинним порівнянням за допомогою критерію Манна‑УїтніЗверніть увагу, що при проведенні множинних порівнянь з’являється ризик статистичної помилки I роду (прийняти аль
Рис. 4.11.4. Парні порівняння груп у діалозі тесту Краскела‑Уолліса еквівалентні множинним порівнянням за допомогою критерію Манна‑Уїтні
Зверніть увагу, що при проведенні множинних порівнянь з’являється ризик статистичної помилки I роду (прийняти альтернативну гіпотезу, коли вірна нульова). Щоб уникнути цього, слід застосовувати описану вище поправку на множинні порівняння.
Нарешті, кнопка Box & whisker дозволяє візуально порівняти розподіли різних груп.
Рис. 4.11.5. Порівняння розподілів довжини п’яткового бугра у представників різних генотипівЩе одна з «графічних» кнопок діалогу дозволяє побудувати категоризовані гістограми для порівнюваних груп; з точки зору автора, цей спосіб виведення результат
Рис. 4.11.5. Порівняння розподілів довжини п’яткового бугра у представників різних генотипів
Ще одна з «графічних» кнопок діалогу дозволяє побудувати категоризовані гістограми для порівнюваних груп; з точки зору автора, цей спосіб виведення результатів є менш наочним.