БіоСтатистика — 14. Тема 10. Дискримінантний аналіз

←

D.A. Shabanov, M.A. Kravchenko. Статистичний аналіз даних у зоології та екології

→

Тема 9. Метод головних компонент

Тема 10. Дискримінантний аналіз

Тема 11. Деякі методи, характерні для зоології та екології

Біостатистика-13

Біостатистика-14

Біостатистика-15

Тема 10. Дискримінантний аналіз
10.1. Призначення та основна логіка дискримінантного аналізу
Дискримінантний аналіз — це статистичний метод, призначений для вивчення відмінностей між двома або більшою кількістю груп об’єктів з використанням даних про різноманітність кількох ознак, що відрізняють ці об’єкти один від одного. Типова для дискримінантного аналізу задача — визначення тих ознак, які найкраще дискримінують (відрізняють) об’єкти, що належать до різних груп. Після того, як визначені найкращі способи дискримінації наявних груп (тобто проведена інтерпретація відмінностей між ними), цей спосіб аналізу дозволяє проводити класифікацію зразків, приналежність яких до тієї чи іншої групи заздалегідь невідома. Дискримінантний аналіз розробив Рональд Фішер (1890—1962), класик біометрії та еволюційної біології.
Пояснити, як може бути використаний дискримінантний аналіз, найпростіше на прикладах. Припустимо, нас цікавлять різниці між жіночими та чоловічими скелетами (або між формою тіла диплоїдних і триплоїдних зелених жаб). Ми розглядаємо сукупність скелетів чоловіків і жінок (або морфологічних ознак диплоїдів і триплоїдів) і визначаємо, які ознаки найкраще дискримінують ці групи. Після цього ми можемо використати отримані результати для того, щоб визначити статеву приналежність скелетів, стать яких нам спочатку не відома (або визначати плоїдність жаб за формою їхнього тіла).
Алгоритм дискримінантного аналізу розглядає багатовимірний простір ознак, у якому розташовані досліджувані об’єкти (стан ознак кожного об’єкта визначає його положення в такому просторі). У цьому просторі вибирається така канонічна дискримінантна функція, яка в найбільшій мірі відображає відмінності між групами об’єктів. Ця процедура нагадує процедуру, що використовується при аналізі головних компонент, за винятком того, що при компонентному аналізі вибираються головні компоненти, на які проєктуються максимум інформації про різноманітність усіх об’єктів, а дискримінантний аналіз максимізує відмінності між заздалегідь заданими їхніми групами. Після того, як обрана перша така функція, на підставі залишкової інформації обирається друга канонічна дискримінантна функція.
З іншого боку, дискримінантний аналіз близький до дисперсійного. Його завдання можна сформулювати так. У ході дискримінантного аналізу обирається дискримінантна функція (змінна або лінійна комбінація змінних), яка дозволяє відрізняти групи одна від одної і значення якої може бути використане для того, щоб передбачити, до якої групи належить кожен об’єкт. Ситуацію можна розглянути і в термінології одновимірного дисперсійного аналізу (ANOVA). Чи є статистично значимими відмінності груп за характерними для них значеннями дискримінантної функції? За якою з дискримінантних функцій відмінності між групами виявляються найбільш статистично значимими?
Як обрати дискримінантну функцію так, щоб вона найкраще відображала відмінності між групами? Дискримінантна функція тим краща, чим щільніше об’єкти кожної групи розташовані навколо центроїдів («центрів тяжкості») груп, і чим далі один від одного розташовані центроїди. Кожна наступна функція буде вносити все менший і менший внесок у дискримінацію розглянутих груп. Кожна дискримінантна функція — це певна лінійна комбінація дискримінантних змінних, тобто ознак, що характеризують розглянуті об’єкти. Максимальна кількість дискримінантних функцій на одну одиницю менша за кількість дискримінантних змінних і не перевищує кількості груп.
Алгоритм дискримінантного аналізу базується на двох досить важливих припущеннях. Приймається, що дискримінантні змінні мають нормальний розподіл, і що їх дисперсія та коваріація в різних групах є однорідною. Невеликі відхилення від математичної істинності цих умов є цілком допустимими.
«Найважливішим критерієм правильності побудованого класифікатора є практика». Halafyan, 2007

10.2. Приклад виконання дисперсійного аналізу: морфометричні ознаки жаб
Освоїти процедуру дисперсійного аналізу найпростіше, використавши її для аналізу даних у файлі Pelophylax_example.sta. Визначимо, які змінні найкраще здійснюють дискримінацію між жабами, що належать до п’яти різних генотипів. Для цього скористаємося модулем Discriminant Analysis у підменю Multivariate Exploratory Techniques з меню Statistics, як показано на рис. 10.2.1.

Рис. 10.2.1. Виклик модуля дискримінантного аналізу
Почнемо з того, що розглянемо всі сім морфометричних ознак, включених у наш аналіз. Виберемо їх у вікні Variables так, як показано на рис. 10.2.2.

Рис. 10.2.2. Вибір групуючої змінної (генотип) та дискримінантних змінних
У цьому випадку виконаємо аналіз з налаштуваннями за замовчуванням. Його результат показаний на рис. 10.2.3.

Рис. 10.2.3. Після того, як на показаному на попередньому малюнку діалоговому вікні була натиснута кнопка OK, з’явилося вікно Discriminant Function Analysis Result. Якщо в цьому вікні натиснути кнопку Summary, з’явиться таблиця з результатами: Discriminant Function Analysis Summary, також показана на цьому малюнку
Зараз слід розглянути основні статистики, які використовуються для інтерпретації результатів дискримінантного аналізу. Найголовніші з них показані у верхній частині вікна Discriminant Function Analysis Result, а більш докладні результати, що стосуються кожної зі змінних, відображаються у вікні Discriminant Function Analysis Summary (рис. 10.2.3).
Wilk`s Lambda — лямбда Вілкса (статистика Вілкса). Ця статистика обчислюється як відношення детермінанту матриці внутрігрупових дисперсій (коваріацій) до детермінанту загальної коваріаційної матриці. Вникати в деталі того, що це означає, ми не будемо, і обійдемося простим визначенням. Лямбда Вілкса — це відношення міри внутрігрупової змінності до міри загальної змінності. Внутрігрупова змінність — частина загальної, і це означає, що лямбда Вілкса може приймати значення від 0 (групи повністю однорідні) до 1 (розподіл об’єктів на групи не призводить до того, що внутрігрупова змінність виявляється меншою за загальну). Отже, чим менше значення має лямбда Вілкса, тим кращим виявляється розподіл на групи при дискримінантному аналізі.
У верхній частині вікна Discriminant Function Analysis Result показано загальне значення лямбди Вілкса для дискримінантного аналізу з урахуванням усіх залучених змінних. У першому стовпці вікна Discriminant Function Analysis Summary, навпроти кожної зі змінних, показано значення лямбди Вілкса для аналізу, у якому дана змінна не використовується. Якщо виключення якоїсь змінної з аналізу призвело до суттєвого погіршення результату, то ми можемо стверджувати, що ця змінна вносила в нього важливий внесок. Отже: чим вище значення лямбди Вілкса у першому стовпці вікна Discriminant Function Analysis Summary, тим важливіший цей признак, а чим нижче загальне значення цієї статистики, показаної у Discriminant Function Analysis Result, тим якісніше було проведено розподіл груп. Спробуйте не заплутатися!
Partial Lambda — часткова лямбда. Ця статистика показує відношення лямбди Вілкса після додавання даної змінної до лямбди Вілкса до додавання змінної. Якщо змінна вносить хоча б якийсь внесок у розподіл груп, після її додавання лямбда Вілкса має зменшитися. У зв’язку з цим, чим меншим виявляється значення часткової лямбди, тим цінніший даний признак.
F-remove — F‑критерій, пов’язаний з виключенням даного ознаки з аналізу, а p‑level — це рівень його статистичної значимості. Якщо виключення ознаки призводить до статистично значимого зміни співвідношення дисперсій, значить ця ознака вносить важливий внесок у дискримінацію груп.
Нарешті, Toler. — толерантність. Це міра надмірності ознаки, яка обчислюється як 1‑R2, де R2 — коефіцієнт множинної кореляції даної ознаки зі всіма іншими ознаками, використаними в аналізі. Чим нижча толерантність, тим сильніше дана ознака пов’язана зі всіма іншими. А для коефіцієнта множинної кореляції, який вказується в останньому стовпці, ситуація протилежна. Чим вище R2, тим сильніше дана ознака пов’язана з іншими, використаними в моделі.
Ще однією важливою мірою, що дозволяє оцінити якість розподілу об’єктів за групами, є відсоток коректно класифікованих об’єктів. Щоб дізнатися його, треба в кінці Discriminant Function Analysis Result перейти на вкладку Classification (рис. 10.2.4).

Рис. 10.2.4. Вкладка Classification у вікні Discriminant Function Analysis Result. Щоб оцінити коректність отриманого в результаті аналізу розподілу за групами, треба натиснути кнопку Classification Matrix (див. наступний малюнок)

Рис. 10.2.5. Коректність класифікації за використаними в аналізі даними. Рядки — те, до яких груп фактично належать розглянуті особини. Стовпці — відображення того, як ці об’єкти були б класифіковані (за використаними змінними), якби їхня приналежність до груп була невідома На рис. 10.2.5 ми можемо бачити, що наш аналіз дозволив би правильно визначити дві третини розглянутих особин. Найкраще визначаються особини з генотипом RR (Pelophylax ridibundus), а найгірше LL — (Pelophylax lessonae). Проте особливості людського сприйняття такі, що жодна статистика (для якої треба запам’ятовувати, збільшення чи зменшення її свідчить про підвищення якості розподілу) не зрівняється з наочним графіком, що показує розподіл об’єктів один щодо одного. Щоб отримати наочну картинку, слід виконати канонічний аналіз (рис. 10.2.6).

Рис. 10.2.6. У вкладці Advanced у вікні Discriminant Function Analysis Result можна викликати канонічний аналіз (Perform canonical analysis)

Рис. 10.2.7. Вікно з результатами канонічного аналізу. У ньому треба перейти на вкладку Canonical scores (канонічні корені)...

Рис. 10.2.8. ...і натиснути кнопку Scatterplot of canonical scores

Рис. 10.2.9. Вибравши необхідні канонічні корені (зазвичай — перший і другий), можна побачити, як розташовуються у їхньому просторі досліджувані зразки Отриману картину вже можна інтерпретувати. Ми можемо бачити, що перший канонічний корінь відображає відмінності між Pelophylax ridibundus і Pelophylax lessonae. Гібриди розташовуються між батьківськими видами, «випрямувавшись» у порядку відношення батьківських геномів. Розподіл не абсолютний і включає певне перекриття (саме з ним пов’язані випадки, коли класифікація була б виконана некоректно). Нагадую, що канонічні корені — це ті самі канонічні дискримінантні функції, які обираються так, щоб вони найкраще відображали відмінності між групами об’єктів. Ці корені є лінійними комбінаціями дискримінантних змінних (у граничному випадку — відповідають якимось із змінних). Щоб подивитися, як пов’язані канонічні корені та дискримінантні змінні, треба натиснути кнопку Factor structure на вкладці Advanced у вікні Canonical Analisis. Там показані коефіцієнти кореляції, що зв’язують кожен канонічний корінь з кожною дискримінантною змінною. 10.3. Пошук більш ефективних способів розподілу груп У попередньому пункті в дискримінантному аналізі використовувалися «сирі» морфометричні ознаки. Можна припустити, що це не найкраще рішення. Види та внутрівидові форми тварин дуже часто відрізняються один від одного пропорціями — співвідношеннями різних морфометричних ознак. У багатьох випадках у зоологічних дослідженнях вдачним виявляється такий варіант: використати певну ознаку, яка характеризує загальний розмір, у її абсолютній формі, а всі інші — у вигляді пропорцій, їхніх відношень до ознаки, що характеризує розмір. У нашому прикладі, природно, розмір характеризує ознака L — довжина тіла. Шість інших ознак можна використати у вигляді пропорцій — частки від ділення їх абсолютних розмірів на L. Виконаємо аналіз з таким набором ознак. Його результати показані на рис. 10.3.1.

Рис. 10.3.1. Результати дискримінантного аналізу, у якому використано довжину тіла та відношення інших ознак до довжини тіла. Позначенням типу T_L відповідають пропорції, які обчислюються як T/L При використанні абсолютних значень ознак лямбда Вілкса склала 0,20. При переході до пропорцій вона трохи зменшилася і стала рівною 0,19 (0,18952).

Рис. 10.2.2. Коректність класифікації при використанні відношень морфометричних ознак до довжини тіла Трохи покращилася і коректність класифікації. Вона тепер становить 73,7 % (при використанні «сирих» даних була 66,6 %).

Рис. 10.3.3. Розподіл досліджуваних об’єктів у площині двох перших канонічних дискримінантних функцій при використанні даних про довжину тіла особин та їхніх пропорцій до довжини тіла Якість розподілу особин у площині двох канонічних коренів змінилася незначно. Нам не вдалося якісно покращити якість класифікації, але ми переконалися, що, використовуючи замість «сирих» даних їхні співвідношення, можна підвищити результат. А як знайти оптимальний набір ознак, який треба використовувати для пошуку відмінностей між представниками різних генотипів?