БиоСтатистика — 09. Тема 5 (продолжение). Многофакторный дисперсионный анализ
Простейшим случаем многофакторного дисперсионного анализа является двухфакторный анализ. Приведенные здесь вычисления помогут понять, чем двухфакторный анализ отличается от двух однофакторных и освоить непростое понятие взаимодействия факторов в дисперсионном анализе
←
Д.А. Шабанов, М.А. Кравченко. Статистичний аналіз даних у зоології та екології
→
Тема 5. Короткий вступ до дисперсійного аналізу
Тема 5 (продовження). Багатофакторний дисперсійний аналіз
Тема 6. Порівняння розподілів
Біостатистика-08
Біостатистика-09
Біостатистика-10
5.6. Два однофакторні дисперсійні аналізи: обчислення «вручну»
Як і в разі однофакторного аналізу, обробимо простий приклад, що містить дані зі спеціально підібраними числами. Це результати тестування студентів чоловічої та жіночої статі за трьома тестами: «легким», «середнім» та «складним». Дані розташовано не випадково, а згруповано за статтю, складністю тесту, а всередині цих груп — за зростанням отриманого балу.
Sex
Test
Balls
Sex
Test
Balls
Sex
Test
Balls
Female
Light
64
Female
Hard
10
Male
Medium
43
Female
Light
69
Female
Hard
25
Male
Medium
45
Female
Light
73
Female
Hard
34
Male
Medium
65
Female
Light
90
Female
Hard
41
Male
Medium
71
Female
Light
94
Female
Hard
60
Male
Medium
96
Female
Medium
30
Male
Light
41
Male
Hard
34
Female
Medium
39
Male
Light
43
Male
Hard
41
Female
Medium
63
Male
Light
53
Male
Hard
60
Female
Medium
72
Male
Light
65
Male
Hard
64
Female
Medium
76
Male
Light
78
Male
Hard
71
Отже, у кожній групі міститься по 5 результатів, загалом у файлі 6 груп. Фактично, за наведеними даними можна провести два однофакторні аналізи: за впливом статі учасників та за впливом складності тестів.
Наведене означає, що ми можемо обчислити суми квадратів та середні квадрати як узагалом для всіх результатів, так і для двох способів підрозділення: на дві групи за статтю та на три групи за складністю тесту.
Перший однофакторний аналіз
Обчислимо загальну суму квадратів. 
= 57, SS = (64–57)² + (69–57)² + … = 12742.
Для обчислення цієї величини без використання ANOVA, але з застосуванням пакета Statistica, а не на калькуляторі або в уме, можна зробити наступне. У файлі, що містить обговорювані дані, створюється (Vars / Add) ще один стовпець, наприклад, розташований після стовпця Balls. Подвійний клац на заголовку (верхній клітинці з назвою) цього стовпця або вибір режиму Vars / Specs призводить до вікна керування властивостями цього стовпця. У розташованому знизу вікні Long name (label or formula) вписуємо (без лапок) «=(Balls–57)**2». Замість назви стовпця «Balls» можна було б просто вказати його номер, наприклад, «v3» («v» — прийняте в даному випадку скорочення від слова variables, а «3» — номер цього стовпця у файлі). Символ «**» означає піднесення до степеня; замість нього можна також використовувати символ ^ (6 + Shift в англійській розкладці клавіатури). Після виходу з режиму редагування заголовка стовпця програма перепитає, чи пересчитати його дані, і заповнить його значеннями квадратів відхилень від середнього. Для подальших перерахунків стовпця можна скористатися командою Vars/Recalculate Spreadsheet Formulas (або просто Shift+F9).
Рис. 5.6.1. Описаний у тексті спосіб спрощення обчислень
Залишається лише визначити суму значень обчислених квадратів відхилень. Це можна зробити за допомогою режиму обчислення описових статистик: Statistics / Basic Statistics and Tables / Descriptive Statistics; на вкладці Advanced ставиться прапорець біля параметра Sum, і проводяться обчислення. Є і простіший спосіб: виділити стовпець мишкою, клацнути на виділеному полі правою клавішею, а потім вибрати Statistics of Block Data / Block Columns / Sum. У файлі з’явиться ще один рядок, у який буде автоматично вставлено відповідне значення.
Рис. 5.6.2. Швидкий спосіб обчислень із використанням меню Statistics of Block Data, який викликається клацанням правої клавіші миші
Аналогічним чином визначимо середні суми квадратів для жінок та чоловіків (при цьому у стовпець файлу для обчислення квадратів різниць середніх потрібно вставляти відповідні значення групових середніх, а потім сумувати їх у блоках, що охоплюють потрібні групи).F = 56, SSF = (64–56)² + (69–56)² + … = 8594; M = 58, SSМ = (41–58)² + (43–58)² + … = 4118.
Сумуючи отримані величини, ми отримаємо SS_помилки(S) (символ «S» означає, що ми говоримо про помилку при поділі совокупності за ознакою «Стать»).
SS_помилки(S) = SSF + SSМ = 8594 + 4118 = 12712. Число ступенів свободи для цієї величини df_помилки(S) = 30 – 2 = 28 (тридцять оцінок і два рівняння, що пов’язують дві їх групи).
MS_помилки(S) = SS_помилки(S) / df_помилки(S) = 12712 / 28 = 454.
Обчислюємо MS_ефекту(S). SS_ефекту(S) = nF × (F – )² + nM × (M – )² = 15 × 1 + 15 × 1 = 30.
df_ефекту(S) = 1. MS_ефекту(S) = 30.
Ми отримали середні квадрати для ефекту впливу статі та її помилки. Якщо при порівнянні за критеріями Стьюдента та Фішера під час обчислення критерія Фішера більша дисперсія ділиться на меншу, то в даному випадку слід діяти інакше. Щоб перевірити статистичну значущість поділу всієї совокупності за цікавою нас ознакою, ми повинні поділити середній квадрат ефекту на середній квадрат помилки. Результат красномовний:
F = MS_ефекту(S) / MS_помилки(S) = 30 / 454 = 0,061.
Статистичну значущість такого результату за таблицями можна й не перевіряти. ANOVA стверджує, що ймовірність різниці середніх, що не перевищує зареєстровану, при випадковому поділі совокупності на частини (тобто величина p) дорівнює 0,799. Отже, при однофакторному аналізі ми зареєстрували, що залежність всієї совокупності оцінок від статі учасників несуттєва. Проте (забігаючи наперед), двофакторний аналіз може суттєво скоригувати це твердження.
Другий однофакторний аналіз
Однофакторний аналіз, пов’язаний із впливом складності тестів, проведемо з використанням процедури ANOVA у пакеті Statistica, адже у «ручних» обчисленнях ми вже розібралися. Ось його результат (не звертаємо уваги на рядок Intercept!).
Рис. 5.6.3. Результат визначення впливу складності тестів на результат тестування
Як видно, складність тестів статистично значимо впливає на їх результат. Оскільки 30 наявних оцінок розбивалися на три групи, число ступенів свободи для помилки становить 27.
Отже, два однофакторні аналізи показали, що вплив одного з факторів статистично незначний, а другого — статистично значний. На відповідних графіках цей результат видно досить чітко.
Рис. 5.6.4. Графічне відображення результатів двох однофакторних аналізів (окремо)
Цікаво, що порівняння результатів тестів за допомогою критеріїв Стьюдента та Фішера для пар Light – Medium і Medium – Hard показує статистично незначиме відмінність, а лише для пари Light – Hard результат виявляється статистично значним.
Проте в обох застосованих нами аналізах ми не використали всі наявні дані. Ми ділили дані на дві та на три групи, а у нашому файлі їх 6! Двофакторний аналіз дозволяє виявити нові обставини.
5.7. Двофакторний дисперсійний аналіз: обчислення «вручну»
У однофакторних аналізах ми використовували дві моделі для пояснення змінливості оцінки за тестами.
Модель, пов’язана із впливом статі, можна представити так: 
, де xis — i-те значення досліджуваної величини при s-му значенні досліджуваного фактора Stat, — загальне середнє; Ss — вплив s-го значення фактора Stat, 
— «помилка», внесок індивідуальності об’єкта при групуванні за значеннями вказаного фактора.
Аналогічно можна було б представити й другу модель: 
.
Як об’єднати ці моделі? У значення «помилки» в першому рівнянні () входить як індивідуальність, так і вплив складності тесту; аналогічно «помилка» 
включає вплив статі учасників. Розглядаючи середнє значення, отримане представниками кожної статі, ми можемо виділити частину помилки, пов’язану зі складністю тесту; при аналізі відповіді на тести різної складності можна виділити внесок статі у зміну результату.
Загалом можна записати 
, де xist — i-те значення досліджуваної величини при s-му значенні досліджуваного фактора Stat і t-му значенні досліджуваного фактора Test, а STst — результат взаємодії факторів Stat і Test при s-му та t-му їх значеннях. Отже, ми можемо скористатися таким розкладом суми квадратів на компоненти: SS = SSS + SST + SSST + SS_помилки. Виконуючи однофакторні аналізи, ми вже встановили, що SS = 12712, SSS = 30 і SST = 2780. Суми квадратів помилок, які ми обчислювали раніше, відрізняються від тієї, що має бути отримана для двофакторного аналізу, адже тепер її потрібно обчислювати для 6 груп. Не обговорюючи процес її обчислення, що став при умові зрозумілості попередніх міркувань тривіальним, зазначимо, що SS_помилки = 7592. А як обчислити SSST?
. У цій формулі символом «s» позначені градації фактора S — Stat (який приймає 2 значення), а символом «t» — три градації фактора T — Test. У застосуванні до розглянутого випадку можна записати:
SSST = nFemaleLight × (FemaleLight – Female – Light + )² + nFemaleMedium × (FemaleMedium – Female – Medium + )² + nFemaleHard × (FemaleHard – Female – Hard + )² + nMaleLight × (MaleLight – Male – Light + )² + nMaleMedium × (MaleMedium – Male – Medium + )² + nMaleHard × (MaleHard – Male – Hard + )²
Наведемо список групових середніх. FemaleLight = 78; FemaleMedium = 56; FemaleHard = 34; MaleLight = 56; MaleMedium = 64; MaleHard = 54. Крім того, Female = 56; Male = 58, а також Light = 67; Medium = 60; Hard = 44. Нарешті, = 57. Для всіх груп n = 5.
SSST = 5 × (78 – 56 – 67 + 57)² + 5 × (56 – 56 – 60 + 57)² + 5 × (34 – 56 – 44 + 57)² + 5 × (56 – 58 – 67 + 57)² + 5 × (64 – 58 – 60 + 57)² + 5 × (54 – 58 – 44 + 57)² = 5 × [12² + 3² + 9² + 12² + 3² + 9²] = 2340.
Інтерпретувати отримані результати буде простіше за допомогою ANOVA у пакеті Statistica, але тепер ми зрозуміємо, звідки взялися значення SS, MS і F, наведені в результатах аналізу.
5.8. Двофакторний аналіз із використанням ANOVA у пакеті Statistica
Відкривши описаний файл у пакеті Statistica, виберемо вид аналізу Statistics / ANOVA. У діалозі Quick у вікні Type of analysis вкажемо Factorial ANOVA, а у вікні Specification method — Quick specs dialog.
Рис. 5.8.1. Стартове вікно для проведення багатофакторного аналізу
Після натискання OK потрапляємо у наступний діалог. На вкладці Quick необхідно вказати стовпці з факторами та досліджуваними ознаками, а також потрібні коди факторів. Натиснувши кнопку Variables, у вікні Dependent variables list вкажемо стовпець Balls, а у вікні Categorical predictors (factor) — стовпці Sex і Test (у цьому та подібних вікнах, якщо потрібно вибрати кілька змінних, їх можна виділяти клацанням миші на їх назвах з утримуваною клавішею Control). Натиснемо OK. У діалозі Factor codes для обох факторів вибираємо All.
Наступне OK переводить у вікно ANOVA Results 1. Кнопка All effects виводить таблицю дисперсійного аналізу.
Як видно з таблиці, вплив ознаки Stat статистично незначний, але й вплив ознаки Test, й взаємодія Stat*Test виявляються статистично значними. Щоб зрозуміти, у чому полягає така взаємодія, корисно побудувати графік за допомогою кнопки All effects / Graphs у вікні ANOVA Results 1. У відкриваємому діалозі вибираємо рядок Stat*Test. Програма пропонує два варіанти побудови графіка: з відображенням на осі абсцисс ознаки Test або ознаки Stat. Наведемо обидва варіанти.
Рис. 5.8.4. Варіант графіка, що відображає взаємодію факторів, у якому на осі абсцисс показано ознаку Test, а точки, що відповідають певним значенням ознаки Stat, зображено лініями
Очевидно, що простіше працювати з першим із графіків. Лініями на ньому показано результати учасників обох статей. Бачимо, що зі складністю тестів жінки отримують все менші бали. Реакція чоловіків на складність зовсім інша: легкі тести вони розв’язують невдало (можливо, просто через нудьгу), на тестах середньої складності підвищують результат, а складні тести розв’язують лише троє гірше, ніж легкі (ймовірно, сприймають їх як інтелектуальний виклик і тому серйозно напружуються).
Отже, висновок, що стать не впливає на результати тестів, потребує коригування. Немає підстав стверджувати, що одна стаття краще чи гірше справляється з тестами, ніж інша; проте зрозуміло, що чоловіки реагують на складність тестів зовсім інакше, ніж жінки. Значить, стаття справді впливає на бали, але не підвищуючи або понижуючи оцінку, а змінюючи реакцію на зміну іншого фактора.
У можливостях досліджень такого роду ефектів взаємодії факторів і проявляється одне з основних переваг дисперсійного аналізу.