Дисперсионный анализ

ANOVA

ANOVA в статистике - это мощный инструмент для определения влияния различных групп наблюдений между собой. Дисперсионный анализ был введён Фишером - английским учёным, сделавшим огромный вклад в развитие науки. ANOVA - это акроним от ANalysis Of VAriance (дисперсионный анализ).

Пример

Предположим, Вы хотите эмпирическим методом провести исследование бензина на качество, для этого вы заправляете бак на одной заправке и проезжаете n километров, повторяете такой эксперимент, скажем, пять раз, затем проводите такой же эксперимент, только на другой заправке. У Вас два набора данных - заправка A и заправка B. Разумеется, цифры разбегаются, но всё же есть некоторая зависимость, так вот, что бы определить, влияет ли заправка на расход бензина (или данные не связаны между собой) Вы используете дисперсионный анализ.

Дисперсионный анализ позволяет определить какой из факторов влияет больше, внутригрупповой или межгрупповой. В примере выше Вы сможете определить, насколько влияет на расход бензина выбор заправки. В этом суть дисперсионного анализа: узнать, является ли выбранный фактор значимым для выбранных наблюдений.

В некотором смысле, дисперсионный анализ похож на регрессионный и корреляционный анализы, т.к. позволяет определить влияние переменных друг на друга.

Анализ

В теории, для анализа дисперсии выстраивается простая модель, схожая с изучаемой в анализе временых рядов.

Модель

Модель дисперсионного анализа включает в себя среднее значение, эффект эксперимента и случайную ошибку:

y = μ + τ + ε
τ - эффект эксперимента, ε - случайная ошибка

Однофакторный

Однофакторный дисперсионный анализ рассматривает влияние одного критерия, делается это так: мы проводим два эксперимента, в одном из них включаем дополнительный фактор и анализируем, внёс ли этот фактор изменения. В качестве исходных данных рассмотрим результаты ряда экспериментов:

μ = (48.8 + 40.6 + 110.8 + 44.6) / 4 = 61.2
Квадрат ошибок внутри групп (Square Sum within group):
SS_w = Σ_iΣ_j(y_ij - μ_i)² = 2072
Квадрат ошибок между группами (Square Sum between group):
SS_b = Σ_i(μ_i - μ)² = 3313.84
Учитывая степени свободы, ожидаемое среднее:
MS_w = SS_w / a(n-1) = 138.13
MS_b = SS_b / a-1 = 828.46
Значение F_крит :
F₀ = MS_b/MS_w = 5.998

Тест Фишера: если значение F₀ окажется больше чем значение F _λ,4,15, значит фактор оказывает влияние.

Для n = 20 и a = 5, F_λ,n-a,a-1 = F_λ,15,4 = 5,86
Поскольку F₀ = 5.998 > 5.86, то принимаем, что введённый фактор оказал влияние на результаты эксперимента.

Двухфакторный

При двухфакторном анализе выдвигаются три гипотезы на проверку:

• Факторы А и В не оказывают влияния на результат
• Фактор А не оказывает влияния на результат
• Фактор B не оказывает влияния на результат

Для проведения двухфакторного анализа необходимо составить группы результатов: несколько измерений для всех значения каждого из факторов, т.е.:

Далее подсчитывается среднее значение для каждого значения факторов, т.е. среднее для A1, среднее для В1 и т.д. Затем подсчитывается общее среднее для всех результатов. Зададимся количеством критериев: k = 2 (количество критериев А) и m = 2 (количество критериев В).

T = ΣΣΣx_ijk
Сумма элементов под влиянием фактора A:
T_Ai = Σx_i·k
Сумма элементов под влиянием фактора B:
T_Bj = Σx_·jk
Сумма элементов под влиянием фактора AB:
T_AiBj = Σx_ij·
SST = Σx²_ijk - T²/N
SSA = ΣT²_Ai/n·m - T²/N
SSB = ΣT²_Bj/n·k - T²/N
SSAB = ΣΣT²_AiBj/n - SSA - SSB - T²/N
SSE = ΣΣΣx²_ijk - ΣΣT²_AiBj/n

SST = SSA + SSB + SSAB + SSE

MSE = SSE/(n-1)·m·k
MSA = SSA/k-1
MSB = SSB/m-1
MSAB = SSAB/(m-1)·(k-1)
Тест "Критерий A не оказывает влияние на результат", ν₁ = k-1:
F_A = MS_A/MS_E
Тест "Критерий B не оказывает влияние на результат", ν₁ = m-1:
F_B = MS_B/MS_E
Тест "Критерии A и B не оказывают влияние на результат", ν₁ = (k-1)(m-1):
F_int = MS_AB/MS_E

Для каждого F, если F > F _α,ν1,ν2, то гипотеза отвергается. ν₂ = N-mk

Многофакторный

Многофакторный анализ аналогичен двухфакторному - проводятся те же операции, но критерии группируются и итеративно находится влияние каждого из факторов.

С повторными измерениями

Дисперсионный анализ с повторными измерениями озночает, что для каждого критерия производилось несколько замеров случайной величины для получения более точного результата (поскольку в ANOVA) используется внутригрупповая сумма квадратов.

Применение

Дисперсионный анализ применяют в самых различных отраслях науки и производства тогда, когда необходимо изучить зависимость критериев на различие средних значений, при этом сравнивается не среднее значение, а разброс результатов вокруг среднего значения, т.е. дисперсию.

Решение задач

В качестве примера приведём задачу из метрологии. На заводе размещены пять станков, на которых производят валы. Необходимо определить, влияет ли выбор станка или подготовка работника на результат производства. Для анализа производят замеры для каждого станка и работника, в результате получается таблица:

Воспользуемся методом двухфакторного анализа, фактор А - оператор, фактор В - станок. Рассчитаем суммы квадратов, для этого необходимо рассчитать значение среднего для каждой из групп:

SSA = 0.214
SSB = 0.414
SSAB = 0.12
SSE = 0.372

MSA = 0.214
MSB = 0.104
MSAB = 0.03
MSE = 0.093

F_A = 2.301
F_B = 1.118
F_AB = 0.323

Критические значения для теста Фишера:
F_{crit A} = F_{0.1, 1, 90} = 2.77
F_{crit B} = F_{0.1, 4, 90} = 2.01
F_{crit AB} = F_{0.1, 4, 90} = 2.01

Таблица результатов:

В excel/Open Calc

Для решения дисперсионного анализа в электронной таблице Вам потребуются следующие формулы:

Таблица для скачивания в форматах ods и xls.