2.4. Проверка адекватности регрессионной модели

2.4.1. Коэффициент детерминации

В классическом регрессионном анализе предполагается, что функция регрессии известна (специфицирована) с точностью до параметров, то есть набор регрессоров (независимых переменных) определен. В эмпирических исследованиях экономических и социальных процессов, из множества возможных вариантов регрессионных уравнений, которые отличаются набором регрессоров, необходимо выбрать наиболее адекватную модель (регрессионную функцию). Такая модель наилучшим образом объясняет поведение реального процесса. Для оценки качества модели линейной регрессии в классическом регрессионном анализе используется показатель, который называется коэффициентом детерминации R² (читается R - квадрат). Коэффициент детерминации играет важную роль в регрессионном анализе. Ниже приведены три эквивалентных определения этого показателя, которые отличаются формой записи и способом интерпретации.

Представим отклонение зависимой переменной от ее выборочного среднего в виде

где первое слагаемое - это отклонение значения зависимой переменной в i-ом наблюдении от прогноза ее среднего значения, второе слагаемое - отклонение прогноза среднего значения зависимой переменной от ее выборочного среднего. Возводя обе части последнего равенства в квадрат и суммируя левые и правые части полученного выражения, запишем:

Рассмотрим последнее слагаемое в правой части этого выражения. Имеем:

Далее, вспоминая доказанные в п. 2.3.2 свойства остатков (соотношения (2.20), (2.21))

получим, что

и, таким образом, окончательно можем записать

(2.25)

Сумму, стоящую в левой части этого выражения, называют полной суммой квадратов, первая сумма в правой части (2.25) называется суммой квадратов, объясненной моделью, вторая сумма правой части называется остаточной суммой квадратов. Далее, используя выражение (2.25), можно записать

(2.26)

поскольку,

Здесь мы использовали следующие соотношения:

(это следует из первого уравнения системы нормальных уравнений (2.11), (2.12), (здесь использовано свойство (2.20) остатков). Из (2.26) следует, что полную вариацию переменной y можно разложить на две составляющие: - это часть полной вариации, объясненная регрессией, и - необъясненная часть полной вариации, которая обусловлена случайной составляющей модели. Разложения (2.25) и (2.26) используются для определения коэффициента детерминации.

Первое представление коэффициента детерминации

Определим коэффициент детерминации следующим соотношением

(2.27)

Заметим, что в числителе выражения (2.27) стоит сумма квадратов, объясненная моделью (explained sum of squares), будем использовать для ее обозначения аббревиатуру ESS, так что

В знаменателе стоит полная сумма квадратов (total sum of squares), для ее обозначения будем использовать аббревиатуру TSS, так что

Выражению (2.27) можно дать следующую интерпретацию: это доля общей вариации зависимой переменной, объясненная линейной регрессией.

Второе представление коэффициента детерминации

Используя разложение (2.25) , можно записать

так что

(2.28)

или

(2.29)

Формула (2.28) (или эквивалентная ей формула (2.29)) дает вторую форму представления коэффициента детерминации.

Обозначим остаточную сумму квадратов

Тогда можно записать соотношение

которое представляет собой разложение полной суммы квадратов на сумму квадратов, объясненную моделью, и остаточную сумму квадратов. Используя эти три суммы, можно записать также, что

Таким образом, значение коэффициента детерминации тем выше, чем больше доля объясненной моделью суммы квадратов ESS по отношению к полной сумме квадратов TSS.

Термины «полная» и «объясненная моделью» суммы квадратов имеют следующий смысл. Полная сумма квадратов TSS = RSS в ситуации, когда b = 0 и «наилучшая» прямая имеет вид , то есть линейная зависимость y от x отсутствует. Вследствие этого, наблюдения переменной x не дают новой информации для объяснения изменений значений y от наблюдения к наблюдению. В этом случае значение коэффициента детерминации равно нулю. Его максимальное значение равно единице. Это соответствует случаю, когда RSS = 0 или, что равноценно, Var(e) = 0, то есть влияние случайной составляющей полностью отсутствует и можно построить точную линейную зависимость между переменными.

Третье представление коэффициента детерминации

Введем понятие коэффициента корреляции между фактическим значением переменной y и ее прогнозом

Коэффициент корреляции является относительным показателем статистической (линейной) взаимосвязи между случайными переменными. Можно ожидать, что чем больше этот коэффициент, тем лучше регрессия аппроксимирует наблюдаемые данные.

Используя правила действий с выборочными вариациями и ковариациями (см. п. 2.3.2), нетрудно видеть, что

Здесь мы использовали также следующее соотношение: , которое следует из свойств (2.20) и (2.21) остатков регрессии.

Таким образом, мы получили третье выражение для коэффициента детерминации:

Замечание.

Отметим, что минимизация суммы квадратов остатков (МНК-критерий) эквивалентна максимизации коэффициента детерминации. Действительно,

и, таким образом, минимизация суммы квадратов остатков приводит к максимизации коэффициента R² в выражении (2.29).

Практическая рекомендация.

При построении модели парной линейной регрессии следует добиваться, чтобы значение коэффициента детерминации было как можно ближе к единице. Для его вычисления проще и удобнее использовать формулу (2.28).

Пример 2.4.

Вычисление коэффициента детерминации для модели примера 2.1. Вычисления по формуле (2.28) дают следующее значение коэффициента детерминации для модели примера 2.1: R² = 0,9965. Таким образом, коэффициент детерминации близок к единице, что указывает на хорошее качество аппроксимации наблюдаемых данных построенной моделью.

Пример 2.5.

Вычисление коэффициентов детерминации для моделей товарооборота филиалов примера 2.2. Для первой регрессии примера 2.2., описывающей зависимость товарооборота от торговой площади, коэффициент детерминации R₁² = 0,96886. Для второй регрессии, описывающей зависимость товарооборота от среднедневной интенсивности потока покупателей R₂² = 0,42433.

Таким образом, полученные объективные показатели качества регрессионных моделей - коэффициенты детерминации, подтверждают сделанное ранее предположение (см. пример 2.2) о том, что первая регрессия лучше объясняет поведение зависимой переменной.

2.4.2. Построение доверительных интервалов для коэффициентов регрессии

Рассмотренный в предыдущем разделе показатель адекватности - коэффициент детерминации используется для оценки качества регрессионных моделей в целом, при сравнении альтернативных моделей. В данном разделе рассматриваются процедуры, позволяющие сделать вывод о качестве оценок истинных значений отдельных параметров уравнения.

Оценки дисперсий МНК-оценок коэффициентов

Одной из важных характеристик качества оценки является ее дисперсия, как мера отклонения относительно ожидаемого значения. Полученные ранее уравнения (2.22), (2.23) (или (2.24)) для дисперсий оценок зависят от неизвестной дисперсии случайной составляющей регрессионной модели u. Для того, что бы эти уравнения можно было использовать в практических расчетах, необходимо определить оценку величины . Это еще один параметр модели. Несмещенной оценкой дисперсии случайного члена u является оценка вида

(2.30)

Выражение (2.30) используется для вычисления оценок дисперсий оценок a и b коэффициентов регрессии. Для этого в уравнениях (2.22), (2.23), (2.24) теоретическая дисперсия заменяется ее оценкой (2.30). Таким образом, оценки дисперсий имеют вид

(2.31)

(2.32)

Определение доверительных интервалов оценок параметров модели

Полученные оценки параметров и модели являются точечными. Формулы (2.13), (2.14) определяют оценки в виде случайных чисел, зависящих от конкретной выборки наблюдений. Эти числа могут в отдельных случаях существенно отклонятся от истинных значений параметров. В связи с этим возникает вопрос - возможно ли определить с достаточной степенью надежности, насколько полученные оценки близки к истинным значениям параметров, или точнее, определить интервалы, в пределах которых с заданной вероятностью могут находиться истинные значения параметров. Оказывается, такие интервалы можно построить, используя так называемые t-тесты. Для построения t-тестов необходимо предположение о нормальности случайной составляющей, то есть t-тест применяется в рамках предположений классической нормальной линейной регрессии. С помощью t-тестов можно проверить гипотезы как об отдельных числовых значениях коэффициентов регрессии, так и о значениях их линейных комбинаций. Последнее особенно важно для суждения об адекватности моделей множественной линейной регрессии. t- тесты позволяют также построить доверительные интервалы для коэффициентов регрессии и прогнозных значений зависимой переменной.

t-тесты основаны на следующем важном утверждении: случайные переменные

(2.33)

(2.34)

подчиняются центральному распределению Стьюдента (t-распределению, отсюда название - t - тесты) с (n-2) степенями свободы.

Замечание относительно степеней свободы.

Количество степеней свободы равно количеству наблюдений переменных минус количество оцениваемых коэффициентов модели. В модели парной линейной регрессии таких коэффициентов всего два. Увеличение количества коэффициентов в модели регрессии при фиксированном размере выборки соответственно уменьшает количество степеней свободы.

Очевидно, что погрешности точечных оценок коэффициентов равны соответственно , . Это случайные величины, поскольку случайными являются сами оценки. Поэтому о точности оценок (об их погрешности) можно судить только в вероятностном смысле. Зададим ширину интервала погрешности (не случайную величину), и определим надежность оценки, как вероятность, с которой ошибка точечной оценки попадет в этот фиксированный интервал. Формально это можно записать так

(2.35)

(2.36)

где - вероятность того, что ошибка точечной оценки попала в заданный интервал . Можно сказать, что вероятность характеризует степень доверия к заданному интервалу, поэтому она называется доверительной вероятностью или надежностью. Величина - вероятность того, что ошибка выйдет за пределы данного интервала, называется уровнем значимости.

Соотношения (2.35), (2.36) можно переписать в виде

(2.37)

(2.38)

Интерпретация доверительных интервалов.

Выражения (2.37), (2.38) интерпретируются следующим образом: величина - это вероятность того, что оцениваемые неслучайные параметры и покрываются соответственно интервалами , со случайными концами, зависящими от случайных величин - оценок a и b.

Эти интервалы называются доверительными интервалами. Доверительные интервалы называют также интервальными оценками и они дополняют точечные оценки параметров. Интервальные оценки дают дополнительную, ценную информацию о надежности точечных оценок и позволяют повысить надежность суждений о точечных оценках.

Определение доверительных интервалов.

Для определения доверительных интервалов используются t - статистики Стьюдента вида (2.33), (2.34). Для статистики t (имеющей t-распределение) можно определить значение (из таблицы t-критерия) , соответствующее заданному уровню значимости и данному числу степеней свободы, (здесь p - количество степеней свободы, при двух параметрах p = 2), такое, что

(2.39)

Подставляя в (2.39) вместо t выражения статистик (2.33) и (2.34) и разрешая неравенства относительно параметров и , получим следующие соотношения

(2.40)

(2.41)

Таким образом, двусторонние симметричные доверительные интервалы

с вероятностью накрывают неизвестные истинные значения параметров регрессии и . Расположение и ширина доверительных интервалов меняются от выборки к выборке. Действительно, их расположение и ширина зависят как от оценок коэффициентов, которые являются переменными (случайными величинами), так и от случайных значений выборочных оценок среднеквадратичных отклонений s_a и  s_b. При построении эконометрических регрессионных моделей доверительные интервалы обычно определяют для двух уровней значимости - и . Соответственно говорят о 5%-ом уровне значимости или об 1% - ом уровне значимости. Доверительные вероятности (уровни доверия) при этом будут равны и . Соответственно говорят о 95%-ом или о 99%-ом уровне доверия (надежности). Подчеркнем, что чем меньше уровень значимости (больше уровень доверия), тем шире соответствующий доверительный интервал (при прочих равных условиях).

Можно сказать, что при 95% - ом уровне доверия доверительный интервал в среднем в 95 случаях из 100 накрывает истинное значение параметра, при 99% - ом - в 99 случаях из ста.

Пример 2.6.

Определение доверительных интервалов для модели примера 2.1. Определим границы доверительных интервалов для коэффициентов модели примера 2.1. Будем предполагать, что регрессор x - не случайная величина. Тогда оценки дисперсий остатков и коэффициентов регрессии вычисляются по формулам (2.30), (2.31), (2.32). Они равны соответственно: , , . Табличное значение t - статистики для 13 степеней свободы и уровня значимости равно 2,160. Используя эти данные, легко вычислить границы доверительных интервалов для коэффициентов и : ;. Таким образом, можно утверждать, что истинные значения коэффициентов с вероятностью 0,95 находятся в пределах указанных границ.

Пример 2.7.

Доверительные интервалы для моделей примера 2.2. Аналогично предыдущему примеру, можно определить границы доверительных интервалов для двух регрессий примера 2.2. Критическое значение t - статистики при уровне значимости 0,05 и p = 12 - 2 = 10 степеней свободы равно 2,228. Оцененные среднеквадратичные отклонения оценок коэффициентов первой регрессии равны s_a = 0,2887, s_b = 0,2961. Доверительные интервалы для коэффициентов: , . Для второй регрессии  s_a = 2,7334, s_b = 0,2516. Доверительные интервалы: , .

Задание.

Постройте доверительные интервалы для моделей примеров 2.1, 2.2. при уровне значимости .

2.4.3. Точечный и интервальный прогноз зависимой переменной

Определим прогноз среднего значения зависимой переменной как оценку теоретической взаимосвязи с помощью эмпирической (оцененной) регрессионной функции

(2.42)

где x - некоторое значение независимой переменной, вообще говоря, несовпадающее со значениями переменных из выборки, по которой оценены параметры регрессии. Поскольку оценки a и b - случайные величины, то и прогноз будет случайной величиной.

Замечание. Прогноз среднего значения и прогноз индивидуального значения зависимой переменной.

Следует различать прогноз среднего значения регрессанда как оценку его математического ожидания с учетом предпосылки M(u_i) = 0 (первого условия Гаусса - Маркова), и прогноз как оценку возможного индивидуального значения (реализации) y_i регрессанда y. В этом случае в уравнение (2.42) следовало бы добавить прогноз случайной составляющей модели. В качестве прогнозного значения случайной составляющей берут ее математическое ожидание, которое равно нулю. Это различие в понимании смысла прогноза существенно, так как соответствующие дисперсии ошибок прогноза и доверительные интервалы будут различны.

Рассмотрим сначала прогноз среднего зависимой переменной.

Дисперсия прогноза среднего зависимой переменной и ее оценка

При выводе уравнений для дисперсии и ее оценки мы будем использовать правила преобразования теоретических вариаций (дисперсий) и ковариаций случайных величин. Эти правила такие же как и для соответствующих выборочных характеристик, которые были установлены в разделе 2.3.2. Для записи теоретических значений вариаций и ковариаций мы будем использовать обозначения var( , ), cov( , ).

Получим выражение для дисперсии прогноза. Имеем

(2.43)

где взаимная ковариация имеет вид

(2.44)

Подставляя в (2.43) выражения (2.22), (2.23) для дисперсий оценок параметров и взаимной ковариации (2.44), получим

Таким образом, окончательно имеем

(2.45)

Обратим внимание, что в выражении (2.45) переменная x - это значение регрессора (независимой переменной), для которого определяется прогноз среднего значения зависимой переменной (регрессанда). Поскольку в (2.45) теоретическое значение дисперсии случайной составляющей модели неизвестно, то что бы получить оценку дисперсии прогноза, заменим ее оценкой по формуле (2.30). Тогда получим

(2.46)

Определение доверительных интервалов для прогноза среднего значения зависимой переменной

Определим доверительный интервал для прогноза (2.42) зависимой переменной. Этот интервал с вероятностью накрывает среднее значение зависимой переменной. Построение доверительного интервала основано на применении t-статистики вида

и его границы вычисляются по следующим формулам:

нижняя граница

верхняя граница

Доверительный интервал для отдельных значений зависимой переменной (значений в отдельных наблюдениях, индивидуальных значений)

Дисперсия отдельных наблюдений зависимой переменной и ее оценка

Определим дисперсию наблюдаемых значений зависимой переменной

Очевидно, что

Заменяя в (2.47) неизвестные теоретические значения дисперсий и их оценками по формулам (2.46) и (2.30), получим оценку дисперсии индивидуального значения зависимой переменной

(2.47)

Доверительный интервал для индивидуальных значений зависимой переменной

Доверительный интервал для индивидуальных значений строится с использованием t-статистики вида

Границы интервала, с вероятностью накрывающего индивидуальное значение переменной y, определяются следующим образом:

нижняя граница

верхняя граница

где количество степеней свободы p = n-2.

Пример 2.8. Доверительные границы прогнозов среднего и индивидуального значений зависимой переменной в модели примера 2.1.

Определим прогноз доходности акций компании для момента t = 3, то есть для значения x = x₃ = 0,07 и построим доверительные интервалы прогнозов среднего и индивидуального значений, предполагая, что регрессор x - не случайная величина.

Используя уравнение регрессии с оцененными коэффициентами (см. пример 1.1.), получим

Для определения доверительных интервалов необходимо предварительно вычислить оценки дисперсий прогноза среднего и индивидуального значений зависимой переменной. Используя формулы (2.46) и (2.47), соответственно получим: , . Границы для среднего значения равны:

нижняя

верхняя

Доверительные границы индивидуального значения:

нижняя

верхняя

Задание.

Постройте интервальные прогнозы средних и индивидуальных значений зависимой переменной для регрессий примера 2.2.

2.4.4. Проверка статистических гипотез относительно коэффициентов регрессии

Двусторонний t-тест
(t - тест двусторонней пары гипотез)

Помимо определения доверительных интервалов для коэффициентов, при построении регрессионных моделей важным является вопрос о проверке гипотез относительно некоторых конкретных значений отдельных коэффициентов регрессии. Такой вопрос возникает, например, если необходимо проверить, статистически значимо ли влияние регрессора (независимой переменной) на регрессанд (зависимую переменную). В этом случае можно сформулировать и попытаться проверить две гипотезы:

нулевая гипотеза

альтернативная гипотеза

В общем случае, если на основе анализа объекта моделирования можно заранее (то есть еще до проведения наблюдений) предположить (высказать гипотезу), что регрессионный коэффициент равен некоторому значению , то для проверки этого предположения гипотезы формулируются следующим образом:

Тесты для проверки гипотез строятся на основе t-статистики вида

(2.48)

Правило принятия решений на основе статистики статистики (2.48) следующее: гипотеза H₀ отклоняется, если

, или

(2.49)

(эквивалентная запись этого условия );

гипотеза H₀ принимается, если

(2.50)

(эквивалентная запись ).

Область значений t-статистики, задаваемая выражением (2.49) называется областью отклонения гипотезы H₀, а область (2.50) - областью принятия гипотезы  H₀, при уровне значимости .

Ошибки I и II рода.

При проверке и принятии гипотез существует риск допущения ошибок I и II рода. Ошибка I рода возникает, если нулевая гипотеза истинна, но она отвергается. Ошибка II рода возникает, когда нулевая гипотеза ложна, но она не отвергается. Поскольку t - статистика - величина случайная, то она может случайно принять значение из области отклонения нулевой гипотезы, даже если эта гипотеза верна. Так как вероятность попадания t-статистики в область принятия гипотезы равна , а вероятность попадания в область отклонения равна , то уровень значимости и будет вероятностью ошибки первого рода. Чем меньше уровень значимости, тем с большим основанием (с большей надежностью) можно принять нулевую гипотезу. Такой уровень значимости называют более высоким. Однако, если нулевая гипотеза на самом деле ложна, в этом случае возрастает вероятность ошибки второго рода. Если же выбрать низкий уровень значимости (это соответствует большему значению ), то вероятность ошибки первого рода будет выше. На практике идут на компромисс, и проверяют гипотезы для двух уровней значимости: низкого, обычно 5% - го и высокого, обычно 1% - го.

Интерпретация результатов тестирования.

Если t-тест показывает, что на уровне значимости гипотеза  H₀ отвергается, то это означает, что . При этом t-тест не определяет, какое значение имеет коэффициент . Если , то отклонение нулевой гипотезы означает, что независимая переменная (регрессанд) оказывает влияние на зависимую переменную (регрессор). Точнее следует говорить так: при заданном уровне значимости регрессор оказывает статистически значимое влияние на регрессанд. При попадании t - статистики в область принятия гипотезы  H₀ говорят, что t - тест не отвергает нулевую гипотезу.

Односторонний t-тест
(t-тест односторонней пары гипотез)

С помощью одностороннего t-теста проверяют предположение (гипотезу) о том, больше или нет коэффициент некоторого заданного значения . Формально это можно сформулировать в виде пары гипотез:

нулевая гипотеза

альтернативная гипотеза

или

Односторонний t-тест строится также, как двусторонний, однако область принятия решения, естественно, будет отличаться.

Области принятия и отклонения для первой пары гипотез: область принятия гипотезы H₀ 

область отклонения гипотезы H₀

Области принятия и отклонения для второй пары гипотез: область принятия гипотезы H₀

область отклонения гипотезы H₀

Интерпретация результатов тестирования

Если значения t-статистики попадают в область принятия нулевой гипотезы при заданном уровне значимости , то говорят, что параметр с вероятностью имеет значение большее, чем .

Порядок проведения t-теста.

Замечание.

Нетрудно заметить, что двусторонний t - тест для пары гипотез (или аналогичных гипотез относительно коэффициента ) можно осуществить, построив двусторонний симметричный доверительный интервал для значения . В этом случае правило проверки гипотезы формулируется следующим образом: гипотеза H₀ отклоняется с уровнем значимости , если доверительный интервал с вероятностью не накрывает значение .

Отметим, что аналогичные тесты строятся и для проверки гипотез относительно коэффициента .

2.4.5. Проверка значимости коэффициента детерминации: F - тест

В разделе 2.3.4. мы ввели понятие коэффициента детерминации R² как показателя адекватности линейной регрессионной модели (меры степени линейной связи между переменными). Чем выше значение этого показателя, тем более точно линейная регрессия соответствует наблюдаемым данным. Но этот коэффициент определяется по выборочным данным и является в силу этого случайной величиной. Поэтому, даже если линейная связь между переменными y и x в парной линейной регрессии отсутствует (объясненная часть общей вариации зависимой переменной равна нулю), коэффициент детерминации может случайно принять большое значение, либо наоборот, при наличии линейной связи коэффициент детерминации может случайно принять значение, близкое к нулю.

Таким образом, возникает вопрос: можно ли построить статистическую процедуру для проверки значимости коэффициента детерминации, подобно тому, как строились процедуры (тесты) для проверки гипотез о коэффициентах регрессии. Оказывается, что такую процедуру можно построить в рамках классической нормальной линейной модели регрессии, и она основана на использовании так называемой F-статистики, которая определяется следующим образом:

(2.51)

где ESS - объясненная сумма квадратов, RSS - остаточная сумма квадратов, p - число независимых переменных. Выражение (2.51) можно преобразовать и записать с использованием коэффициента детерминации

(2.52)

где TSS - полная сумма квадратов отклонений зависимой переменной.

Заметим, что значения F - статистики не могут быть отрицательными.

На основе F - статистики проверяется пара гипотез:

Процедура проверки состоит в следующем:

Очевидно, результаты F - теста и t - теста для проверки значимости коэффициента должны совпадать.

Пример 2.9. Проверка значимости коэффициента детерминации.

Проверим гипотезу о значимости коэффициента детерминации в примере 2.1. Значение F-статистики, вычисленное по формуле (2.52), равно: F=3701,286. Критическое (табличное) значение F - статистики для уровня значимости 0,05 равно . Поскольку расчетное значение F больше табличного, то нулевая гипотеза отклоняется на уровне значимости 0,05.

Задание.

Проверьте с помощью F - теста значимость коэффициентов детерминации для регрессий примера 1.2.

---

назад

предыдущая глава

начало главы

оглавление

следующая глава

вперед

---

Томский государственный университет - 2003