Основные термины, используемые в регрессионном анализе

Гребневая регрессия

Гребневую регрессию (Салин, Чурилова 2002: 118-119) используют, когда независимые переменные коррелируют между собой, то есть при мультиколлинеарности. В данном случае устойчивые оценки регрессионных коэффициентов не могут быть получены с помощью метода наименьших квадратов (из-за высокого значения стандартных ошибок). Гребневые оценки параметров регрессии хоть и смещены, но имеют лучшие характеристики точности. В гребневой регрессии к диагонали корреляционной матрицы добавляется константа Я (лямбда) — для того чтобы все диагональные элементы корреляционной матрицы были равны 1,0. Когда лямбда равна нулю, гребневые оценки превращаются в оценки метода наименьших квадратов. Гребневая регрессия искусственно занижает коэффициенты корреляции, чтобы получить более устойчивые оценки коэффициентов регрессии. Сложность использования гребневой регрессии в том, что на практике сложно определить подходящее значение Я.

Пошаговая регрессия с включением

При использовании метода пошаговой регрессии с включением (Салин, Чурилова 2002: 118) независимые переменные по одной включаются в модель на каждом шаге процедуры, пока не будет получена «паилучшая» регрессионная модель.