Двухшаговый метод наименьших квадратов

Двухшаговый метод наименьших квадратов (Двухшаговый МНК, ДМНК,TSLS, 2SLS — англ. Two-Stage Least Squares ) — метод оценки параметров эконометрических моделей, в частности систем одновременных уравнений, состоящий из двух этапов (шагов), на каждом из которых применяется метод наименьших квадратов.

Двухшаговый МНК тесно связан с методом инструментальных переменных. Иногда его и называют обобщенным или просто методом инструментальных переменных. При оценке одиночных уравнений используются дополнительные (инструментальные) переменные, в модели непосредственно не участвующие. Их использование связано с тем, что часть факторов модели могут не удовлетворять требованию экзогенности. При оценке систем одновременных уравнений обычно инструментами являются экзогенные переменные системы.

Сущность метода

Пусть X — множество факторов эконометрической модели, часть которых могут быть эндогенными, часть экзогенными. Пусть также дано множество экзогенных для модели переменных Z (часть из них может участвовать в модели, а часть нет). Количество инструментов должно быть не меньше количества исходных факторов модели.

Процедура двухшагового МНК заключается в следующем:

Шаг 1. Обычным МНК оценивается регрессия факторов X на инстурменты $X=ZB+U$. Оценки параметров этой модели, очевидно, равны:

$\hat{B}_{OLS}=(Z^TZ)^{-1}Z^TX$.

В результате получаем следующие оценки исходных переменных:

$\hat{X}=Z\hat{B}=Z(Z^TZ)^{-1}Z^TX=P_ZX~,~P_Z=Z(Z^TZ)^{-1}Z^T$

Шаг 2. На втором этапе оценивается (также обычным МНК) исходная модель с заменой факторов модели на их оценки, полученные на первом шаге:

$\hat {b}_{TSLS}=(\hat{X}^T\hat{X})^{-1}\hat{X}^Ty=(X^TP^T_ZP_ZX)^{-1}X^TP^T_Zy$

Учитывая, что $P^T_Z=P_Z~,~ P^T_ZP_Z =P_Z$ окончательно получаем формулу оценок двухшагового МНК:

$\hat {b}_{TSLS}=(X^TP_ZX)^{-1}X^TP_Zy~,~~P_Z=Z(Z^TZ)^{-1}Z^T$

Если ковариационная матрица случайных ошибок модели пропорциональна единичной, то есть $\sigma^2 I$, то ковариационная матрица этих оценок равна $V_{\hat b_{TSLS}}=\sigma^2 (X^TP_ZX)^{-1}$

Взвешенный двухшаговый МНК

Если на каждом из двух шагов применить не обычный, а взвешенный МНК с одной и той же весовой матрицей $W$, то получим оценки взвешенного двухшагового МНК (Weighted TSLS, WTSLS):

$\hat{b}_{WTSLS}=(X^TP_ZX)^{-1}X^TP_Zy~,~~P_Z=WZ(Z^TWZ)^{-1}WZ^T$

Формула ковариационной матрицы аналогична обычному TSLS с учетом формулы для $P_Z$.

Связь с методом инструментальных переменных

Основная статья: Метод инструментальных переменных

Двухшаговый МНК называют также обобщенным методом инструментальных переменных (GIVE — Generalized Instrumental Variables Estimator) или просто методом инструментальных переменных. Если количество инструментов z совпадает с количеством исходных переменных (случай точной идентификации), то матрицы $Z^TX,~ X^TZ$ являются квадратными. Следовательно

$\hat{b}_{TSLS} = (X^TZ(Z^TZ)^{-1}Z^TX)^{-1}X^TZ(Z^TZ)^{-1}Z^Ty= (Z^TX)^{-1}(Z^TZ)(X^TZ)^{-1}(X^TZ)(Z^TZ)^{-1}(Z^Ty)=(Z^TX)^{-1}Z^Ty$

То есть получаем классическую формулу метода инструментальных переменных $\hat{b}_{IV}=(Z^TX)^{-1}Z^Ty$.

Необходимо также отметить и связь с методом инструментальных переменных в обратном направлении, а именно двухшаговый МНК является частным случаем метода ИП, когда в качестве инструментов используются МНК-оценки факторов на некоторые переменные Z:

$\hat{b}_{IV}=(\hat{X}^TX)^{-1}\hat{X}^Ty=(X^TP_ZX)^{-1}X^TP_Zy$

что совпадает с формулой двухшагового МНК.

Двухшаговый МНК в системах одновременных уравнений

В системах одновременных уравнений двухшаговый МНК применяется для оценки параметров структурных уравнений, поскольку в последних в качестве факторов участвуют эндогенные переменные модели и применение обычного МНК приводит к смещенным и несостоятельным оценкам.

Здесь в качестве инструментов Z обычно выступают экзогенные переменные самой модели. Соответственно процедура оценки заключается в том, что на первом шаге обычным МНК оценивается регрессия эндогенных переменных на все экзогенные переменные системы, а затем эти оценки используют на втором шаге вместо эндогенных переменных правой части структурного уравнения, к которому применяется обычный МНК.

Такой подход позволяет получить состоятельные оценки параметров структурной формы.

См. также

• Метод наименьших квадратов
• Метод инструментальных переменных
• Система одновременных уравнений

Для улучшения этой статьи желательно?: Найти и оформить в виде сносок ссылки на авторитетные источники, подтверждающие написанное.