Modo alternativo di derivare coefficienti OLS

In un'altra mia domanda , un risponditore ha usato la seguente derivazione del coefficiente OLS:

Abbiamo un modello: dove non è osservato. Quindi abbiamo:
$Y = X_{1} β + X_{2} β_{2} + Z γ + ε,$ $Y = X_1 \beta + X_2 \beta_2 + Z \gamma + \varepsilon,$ $Z$ dovee. $plim {\hat{β}}_{1} = β_{1} + γ \frac{C o v (X_{1}^{*}, Z)}{V a r (X_{1}^{*})} = β_{1},$ $\text{plim}\, \hat \beta_{1} = \beta_1 + \gamma \frac{Cov(X_1^*, Z)}{Var(X_1^*)} = \beta_1,$ $X_1^* = M_2 X_1$ $M_2 = [I - X_2(X_2'X_2)^{-1}X_2']$

Questo sembra diverso dal solito che ho visto in Econometria. Esiste un'esposizione più esplicita di questa derivazione? C'è un nome per la matrice ? $\beta = (X'X)^{-1}X'Y$ $M_2$

econometrics regression

— Heisenberg
fonte

Sono abbastanza sicuro che sia descritto negli appunti di Hansen, ma non li ho a portata di mano in questo momento.

— FooBar,

Il matrice è la "annichilatore" o matrice "residuo maker" associato matrice . Si chiama "annientatore" perché ( ovviamente per la sua matrice ). Si è chiamato "caffè residuo" perché , nella regressione . $\mathbf M = \mathbf I-\mathbf X(\mathbf X'\mathbf X)^{-1}\mathbf X'$ $\mathbf X$ $\mathbf M\mathbf X =0$ $X$ $\mathbf M \mathbf y =\mathbf {\hat e}$ $\mathbf y = \mathbf X \beta + \mathbf e$

È una matrice simmetrica e idempotente. È usato nella dimostrazione del teorema di Gauss-Markov.

Inoltre, è usato nel teorema di Frisch – Waugh – Lovell , dal quale si possono ottenere risultati per la "regressione partizionata", che dice che nel modello (in forma di matrice)

y = X_{1} β_{1} + X_{2} β_{2} + u

$\mathbf y = \mathbf X_1\beta_1 + \mathbf X_2\beta_2 + \mathbf u$

abbiamo quello

{\hat{β}}_{1} = (X_{1}^{'} M_{2} X_{1})^{- 1} (X_{1}^{'} M_{2}) y

$\hat \beta_1 = (\mathbf X_1'\mathbf M_2\mathbf X_1)^{-1}(\mathbf X_1'\mathbf M_2)\mathbf y$

Poiché è idempotente, possiamo riscrivere quanto sopra $\mathbf M_2$

{\hat{β}}_{1} = (X_{1}^{'} M_{2} M_{2} X_{1})^{- 1} (X_{1}^{'} M_{2} M_{2}) y

$\hat \beta_1 = (\mathbf X_1'\mathbf M_2\mathbf M_2\mathbf X_1)^{-1}(\mathbf X_1'\mathbf M_2\mathbf M_2)\mathbf y$

$M_2$

{\hat{β}}_{1} = ([M_{2} X_{1}]^{'} [M_{2} X_{1}])^{- 1} ([M_{2} X_{1}]^{'} [M_{2} y]

$\hat \beta_1 = ([\mathbf M_2\mathbf X_1]'[\mathbf M_2\mathbf X_1])^{-1}([\mathbf M_2\mathbf X_1]'[\mathbf M_2\mathbf y]$

Ma questo è lo stimatore dei minimi quadrati dal modello

[M_{2} y] = [M_{2} X_{1}] β_{1} + M_{2} u

$[\mathbf M_2\mathbf y] = [\mathbf M_2\mathbf X_1]\beta_1 + \mathbf M_2\mathbf u$

$\mathbf M_2\mathbf y$ $\mathbf y$ $\mathbf X_2$

$\mathbf y$ $\mathbf X_2$ $\mathbf M_2\mathbf X_1$ $\hat \beta_1$ $\mathbf y$ $\mathbf X_1$ $\mathbf X_2$

$\mathbf X_1$ $\mathbf x_1$ $\mathbf M_2 \mathbf x_1$ $X_1$ $\mathbf X_2$ $\hat \beta_1$ $X_1$ $\mathbf X_2$ $Y$ $\mathbf X_2$

Questa è una parte emblematica della classica algebra dei minimi quadrati.

— Alecos Papadopoulos
fonte

Ho iniziato a rispondere, ma ho avuto molte sovrapposizioni con questa risposta. Puoi trovare molte di queste informazioni nel capitolo 3.2.4 della 7a edizione di "Analisi econometrica" di Bill Greene.

— cc7768,

@ cc7768 Sì, questa è una buona fonte per l'algebra dei minimi quadrati. Non esitare a pubblicare materiale aggiuntivo. Ad esempio, essenzialmente la mia risposta copre solo la seconda domanda del PO.

— Alecos Papadopoulos,

M_{2} y

$\mathbf M_2y$

X_{1}

$\mathbf X_1$

{\hat{β}}_{1}

$\hat \beta_1$

M_{2} y

$\mathbf M_2y$

M_{2} X_{1}

$\mathbf M_2\mathbf X_1$

@Heisenberg Correct. Errore di battitura. Risolto il problema e aggiunto un po 'di più.

— Alecos Papadopoulos,