Utilità del teorema di Frisch-Waugh

Dovrei insegnare il teorema di Frish Waugh in econometria, che non ho studiato.

Ho compreso la matematica e spero anche l'idea "il coefficiente che ottieni per un particolare coefficiente da un modello lineare multiplo è uguale al coefficiente del modello di regressione semplice se" elimini "l'influenza degli altri regressori". Quindi l'idea teorica è piuttosto interessante. (Se ho completamente frainteso, accolgo con favore una correzione)

Ma ha alcuni usi classici / pratici?

EDIT : ho accettato una risposta, ma sono ancora disposto ad averne di nuove che portano altri esempi / applicazioni.

Considera il modello di dati del pannello degli effetti fissi, noto anche come modello LSDV (Least Squares Dummy Variables).

può essere calcolato applicando direttamente OLS al modello y = X β + D α + ϵ , dove D è unamatrice N T × N di manichini e α rappresentano gli effetti fissi specifici dell'individuo.$b_{LSDV}$

$$y=X\beta+D\alpha+\epsilon,$$ $D$$NT\times N$$\alpha$

Un altro modo per calcolare è applicare la cosiddetta trasformazione interna al modello usuale per ottenere una versione sminuita di esso, ovvero M [ D ] y = M [ D ] X β + M [ D ] ϵ . Qui, M [ D ] = I - D ( D ′ D ) - 1 D ′ , la matrice del creatore residuo di una regressione su$b_{LSDV}$

$$M_{[D]}y=M_{[D]}X\beta+M_{[D]}\epsilon.$$ $M_{[D]}=I-D(D'D)^{-1}D'$ .$D$

Per il teorema di Frisch-Waugh-Lovell, i due sono equivalenti, come FWL dice che si può calcolare un sottoinsieme di coefficienti di regressione di una regressione ) per$\hat\beta$

1. regredendo sugli altri regressori (qui, D ), salvando i residui (qui, il tempo decretato y o M [ D ] y , perché la regressione su una costante annulla solo le variabili), quindi$y$$D$$y$$M_{[D]}y$
2. regredire la su D e salvare i residui M [ D ] X e$X$$D$$M_{[D]}X$
3. regredire i residui sopra l'altro, su M [ D ] X .$M_{[D]}y$$M_{[D]}X$

La seconda versione è molto più ampiamente utilizzata, poiché i set di dati del pannello tipici possono avere migliaia di unità del pannello , quindi il primo approccio richiederebbe di eseguire una regressione con migliaia di regressori, che non è una buona idea numericamente anche oggi con i computer, poiché calcolare l'inverso di ( D : X ) ′ ( D : X ) sarebbero molto costosi, mentre y e X che richiedono tempo sono poco costosi.$N$$(D :X)'(D: X)$$y$$X$

Ecco una versione semplificata della mia prima risposta, che credo sia meno rilevante dal punto di vista pratico, ma forse più facile da "vendere" per l'uso in classe.

Le regressioni e y i - ˉ y = K ∑ j = 2 β j ( x i j - ˉ x j ) + ˜ ϵ I resa identica K . Questo può essere visto come segue: prendere x 1 = 1 :

$$y_i = \beta_1 + \sum_{j=2}^K\beta_jx_{ij} + \epsilon_i$$ $$y_i-\bar{y} = \sum^K_{j=2}\beta_j(x_{ij} - \bar{x}_j) + \tilde{\epsilon}_i$$ ,j=2,...$\widehat{\beta}_j$$j=2,\ldots,K$ e quindi M 1 = I - 1 ( 1 ′ 1 ) - 1 1 ′ = I - 1 1$\mathbf{x}_1=\mathbf{1}:=(1,\ldots,1)'$ modo che M1xj=xj-1n-11′xj=xj-1 ˉ x j=:xj- ˉ x j. Quindi, i residui di una regressione di variabili su una costante,M1xj, sono solo le variabili sminuite (la stessa logica ovviamente si applica ayi). $$M_\mathbf{1}=I-\mathbf{1}(\mathbf{1}'\mathbf{1})^{-1}\mathbf{1}'=I-\frac{\mathbf{1}\mathbf{1}'}{n},$$ $$M_{\mathbf{1}}\mathbf{x}_j=\mathbf{x}_j-\mathbf{1} n^{-1}\mathbf{1}'\mathbf{x}_j=\mathbf{x}_j-\mathbf{1}\bar{x}_j=:\mathbf{x}_j-\bar{\mathbf{x}}_j.$$ $M_{\mathbf{1}}\mathbf{x}_j$$y_i$

Ecco un altro, più indiretto, ma credo interessante, vale a dire la connessione tra diversi approcci per calcolare il coefficiente di autocorrelazione parziale di una serie storica stazionaria.

Definizione 1

$$\begin{equation} \hat{Y}_{t}-\mu=\alpha^{(m)}_1(Y_{t-1}-\mu)+\alpha^{(m)}_2(Y_{t-2}-\mu)+\ldots+\alpha^{(m)}_m(Y_{t-m}-\mu) \end{equation}$$ $m$$\alpha^{(m)}_m$

$m$$Y_t$$Y_{t-1},\ldots,Y_{t-m+1}$$\rho_m$$Y_t$$Y_{t-m}$ .

Come troviamo il $\alpha^{(m)}_j$? Ricordiamo che una proprietà fondamentale di una regressione di$Z_t$ sui regressori $X_t$è che i coefficienti sono tali che i regressori e i residui non sono correlati. In una regressione della popolazione questa condizione viene quindi dichiarata in termini di correlazioni della popolazione. Poi:

$$\begin{equation} E[X_t(Z_t-X_t^\top\mathbf{\alpha}^{(m)})]=0 \end{equation}$$ Risolvendo per $\mathbf{\alpha}^{(m)}$troviamo i coefficienti di proiezione lineare $$\begin{equation} \mathbf{\alpha}^{(m)}=[E(X_tX_t^\top)]^{-1}E[X_tZ_t] \end{equation}$$ Applicando questa formula a $Z_t=Y_t-\mu$ e $$X_t=[(Y_{t-1}-\mu),(Y_{t-2}-\mu),\ldots,(Y_{t-m}-\mu)]^\top$$ we have $$E(X_tX_t^\top)=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)$$ Also, $$E(X_tZ_t)=\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)$$ Hence, $$\begin{equation} \mathbf{\alpha}^{(m)}=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)^{-1}\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)\end{equation}$$ The $m$th partial correlation then is the last element of the vector $\mathbf{\alpha}^{(m)}$.

So, we sort of run a multiple regression and find one coefficient of interest while controlling for the others.

Definition 2

The $m$th partial correlation is the correlation of the prediction error of $Y_{t+m}$ predicted with $Y_{t-1},\ldots,Y_{t-m+1}$ with the prediction error of $Y_{t}$ predicted with $Y_{t-1},\ldots,Y_{t-m+1}$.

So, we sort of first control for the intermediate lags and then compute the correlation of the residuals.