Ipotesi per derivare lo stimatore OLS

Qualcuno può spiegare brevemente per me, perché ciascuna delle sei ipotesi è necessaria per calcolare lo stimatore OLS? Ho scoperto solo della multicollinearità, che se esiste non possiamo invertire la matrice (X'X) e stimare a sua volta lo stimatore generale. E gli altri (ad es. Linearità, zero errori medi, ecc.)?

Puoi sempre calcolare lo stimatore OLS, a parte il caso in cui hai una perfetta multicollinearità. In questo caso, hai una perfetta dipendenza multilineare nella tua matrice X. Di conseguenza, il presupposto di rango massimo non è soddisfatto e non è possibile calcolare lo stimatore OLS, a causa di problemi di invertibilità.

Tecnicamente, non sono necessarie le altre ipotesi OLS per calcolare lo stimatore OLS. Tuttavia, secondo il teorema di Gauss-Markov è necessario soddisfare il presupposto OLS (ipotesi clrm) affinché lo stimatore sia BLU.

Puoi trovare un'ampia discussione sul teorema di Gauss – Markov e la sua derivazione matematica qui:

http://economictheoryblog.com/2015/02/26/markov_theorem/

Inoltre, se stai cercando una panoramica dell'assunto OLS, ovvero quanti ce ne sono, cosa ne richiedono e cosa succede in caso di violazione del singolo presupposto OLS, potresti trovare una discussione elaborata qui:

http://economictheoryblog.com/2015/04/01/ols_assumptions/

Spero che aiuti, evviva!

Quanto segue si basa su semplici sezioni trasversali, per serie temporali e pannelli è leggermente diverso.

1. Nella popolazione, e quindi nel campione, il modello può essere scritto come: Questo è il presupposto della linearità, che talvolta viene frainteso. Il modello dovrebbe essere lineare nei parametri, vale a dire ilβk. Sei libero di fare quello che vuoi con laxistessa. Tronchi, quadrati ecc. In caso contrario, il modello non può essere stimato da OLS: è necessario un altro stimatore non lineare. $$\begin{align} \newcommand{\Var}{\rm Var} \newcommand{\Cov}{\rm Cov} Y &= \beta_0 + \beta_1 x_1 + … + \beta_k x_k + u \\ &= X\beta + u \end{align}$$ $\beta_k$$x_i$
2. Un campione casuale (per sezioni trasversali) Ciò è necessario per l'inferenza e le proprietà del campione. È in qualche modo irrilevante per la meccanica pura di OLS.
3. Nessuna perfetta collinearità Ciò significa che non può esserci una relazione perfetta tra la . Questo è il presupposto che assicura che ( X ′ X ) non sia singolare, in modo tale che ( X ′ X ) - 1 esista.$x_i$$(X’X)$$(X’X)^{-1}$
4. Media condizionale zero: . Ciò significa che hai specificato correttamente il modello in modo tale che: non vi siano variabili omesse e la forma funzionale che hai stimato sia corretta rispetto al modello di popolazione (sconosciuto). Questo è sempre il presupposto problematico con OLS, poiché non c'è modo di sapere se è effettivamente valido o meno.$E(u|X) = 0$
5. La varianza del termine errori è costante, subordinata a tutti i : V a r ( u | X ) = σ 2 Ancora una volta ciò non significa nulla per la meccanica di OLS, ma garantisce che i soliti errori standard siano validi.$X_i$$\Var(u|X)=\sigma^2$
6. Normalità; il termine di errore u è indipendente da e segue u ∼ N ( 0 , σ 2 ) . Ancora una volta, ciò è irrilevante per la meccanica dell'OLS, ma assicura che la distribuzione campionaria del β k sia normale, ^ β k ∼ N ( β $X_i$$u \sim N(0,\sigma^2)$$\beta_k$ .$\hat{\beta_k} \sim N(\beta_k , \Var(\hat{\beta_k}))$

Ora per le implicazioni.

1. Sotto 1 - 6 (i presupposti del modello lineare classico) OLS è BLU (miglior stimatore lineare imparziale), migliore nel senso della varianza più bassa. È anche efficiente tra tutti gli stimatori lineari, così come tutti gli stimatori che usano alcune funzioni di x. Ancora più importante sotto 1 - 6, OLS è anche lo stimatore imparziale della varianza minima. Ciò significa che tra tutti gli stimatori imparziali (non solo quelli lineari) OLS presenta la varianza più piccola. OLS è anche coerente.

2. Sotto 1 - 5 (i presupposti di Gauss-Markov) OLS è BLU ed efficiente (come descritto sopra).

3. Sotto 1 - 4, OLS è imparziale e coerente.

In realtà OLS è anche coerente, sotto un'ipotesi più debole di vale a dire che: ( 1 ) E ( u ) = 0 e ( 2 ) C o $(4)$$(1)\ E(u) = 0$ . La differenza rispetto alle ipotesi 4 è che, in base a questa ipotesi, non è necessario definire perfettamente la relazione funzionale.$(2)\ \Cov(x_j , u) = 0$

Un commento in un'altra domanda ha sollevato dubbi sull'importanza della condizione , sostenendo che può essere corretto dall'inclusione di un termine costante nella specifica di regressione, e quindi "può essere facilmente ignorato".$E(\mathbf u \mid \mathbf X) =0$

Non è così. L'inclusione di un termine costante nella regressione assorbirà la media condizionale possibilmente diversa da zero del termine di errore se assumiamo che questa media condizionale sia già una costante e non una funzione dei regressori . Questo è il presupposto cruciale che deve essere fatto indipendentemente dal fatto che includiamo o meno un termine costante:

Se questo vale, allora la media diversa da zero diventa un fastidio che possiamo semplicemente risolvere includendo un termine costante.

Ma se questo non regge , (cioè se la media condizionale non è una costante zero o non zero ), l'inclusione del termine costante non risolve il problema: ciò che "assorbirà" in questo caso è una grandezza ciò dipende dal campione specifico e dalle realizzazioni dei regressori. In realtà il coefficiente sconosciuto associato alle serie di quelli, non è in realtà una costante ma variabile, a seconda dei regressori attraverso la media condizionale non costante del termine di errore.

Cosa implica questo? Per semplificare, supponiamo il caso più semplice, in cui ( i indicizza le osservazioni) ma che E ( u i ∣ x i ) = h ( x i ) . Vale a dire che il termine di errore è media-indipendente dai regressori salvo dalle sue quelle contemporanee (in X noi non includiamo una serie di quelli).$E(u_i \mid \mathbf X_{-i})=0$$i$$E(u_i \mid \mathbf x_{i})=h(\mathbf x_i)$$\mathbf X$

Supponiamo di specificare la regressione con l'inclusione di un termine costante (un regressore di una serie di quelli).

e notazione compattante

$\mathbf a = (a,a,a...)'$$\mathbf Z = [\mathbf 1: \mathbf X]$$\mathbf γ = (a, \mathbf β)'$, $\mathbf ε = \mathbf u - \mathbf a$.

Then the OLS estimator will be

For unbiasedness we need $E\left[\mathbf ε\mid \mathbf Z\right] =0$. But

which cannot be zero for all $i$, since we examine the case where $h(\mathbf x_i)$ is not a constant function. So

and

If $E(u_i \mid \mathbf x_{i})=h(\mathbf x_i)\neq h(\mathbf x_j)=E(u_j \mid \mathbf x_{j})$, then even if we include a constant term in the regression, the OLS estimator will not be unbiased, meaning also that the Gauss-Markov result on efficiency, is lost.

Moreover, the error term $\mathbf ε$ has a different mean for each $i$, and so also a different variance (i.e. it is conditionally heteroskedastic). So its distribution conditional on the regressors differs across the observations $i$.

But this means that even if the error term $u_i$ is assumed normal, then the distribution of the sampling error $\hat {\mathbf γ} - \mathbf γ$ will be normal but not zero-mean mormal, and with unknown bias. And the variance will differ. So

If $E(u_i \mid \mathbf x_{i})=h(\mathbf x_i)\neq h(\mathbf x_j)=E(u_j \mid \mathbf x_{j})$, then even if we include a constant term in the regression, Hypothesis testing is no longer valid.

In other words, "finite-sample" properties are all gone.

We are left only with the option to resort to asymptotically valid inference, for which we will have to make additional assumptions.

So simply put, Strict Exogeneity cannot be "easily ignored".