Questo può essere considerato ... un imbroglio, ma lo stimatore OLS è uno stimatore MoM. Considera una specifica di regressione lineare standard (con regressori stocastici , quindi le magnitudini sono condizionate dalla matrice del regressore) e un campione di dimensione . Indica lo stimatore OLS della varianza del termine di errore. È imparziale cosìn s 2 σ 2Kns2σ2
MSE(s2)=Var(s2)=2σ4n−K
Considera ora il MLE di . Èσ2
σ^2ML=n−Kns2
È distorto. Il suo MSE è
MSE(σ^2ML)=Var(σ^2ML)+[E(σ^2ML)−σ2]2
Esprimendo l'MLE in termini di OLS e usando l'espressione per la varianza dello stimatore OLS otteniamo
⇒MSE( σ 2 M L )=2(n-K)+K2
MSE(σ^2ML)=(n−Kn)22σ4n−K+(Kn)2σ4
⇒MSE(σ^2ML)=2(n−K)+K2n2σ4
Vogliamo le condizioni (se esistono) in base alle quali
MSE(σ^2ML)>MSE(s2)⇒2(n−K)+K2n2>2n−K
2 n 2 - 4 n K + 2 K 2 + n K 2 - K 3 > 2 n 2 - 4 n + 2 K + n K - K 2 > 0 ⇒ K 2 - (
⇒2(n−K)2+K2(n−K)>2n2
2n2−4nK+2K2+nK2−K3>2n2
Semplificando otteniamo
È possibile per questo quadratico in ottenere valori negativi? Abbiamo bisogno che il discriminante sia positivo. Abbiamo
che è un altro quadratico, in questa volta. Questo discriminante è
quindi
per tenere conto del fatto che è un numero intero. Se
−4n+2K+nK−K2>0⇒K2−(n+2)K+4n<0
KΔK=(n+2)2−16n=n2+4n+4−16n=n2−12n+4
nΔn=122−42=8⋅16
n1,n2=12±8⋅16−−−−√2=6±42–√⇒n1,n2={1,12}
nnall'interno di questo intervallo abbiamo e la quadratica in assume sempre valori positivi, quindi non possiamo ottenere la disuguaglianza richiesta. Quindi:
abbiamo bisogno di una dimensione del campione maggiore di 12.ΔK<0K
Detto questo, le radici di -quadratic sonoK
K1,K2=(n+2)±n2−12n+4−−−−−−−−−−√2=n2+1±(n2)2+1−3n−−−−−−−−−−−−√
Complessivamente: per dimensione del campione e numero di regressori tale che
abbiamo
per esempio, se allora si trova che il numero di regressori deve essere affinché la disuguaglianza debba essere mantenuta. È interessante notare che per un numero limitato di regressori l'MLE è migliore in termini di MSE.n>12K⌈K1⌉<K<⌊K2⌋
MSE(σ^2ML)>MSE(s2)
n=505<K<47
ADDENDUM
È possibile scrivere l' equazione per le radici di -quadraticK
K1,K2=(n2+1)±(n2+1)2−4n−−−−−−−−−−−−√
che a prima vista
penso che implica che la radice inferiore sarà sempre essere (tenendo conto della restrizione "valore intero"), così MLE sarà efficiente per MSE quando i regressori sono fino a per qualsiasi dimensione (finita) del campione.
55