I test t e ANOVA a senso unico sono entrambi test Wald?

11

t-test per verificare se la media di un campione normalmente distribuito equivale a una costante è considerato un test di Wald, stimando la deviazione standard della media del campione dalle informazioni del pescatore sulla distribuzione normale alla media del campione. Ma la statistica del test nel test t ha una distribuzione t per gli studenti, mentre il test staistico in un test Wald ha asintoticamente una distribuzione chi-quadro. Mi chiedo come spiegarlo?

Nell'ANOVA a senso unico, la statistica del test è definita come il rapporto tra varianza tra le classi e varianza all'interno delle classi. Mi chiedevo se fosse anche un test Wald? Ma la statistica test in ANOVA a senso unico ha una distribuzione F e la statistica test in un test Wald asintoticamente ha una distribuzione chi-quadro. Mi chiedo come spiegarlo?

Grazie e saluti!

hypothesis-testing anova

— Tim
fonte

17

Considera la seguente configurazione. Abbiamo un vettore di parametri dimensionali che specifica completamente il modello e uno stimatore di massima verosimiglianza . Le informazioni di Fisher in sono indicate con . Quella che viene generalmente definita statistica di Wald è $p$ $\theta$ $\hat{\theta}$ $\theta$ $I(\theta)$

(\hat{θ} - θ)^{T} I (\hat{θ}) (\hat{θ} - θ)

$(\hat{\theta} - \theta)^T I(\hat{\theta}) (\hat{\theta} - \theta)$

dove è l'informazione di Fisher valutata nello stimatore della massima verosimiglianza. In condizioni di regolarità la statistica di Wald segue asintoticamente una distribuzione con -degrees di libertà quando è il vero parametro. La statistica Wald può essere utilizzata per testare una semplice ipotesi sull'intero vettore dei parametri. $I(\hat{\theta})$ $\chi^2$ $p$ $\theta$ $H_0 : \theta = \theta_0$

Con l'inverso delle informazioni di Fisher la statistica del test Wald dell'ipotesi è La sua distribuzione asintotica è una distribuzione di con 1 grado di libertà. $\Sigma(\theta) = I(\theta)^{-1}$ $H_0 : \theta_1 = \theta_{0,1}$

\frac{({\hat{θ}}_{1} - θ_{0, 1})^{2}}{Σ (\hat{θ})_{i i}} .

$\frac{(\hat{\theta}_1 - \theta_{0,1})^2}{\Sigma(\hat{\theta})_{ii}}.$

χ^{2}

$\chi^2$

Per il modello normale in cui è il vettore della media e dei parametri di varianza, la statistica del test Wald del test se è con la dimensione del campione. Qui è lo stimatore della massima verosimiglianza di (dove dividi per ). La statistica -test è dove è lo stimatore imparziale della varianza (dove dividi per ) . La statistica del test di Wald è quasi ma non esattamente uguale al quadrato della $\theta = (\mu, \sigma^2)$ $\mu = \mu_0$

\frac{n (\hat{μ} - μ_{0})^{2}}{{\hat{σ}}^{2}}

$\frac{n(\hat{\mu} - \mu_0)^2}{\hat{\sigma}^2}$

n

$n$

{\hat{σ}}^{2}

$\hat{\sigma}^2$

σ^{2}

$\sigma^2$

n

$n$

t

$t$

\frac{\sqrt{n} (\hat{μ} - μ_{0})}{s}

$\frac{\sqrt{n}(\hat{\mu} - \mu_0)}{s}$

s^{2}

$s^2$

n - 1

$n-1$

t

$t$ -test statistico, ma sono asintoticamente equivalenti quando . La statistica -test al quadrato ha una distribuzione esatta , che converge alla con 1 gradi di libertà per .

n \to \infty

$n \to \infty$

t

$t$

F (1, n - 1)

$F(1, n-1)$

χ^{2}

$\chi^2$

n \to \infty

$n \to \infty$

La stessa storia vale per il test nell'ANOVA a senso unico. $F$

— NRH
fonte

Grazie! Ho appena scoperto che la statistica del test t è costruita direttamente sulla statistica del test del rapporto di verosimiglianza, non sulla statistica del test Wald. ANOVA a senso unico si basa direttamente sul test del rapporto di verosimiglianza?

— Tim

3

@Tim, i test utilizzati in ANOVA sono equivalenti ai test del rapporto di verosimiglianza basati sulla normale distribuzione degli errori.

F

$F$

— NRH

Grazie! Secondo il normale modello statistico, alcuni dicono anche che la distribuzione di una leggera modifica della statistica del test di Wald ha una distribuzione F sotto zero. È vero? Pubblica una domanda qui

— Tim

13

@NRH ha dato una buona risposta teorica, eccone una che intende essere più semplice, più intuitiva.

Esiste il test Wald formale (descritto nella risposta di NRH), ma ci riferiamo anche ai test che esaminano la differenza tra un parametro stimato e il suo valore ipotizzato rispetto alla variazione stimata al parametro stimato come test di stile Wald. Quindi il test t come lo usiamo di solito è un test di stile Wald anche se è leggermente diverso dall'esatto test di Wald (una differenza di vs. $n$ $n-1$ all'interno di una radice quadrata). Potremmo anche progettare un test in stile Wald basato su una stima mediana meno la mediana ipotizzata divisa per una funzione dell'IQR, ma non so quale distribuzione seguirà, sarebbe meglio usare un bootstrap, una permutazione o una simulazione distribuzione per questo test piuttosto che dipendere da asintotici chi-quadrati. Il test F per ANOVA si adatta anche al modello generale, il numeratore può essere considerato come la misurazione della differenza dei mezzi da una media complessiva e il denominatore è una misura della variazione.

Si noti inoltre che se si piazza una variabile casuale che segue alla distribuzione, seguirà una distribuzione F con 1 df per il numeratore e il denominatore df saranno quelli della distribuzione t. Si noti inoltre che una distribuzione F con denominatore infinito df è una distribuzione chi-quadro. Ciò significa che sia la statistica t (quadrata) sia la statistica F sono asintoticamente chi-quadrate proprio come la statistica Wald. Usiamo semplicemente la distribuzione più esatta in pratica.

— Greg Snow
fonte