Le probabilità di errori di tipo I e II sono negativamente correlate?

11

In una classe di statistica elementare per cui ero un TA, il professore ha affermato che all'aumentare della probabilità di un errore di tipo I , la probabilità di un errore di tipo II diminuisce e anche il contrario è vero. Quindi questo mi suggerisce che . $\alpha$ $\beta$ $\rho_{\alpha, \beta} < 0$

Ma come dimostrarlo per un test di ipotesi generale? L'affermazione è vera anche in generale?

Potrei provare un caso specifico (dire e ) ma ovviamente non è abbastanza generico per gestire questa domanda. $H_0: \mu = \mu_0$ $H_1: \mu < \mu_0$

probability hypothesis-testing type-i-and-ii-errors

— Clarinettista
fonte

13

Queste quantità ( e ) non sono variabili casuali, quindi esito a parlare della loro correlazione di Pearson; Non sono sicuro in che senso ciò si applicherebbe. $\alpha$ $\beta$

I due sono negativamente correlati nel senso che, ragionevolmente parlando in generale (ma vedi sotto *) - e tenendo uguali altre cose (come la dimensione del campione e la dimensione dell'effetto con cui calcoli ) - se cambi , allora si sposterà nella direzione opposta (in particolare, nelle situazioni tipiche, è una funzione di ; specifica quantità sufficienti per determinare e dipenderà da - e quella relazione, nelle situazioni più ragionevoli, del tipo che vorrei usare in un test reale - essere negativamente dipendente). $\beta$ $\alpha$ $\beta$ $\beta$ $\alpha$ $\beta$ $\alpha$

Considera, ad esempio, una curva di potenza. Muovendo spingerà la curva di potenza ( ) su o giù con essa, quindi ad un certo punto sulla curva (che è la distanza tra la curva e 1) diminuisce all'aumentare di . Ecco un esempio con un test a due code (ad esempio un test t). $\alpha$ $1-\beta$ $\beta$ $\alpha$

inserisci qui la descrizione dell'immagine

Il caso a una coda è simile, ma ti concentreresti sulla metà destra dell'immagine sopra (le due curve nella metà sinistra dell'immagine si abbasserebbero verso lo zero)

* ci sono alcune situazioni in cui questo non deve essere il caso. Prendi in considerazione il test per un'uniforme (0,1) tramite un test di Kolmogorov-Smirnov.

Consideriamo la possibilità che invece abbiamo un'uniforme su (o, in effetti, qualsiasi distribuzione con qualche probabilità al di fuori dell'intervallo unitario). $(0,1+\epsilon)$ $^\dagger$

Se osservo un valore che non si trova in (0,1), il test di Kolmogorov-Smirnov non necessariamente rifiuta il valore nullo. Ma posso fare un secondo test, (chiamiamolo il test KS *), che è come il Kolmogorov-Smirnov, tranne per il fatto che quando osserviamo un valore esterno (0,1) rifiutiamo anche il nullo indipendentemente dal fatto che la normale statistica raggiunge il valore critico.

Quindi per qualsiasi alternativa che abbia qualche probabilità al di fuori (0,1) abbiamo ridotto il tasso di errore di tipo II (da quello per il normale test KS) senza cambiare affatto . $\alpha$

$\dagger$ (in genere non è una buona idea usare un KS in quel caso, quindi se sai che è una possibilità, devi pensare attentamente alle alternative)

— Glen_b -Restate Monica
fonte

3

Lascia che denoti l'osservazione con densità o secondo che l'ipotesi o è vera. Consenti a e indicare le aree decisionali . Pertanto, , e la decisione è che è vero se . Quindi, le probabilità di errore di Tipo I e Tipo II sono $X$ $f_0(x)$ $f_1(x)$ $H_0$ $H_1$ $\Gamma_0$ $\Gamma_1$ $\Gamma_0 \cap \Gamma_1 = \emptyset$ $\Gamma_0 \cup \Gamma_1 = \mathbb R$ $H_i$ $X \in \Gamma_i$

\begin{aligned} (1) & P (Type I error) & = \int_{Γ_{1}} f_{0} (x) d x \\ (2) & P (Type II error) & = \int_{Γ_{0}} f_{1} (x) d x . \end{aligned}

$\begin{align} P(\text{Type I error}) &= \int_{\Gamma_1}f_0(x)\,\mathrm dx\tag{1}\\ P(\text{Type II error}) &= \int_{\Gamma_0}f_1(x)\,\mathrm dx.\tag{2} \end{align}$ Considera altre due regioni di decisione e tali che e . Ora, poiché l'integrale è su un set più grande, il che significa che il la nuova regola di decisione ha una maggiore probabilità di errore di tipo I. Ma nota anche che perché l'integrale è su un set più piccolo, e così la nuova regola di decisione ha una probabilità di errore di tipo II inferiore.

Γ_{0}^{'}

$\Gamma_0^\prime$

Γ_{1}^{'}

$\Gamma_1^\prime$

Γ_{1} \subset Γ_{1}^{'}

$\Gamma_1 \subset \Gamma_1^\prime$

Γ_{0}^{'} \subset Γ_{0}

$\Gamma_0^\prime \subset \Gamma_0$

\int_{Γ_{1}^{'}} f_{0} (x) d x \geq \int_{Γ_{1}} f_{0} (x) d x

$\int_{\Gamma_1^\prime}f_0(x)\,\mathrm dx \geq \int_{\Gamma_1}f_0(x)\,\mathrm dx$

\int_{Γ_{0}^{'}} f_{1} (x) d x \leq \int_{Γ_{0}} f_{1} (x) d x

$\int_{\Gamma_0^\prime}f_1(x)\,\mathrm dx \leq \int_{\Gamma_0}f_1(x)\,\mathrm dx$

— Dilip Sarwate
fonte

1

La relazione che stai osservando tra e è vera rispetto all'attività a cui intendevi farti pensare in quel momento: aggiustare il valore critico che usi per accettare o rifiutare un'ipotesi. Se rendi più difficile ottenere un falso positivo, devi naturalmente rendere più facile ottenere un falso negativo. Questo sito Web mostra graficamente la relazione tra e . $\alpha$ $\beta$ $\alpha$ $\beta$

La relazione non è vera per tutte le attività. Ad esempio, se si aumenta il numero di campioni nel test, è possibile ridurre simultaneamente e . La relazione è garantita solo quando si stanno regolando i valori critici $\alpha$ $\beta$

— Cort Ammon
fonte

1

"La relazione è solo" - sembra che la fine della tua risposta sia stata tagliata?

— Silverfish