Esempi di quando l'intervallo di confidenza e l'intervallo credibile coincidono

Nell'articolo di Wikipedia sull'intervallo credibile , si dice:

Nel caso di un singolo parametro e dati che possono essere riassunti in una singola statistica sufficiente, si può dimostrare che l'intervallo credibile e l'intervallo di confidenza coincideranno se il parametro sconosciuto è un parametro di posizione (ovvero la funzione di probabilità diretta ha la forma Pr (x | μ) = f (x - μ)), con un precedente che è una distribuzione piatta uniforme; [5] e anche se il parametro sconosciuto è un parametro di scala (ovvero la funzione di probabilità diretta ha la forma Pr (x | s) = f (x / s)), con un precedente di Jeffreys [5] - quest'ultimo seguito perché prendere il logaritmo di un tale parametro di scala lo trasforma in un parametro di posizione con una distribuzione uniforme. Ma questi sono casi distintamente speciali (anche se importanti); in generale non si può fare una simile equivalenza ".

Le persone potrebbero fornire esempi specifici di questo? Quando l'IC al 95% corrisponde effettivamente alla "probabilità del 95%", quindi "violando" la definizione generale di CI?

confidence-interval credible-interval

— Wayne
fonte

distribuzione normale:

Prendi una distribuzione normale con varianza nota. Possiamo considerare questa varianza come 1 senza perdere la generalità (semplicemente dividendo ogni osservazione per la radice quadrata della varianza). Questo ha distribuzione campionaria:

p (X_{1} . . . X_{N} | μ) = {(2 π)}^{- \frac{N}{2}} \exp (- \frac{1}{2} Σ_{io = 1}^{N} (X_{io} - μ)^{2}) = UN \exp (- \frac{N}{2} (\bar{X} - μ)^{2})

$p(X_{1}...X_{N}|\mu)=\left(2\pi\right)^{-\frac{N}{2}}\exp\left(-\frac{1}{2}\sum_{i=1}^{N}(X_{i}-\mu)^{2}\right)=A\exp\left(-\frac{N}{2}(\overline{X}-\mu)^{2}\right)$

Dove è una costante che dipende solo dai dati. Ciò dimostra che la media del campione è una statistica sufficiente per la media della popolazione. Se usiamo un'uniforme prima, la distribuzione posteriore per sarà: $A$ $\mu$

(μ | X_{1} . . . X_{N}) \sim N o r m a l (\bar{X}, \frac{1}{N}) ⟹ (\sqrt{N} (μ - \bar{X}) | X_{1} . . . X_{N}) ~ N o r m un' l (0, 1)

$(\mu|X_{1}...X_{N})\sim Normal\left(\overline{X},\frac{1}{N}\right)\implies \left(\sqrt{N}(\mu-\overline{X})|X_{1}...X_{N}\right)\sim Normal(0,1)$

Quindi un intervallo credibile avrà la forma: $1-\alpha$

(\bar{X} + \frac{1}{\sqrt{N}} L_{α}, \bar{X} + \frac{1}{\sqrt{N}} U_{α})

$\left(\overline{X}+\frac{1}{\sqrt{N}}L_{\alpha},\overline{X}+\frac{1}{\sqrt{N}}U_{\alpha}\right)$

Dove e sono scelti in modo tale che una normale variabile casuale normale soddisfi: $L_{\alpha}$ $U_{\alpha}$ $Z$

P r (L_{α} < Z < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<Z<U_{\alpha}\right)=1-\alpha$

Ora possiamo partire da questa "quantità fondamentale" per costruire un intervallo di confidenza. La distribuzione campionaria di per fissoè una distribuzione normale standard, quindi possiamo sostituirla con la probabilità sopra: $\sqrt{N}(\mu-\overline{X})$ $\mu$

P r (L_{α} < \sqrt{N} (μ - \bar{X}) < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<\sqrt{N}(\mu-\overline{X})<U_{\alpha}\right)=1-\alpha$

Quindi riorganizzare per risolvere per e l'intervallo di confidenza sarà lo stesso dell'intervallo credibile. $\mu$

Parametri di scala:

Per i parametri di scala, i pdf hanno il formato . Possiamo prendere, che corrisponde a. La distribuzione congiunta del campionamento è: $p(X_{i}|s)=\frac{1}{s}f\left(\frac{X_{i}}{s}\right)$ $(X_{i}|s)\sim Uniform(0,s)$ $f(t)=1$

p (X_{1} . . . X_{N} | S) = S^{- N} 0 < X_{1} . . . X_{N} < S

$p(X_{1}...X_{N}|s)=s^{-N}\;\;\;\;\;\;\;0<X_{1}...X_{N}<s$

Da cui troviamo che la statistica sufficiente è uguale a (il massimo delle osservazioni). Ora troviamo la sua distribuzione di campionamento: $X_{max}$

P r (X_{m un' X} < y | S) = P r (X_{1} < y, X_{2} < y . . . X_{N} < y | S) = {(\frac{y}{S})}^{N}

$Pr(X_{max}<y|s)=Pr(X_{1}<y,X_{2}<y...X_{N}<y|s)=\left(\frac{y}{s}\right)^{N}$

$y=qs$ $Q=s^{-1}X_{max}$ $Pr(Q<q)=q^{N}$ $beta(N,1)$ $L_{\alpha},U_{\alpha}$

P r (L_{α} < Q < U_{α}) = 1 - α = U_{α}^{N} - L_{α}^{N}

$Pr(L_{\alpha}<Q<U_{\alpha})=1-\alpha=U_{\alpha}^{N}-L_{\alpha}^{N}$

E sostituiamo la quantità fondamentale:

P r (L_{α} < S^{- 1} X_{m un' X} < U_{α}) = 1 - α = P r (X_{m un' X} L_{α}^{- 1} > S > X_{m un' X} U_{α}^{- 1})

$Pr(L_{\alpha}<s^{-1}X_{max}<U_{\alpha})=1-\alpha=Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1})$

E c'è il nostro intervallo di confidenza. Per la soluzione bayesiana con jeffreys prima abbiamo:

p (S | X_{1} . . . X_{N}) = \frac{S^{- N - 1}}{\int_{X_{m un' X}}^{\infty} r^{- N - 1} d r} = N (X_{m un' X})^{N} S^{- N - 1}

$p(s|X_{1}...X_{N})=\frac{s^{-N-1}}{\int_{X_{max}}^{\infty}r^{-N-1}dr}=N (X_{max})^{N}s^{-N-1}$

⟹ P r (S > t | X_{1} . . . X_{N}) = N (X_{m un' X})^{N} \int_{t}^{\infty} S^{- N - 1} d S = {(\frac{X_{m un' X}}{t})}^{N}

$\implies Pr(s>t|X_{1}...X_{N})=N (X_{max})^{N}\int_{t}^{\infty}s^{-N-1}ds=\left(\frac{X_{max}}{t}\right)^{N}$

Ora inseriamo l'intervallo di confidenza e calcoliamo la sua credibilità

P r (X_{m un' X} L_{α}^{- 1} > S > X_{m un' X} U_{α}^{- 1} | X_{1} . . . X_{N}) = {(\frac{X_{m un' X}}{X_{m un' X} U_{α}^{- 1}})}^{N} - {(\frac{X_{m un' X}}{X_{m un' X} L_{α}^{- 1}})}^{N}

$Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1}|X_{1}...X_{N})=\left(\frac{X_{max}}{X_{max}U_{\alpha}^{-1}}\right)^{N}-\left(\frac{X_{max}}{X_{max}L_{\alpha}^{-1}}\right)^{N}$

= U_{α}^{N} - L_{α}^{N} = P r (L_{α} < Q < U_{α})

$=U_{\alpha}^{N}-L_{\alpha}^{N}=Pr(L_{\alpha}<Q<U_{\alpha})$

$1-\alpha$

— probabilityislogic
fonte

Un capolavoro, grazie! Speravo che potesse esserci una risposta del tipo "quando si calcola la media di un campione da una distribuzione normale, l'IC 95% è in realtà anche l'intervallo credibile del 95%" o qualcosa di simile. (Sto solo inventando questa presunta risposta, non ho idea di esempi specifici.)

— Wayne,

Credo che un intervallo di previsione / tolleranza del 95% frequente corrisponda a un intervallo di previsione bayesiano con regressione OLS ed errori normali. Sembra così quando metto a confronto la risposta di predict.lm con una risposta simulata, comunque. È vero?

— Wayne,

Y = α + β X

$Y=\alpha+\beta X$

α, β

$\alpha,\beta$

σ

$\sigma$

Grazie mille! Ho cercato di spiegare un elemento della configurazione per una regressione che ho fatto in termini di intervallo di confidenza, e semplicemente non si collega a un pubblico laico, che si aspetta un intervallo credibile. Rende la vita molto più facile per me ... anche se forse è un male per il mondo statistico generale, poiché rafforzerà l'incomprensione del profano nei confronti di CI.

— Wayne,

@Wayne - la situazione è un po 'più generale delle semplici famiglie in scala di posizione. Di solito un elemento della configurazione sarà equivalente all'intervallo credibile, se si basa su una "statistica sufficiente" (come erano questi due) dove esiste. Se non esiste una statistica sufficiente, allora CI deve condizionare su quelle che vengono chiamate "statistiche accessorie" per avere un'interpretazione credibile dell'intervallo.

— Probislogic,