Dal punto di vista della probabilità bayesiana, perché un intervallo di confidenza al 95% non contiene il parametro vero con una probabilità del 95%?

14

Dalla pagina di Wikipedia sugli intervalli di confidenza :

... se gli intervalli di confidenza sono costruiti attraverso molte analisi dei dati separate di esperimenti ripetuti (e possibilmente diversi), la proporzione di tali intervalli che contengono il valore reale del parametro corrisponderà al livello di confidenza ...

E dalla stessa pagina:

Un intervallo di confidenza non prevede che il vero valore del parametro abbia una particolare probabilità di trovarsi nell'intervallo di confidenza dati i dati effettivamente ottenuti.

Se ho capito bene, quest'ultima affermazione è fatta tenendo presente l'interpretazione frequente della probabilità. Tuttavia, dal punto di vista della probabilità bayesiana, perché un intervallo di confidenza al 95% non contiene il parametro vero con una probabilità del 95%? E in caso contrario, cosa c'è di sbagliato nel seguente ragionamento?

Se ho un processo che conosco produce una risposta corretta il 95% delle volte, la probabilità che la risposta successiva sia corretta è 0,95 (dato che non ho ulteriori informazioni riguardo al processo). Allo stesso modo se qualcuno mi mostra un intervallo di confidenza creato da un processo che conterrà il vero parametro il 95% delle volte, non dovrei avere ragione nel dire che contiene il vero parametro con probabilità 0,95, dato quello che so?

Questa domanda è simile, ma non uguale a, Perché un IC al 95% non implica una probabilità del 95% di contenere la media? Le risposte a questa domanda si sono concentrate sul perché un IC al 95% non implica una probabilità del 95% di contenere la media da una prospettiva frequentista. La mia domanda è la stessa, ma dal punto di vista della probabilità bayesiana.

bayesian confidence-interval

— Rasmus Bååth
fonte

Un modo di pensare a questo è il 95% di IC è una "media di lungo periodo". Ora ci sono molti modi per dividere i casi di "breve periodo" in modo da ottenere una copertura abbastanza arbitraria, ma quando viene calcolata la media, si ottiene complessivamente il 95%. Un altro modo più astratto è generare per tale che . C'è un numero infinito di modi in cui puoi farlo. Qui indica se l'IC creato con il suo set di dati contiene o meno il parametro e è la probabilità di copertura per questo caso.

x_{i} \sim B e r n o u l l i (p_{i})

$x_i\sim Bernoulli (p_i)$

i = 1, 2, \dots

$i=1, 2,\dots$

\sum_{i = 1}^{\infty} p_{i} = 0.95

$\sum_{i=1}^{\infty} p_i=0.95$

x_{i}

$x_i$

p_{i}

$p_i$

— probabilityislogic

11

Aggiornamento : con il senno di poi alcuni anni, ho scritto un trattamento più conciso dello stesso materiale essenzialmente in risposta a una domanda simile.

Come costruire una regione di fiducia

Cominciamo con un metodo generale per costruire regioni di fiducia. Può essere applicato a un singolo parametro, per produrre un intervallo di confidenza o una serie di intervalli; e può essere applicato a due o più parametri, per produrre regioni di confidenza dimensionale più elevate.

Affermiamo che le statistiche osservate provengono da una distribuzione con parametri , vale a dire la distribuzione campionaria su possibili statistiche , e cerchiamo una regione di confidenza per nell'insieme di possibili valori . Definire una regione a più alta densità (HDR): -HDR di un PDF è il sottoinsieme più piccolo del suo dominio che supporta la probabilità . Indica -HDR di come , per qualsiasi . Quindi, la regione di confidenza per $D$ $\theta$ $s(d|\theta)$ $d$ $\theta$ $\Theta$ $h$ $h$ $h$ $s(d|\psi)$ $H_\psi$ $\psi \in \Theta$ $h$ $\theta$ , dati , è l'insieme . Un valore tipico di sarebbe 0,95. $D$ $C_D = \{ \phi : D \in H_\phi \}$ $h$

Un'interpretazione frequente

Dalla definizione precedente di una regione di confidenza segue con . Ora immaginate un grande insieme di ( immaginari ) osservazioni , scattate in circostanze simili a . cioè Sono campioni da . Poiché supporta la massa di probabilità del PDF , per tutti . Pertanto, la frazione di per cui è

d \in H_{ψ} ⟷ ψ \in C_{d}

$d \in H_\psi \longleftrightarrow \psi \in C_d$

C_{d} = {ϕ : d \in H_{ϕ}}

$C_d = \{ \phi : d \in H_\phi \}$

{D_{i}}

$\{D_i\}$

D

$D$

s (d | θ)

$s(d|\theta)$

H_{θ}

$H_\theta$

h

$h$

s (d | θ)

$s(d|\theta)$

P (D_{i} \in H_{θ}) = h

$P(D_i \in H_\theta) = h$

i

$i$

{D_{i}}

$\{D_i\}$

D_{i} \in H_{θ}

$D_i \in H_\theta$

h

$h$ . E così, usando l'equivalenza sopra, la frazione di per la quale è anche .

{D_{i}}

$\{D_i\}$

θ \in C_{D_{i}}

$\theta \in C_{D_i}$

h

$h$

Questo, quindi, è ciò che il frequentista afferma per la regione di confidenza per equivale a: $h$ $\theta$

Prendere un gran numero di osservazioni immaginari dalla distribuzione campionaria che ha dato origine alla statistica osservata . Quindi, trova all'interno di una frazione delle regioni analoghe ma immaginarie di fiducia . $\{D_i\}$ $s(d|\theta)$ $D$ $\theta$ $h$ $\{C_{D_i}\}$

La regione di confidenza quindi non fa alcuna pretesa sulla probabilità che si trovi da qualche parte! Il motivo è semplicemente che non c'è nulla nella fomulazione che ci permetta di parlare di una distribuzione di probabilità su . L'interpretazione è solo una sovrastruttura elaborata, che non migliora la base. La base è solo e , dove non appare come quantità distribuita e non ci sono informazioni che possiamo usare per risolverlo. Esistono sostanzialmente due modi per ottenere una distribuzione su : $C_D$ $\theta$ $\theta$ $s(d | \theta)$ $D$ $\theta$ $\theta$

Assegna una distribuzione direttamente dalle informazioni a portata di mano: . $p(\theta | I)$
Correlare con un'altra quantità distribuita: . $\theta$ $p(\theta | I) = \int p(\theta x | I) dx = \int p(\theta | x I) p(x | I) dx$

In entrambi i casi, deve apparire a sinistra da qualche parte. I frequentatori non possono usare nessuno dei due metodi, poiché entrambi richiedono un precedente eretico. $\theta$

Una vista bayesiana

Il più un bayesiano può fare della regione di confidenza , dato senza qualificazione, è semplicemente l'interpretazione diretta: che è l'insieme di per il quale cade nella -HDR della distribuzione campionaria . Non ci dice necessariamente molto su , ed ecco perché. $h$ $C_D$ $\phi$ $D$ $h$ $H_\phi$ $s(d|\phi)$ $\theta$

La probabilità che , dati e le informazioni di base , sia: Nota che, a differenza dell'interpretazione frequentista, abbiamo immediatamente richiesto una distribuzione su . Le informazioni di base ci dicono, come prima, che la distribuzione di campionamento è : $\theta \in C_D$ $D$ $I$

\begin{aligned} P (θ \in C_{D} | D I) & = \int_{C_{D}} p (θ | D I) d θ \\ = \int_{C_{D}} \frac{p (D | θ I) p (θ | I)}{p (D | I)} d θ \end{aligned}

$\begin{align*} P(\theta \in C_D | DI) &= \int_{C_D} p(\theta | DI) d\theta \\ &= \int_{C_D} \frac{p(D | \theta I) p(\theta | I)}{p(D | I)} d\theta \end{align*}$

θ

$\theta$

I

$I$

s (d | θ)

$s(d | \theta)$

\begin{aligned} P (θ \in C_{D} | D I) & = \int_{C_{D}} \frac{s (D | θ) p (θ | I)}{p (D | I)} d θ \\ = \frac{\int_{C_{D}} s (D | θ) p (θ | I) d θ}{p (D | I)} \\ i.e. P (θ \in C_{D} | D I) & = \frac{\int_{C_{D}} s (D | θ) p (θ | I) d θ}{\int s (D | θ) p (θ | I) d θ} \end{aligned}

$\begin{align*} P(\theta \in C_D | DI) &= \int_{C_D} \frac{s(D | \theta) p(\theta | I)}{p(D | I)} d \theta \\ &= \frac{\int_{C_D} s(D | \theta) p(\theta | I) d\theta}{p(D | I)} \\ \text{i.e.} \quad\quad P(\theta \in C_D | DI) &= \frac{\int_{C_D} s(D | \theta) p(\theta | I) d\theta}{\int s(D | \theta) p(\theta | I) d\theta} \end{align*}$

Ora questa espressione non valuta in generale , vale a dire, la regione di confidenza non contiene sempre con probabilità . In effetti può essere nettamente diverso da . Ci sono, tuttavia, molte situazioni comuni in cui si fa valutare da

h

$h$

h

$h$

C_{D}

$C_D$

θ

$\theta$

h

$h$

h

$h$

h

$h$ , motivo per cui le regioni di fiducia sono spesso coerenti con le nostre intuizioni probabilistiche.

Ad esempio, supponiamo che il precedente PDF congiunto di e sia simmetrico in quel . (Chiaramente questo implica un presupposto che il PDF spazia sullo stesso dominio in e .) Quindi, se il precedente è , abbiamo . Quindi Dalla definizione di un HDR lo sappiamo per qualsiasi $d$ $\theta$ $p_{d,\theta}(d,\theta | I) = p_{d,\theta}(\theta,d | I)$ $d$ $\theta$ $p(\theta | I) = f(\theta)$ $s(D | \theta) p(\theta | I) = s(D | \theta) f(\theta) = s(\theta | D) f(D)$

\begin{aligned} P (θ \in C_{D} | D I) & = \frac{\int_{C_{D}} s (θ | D) d θ}{\int s (θ | D) d θ} \\ i.e. P (θ \in C_{D} | D I) & = \int_{C_{D}} s (θ | D) d θ \end{aligned}

$\begin{align*} P(\theta \in C_D | DI) &= \frac{\int_{C_D} s(\theta | D) d\theta}{\int s(\theta | D) d\theta} \\ \text{i.e.} \quad\quad P(\theta \in C_D | DI) &= \int_{C_D} s(\theta | D) d\theta \end{align*}$

ψ \in Θ

$\psi \in \Theta$

\begin{aligned} \int_{H_{ψ}} s (d | ψ) d d & = h \\ and therefore that \int_{H_{D}} s (d | D) d d & = h \\ or equivalently \int_{H_{D}} s (θ | D) d θ & = h \end{aligned}

$\begin{align*} \int_{H_\psi} s(d | \psi) dd &= h \\ \text{and therefore that} \quad\quad \int_{H_D} s(d | D) dd &= h \\ \text{or equivalently} \quad\quad \int_{H_D} s(\theta | D) d\theta &= h \end{align*}$ Pertanto, dato che , implica . L'antecedente soddisfa Applicazione dell'equivalenza nella parte superiore: Pertanto, l'area di confidenza contiene

s (d | θ) f (θ) = s (θ | d) f (d)

$s(d | \theta) f(\theta) = s(\theta | d) f(d)$

C_{D} = H_{D}

$C_D = H_D$

P (θ \in C_{D} | D I) = h

$P(\theta \in C_D | DI) = h$

C_{D} = H_{D} ⟷ \forall ψ [ψ \in C_{D} \leftrightarrow ψ \in H_{D}]

$C_D = H_D \longleftrightarrow \forall \psi \; [ \psi \in C_D \leftrightarrow \psi \in H_D ]$

C_{D} = H_{D} ⟷ \forall ψ [D \in H_{ψ} \leftrightarrow ψ \in H_{D}]

$C_D = H_D \longleftrightarrow \forall \psi \; [ D \in H_\psi \leftrightarrow \psi \in H_D ]$

C_{D}

$C_D$

θ

$\theta$ con probabilità se per tutti i possibili valori di , -HDR di contiene se e solo se -HDR di contiene .

h

$h$

ψ

$\psi$

θ

$\theta$

h

$h$

s (d | ψ)

$s(d | \psi)$

D

$D$

h

$h$

s (d | D)

$s(d | D)$

ψ

$\psi$

Ora la relazione simmetrica è soddisfatta per tutti quando per tutti che abbraccia il supporto di e . Possiamo quindi formare il seguente argomento: $D \in H_\psi \leftrightarrow \psi \in H_D$ $\psi$ $s(\psi + \delta | \psi) = s(D - \delta | D)$ $\delta$ $s(d | D)$ $s(d | \psi)$

$s(d | \theta) f(\theta) = s(\theta | d) f(d)$ (premessa)
$\forall \psi \; \forall \delta \; [ s(\psi + \delta | \psi) = s(D - \delta | D) ]$ (premessa)
$\forall \psi \; \forall \delta \; [ s(\psi + \delta | \psi) = s(D - \delta | D) ] \longrightarrow \forall \psi \; [ D \in H_\psi \leftrightarrow \psi \in H_D ]$
$\therefore \quad \forall \psi \; [ D \in H_\psi \leftrightarrow \psi \in H_D ]$
$\forall \psi \; [ D \in H_\psi \leftrightarrow \psi \in H_D ] \longrightarrow C_D = H_D$
$\therefore \quad C_D = H_D$
$[s(d | \theta) f(\theta) = s(\theta | d) f(d) \wedge C_D = H_D] \longrightarrow P(\theta \in C_D | DI) = h$
$\therefore \quad P(\theta \in C_D | DI) = h$

Appliciamo l'argomento a un intervallo di confidenza sulla media di una distribuzione normale 1-D , data una media di esempio da misurazioni. Abbiamo e , in modo che la distribuzione di campionamento sia Supponi anche che non sappiamo nulla di prima di prendere i dati (tranne che è una posizione parametro) e quindi assegnare un precedente uniforme: . Chiaramente ora abbiamo , quindi la prima premessa è soddisfatta. Permettere $(\mu, \sigma)$ $\bar{x}$ $n$ $\theta = \mu$ $d = \bar{x}$

s (d | θ) = \frac{\sqrt{n}}{σ \sqrt{2 π}} e^{- \frac{n}{2 σ^{2}} {(d - θ)}^{2}}

$s(d | \theta) = \frac{\sqrt{n}}{\sigma \sqrt{2 \pi}} e^{-\frac{n}{2 \sigma^2} { \left( d - \theta \right) }^2 }$

θ

$\theta$

f (θ) = k

$f(\theta) = k$

s (d | θ) f (θ) = s (θ | d) f (d)

$s(d | \theta) f(\theta) = s(\theta | d) f(d)$

s (d | θ) = g ((d - θ)^{2})

$s(d | \theta) = g\left( (d - \theta)^2 \right)$ . (cioè può essere scritto in quel formato.) Quindi al termine della seconda premessa. Essendo entrambe le premesse vere, l'argomento in otto punti ci porta a concludere che la probabilità che risieda nell'intervallo di confidenza è !

\begin{matrix} s (ψ + δ | ψ) = g ((ψ + δ - ψ)^{2}) = g (δ^{2}) \\ and s (D - δ | D) = g ((D - δ - D)^{2}) = g (δ^{2}) \\ so that \forall ψ \forall δ [s (ψ + δ | ψ) = s (D - δ | D)] \end{matrix}

$\begin{gather*} s(\psi + \delta | \psi) = g \left( (\psi + \delta - \psi)^2 \right) = g(\delta^2) \\ \text{and} \quad\quad s(D - \delta | D) = g \left( (D - \delta - D)^2 \right) = g(\delta^2) \\ \text{so that} \quad\quad \forall \psi \; \forall \delta \; [s(\psi + \delta | \psi) = s(D - \delta | D)] \end{gather*}$

θ

$\theta$

C_{D}

$C_D$

h

$h$

Abbiamo quindi un'ironia divertente:

Il frequentatore che assegna l' intervallo di confidenza non può dire che , non importa quanto innocentemente uniforme sia prima di incorporare i dati. $h$ $P(\theta \in C_D) = h$ $\theta$
Il bayesiano che non assegnerebbe un intervallo di confidenza in quel modo sa comunque che . $h$ $P(\theta \in C_D | DI) = h$

Osservazioni finali

Abbiamo identificato le condizioni (ovvero le due premesse) in base alle quali la regione di confidenza produce effettivamente probabilità che . Un frequentatore si fermerà alla prima premessa, perché comporta un precedente su , e questo tipo di patto è inevitabile sulla strada per una probabilità. Ma per un bayesiano è accettabile --- no, essenziale. Queste condizioni sono sufficienti ma non necessarie, quindi ci sono molte altre circostanze in cui la Bayesiana uguale a . Allo stesso modo, ci sono molte circostanze in cui , specialmente quando le informazioni precedenti sono significative. $h$ $h$ $\theta \in C_D$ $\theta$ $P(\theta \in C_D | DI)$ $h$ $P(\theta \in C_D | DI) \ne h$

Abbiamo applicato un'analisi bayesiana proprio come un costante bayesiana Sarebbe, date le informazioni a portata di mano , comprese le statistiche . Ma un bayesiano, se possibile, applicherà i suoi metodi alle misure grezze invece --- a , piuttosto che a . Spesso, la compressione dei dati grezzi in statistiche riassuntive distrugge le informazioni nei dati; e quindi le statistiche riassuntive non sono in grado di parlare in modo eloquente dei dati originali sui parametri . $D$ $\{x_i\}$ $\bar{x}$ $D$ $\theta$

— CarbonFlambe - Ripristina Monica
fonte

Sarebbe corretto dire che un bayesiano è impegnato a tenere conto di tutte le informazioni disponibili, mentre l'interpretazione data nella domanda ha ignorato D in un certo senso?

— qbolec,

È una buona immagine mentale per illustrare la situazione: immagina un'immagine in scala di grigi, dove l'intensità del pixel x, y è la ppb congiunta del parametro reale essendo y e la stat osservata è x. In ogni riga y, contrassegniamo i pixel che hanno il 95% di massa della riga. Per ogni stat osservato x, definiamo CI (x) come l'insieme di righe che hanno contrassegnato i pixel nella colonna x. Ora, se scegliamo x, y in modo casuale, allora CI (x) conterrà y iff x, y è stato contrassegnato e la massa di pixel contrassegnati è del 95% per ogni y. Quindi, i frequentisti affermano che mantenendo y fisso, la probabilità è del 95%, dice OP, che non aggiustarlo y dà anche il 95%, e i bayesiani riparano y e non lo sanno

— qbolec

@qbolec È corretto affermare che nel metodo bayesiano non si possono ignorare arbitrariamente alcune informazioni tenendo conto del resto. I frequentatori affermano che per tutti l'aspettativa di (come numero intero booleano) sotto la distribuzione di campionamento è 0,95. Il frequentista 0,95 non è una probabilità ma un'aspettativa.

y

$y$

y \in C I (x)

$y \in \mathrm{CI}(x)$

p r o b (x | y, I)

$\mathrm{prob}(x\, |\, y, I)$

— CarbonFlambe - Ripristina Monica il

6

dal punto di vista della probabilità bayesiana, perché un intervallo di confidenza del 95% non contiene il parametro vero con una probabilità del 95%?

Due risposte a questa, la prima è meno utile della seconda

Non ci sono intervalli di confidenza nelle statistiche bayesiane, quindi la domanda non riguarda.
Nelle statistiche bayesiane vi sono tuttavia intervalli credibili , che svolgono un ruolo simile agli intervalli di confidenza. Se consideri i priori e i posteriori nelle statistiche bayesiane quantificano la ragionevole convinzione che un parametro assume determinati valori, allora la risposta alla tua domanda è sì, un intervallo credibile del 95% rappresenta un intervallo entro il quale si ritiene che un parametro sia del 95% probabilità.

Se ho un processo che conosco produce una risposta corretta il 95% delle volte, la probabilità che la risposta successiva sia corretta è 0,95 (dato che non ho ulteriori informazioni riguardo al processo).

sì, il processo indovina una risposta giusta con una probabilità del 95%

Allo stesso modo se qualcuno mi mostra un intervallo di confidenza creato da un processo che conterrà il vero parametro il 95% delle volte, non dovrei avere ragione nel dire che contiene il vero parametro con probabilità 0,95, dato quello che so?

Proprio come il processo, l'intervallo di confidenza indovina la risposta corretta con una probabilità del 95%. Siamo tornati nel mondo delle statistiche classiche qui: prima di raccogliere i dati puoi dire che c'è una probabilità del 95% di dati raccolti in modo casuale che determina i limiti dell'intervallo di confidenza in modo tale che la media sia all'interno dei limiti.

Con il tuo processo, dopo aver ottenuto la tua risposta, non puoi dire in base a qualunque sia la tua ipotesi, che la vera risposta è la stessa della tua ipotesi con una probabilità del 95%. L'ipotesi è giusta o sbagliata.

E lo stesso del processo, nel caso dell'intervallo di confidenza, dopo aver ottenuto i dati e avere un limite inferiore e superiore effettivo, la media è all'interno di tali limiti o non lo è, vale a dire la possibilità che la media sia all'interno di questi limiti particolari è 1 o 0. (Dopo aver scremato la domanda a cui ti riferisci sembra che questa sia coperta in modo molto più dettagliato).

Come interpretare un intervallo di confidenza che ti viene dato se ti abboni a una visione bayesiana della probabilità.

Ci sono un paio di modi per vederlo

Tecnicamente, l'intervallo di confidenza non è stato prodotto usando un teorema precedente e di Bayes, quindi se si avesse una precedente convinzione sul parametro in questione, non sarebbe possibile interpretare l'intervallo di confidenza nel quadro bayesiano.
Un'altra interpretazione ampiamente utilizzata e rispettata degli intervalli di confidenza è che forniscono un "intervallo plausibile" di valori per il parametro (vedere, ad esempio, qui ). Questo de-enfatizza l'interpretazione degli "esperimenti ripetuti".

Inoltre, in determinate circostanze, in particolare quando il precedente non è informativo (non ti dice nulla, ad esempio piatto), gli intervalli di confidenza possono produrre esattamente lo stesso intervallo di un intervallo credibile. In queste circostanze, come bayesiano si potrebbe sostenere che se avessi preso la via bayesiana avresti ottenuto esattamente gli stessi risultati e potresti interpretare l'intervallo di confidenza allo stesso modo di un intervallo credibile.

— TooTone
fonte

ma sicuramente esistono degli intervalli di confidenza anche se sottoscrivo una visione bayesiana della probabilità, non spariranno, giusto? :) La situazione di cui mi chiedevo era come interpretare un intervallo di confidenza che ti veniva dato se ti iscrivi a una visione bayesiana della probabilità.

— Rasmus Bååth

Il problema è che gli intervalli di confidenza non sono prodotti usando una metodologia bayesiana. Non inizi con un precedente. Modificherò il post per aggiungere qualcosa che potrebbe aiutare.

— TooTone

2

Ti faccio un esempio estremo in cui sono diversi.

Supponiamo di creare il mio intervallo di confidenza al 95% per un parametro come segue. Inizia campionando i dati. Quindi genera un numero casuale compreso tra e . Chiama questo numero . Se è inferiore a restituisci l'intervallo . Altrimenti restituisce l'intervallo "null". $\theta$ $0$ $1$ $u$ $u$ $0.95$ $(-\infty,\infty)$

Ora oltre le ripetizioni continue, il 95% degli EC sarà "tutti i numeri" e quindi conterrà il valore reale. L'altro 5% non contiene valori, quindi non ha copertura. Nel complesso, si tratta di un IC al 95% inutile, ma tecnicamente corretto.

L'intervallo credibile bayesiano sarà del 100% o 0%. Non il 95%.

— probabilityislogic
fonte

Quindi è corretto affermare che prima di vedere un intervallo di confidenza c'è una probabilità del 95% che conterrà il parametro vero, ma per ogni dato intervallo di confidenza la probabilità che copra il parametro vero dipende dai dati (e dal nostro precedente)? Ad essere sincero, quello con cui sto davvero lottando è come suonano gli intervalli di fiducia inutili (intervalli credibili che mi piacciono d'altra parte) e il fatto che non dovrò mai insegnarli ai nostri studenti la prossima settimana ...: /

— Rasmus Bååth,

Questa domanda ha alcuni esempi, oltre a una carta molto buona confronto tra i due approcci