Differenza tra Priori non informativi e impropri

Mi chiedo quale sia la differenza tra questi due tipi di priori:

• Non-informativo
• Improprio

I priori impropri sono -finite misure non negative d π sullo spazio dei parametri Θ tali che ∫ Θ d π ( θ ) = + ∞ In quanto tali generalizzano la nozione di una distribuzione precedente, che è una distribuzione di probabilità sullo spazio dei parametri Θ tale che ∫ Θ d π ( θ ) = 1 Sono utili in diversi modi per caratterizzarli$\sigma$$\text{d}\pi$$\Theta$

$$\int_\Theta \text{d}\pi(\theta) = +\infty$$ $\Theta$ $$\int_\Theta \text{d}\pi(\theta) =1$$

1. l'insieme dei limiti delle procedure bayesiane appropriate, che non sono tutte procedure bayesiane adeguate;
2. procedure ottimali frequentiste come in (ammissibilità) teoremi di classe completi come quelli di Wald;
3. stimatori invarianti frequentisti migliori (dal momento che possono essere espressi come stime di Bayes in base alla misura Haar corrispondente corrispondente, generalmente impropria);
4. i priori derivavano dalla forma della funzione di verosimiglianza, come i priori non informativi (ad es. Jeffreys ').

Poiché non si integrano in un numero finito, non consentono un'interpretazione probabilistica, ma possono comunque essere utilizzati nell'inferenza statistica se la probabilità marginale è finita poiché il distribuzione posteriore ℓ ( θ | x ) d π ( θ

$$\int_\Theta \ell(\theta|x)\text{d}\pi(\theta) < +\infty$$ è quindi ben definito. Ciò significa che può essere utilizzato esattamente allo stesso modo in cui viene utilizzata una distribuzione posteriore derivata da un precedente adeguato, per ricavare quantità posteriori per la stima come mezzi posteriori o intervalli credibili posteriori. $$\dfrac{\ell(\theta|x)\text{d}\pi(\theta)}{\int_\Theta \ell(\theta|x)\text{d}\pi(\theta)}$$

Avvertenza: un ramo dell'inferenza bayesiana non affronta molto bene i priori impropri, vale a dire quando si verificano ipotesi acute. In effetti, tali ipotesi richiedono la costruzione di due distribuzioni precedenti, una sotto lo zero e l'altra sotto l'alternativa, che sono ortogonali. Se uno di questi priori è improprio, non può essere normalizzato e il fattore Bayes risultante è indeterminato.

$\delta$$L(d,\theta)$$\text{d}\pi$L ( d , θ ) d π ( θ ) ϖ ( θ ) ϖ ( θ

$$\arg \min_d \int_\Theta L(d,\theta)\ell(\theta|x)\text{d}\pi(\theta)$$ $L(d,\theta)\text{d}\pi(\theta)$$\varpi(\theta)$$\varpi(\theta)$ $$L(d,\theta)\text{d}\pi(\theta)=\dfrac{L(d,\theta)}{\varpi(\theta)}\times\varpi(\theta)\text{d}\pi(\theta)$$

I priori non informativi sono classi di distribuzioni precedenti (proprie o improprie) determinate in base a un determinato criterio informativo relativo alla funzione di probabilità, come

1. La ragione insufficiente di Laplace prima piatta;
2. Jeffreys (1939) priori invarianti;
3. priori della massima entropia (o MaxEnt) (Jaynes, 1957);
4. descrizione minima lunghezza priori (Rissanen, 1987; Grünwald, 2005);
5. priori di riferimento (Bernardo, 1979, 1781; Berger & Bernardo, 1992; Bernardo & Sun, 2012)
6. priori corrispondenti alla probabilità (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)

e altre classi, alcune delle quali sono descritte in Kass & Wasserman (1995). Il nome non informativo è un termine improprio in quanto nessun precedente è mai completamente non informativo. Vedi la mia discussione su questo forum. O la diatriba di Larry Wasserman . (I priori non informativi sono spesso impropri.)

Un precedente non informativo, rigorosamente parlando, non è una distribuzione precedente. Questa è una funzione tale che, se la consideriamo come una distribuzione e applichiamo la formula di Bayes, otteniamo una certa distribuzione posteriore, che mira a riflettere il meglio possibile le informazioni contenute nei dati e solo nei dati, o per ottenere una buona proprietà di abbinamento frequentista (ovvero un intervallo credibile posteriore del è approssimativamente un intervallo di fiducia del ).95 $95\%$$95\%$

Un precedente non informativo è spesso "improprio". Una distribuzione ha una proprietà ben nota: il suo integrale è uguale a uno. Un priore non informativo è considerato improprio quando il suo integrale è infinito (quindi in tal caso è chiaro che non è una distribuzione).