Calcolo della probabilità marginale da campioni MCMC

Questa è una domanda ricorrente (vedi questo post , questo post e questo post ), ma ho una rotazione diversa.

Supponiamo di avere un sacco di campioni da un campionatore MCMC generico. Per ogni campione $\theta$ , conosco il valore del registro verosimiglianza $\log f(\textbf{x} | \theta)$ e del registro prima . Se aiuta, conosco anche il valore della probabilità di log per punto dati, (questa informazione aiuta con alcuni metodi, come WAIC e PSIS-LOO).log f ( x i | θ $\log f(\theta)$$\log f(x_i | \theta)$

Voglio ottenere una stima (grezza) della probabilità marginale, solo con i campioni che ho, e forse alcune altre valutazioni di funzione (ma senza rieseguire un MCMC ad hoc ).

Prima di tutto, cancelliamo il tavolo. Sappiamo tutti che lo stimatore armonico è il peggior stimatore di sempre . Andiamo avanti. Se stai facendo un campionamento di Gibbs con priori e posteriori in forma chiusa, puoi usare il metodo di Chib ; ma non sono sicuro di come generalizzare al di fuori di questi casi. Esistono anche metodi che richiedono di modificare la procedura di campionamento (ad esempio tramite elementi temperati ), ma qui non mi interessa.

L'approccio a cui sto pensando consiste nell'approssimare la distribuzione sottostante con una forma parametrica (o non parametrica) , e quindi capire la costante di normalizzazione come un problema di ottimizzazione 1-D (cioè la che minimizza alcuni errori tra e , valutato sui campioni). Nel caso più semplice, supponiamo che il posteriore sia approssimativamente multivariato normale, posso adattare come un normale multivariato e ottenere qualcosa di simile a un'approssimazione di Laplace (potrei voler usare alcune valutazioni di funzione aggiuntive per affinare la posizione di il modo). Tuttavia, potrei usare comeZ Z Z g ( θ ) f ( x | θ ) f ( θ ) g $g(\theta)$$Z$$Z$$Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$$g(\theta)$$g(\theta)$una famiglia più flessibile come una miscela variazionale multivariati distribuzioni.$t$

Apprezzo che questo metodo solo se è un'approssimazione ragionevole di , ma qualsiasi motivo o racconto cautelativo sul perché sarebbe poco saggio fallo? Qualche lettura che consiglieresti?f ( x $Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$

L'approccio completamente non parametrico utilizza alcune famiglie non parametriche, come un processo gaussiano (GP), per approssimare (o qualche altra sua trasformazione non lineare, come come radice quadrata) e quadratura bayesiana per integrarsi implicitamente sul bersaglio sottostante (vedi qui e qui ). Questo sembra essere un approccio alternativo interessante, ma analogo nello spirito (inoltre, nota che i GP non sarebbero ingombranti nel mio caso).$\log f(\textbf{x}|\theta) + \log f(\theta)$

L'estensione di Chib e Jeliazkov (2001) sfortunatamente diventa rapidamente costosa o molto variabile, motivo per cui non è molto usata al di fuori dei casi di campionamento di Gibbs.

Mentre ci sono molti modi e approcci al problema di stima della costante normalizzazione (come illustrato dai discorsi abbastanza diversi nel seminario Costante di stima che abbiamo tenuto la scorsa settimana all'Università di Warwick, diapositive disponibili lì ), alcune soluzioni sfruttano direttamente l'output MCMC .$\mathfrak{Z}$

1. Come hai detto, lo stimatore della media armonica di Newton e Raftery (1994) è quasi invariabilmente povero per avere una varianza infinita. Tuttavia, ci sono modi per evitare la maledizione della varianza infinita usando invece un bersaglio di supporto finito nell'identità media armonica selezionandoαcome indicatore di una regione HPD per il posteriore. Ciò garantisce una varianza finita rimuovendo le code dalla media armonica. (I dettagli si trovano inun documento che ho scritto con Darren Wraithe in uncapitolo sulla normalizzazione delle costantiscritte con Jean-Michel Marin.) In breve, il metodo ricicla l'output MCMCθ1,…,θMidentificandoβ( Il 20% dice) i valori più grandi del targetπ(θ)f(x|θ)e creando

   $$\int \dfrac{\alpha(\theta)}{\pi(\theta)f(x|\theta)}\text{d}\pi(\theta|x)=\frac{1}{\mathfrak{Z}}$$ $\alpha$$\theta_1,\ldots,\theta_M$$\beta$$\pi(\theta)f(x|\theta)$$\alpha$come uniforme sopra l'unione delle sfere centrata a quelli più grande densità (HPD) simulazioni e con raggio ρ , cioè la stima della costante di normalizzazione Z è data da Z - 1 = $\theta^0_i$$\rho$$\mathfrak{Z}$ sedè la dimensione diθ(le correzioni si applicano per le palle che si intersecano) e seρè abbastanza piccola da non intersecare mai le palle (il che significa che nella migliore delle ipotesi solo un indicatore è diverso da zero). La spiegazione per ildenominatoreαM2è che questa è una doppia somma diterminiβM2: $$\hat{\mathfrak{Z}}^{-1}=\underbrace{\frac{1}{\beta M^2}\sum_{m=1}^M}_{\text{double sum over}\\\beta M\text{ ball centres }\theta_i^0\\\text{and $M$ simulations } \theta_m} \underbrace{\mathbb{I}_{(0,\rho)}(\min_i||\theta_m-\theta^0_i||)\{\pi(\theta_m)f(x|\theta_m)\}^{-1}\big/\overbrace{\pi^{d/2}\rho^d\Gamma(d/2+1)^{-1}}^{\text{volume of ball with radius $\rho$}}}_{\dfrac{\beta M\alpha(\theta_m)}{\pi(\theta_m)f(x|\theta_m)}}$$ $d$$\theta$$\rho$$\alpha M^2$$\beta M^2$ con ogni termine inθm che siintegra conZ-1. $$\frac{1}{\beta M}\sum_{i=1}^{\beta M} \underbrace{\frac{1}{M}\sum_{m=1}^M {\cal U}(\theta_i^0,\rho)(\theta_m)}_{\text{same as with $\min$}} \times \frac{1}{\pi(\theta_m)f(x|\theta_m)}$$ $\theta_m$${\mathfrak{Z}}^{-1}$

2. Un altro approccio consiste nel trasformare la costante di normalizzazione in un parametro. Sembra un'eresia statistica, ma l'articolo di Guttmann e Hyvärinen (2012) mi ha convinto del contrario. Senza entrare troppo nei dettagli, l'idea chiara in ciò è trasformare la verosimiglianza osservata n ∑ i = 1 f ( x i | θ ) - n log ∫ exp f ( x | θ ) d x in una verosimiglianza congiunta n ∑ i = 1 [ $\mathfrak{Z}$

   $$\sum_{i=1}^n f(x_i|\theta) - n \log \int \exp f(x|\theta) \text{d}x$$ che è la probabilità logaritmica di un processo del punto di Poisson con funzione di intensità exp { f ( x | θ ) + ν + registro n $$\sum_{i=1}^n[f(x_i|\theta)+\nu]-n\int\exp[f(x|\theta)+\nu]\text{d}x$$ $$\exp\{ f(x|\theta) + \nu +\log n\}$$ Questo è un modello alternativo in quanto la probabilità originale non appare come marginale di quanto sopra. Solo le modalità coincidono, con la modalità condizionale in ν che fornisce la costante di normalizzazione. In pratica, la suddetta probabilità del processo di Poisson non è disponibile e Guttmann e Hyvärinen (2012) offrono un'approssimazione mediante una regressione logistica. Per connettersi ancora meglio con la tua domanda, la stima di Geyer è un MLE, quindi una soluzione a un problema di massimizzazione.
3. $\pi(\theta|x)$$\pi(\theta|x)$$g(\theta)$$\pi(\theta|x)$$g(\theta)$). Con i regressori i valori di entrambe le densità, normalizzati o meno. Questo sembra essere direttamente collegato al campionamento dei ponti Gelman e Meng (1997), che ricicla anche campioni da diversi obiettivi. E versioni successive, come MLE di Meng.
4. Un approccio diverso che obbliga a eseguire un campionatore MCMC specifico è il campionamento nidificato di Skilling . Mentre io [e altri] abbiamo delle riserve sull'efficienza del metodo, è piuttosto popolare in astrostatistica e cosmologia, con software disponibili come multinest .
5. $H_0: \theta=\theta_0$$\xi$$\pi_1(\theta)\pi_2(\xi)$$H_0$ $$\mathfrak{B}_{01}(x)=\dfrac{\pi^\theta(\theta_0|x)}{\pi_1(\theta_0)}$$ $\pi^\theta(\theta_0|x)$$\theta$$\theta_0$$H_0: \theta=\theta_0$ $$m_0(x)=\int_\Xi f(x|\theta_0,\xi)\pi_2(\xi)\text{d}\xi$$ $$m_a(x)=\int_{\Theta\times\Xi} f(x|\theta,\xi)\pi_1(\theta)\pi_2(\xi)\text{d}\theta\text{d}\xi$$

[Ecco una serie di diapositive che ho scritto sulla stima delle costanti di normalizzazione per un seminario NIPS lo scorso dicembre.]