Integrazione di Metropolis-Hastings: perché la mia strategia non funziona?

Supponiamo di avere una funzione che voglio integrare Ovviamente supponendo che vada a zero agli endpoint, nessun ingrandimento, bella funzione. Un modo in cui mi sono armeggiato è usare l'algoritmo Metropolis-Hastings per generare un elenco di campioni dalla distribuzione proporzionale a , che manca della costante di normalizzazione che chiamerò , e quindi calcolando alcune statistiche su queste : $g(x)$

\int_{- \infty}^{\infty} g (x) d x .

$\int_{-\infty}^\infty g(x) dx.$

g (x)

$g(x)$

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \dots, x_n$

g (x)

$g(x)$

N = \int_{- \infty}^{\infty} g (x) d x

$N = \int_{-\infty}^{\infty} g(x)dx$

p (x)

$p(x)$

f (x)

$f(x)$

x

$x$

\frac{1}{n} \sum_{i = 0}^{n} f (x_{i}) \approx \int_{- \infty}^{\infty} f (x) p (x) d x .

$\frac{1}{n} \sum_{i=0}^n f(x_i) \approx \int_{-\infty}^\infty f(x)p(x)dx.$

Poiché , posso sostituire in per cancellare dall'integrale, risultando in un'espressione della forma Quindi, a condizione che integri con lungo quella regione, dovrei ottenere il risultato , che potrei semplicemente prendere il reciproco per ottenere la risposta che desidero. Quindi potrei prendere l'intervallo del mio campione (per usare in modo più efficace i punti) e lasciare per ogni campione che ho disegnato. In questo modo $p(x) = g(x)/N$ $f(x) = U(x)/g(x)$ $g$

\frac{1}{N} \int_{- \infty}^{\infty} \frac{U (x)}{g (x)} g (x) d x = \frac{1}{N} \int_{- \infty}^{\infty} U (x) d x .

$\frac{1}{N}\int_{-\infty}^{\infty}\frac{U(x)}{g(x)} g(x) dx = \frac{1}{N}\int_{-\infty}^\infty U(x) dx.$

U (x)

$U(x)$

1

$1$

1 / N

$1/N$

r = x_{max} - x_{min}

$r = x_\max - x_\min$

U (x) = 1 / r

$U(x) = 1/r$

U (x)

$U(x)$ valuta zero al di fuori della regione in cui i miei campioni non sono, ma si integra a

1

$1$ in quella regione. Quindi, se ora prendo il valore atteso, dovrei ottenere:

E [\frac{U (x)}{g (x)}] = \frac{1}{N} \approx \frac{1}{n} \sum_{i = 0}^{n} \frac{U (x)}{g (x)} .

$E\left [\frac{U(x)}{g(x)}\right ] = \frac{1}{N} \approx \frac{1}{n} \sum_{i=0}^n \frac{U(x)}{g(x)}.$

Ho provato a provare questo in R per la funzione di esempio $g(x) = e^{-x^2}$ . In questo caso non utilizzo Metropolis-Hastings per generare i campioni, ma utilizzo le probabilità effettive rnormper generare campioni (solo per testare). Non riesco a ottenere i risultati che sto cercando. Fondamentalmente la piena espressione di ciò che vorrei calcolare è:

\frac{1}{n (x_{max} - x_{min})} \sum_{i = 0}^{n} \frac{1}{e^{- x_{i}^{2}}} .

$\frac{1}{n(x_{\max} - x_\min)} \sum_{i=0}^n \frac{1}{ e^{-x_i^2}}.$ Nella mia teoria questo dovrebbe valutare

1 / \sqrt{π}

$1/\sqrt{\pi}$ . Si avvicina ma certamente non converge nel modo previsto, sto facendo qualcosa di sbagliato?

ys = rnorm(1000000, 0, 1/sqrt(2))
r = max(ys) - min(ys)
sum(sapply(ys, function(x) 1/( r * exp(-x^2))))/length(ys)
## evaluates to 0.6019741. 1/sqrt(pi) = 0.5641896

Modifica per CliffAB

Il motivo per cui utilizzo l'intervallo è solo per definire facilmente una funzione diversa da zero nella regione in cui si trovano i miei punti, ma che si integra con nell'intervallo . La specifica completa della funzione è: Non ho dovuto usare come densità uniforme. Avrei potuto usare un'altra densità integrata a , ad esempio la densità di probabilità Tuttavia, ciò avrebbe reso banale la somma dei singoli campioni $1$ $[-\infty, \infty]$

U (x) = {\begin{cases} \frac{1}{x_{max} - x_{min}} & x_{max} > x > x_{min} \\ 0 & otherwise. \end{cases}

$U(x) = \begin{cases} \frac{1}{x_\max - x_\min} & x_\max > x > x_\min \\ 0 & \text{otherwise.} \end{cases}$

U (x)

$U(x)$

1

$1$

P (x) = \frac{1}{\sqrt{π}} e^{- x^{2}} .

$P(x) = \frac{1}{\sqrt{\pi}} e^{-x^2}.$

\frac{1}{n} \sum_{i = 0}^{n} \frac{P (x)}{g (x)} = \frac{1}{n} \sum_{i = 0}^{n} \frac{e^{- x_{i}^{2}} / \sqrt{π}}{e^{- x_{i}^{2}}} = \frac{1}{n} \sum_{i = 0}^{n} \frac{1}{\sqrt{π}} = \frac{1}{\sqrt{π}} .

$\frac{1}{n} \sum_{i=0}^n \frac{P(x)}{g(x)} = \frac{1}{n} \sum_{i=0}^n \frac{e^{-x_i^2}/\sqrt{\pi}}{e^{-x_i^2} } = \frac{1}{n} \sum_{i=0}^n \frac{1}{\sqrt{\pi}} = \frac{1}{\sqrt{\pi}}.$

Potrei provare questa tecnica per altre distribuzioni che si integrano in . Tuttavia, vorrei ancora sapere perché non funziona per una distribuzione uniforme. $1$

— Mike Flynn
fonte

Osservandolo solo rapidamente, quindi non sono sicuro del perché tu abbia deciso di usare range (x). A condizione che sia valido, è estremamente inefficiente! L'intervallo di un campione di quella dimensione è quasi la statistica più instabile che potresti prendere.

— Cliff AB,

@CliffAB Non c'è niente di particolarmente speciale in me che uso l'intervallo, oltre a definire una distribuzione uniforme sull'intervallo in cui si trovano i miei punti. Vedi le modifiche.

— Mike Flynn,

Lo guarderò più avanti in maggiore dettaglio. Ma qualcosa da considerare è che come se x fosse un insieme di camper uniformi, allora come , range . Ma se x è un insieme di camper normali non degenarate, allora come , .

n \to \infty

$n \rightarrow \infty$

(x) \to 1

$(x) \rightarrow 1$

n \to \infty

$n \rightarrow \infty$

range (x) \to \infty

$\text{range}(x) \rightarrow \infty$

— Cliff AB,

@CliffAB avresti potuto avere ragione, penso che la ragione fosse che i limiti dell'integrale non erano fissi, e quindi la varianza dello stimatore non converge mai ...

— Mike Flynn,

Questa è una domanda molto interessante, che riguarda il problema dell'approssimazione di una costante normalizzante di una densità basata su un'uscita MCMC dalla stessa densità . (Un'osservazione laterale è che il presupposto corretto da fare è che è integrabile, andare a zero all'infinito non è sufficiente.) $g$ $g$ $g$

Secondo me, la voce più pertinente su questo argomento riguardo al tuo suggerimento è un articolo di Gelfand e Dey (1994, JRSS B ), in cui gli autori sviluppano un approccio molto simile per trovare durante la generazione da . Un risultato in questo documento è che, per qualsiasi densità di probabilità [questo è equivalente alla tua ] tale che la seguente identità mostra che un campione di può produrre un

\int_{X} g (x) d x

$\int_\mathcal{X} g(x) \,\text{d}x$

p (x) \propto g (x)

$p(x)\propto g(x)$

α (x)

$\alpha(x)$

U (x)

$U(x)$

{x; α (x) > 0} \subset {x; g (x) > 0}

$\{x;\alpha(x)>0\}\subset\{x;g(x)>0\}$

\int_{X} \frac{α (x)}{g (x)} p (x) d x = \int_{X} \frac{α (x)}{N} d x = \frac{1}{N}

$\int_\mathcal{X} \dfrac{\alpha(x)}{g(x)}p(x) \,\text{d}x=\int_\mathcal{X} \dfrac{\alpha(x)}{N} \,\text{d}x=\dfrac{1}{N}$

p

$p$ valutazione imparziale di da parte dello stimatore del campionamento di importanza Ovviamente, le prestazioni (velocità di convergenza, esistenza di una varianza, ecc.) dello stimatore dipendono dalla scelta di [ anche se le sue aspettative no]. In un quadro bayesiano, una scelta sostenuta da Gelfand e Dey è quella di prendere , la densità precedente. Questo porta a dove è la funzione di verosimiglianza, poiché

1 / N

$1/N$

\hat{η} = \frac{1}{n} \sum_{i = 1}^{n} \frac{α (x_{i})}{g (x_{i})} x_{i} \overset{iid}{\sim} p (x)

$\hat\eta=\frac{1}{n}\sum_{i=1}^n \dfrac{\alpha(x_i)}{g(x_i)}\qquad x_i\stackrel{\text{iid}}{\sim}p(x)$

\hat{η}

$\hat\eta$

α

$\alpha$

α = π

$\alpha=\pi$

\frac{α (x)}{g (x)} = \frac{1}{ℓ (x)}

$\dfrac{\alpha(x)}{g(x)} = \dfrac{1}{\ell(x)}$

ℓ (x)

$\ell(x)$

g (x) = π (x) ℓ (x)

$g(x)=\pi(x)\ell(x)$ . Purtroppo, il risultante stimatore è la stima di media armonica , chiamata anche la peggiore Monte Carlo stimatore mai da Radford Neal, dell'Università di Toronto. Quindi non sempre funziona bene. O quasi mai.

\hat{N} = \frac{n}{\sum_{i = 1}^{n} 1 / ℓ (x_{i})}

$\hat{N}=\dfrac{n}{\sum_{i=1}^n1\big/\ell(x_i)}$

La tua idea di usare l'intervallo del tuo campione e l'uniforme su quell'intervallo è collegata al problema della media armonica: questo stimatore non ha una varianza se non altro a causa del appare nel numeratore (ho il sospetto che potrebbe sempre essere il caso di un supporto illimitato!) e converge quindi molto lentamente alla costante normalizzante. Ad esempio, se riesegui più volte il codice, otterrai 10 valori numerici molto diversi dopo 10⁶ iterazioni. Questo significa che non puoi nemmeno fidarti della grandezza della risposta. $(\min(x_i),\max(x_i))$ $\exp\{x^2\}$

Una correzione generica a questo problema di varianza infinita consiste nell'utilizzare per una densità più concentrata, usando ad esempio i quartili del campione , perché allora rimane limitato in questo intervallo. $\alpha$ $(q_{.25}(x_i),q_{.75}(x_i))$ $g$

Quando si adatta il codice a questa nuova densità, l'approssimazione è molto più vicina a : $1/\sqrt{\pi}$

ys = rnorm(1e6, 0, 1/sqrt(2))
r = quantile(ys,.75) - quantile(ys,.25)
yc=ys[(ys>quantile(ys,.25))&(ys<quantile(ys,.75))]
sum(sapply(yc, function(x) 1/( r * exp(-x^2))))/length(ys)
## evaluates to 0.5649015. 1/sqrt(pi) = 0.5641896

Discutiamo questo metodo in dettaglio in due articoli con Darren Wraith e con Jean-Michel Marin .

— Xi'an
fonte