MCMC; Possiamo essere sicuri di avere un campione "puro" e "abbastanza grande" dal posteriore? Come può funzionare se non lo siamo?

Riferendosi a questa discussione: come spiegheresti Markov Chain Monte Carlo (MCMC) a un laico? .

Vedo che è una combinazione di Catene di Markov e Monte Carlo: una catena di Markov viene creata con il posteriore come distribuzione limitante invariante e quindi i disegni di Monte Carlo (dipendenti) sono fatti dalla distribuzione limitante (= nostro posteriore).

Diciamo (so che sto semplificando qui) che dopo passi siamo alla distribuzione limitante (*). $L$ $\Pi$

Essendo la catena di Markov una sequenza di variabili casuali, ottengo una sequenza , dove è una variabile casuale e è il limite ' 'variabile casuale' 'da cui desideriamo campionare. $X_1, X_2, \dots , X_L, \Pi, \Pi, \Pi, \dots \Pi$ $X_i$ $\Pi$

L'MCMC parte da un valore iniziale, ovvero è una variabile casuale con tutta la massa a valore . Se uso lettere maiuscole per variabili casuali e lettere minuscole per la realizzazione di una variabile casuale, allora MCMC mi dà una sequenza . Quindi la lunghezza della catena MCMC è L + n. $X_1$ $x_1$ $x_1,x_2,x_3, \dots x_L, \pi_1, \pi_2, \pi_3, ....\pi_n$

[[* Nota: le lettere maiuscole sono variabili casuali (cioè un intero gruppo di risultati) e la piccola sono risultati, ovvero un valore particolare. *]] $x$

Ovviamente, solo il appartiene al mio "posteriore" e per approssimare il "bene" posteriore il valore di dovrebbe essere "abbastanza grande". $\pi_i$ $n$

Se riassumo questo, allora ho una catena MCMC di lunghezza , solo sono rilevanti per la mia approssimazione posteriore e dovrebbe essere abbastanza grande. $x_1,x_2,x_3, \dots x_L, \pi_1, \pi_2, \pi_3, ....\pi_n$ $N=L+n$ $\pi_1,\pi_2,\dots, \pi_n$ $n$

Se includo alcune delle (cioè le realizzazioni prima che venga raggiunta la distribuzione invariante) nel calcolo dell'approssimazione del posteriore, allora sarà '' rumoroso ''. $x_i$

Conosco la lunghezza della catena MCMC , ma senza la conoscenza di , ovvero il passaggio in cui sono sicuro di campionare dalla distribuzione limitante, non posso essere sicuro di non includere il rumore, né posso assicurati di , la dimensione del mio campione dalla distribuzione limitante, in particolare, non posso essere sicuro che sia "abbastanza grande". $N=L+n$ $L$ $n=N-L$

Quindi, per quanto ho capito, questo valore di è di fondamentale importanza per la qualità dell'approssimazione del posteriore (esclusione del rumore e un grande campione da esso) $L$ .

Esistono modi per trovare una stima ragionevole per quando applico MCMC? $L$

(*) Penso che, in generale, dipenderà dal valore iniziale . $L$ $x_1$

mcmc

— Comunità
fonte

TL DR; Non è possibile stimare poiché . Pertanto, il presupposto semplificativo non potrà mai essere veramente possibile. (Ci sono alcuni casi in cui si trova, ma non nel mondo generale di MCMC). Puoi comunque decidere quale ridurrà il pregiudizio iniziale. $L$ $L = \infty$ $N$

In sostanza, la tua domanda si riduce a "come possiamo stimare il tempo di burn-in?". Il burn-in è l'atto di buttare via i campioni iniziali perché la catena di Markov non è convergente. Esistono molti diagnostici MCMC che ti aiutano a stimare il tempo di "burn-in", puoi vederne una recensione qui .

Ci sono due scuole di burn-in; il popolare è usare uno di quei sistemi diagnostici per decidere cosa sia , e gettare via i campioni , e la seconda scuola attraverso di essa, i primi campioni non dovrebbero importare, quindi non preoccuparti di loro. Charlie Geyer ha una sproloquio su questo che sono d'accordo con. $L$ $L$ $L$

Ora passo ai dettagli più tecnici della tua domanda.

$L$ $L$ $L$ $\infty$ $L$

$L$ $L$

$L$ $N$ $X_1, X_2, X_3, \dots, X_N$ $L$ $L$ $\infty$ $\theta$

{\bar{θ}}_{N} = \frac{1}{N} \sum_{i = 1}^{N} X_{i} .

$\bar{\theta}_N = \dfrac{1}{N} \sum_{i=1}^{N}X_i.$

$N$ $L$

$N$ $\theta$

$(\bar{\theta}_N - \theta)$ $N \to \infty$

\sqrt{N} ({\bar{θ}}_{N} - θ) \overset{d}{\to} N_{p} (0, Σ),

$\sqrt{N}(\bar{\theta}_N - \theta) \overset{d}{\to} N_p(0, \Sigma),$

$\theta \in \mathbb{R}^p$ $\Sigma$

$\Sigma/N$

— Greenparker
fonte

L

$L$

\infty

$\infty$

Σ / n

$\Sigma/n$

{\hat{θ}}_{N}

$\hat{\theta}_N$

Σ / N

$\Sigma/N$

{\bar{θ}}_{N}

$\bar{\theta}_N$

X_{1} \sim π

$X_1 \sim \pi$

{\bar{g}}_{n}

$\bar{g}_n$

X_{1} \sim π

$X_1 \sim \pi$

π

$\pi$