Sto leggendo su MCMC adattivo (vedi ad esempio, capitolo 4 del manuale di Markov Chain Monte Carlo , ed. Brooks et al., 2011; e anche Andrieu & Thoms, 2008 ).
Il risultato principale di Roberts e Rosenthal (2007) è che se lo schema di adattamento soddisfa la condizione di adattamento in via di estinzione (più qualche altro tecnicismo), MCMC adattivo è ergodico sotto qualsiasi schema. Ad esempio, l'adattamento evanescente può essere facilmente ottenuto adattando l'operatore di transizione all'iterazione con probabilità , con .
Questo risultato è (a posteriori) intuitivo, asintoticamente. Poiché la quantità di adattamento tende a zero, alla fine non confonderà con l'ergodicità. La mia preoccupazione è cosa succede con il tempo finito .
Come facciamo a sapere che l'adattamento non fa confusione con l'ergodicità in un dato momento finito e che un campionatore sta campionando dalla distribuzione corretta? Se ha senso, quanto burn-in si dovrebbe fare per garantire che l'adattamento precoce non dia tensione alle catene?
I professionisti del settore si fidano dell'MCMC adattivo? Il motivo che sto chiedendo è perché ho visto molti metodi recenti che cercano di integrare l'adattamento in altri modi più complessi che sono noti per rispettare l'ergodicità, come i metodi di rigenerazione o di ensemble (vale a dire, è legittimo scegliere una transizione operatore che dipende dallo stato di altre catene parallele). In alternativa, l'adattamento viene eseguito solo durante il burn-in, come in Stan , ma non in fase di esecuzione. Tutti questi sforzi mi suggeriscono che la MCMC adattativa secondo Roberts e Rosenthal (che sarebbe incredibilmente semplice da implementare) non è considerata affidabile; ma forse ci sono altri motivi.
Che dire di implementazioni specifiche, come Metropolis-Hastings adattivo ( Haario et al. 2001 )?
Riferimenti
- Rosenthal, JS (2011). Distribuzioni ottimali di proposte e MCMC adattivo. Manuale di Markov Chain Monte Carlo , 93-112.
- Andrieu, C., & Thoms, J. (2008) . Un tutorial su MCMC adattivo. Statistica e informatica , 18 (4), 343-373.
- Roberts, GO e Rosenthal, JS (2007) . Accoppiamento ed ergodicità degli algoritmi adattivi della catena Markov di Monte Carlo. Diario della probabilità applicata , 458-475.
- Haario, H., Saksman, E., e Tamminen, J. (2001) . Un algoritmo Metropolis adattivo. Bernoulli , 223-242.