Il campionamento di Gibbs è un metodo MCMC?


11

Per quanto ho capito, è (almeno, così è come lo definisce Wikipedia ). Ma ho trovato questa affermazione di Efron * (enfasi aggiunta):

La catena di Markov Monte Carlo (MCMC) è la grande storia di successo delle moderne statistiche bayesiane. MCMC, e il suo metodo gemello "Gibbs sampling", consentono il calcolo numerico delle distribuzioni posteriori in situazioni troppo complicate per l'espressione analitica.

e ora sono confuso. Questa è solo una piccola differenza nella terminologia o Gibbs sta campionando qualcosa di diverso da MCMC?

[*]: Efron 2011, "The Bootstrap and Markov-Chain Monte Carlo"

Risposte:


15

L'algoritmo che ora viene chiamato campionamento di Gibbs forma una catena di Markov e utilizza la simulazione Monte-Carlo per i suoi input, quindi rientra nel campo di applicazione dei metodi MCMC (Markov-Chain Monte-Carlo). Storicamente, il metodo può essere fatto risalire almeno alla metà del ventesimo secolo, ma non era ben noto ed è stato solo successivamente divulgato dal documento seminale di Geman e Geman (1984) che ha esaminato la fisica statistica in relazione all'uso di la distribuzione di Gibbs (per alcuni riferimenti storici, vedi Casella e George 1992 , p. 167).

Per qualche ragione, nonostante il suo articolo, Efron si riferisce al campionatore di Gibbs come se fosse al di fuori dell'ambito di MCMC. Lo fa nella citazione che hai dato, e anche in alcune altre parti del documento. Poiché il suo riferimento iniziale alla tecnica si riferisce al "campionatore di Gibbs" (riportato tra virgolette), è possibile che egli alluda al fatto storico che il metodo originale è stato sviluppato attraverso la distribuzione di Gibbs nella fisica statistica e non è stato incorporato nel teoria statistica generale di MCMC fino a molto tempo dopo. Questa è la mia migliore ipotesi sul perché si riferisca ad esso in questo modo.

Aggiornamento: dal momento che il Prof Efron è ancora vivo, mi sono preso la libertà di scrivergli per chiedergli perché descrive il campionatore Gibbs in questo modo. Ecco la sua risposta (riprodotta con il suo permesso):

Era per ragioni principalmente storiche ... D'altra parte, l'algoritmo di Gibbs sembra abbastanza diverso dalla ricetta MCMC, e ci vuole un po 'di lavoro per dimostrare che è in un certo senso lo stesso. (Efron 2018, corrispondenza personale, ellissi in originale)


1
Grazie! Aspetterò di vedere se ricevi una risposta dal dottor Efron, altrimenti selezionerò questa come risposta.
Gabriel,

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.