L'algoritmo Gibbs Sampling garantisce un equilibrio dettagliato?

Secondo l'autorità suprema ^1, Gibbs Sampling è un caso speciale dell'algoritmo Metropolis-Hastings per il campionamento di Markov Chain Monte Carlo. L'algoritmo MH fornisce sempre una probabilità di transizione con la proprietà di bilanciamento dettagliata; Mi aspetto che anche Gibbs dovrebbe. Quindi, dove nel seguente semplice caso ho sbagliato?

Per la distribuzione target $\pi(x, y)$ su due variabili discrete (per semplicità), le distribuzioni condizionali complete sono:

$$\begin{align} q_1 (x;y) & =\frac{\pi (x,y)}{\sum_z \pi (z,y)} \\ q_2 (y;x) & =\frac{\pi (x,y)}{\sum_z \pi (x,z)} \end{align}$$

Come ho capito Gibbs Sampling, la probabilità di transizione può essere scritta:

$$Prob\{(y_1, y_2) \to (x_1, x_2)\} = q_1(x_1; y_2) q_2(x_2; x_1)$$

La domanda è: ma il più vicino che riesco a ottenere è π ( y 1 , y 2 ) P r o b { ( y 1 , y 2

$$\pi(y_1,y_2) Prob\{(y_1, y_2) \to (x_1, x_2)\} \overset{?}{=} \pi(x_1,x_2) Prob\{(x_1, x_2) \to (y_1, y_2)\},$$ È leggermente diverso e non implica un equilibrio dettagliato. Grazie per qualsiasi pensiero! $$\begin{align} \pi(y_1,y_2) Prob\{(y_1, y_2) & \to (x_1, x_2)\} \\ & = \pi(y_1, y_2) q_2(x_2; x_1) q_1(x_1; y_2) \\ & = \frac{\pi(x_1, x_2)}{\sum_z \pi(x_1,z)}\frac{\pi(x_1, y_2)}{\sum_z \pi(z, y_2)}\pi (y_1, y_2) \\ & = \pi(x_1, x_2) q_2(y_2; x_1) q_1(y_1; y_2) \end{align}$$

Hai provato a mostrare un equilibrio dettagliato per la catena di Markov che si ottiene considerando una transizione della catena di Markov come la 'spazzata di Gibbs' in cui campionare ogni componente a sua volta dalla sua distribuzione condizionale. Per questa catena, il saldo dettagliato non è soddisfatto. Il punto è piuttosto che ogni campionamento di un particolare componente dalla sua distribuzione condizionale è una transizione che soddisfa un equilibrio dettagliato. Sarebbe più accurato dire che il campionamento di Gibbs è un caso speciale di un Metropolis-Hastings leggermente generalizzato, in cui si alternano più proposte diverse. Seguono ulteriori dettagli.

Le sweep non soddisfano l'equilibrio dettagliato

Costruisco un controesempio. Considera due variabili di Bernoulli ( ), con probabilità come mostrato nella seguente tabella: $X_1,X_2$ Supponiamo che lo sweep di Gibbs sia ordinato in modo cheX1venga campionato per primo. Spostarsi dallo stato(0,0)allo stato(1,1)in una mossa è impossibile, poiché richiederebbe il passaggio da(0,0)a(1,0). Tuttavia, passare da(1,1)a(0,0)ha probabilità positive, vale a dire

$$\begin{equation} \begin{array}{ccc} & X_2 = 0 & X_2 = 1 \\ X_1 = 0 & \frac{1}{3} & \frac{1}{3} \\ X_1 = 1 & 0 & \frac{1}{3} \end{array} \end{equation}$$ $X_1$$(0,0)$$(1,1)$$(0,0)$$(1,0)$$(1,1)$$(0,0)$ . Quindi concludiamo che il saldo dettagliato non è soddisfatto.$\frac{1}{4}$

Tuttavia, questa catena ha ancora una distribuzione stazionaria che è quella corretta. Il saldo dettagliato è una condizione sufficiente, ma non necessaria, per convergere alla distribuzione target.

Le mosse dei componenti soddisfano l'equilibrio dettagliato

$(x_1,x_2)$$(y_1,y_2)$$x_2 \neq y_2$$x_2 = y_2$

$$\begin{equation} \pi(x_1,x_2) \mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2)) = \pi(x_1,x_2)\,p(y_1 \mid X_2 = x_2) = \pi(x_1,x_2) \, \frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)} \\ = \pi(y_1,x_2) \, \frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)} = \pi(y_1,x_2) \,p(x_1 \mid X_2 = x_2) = \pi(y_1,x_2) \mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2)). \end{equation}$$

How the component-wise moves are Metropolis-Hastings moves?

Sampling from the first component, our proposal distribution is the conditional distribution. (For all other components, we propose the current values with probability $1$). Considering a move from $(x_1, x_2)$ to $(y_1, y_2)$, the ratio of target probabilities is

$$\begin{equation} \frac{\pi(y_1,x_2)}{\pi(x_1,x_2)}. \end{equation}$$ But the ratio of proposal probabilities is $$\begin{equation} \frac{\mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2))}{\mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2))} = \frac{\frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)}}{\frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)}} = \frac{\pi(x_1,x_2)}{\pi(y_1,x_2)}. \end{equation}$$ So, the ratio of target probabilities and the ratio of proposal probabilities are reciprocals, and thus the acceptance probability will be $1$. In this sense, each of the moves in the Gibbs sampler are special cases of Metropolis-Hastings moves. However, the overall algorithm viewed in this light is a slight generalization of the typically presented Metropolis-Hastings algorithm in that you have alternate between different proposal distributions (one for each component of the target variable).