Mettere un precedente sul parametro di concentrazione in un processo di Dirichlet

La maggior parte di questi è sfondo, salta alla fine se conosci già abbastanza le miscele di processo di Dirichlet . Supponiamo che stia modellando alcuni dati come provenienti da una combinazione di processi di Dirichlet, ovvero che e subordinato a assumano$F \sim \mathcal D(\alpha H)$$F$

$$Y_i \stackrel {iid}{\sim} \int f(y | \theta) F(d\theta).$$

Qui e è la misura di base precedente. Si scopre che se per ogni osservazione , se conosco il latente associato , la probabilità di in questo modello è dove è il numero di valori distinti di (la misura casuale è discreta quasi sicuramente). Escobar e West sviluppano il seguente schema per campionare usando un precedente Gamma; prima scrivono$\alpha > 0$$\alpha H$$Y_i$$\theta_i$$\alpha$

$$L(\alpha | t) \propto \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)}$$ $t$$\theta_i$$F$$\alpha$ $$\pi(\alpha | t) \propto \pi(\alpha) \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)} \propto \pi(\alpha)\alpha^{t - 1}(\alpha + n){B(\alpha + 1, n)} \\= \pi(\alpha)\alpha^{t - 1} (\alpha + n) \int_0^1 x^\alpha(1 - x)^{n - 1} \ dx,$$ dove è la funzione beta. Quindi nota che se introduciamo un parametro latente allora la probabilità ha la forma di una miscela di distribuzioni gamma e usiamo questo per scrivere un campionatore di Gibbs.$B(\cdot, \cdot)$$X \sim \mbox{Beta}(\alpha + 1, n )$

Ora la mia domanda. Perché non possiamo semplicemente scrivere e invece di usare una combinazione di distribuzioni Gamma usi una singola distribuzione Gamma? Se introduciamo non dovrei essere in grado di fare la stessa cosa ma senza dover usare la miscela?

$$L(\alpha | t) \propto \frac{\alpha^t \Gamma(\alpha)}{\Gamma(\alpha + n)} = \frac{\alpha^t \Gamma(n)\Gamma(\alpha)}{\Gamma(\alpha + n)\Gamma(n)} = \alpha^t B(\alpha, n) \Gamma(n) \\ \propto \alpha^t \int_0 ^ 1 x^{\alpha - 1} (1 - x)^{n - 1} \ dx,$$ $X \sim \mbox{Beta}(\alpha, n)$

Modifica per maggiori dettagli Ulteriori dettagli: Per colmare alcune lacune, l'argomento in Escobar e West è che, lasciando che abbia una distribuzione Gamma con forma e significhi , e così possiamo introdurre una latente in modo cheI condizionali completi sono una distribuzione per e una miscela di a e a$\alpha$$a$$a / b$

$$\pi(\alpha | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha} \int_0 ^ 1 x^{\alpha} (1 - x)^{n - 1} \ dx$$ $X$ $$\pi(\alpha, x | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha}x^{\alpha}(1 - x)^{n - 1}.$$ $\mbox{Beta}(\alpha + 1, n)$$X$$\mathcal G(a + t, b - \log(x))$$\mathcal G(a + t - 1, b - \log(x))$ per .$\alpha$

Per lo stesso argomento, ho ottenuto lo stesso risultato ma con per e per . Questo mi sembra più facile; perché non lo fanno e basta?$\mbox{Beta}(\alpha, n)$$X$$\mathcal G(a + t, b - \log(x))$$\alpha$

Non vedo come ciò che hai scritto sia fondamentalmente diverso da Escobar e West.

$$\begin{eqnarray*} \pi(\alpha|t) &\propto& \pi(\alpha)\pi(t|\alpha) = \pi(\alpha)L(\alpha|t) \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)}{\Gamma(\alpha+n)} \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha+n)} \\ &=& \pi(\alpha)\alpha^tB(\alpha,n) \\ &=& \pi(\alpha)\alpha^{t-1}(\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ dove la penultima riga è come la hai e l'ultima riga è come E&W hanno e sono uguali poiché n) \ end {eqnarray *} ricordandolo $$\begin{eqnarray*} \alpha B(\alpha,n) &=& \alpha \frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha + n)} = \frac{(\alpha\Gamma(\alpha))\Gamma(n)(\alpha+n)}{(\Gamma(\alpha + n)(\alpha+n))} = (\alpha+n) \frac{\Gamma(\alpha + 1)\Gamma(n)}{\Gamma(\alpha + n + 1)} \\ &=& (\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ $\Gamma(z+1) = z\Gamma(z)$ .

Immagino che abbiano preferito la loro formulazione alla tua perché ha solo il termine della funzione Beta, non il prodotto di una Beta e di una gamma, ma potrei sbagliarmi. Non ho seguito del tutto l'ultimo bit che hai scritto, potresti essere più esplicito sul tuo schema di campionamento?