Dirichlet posteriore

Ho una domanda sulla distribuzione posteriore di Dirichlet. Data una funzione di verosimiglianza multinomiale è noto che il posteriore è , dove è il numero di volte che abbiamo visto osservazione.$Dir({\alpha_i + N_i})$$N_i$$i^{th}$

Cosa succede se iniziamo a ridurre s per un dato fisso ? Sembra dalla forma del posteriore che dopo qualche punto smetterà di interessare affatto il posteriore. Ma non sarebbe giusto dire che quando rendiamo molto piccola la dimensione , la massa di probabilità si sposta agli angoli del simplex e il posteriore deve essere influenzato in misura maggiore? Quale affermazione è quella corretta?$\alpha$$D$$\alpha$$\alpha$

Per me il modo più utile di immaginare l'effetto dei parametri per Dirichlet è l'urna Polya. Immagina di avere un'urna contenente n colori diversi, con di ogni colore nell'urna (nota che puoi avere frazioni di palla). Si raggiunge e si disegna una palla, quindi la si sostituisce con un'altra dello stesso colore. Quindi ripeterlo un'infinità di volte e la proporzione finale costituisce un campione dalla distribuzione a Dirichlet. Se hai valori molto piccoli per , dovrebbe essere chiaro che la pallina aggiunta ti peserà pesantemente verso il colore di quel primo sorteggio, il che spiega perché la massa si sposta agli angoli del simplex. Se hai grandi , quel primo sorteggio non influisce altrettanto sulla proporzione finale.$\alpha_i$$\alpha$$\alpha's$

Ciò che il tuo posteriore sta essenzialmente dicendo è che hai iniziato con palle di colore , hai fatto un sacco di disegni e ti è capitato di disegnare quel colore volte. È quindi possibile immaginare che i campioni dal posteriore vengano generati con lo stesso processo e immaginare gli effetti che il iniziale insieme ai conteggi avranno su quei campioni. Chiaramente un piccolo valore per avrà meno effetto sul posteriore.$\alpha_i$$i$$N_i$$\alpha$$N$$\alpha$

Un altro modo di pensarci è che i parametri del tuo Dirichlet controllano quanto ti fidi dei tuoi dati. Se hai piccoli valori di , allora ti fidi quasi interamente dei tuoi dati. Al contrario, se hai valori elevati per , allora stai meno fiducioso dei tuoi dati e levigherai un po 'di più il posteriore.$\alpha$$\alpha$

In sintesi, è corretto affermare che quando si riducono gli , avranno un effetto minore sul posteriore, ma allo stesso tempo il precedente avrà la maggior parte della sua massa sugli angoli del simplex.$\alpha's$