La distribuzione beta ha un coniugato precedente?


Risposte:


25

Sembra che tu abbia già rinunciato alla coniugazione. Per la cronaca, una cosa che ho visto fare alla gente (ma non ricordo esattamente dove, scusa) è una riparametrizzazione come questa. Se sono condizionati, dato , tale che , ricorda che e Pertanto, è possibile ricomporre la probabilità in termini di e e utilizzare come precedente X1,,Xnα,βXiα,βBeta(α,β)

E[Xiα,β]=αα+β=:μ
Var[Xiα,β]=αβ(α+β)2(α+β+1)=:σ2.
μσ2
σ2μU[0,μ(1μ)]μU[0,1].
Ora sei pronto per calcolare il posteriore ed esplorarlo con il tuo metodo computazionale preferito.

4
No, non MCMC questa cosa! Quadratura questa cosa! solo 2 parametri: la quadratura è lo "standard di riferimento" per i posteriori di piccole dimensioni, sia per il tempo che per la precisione.
Probislogic,

3
Un'altra opzione è quella di considerare come una misura di precisione e usare nuovamente come media. Questo viene fatto continuamente con i processi di Dirichlet e la distribuzione beta è un caso speciale. Quindi forse lancia una gamma o log-normal prima di e uniforme su . ψ=α+β ψμμ=αα+βψμ
ragazzo

2
A dire il vero, questo non è coniugato, giusto?
ragazzo

3
Assolutamente no!
Zen,

Ciao @Zen, sto affrontando questo problema in questo momento, ma sono nuovo in Bayesian e non sono sicuro di capire l'idea. Ho capito che stai proponendo di trovare e quindi utilizzare la riparametrizzazione, ma ovviamente questa non era l'idea. Potete per favore aiutarmi a capire?011μ(1μdμ
Red Noise

23

Sì, ha un coniugato precedente nella famiglia esponenziale. Considera la famiglia di tre parametri Per alcuni valori di(a,b,p)questo è integrabile, anche se non ho ancora capito quale (credo chep0ea<0,b<0dovrebbe funzionare -p=0corrisponde a distribuzioni esponenziali indipendenti quindi che sicuramente funziona e l'aggiornamento del coniugato comporta un incremento

π(α,βa,b,p){Γ(α+β)Γ(α)Γ(β)}pexp(aα+bβ).
(a,b,p)p0a<0,b<0p=0 quindi questo suggerisce che p > 0 funziona pure).pp>0

Il problema, e almeno in parte la ragione per cui nessuno lo usa, è che cioè la costante normalizzante non ha una forma chiusa.

00{Γ(α+β)Γ(α)Γ(β)}pexp(aα+bβ)=?

Ah. Questo è problematico. Avrei comunque cercato una versione non informativa del coniugato prima, quindi sembra che potrei anche iniziare con priori uniformi sui due parametri. Grazie.
Brash Equilibrium,

Non è necessario normalizzarlo se si stanno solo confrontando le probabilità ...
Neil G

Penso che si potrebbe mancare l'azione di in exp termine come bene. Probabilmente dovrebbe essere p a α , ecc.pexppaα
Neil G

@NeilG è nel exp , non resta che esprimere le cose in termini di log Γ ( ) , invece di Γ ( ) . Fare p a α è solo una riparmetrizzazione, non cambia nulla. Non sono sicuro di cosa significhi "solo confrontando le probabilità". Non si può implementare un campionatore Gibbs con questo prima senza usare qualcosa come Metropolis, che uccide il vantaggio di coniugio condizionale, la costante di normalizzazione dipende da un e b che uccide mettendo una prima su di loro o li stima con metodi di verosimiglianza, ecc .. .pexplogΓ()Γ()paαab
ragazzo

2
L'integrale @NeilG è su e β poiché queste sono le variabili casuali. αβ
ragazzo

9

In teoria dovrebbe esserci un coniugato prima della distribuzione beta. Questo è perché

Tuttavia la derivazione sembra difficile e per citare le famiglie esponenziali e i preti coniugati di A Bouchard-Cote

Un'osservazione importante da fare è che questa ricetta non sempre produce un coniugato precedente che è trattabile dal punto di vista computazionale.

Coerentemente con questo, non vi è alcun precedente per la distribuzione Beta in A Compendium of Conjugate Priors di D Fink .


3
La derivazione non è difficile - Vedi la mia risposta: mathoverflow.net/questions/63496/…
Neil G

3

Non credo che esista una distribuzione "standard" (cioè famiglia esponenziale) che è il coniugato precedente alla distribuzione beta. Tuttavia, se uno esiste, dovrebbe essere una distribuzione bivariata.


Non ho idea di questa domanda, ma ho trovato questa utile mappa precedente coniugata che sembra supportare la tua risposta: johndcook.com/conjugate_prior_diagram.html
Justin Bozonier,

Il priore coniugato appartiene alla famiglia esponenziale e ha tre parametri - non due.
Neil G,

1
@Neil, hai decisamente ragione. Immagino che avrei dovuto dire che avrebbe dovuto avere almeno due parametri.

-1: questa risposta è chiaramente errata nell'affermazione che "il coniugato precedente non esiste nella famiglia esponenziale", come è dimostrato nella risposta sopra ...
Jan Kukacka,

3

Robert e Casella (RC) descrivono la famiglia di coniugati priori della distribuzione beta nell'esempio 3.6 (p 71 - 75) del loro libro, Presentazione dei metodi Monte Carlo in R , Springer, 2010. Tuttavia, citano il risultato senza citarlo una fonte.

Aggiunto in risposta alla richiesta di Gung per i dettagli. RC afferma che per la distribuzione , il precedente coniugato è "... della formaB(α,β)

π(α,β){Γ(α+β)Γ(α)Γ(β)}λx0αy0β

dove sono iperparametri, poiché il posteriore è quindi uguale a{λ,x0,y0}

π(α,β|x){Γ(α+β)Γ(α)Γ(β)}λ(xx0)α((1x)y0)β."

Il resto dell'esempio riguarda il campionamento di importanza da al fine di calcolare la probabilità marginale di x .π(α,β|x)x


2
π(α,β)(Γ(α+β)Γ(α)Γ(β))λ+1(xx0)α1(y0(1x))β1

1
Consiglio umilmente che il poster originale aggiorni il post per indicare che il posteriore riportato nel libro di testo non è corretto, secondo il commento di Fred Schoen (che è facilmente verificabile).
RMurphy
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.