Contabilizzazione di parametri discreti o binari nel criterio informativo bayesiano

BIC penalizza in base al numero di parametri. Che cosa succede se alcuni dei parametri sono una sorta di variabili dell'indicatore binario? Questi contano come parametri completi? Ma posso combinare i parametri binari in una variabile discreta che accetta valori in . Devono essere contati come parametri o come parametro? $m$ $\{0,1,...,2^m-1\}$ $m$

— elevata larghezza di banda
fonte

È in parte a causa di questa imprecisione nel "numero di parametri" in BIC che DIC (il criterio di informazioni sulla devianza ) ha introdotto un numero effettivo di parametri come dove e Nota che è quindi dipendente dai dati. (Come discusso qui , DIC ha anche problemi propri!)

p_{D} (x) = E [D (θ) | x] - D (E [θ | x])

$p_D(x) = \mathbb{E}[D(\theta)|x] - D(\mathbb{E}[\theta|x])$

D (θ) = - 2 \log f (X | θ)

$D(\theta)=-2\log f(x|\theta)$

DIC (X) = p_{D} (X) + E [D (θ) | X]

$\text{DIC}(x) = p_D(x) + \mathbb{E}[D(\theta)|x]$

p_{D} (x)

$p_D(x)$

— Xi'an
fonte

E [l o g P (y | M o d e l)] = \log (\int P (y | θ) P_{m o d e l} (θ) d θ)

$E[log P(y|Model)] = \log(\int P(y|\theta)P_{model}(\theta)d\theta)$

Sì, BIC è un'approssimazione della probabilità marginale. Tuttavia, è solo un'approssimazione che converge alla "verità" quando la dimensione del campione cresce all'infinito. Non è quindi direttamente bayesiano (per prima cosa non usa il precedente!) E completamente estraneo a MCMC (dove l'approssimazione è di tipo Monte Carlo: se aumento il numero di simulazioni, l'approssimazione migliora). DIC è considerato più bayesiano da molti (inclusi B. Carlin e D. Spiegelhatler)

— Xi'an,

Immagino che la mia domanda fosse: il DIC è anche un'approssimazione della probabilità del modello marginale? Immagino che dovrei leggerlo da solo, ma dato che ne stavamo discutendo, ho pensato che spiegare questo avrebbe reso la risposta più completa. Grazie!

— highBandWidth,