Stan

Stavo esaminando la documentazione di Stan che può essere scaricata da qui . Ero particolarmente interessato alla loro implementazione della diagnostica Gelman-Rubin. Il documento originale Gelman & Rubin (1992) definisce il potenziale fattore di riduzione della scala (PSRF) come segue:

Let sia la esima catena di Markov campionata, e ci sia della complessivi catene indipendenti nel campione. Sia la media della catena, e la media complessiva. Definisci, $X_{i,1}, \dots , X_{i,N}$ $i$ $M$ $\bar{X}_{i\cdot}$ $i$ $\bar{X}_{\cdot \cdot}$ dove

W = \frac{1}{M} \sum_{m = 1}^{M} s_{m}^{2},

$W = \dfrac{1}{M} \sum_{m=1}^{M} {s^2_m},$

E definire

s_{m}^{2} = \frac{1}{N - 1} \sum_{t = 1}^{N} ({\bar{X}}_{m t} - {\bar{X}}_{m \cdot})^{2} .

$s^2_m = \dfrac{1}{N-1} \sum_{t=1}^{N} (\bar{X}_{m t} - \bar{X}_{m \cdot})^2\,.$

B

$B$

B = \frac{N}{M - 1} \sum_{m = 1}^{M} ({\bar{X}}_{m \cdot} - {\bar{X}}_{\cdot \cdot})^{2} .

$B = \dfrac{N}{M-1} \sum_{m=1}^{M} (\bar{X}_{m \cdot} - \bar{X}_{\cdot \cdot})^2 \,.$

Definire

\hat{V} = (\frac{N - 1}{N}) W + (\frac{M + 1}{M N}) B .

$\hat{V} = \left(\dfrac{N-1}{N} \right)W + \left( \dfrac{M+1}{MN} \right)B\,.$ Il PSRF è stimato con

dove

\sqrt{\hat{R}}

$\sqrt{\hat{R}}$

Dove

\hat{R} = \frac{\hat{V}}{W} \cdot \frac{d f + 3}{d f + 1},

$\hat{R} = \dfrac{\hat{V}}{W} \cdot \dfrac{df+3}{df+1}\,,$

d f = 2 \hat{V} / V a r (\hat{V})

$df = 2\hat{V}/Var(\hat{V})$

La documentazione di Stan a pagina 349 ignora il termine con e rimuove anche il termine moltiplicativo Questa è la loro formula, $df$ $(M+1)/M$

Lo stimatore di varianza è Infine, il potenziale di riduzione statistica scala è definito da
${\hat{var}}^{+} (θ | y) = \frac{N - 1}{N} W + \frac{1}{N} B .$ $\widehat{\text{var}}^{+}(\theta \, | \, y) = \frac{N-1}{N} W + \frac{1}{N} B\,.$ $\hat{R} = \sqrt{\frac{{\hat{var}}^{+} (θ | y)}{W}} .$ $\hat{R} = \sqrt{\frac{\widehat{\text{var}}^{+}(\theta \, | \, y) }{W}}\,.$

Da quello che ho potuto vedere, non forniscono un riferimento per questo cambio di formula, né ne discutono. Di solito non è troppo grande e può spesso essere basso, quindi , quindi non deve essere ignorato, anche se $M$ $2$ $(M+1)/M$ termine può essere approssimato con 1. $df$

Da dove viene questa formula?

EDIT: ho trovato una risposta parziale alla domanda "da dove proviene questa formula? ", In quanto il libro Bayesian Data Analysis di Gelman, Carlin, Stern e Rubin (Seconda edizione) ha esattamente la stessa formula. Tuttavia, il libro non spiega come / perché è giustificabile ignorare quei termini?

— Greenparker
fonte

Non c'è ancora nessun documento pubblicato su di esso, e la formula probabilmente cambierà comunque nei prossimi mesi.

— Ben Goodrich,

@BenGoodrich Grazie per il commento. Puoi aggiungere altro sulla motivazione dell'utilizzo di questa formula? E perché cambierà esattamente la formula?

— Greenparker

L'attuale formula del cappello a R diviso è il modo in cui lo si applica principalmente al caso in cui vi è una sola catena. Le prossime modifiche riguarderanno principalmente il fatto che la distribuzione posteriore marginale sottostante potrebbe non essere normale o avere una media e / o una varianza.

— Ben Goodrich,

M = 2

$M = 2$

(M + 1) / M = 3 / 2

$(M+1)/M = 3/2$

Ho seguito il link specifico fornito per Gelman & Rubin (1992) e lo ha fatto

\hat{σ} = \frac{n - 1}{n} W + \frac{1}{n} B

$\hat{\sigma} = \frac{n-1}{n}W+ \frac{1}{n}B$ come nelle versioni successive, sebbene

\hat{σ}

$\hat{\sigma}$ sostituito con

{\hat{σ}}_{+}

$\hat{\sigma}_+$ in Brooks & Gelman (1998) e con

{\hat{v a r}}^{+}

$\widehat{\rm var}^+$ in BDA2 (Gelman et al, 2003) e BDA3 (Gelman et al, 2013).

BDA2 e BDA3 (non sono in grado di controllare ora BDA1) hanno un esercizio con suggerimenti per dimostrarlo $\widehat{\rm var}^+$ è una stima imparziale della quantità desiderata.

Gelman & Brooks (1998) ha l'equazione 1.1

\hat{R} = \frac{m + 1}{m} \frac{{\hat{σ}}_{+}}{W} - \frac{n - 1}{m n},

$\hat{R} = \frac{m+1}{m}\frac{\hat{\sigma}_+}{W} - \frac{n-1}{mn},$ che può essere riorganizzato come

\hat{R} = \frac{{\hat{σ}}_{+}}{W} + \frac{{\hat{σ}}_{+}}{W m} - \frac{n - 1}{m n} .

$\hat{R} = \frac{\hat{\sigma}_+}{W} + \frac{\hat{\sigma}_+}{Wm}- \frac{n-1}{mn}.$ We can see that the effect of second and third term are negligible for decision making when

n

$n$ is large. See also the discussion in the paragraph before Section 3.1 in Brooks & Gelman (1998).

Gelman & Rubin (1992) also had the term with df as df/(df-2). Brooks & Gelman (1998) have a section describing why this df corretion is incorrect and define (df+3)/(df+1). The paragraph before Section 3.1 in Brooks & Gelman (1998) explains why (d+3)/(d+1) can be dropped.

It seems your source for the equations was something post Brooks & Gelman (1998) as you had (d+3)/(d+1) there and Gelman & Rubin (1992) had df/df(-2). Otherwise Gelman & Rubin (1992) and Brooks & Gelman (1998) have equivalent equations (with slightly different notations and some terms are arranged differently). BDA2 (Gelman, et al., 2003) doesn't have anymore terms $\frac{\hat{\sigma}_+}{Wm}- \frac{n-1}{mn}$ . BDA3 (Gelman et al., 2003) and Stan introduced split chains version.

My interpretation of the papers and experiences using different versions of $\hat{R}$ is that the terms which have been eventually dropped can be ignored when $n$ is large, even when $m$ is not. I also vaguely remember discussing this with Andrew Gelman years ago, but if you want to be certain of the history, you should ask him.

Usually M is not too large, and can often be as low so as 2

I really do hope that this is not often the case. In cases where you want to use split- $\hat{R}$ convergence diagnostic, you should use at least 4 chains split and thus have M=8. You may use less chains, if you already know that in your specific cases the convergence and mixing is fast.

Additional reference:

Brooks and Gelman (1998). Journal of Computational and Graphical Statistics, 7(4)434-455.

— Aki Vehtari
fonte

Yes it has the same

{\hat{σ}}^{2}

$\hat{\sigma}^2$ as you mention, but their

\hat{R}

$\hat{R}$ statistic is

({\hat{σ}}^{2} + B / m n) / W * d f_{t e r m}

$(\hat{\sigma}^2 + B/mn)/W * df_{term}$ (look at the equation on top of page 495 in the Stat Science official version), which introduces the

(m + 1) / m

$(m+1)/m$ term I was talking about. In addition, look at the code and description in the R package coda, which has had the GR diagnostic since 1999.

— Greenparker

I'm confused. The article via the link you provided and the article from Stat Science web pages has only pages 457-472.I didn't check now, but years ago and last year when I checked coda, it didn't have the current recommended version.

— Aki Vehtari

Note that I edited my answer. Gelman & Brooks (1998) has that (m+1)/m term more clearly, and it seems you missed the last term which mostly cancels the effect of (m+1)/m term for decision making. See that paragraph before section 3.1.

— Aki Vehtari

Sorry about that, that was a typo. It's page 465, and Gelman and Rubin have the same exact definition as Brooks and Gelman (which you state above). Equation 1.1 in Brooks and Gelman is exactly what I wrote down as well (when you rearrange some terms).

— Greenparker

"We can see that the effect of second and third term are negligible for decision making when n is large", so what you are saying is that the expression in BDA and hence STAN comes from essentially ignoring these terms for large n?

— Greenparker