Intuizione (geometrica o altro) di

In un'altra puntata di intuizioni per identità in probabilità, si consideri la Legge dell'identità elementare della varianza totale

\begin{array}{rcl} V a r (X) & = & E [V a r (X | Y)] + V a r (E [X | Y]) \end{array}

$\begin{eqnarray} \rm{Var}(X) &=&\rm{E}[\rm{Var}(X|Y)] + \rm{Var}(E[X|Y]) \end{eqnarray}$

È una ~~semplice~~ manipolazione algebrica semplice della definizione di momenti in sommatoria o, come nel collegamento di Wikipedia, tramite la manipolazione di E e Var.

Ma questa identità, non ho idea di cosa significhi . Suppongo che tu possa presumibilmente calcolare la varianza di una variabile usando un'altra variabile per dare una mano, ma non sembra che semplifichi le cose o renda le cose più tracciabili.

La pagina wiki dice

il primo componente è chiamato il valore atteso della varianza del processo (EVPV) e il secondo è chiamato la varianza delle medie ipotetiche (VHM)

che è illuminante quanto può essere la lettura di nomi.

Quindi, che cosa realmente significa ? C'è un'intuizione sulle due parti? Hai bisogno di un'intuizione di $E[E[X|Y]] = E[X]$ primo? Un'intuizione geometrica potrebbe essere piacevole, ma anche una spiegazione prolissa, una piccola algebra, aiuterebbe immensamente.

Esistono buone interpretazioni algebriche lineari o interpretazioni fisiche o altro che possano dare un'idea di questa identità?

variance intuition

— Mitch
fonte

ma non sembra che semplifichi le cose o le renda più trattabili - è utile praticamente in tutti i casi in cui c'è qualche ausiliario

Y

$Y$ quello fa

X ∣ Y

$X \mid Y$ più facile da pensare che non solo

X

$X$ si. Ad esempio, prendi

$\DeclareMathOperator{\E}{\mathbb E}\DeclareMathOperator{\Var}{Var}$

X ∣ Y \sim N (Y, Y σ^{2})

$X \mid Y \sim \mathcal{N}(Y, Y \sigma^2)$ e

Y \sim B i n o m i a l (n, p)

$Y \sim \mathrm{Binomial}(n, p)$ ; poi

\begin{matrix} E [Var (X ∣ Y)] = E [Y σ^{2}] = n p σ^{2} \\ Var (E [X ∣ Y]) = Var (Y) = n p (1 - p) . \end{matrix}

$\begin{gather}\E[\Var(X \mid Y)] = \E[Y \sigma^2] = n p \sigma^2 \\ \Var(\E[X \mid Y]) = \Var(Y) = n p (1-p).\end{gather}$ Cercare di calcolarlo direttamente sarebbe stato molto meno semplice.

— Dougal,

relativi: stats.stackexchange.com/questions/71620/…

— Taylor

Per ottenere una semplice intuizione, confronteremo con un'analisi bidirezionale della varianza. Permettere $Y_{ij} = \mu_i +\epsilon_{ij}$ dove il $\epsilon_{ij}$ sono iid con aspettativa zero e varianza comune $\sigma^2$ , $i=1,\dotsc,k; j=1,\dotsc,n_i$ .

Quindi abbiamo la decomposizione

\sum_{i = 1}^{k} \sum_{j = 1}^{n_{i}} (Y_{i j} - \bar{\bar{Y}})^{2} = \sum_{i = 1}^{k} \sum_{j = 1}^{n_{i}} (Y_{i j} - \bar{Y_{i}})^{2} + \sum_{i = 1}^{k} n_{i} ((\bar{Y_{i}} - \bar{\bar{Y}})^{2}

$\sum_{i=1}^k\sum_{j=1}^{n_i} (Y_{ij}-\overline{\overline{Y}})^2 = \sum_{i=1}^k\sum_{j=1}^{n_i} (Y_{ij}-\overline{Y_i})^2 + \sum_{i=1}^k n_i((\overline{Y_{i}}-\overline{\overline{Y}})^2$ dove il primo termine sulla giusta misura la varianza all'interno del gruppo (e può essere usato per stimare la varianza all'interno del gruppo

σ^{2}

$\sigma^2$ ), il secondo termine misura la varianza tra i gruppi e può essere utilizzato per stimare

σ^{2}

$\sigma^2$ solo con l'ipotesi che tutto il

μ_{i}

$\mu_i$ hanno un valore comune. Altrimenti, conterrà un componente aggiuntivo, la "varianza di

μ_{i}

$\mu_i$ "s". Ha la stessa forma della legge della varianza totale!

Formalmente, lascia che l'appartenenza al gruppo sia la variabile casuale $G$ . Quindi otteniamo

V a r Y = E V a r (Y | G) + V a r E (Y | G)

$Var Y = E Var (Y | G) + Var E (Y | G)$ e possiamo leggerlo come "varianza di

Y

$Y$ è il valore atteso della varianza all'interno del gruppo più la varianza delle aspettative del gruppo. "Questo è lo stesso della nostra interpretazione della decomposizione ANOVA sopra. Osservando più da vicino la derivazione (che non abbiamo dato qui) puoi vedere che è davvero una versione del teorema di Pitagora. Per quel punto di vista vedi la Legge della varianza totale come teorema di Pitagora

— kjetil b halvorsen
fonte

Il mio hack mathjax per ottenere doppi overline non funziona molto bene. Idee per migliorarlo?

— kjetil b halvorsen,

Il doppio overline sembra molto meglio con

X

$X$ che con

Y

$Y$ per qualche ragione:

\bar{\bar{X}}

$\overline{\overline{X}}$ .

— jbowman,