Varianza del prodotto di k variabili casuali correlate

Qual è la varianza del prodotto di variabili casuali correlate? $k$

variance random-variable

— Jafar Mansouri
fonte

Risposte:

Ulteriori informazioni su questo argomento di quelle che probabilmente richiedono sono reperibili in Goodman (1962): "La varianza del prodotto delle variabili casuali K" , che deriva formule per variabili casuali indipendenti e variabili casuali potenzialmente correlate, insieme ad alcune approssimazioni. In un precedente documento ( Goodman, 1960 ), è stata derivata la formula per il prodotto di esattamente due variabili casuali, che è un po ' più semplice (anche se ancora piuttosto nodoso), quindi potrebbe essere un punto di partenza migliore se si desidera comprendere la derivazione .

Per completezza, però, va così.

Due variabili

Supponiamo che:

$x$ ed sono due variabili casuali $y$
$X$ e sono le loro aspettative (diverse da zero) $Y$
$V(x)$ e sono le loro varianze $V(y)$
$\delta_x = (x-X)/X$ (e similmente per ) $\delta_y$
$D_{i,j} = E \left[ (\delta_x)^i (\delta_y)^j\right]$
$\Delta_x = x-X$ (e similmente per ) $\Delta_y$
$E_{i,j} = E\left[(\Delta_x)^i (\Delta_y)^j\right]$
$G(x)$ è il coefficiente di variazione al quadrato: (anche per ) $V(x)/X^2$ $G(Y)$

Quindi: o equivalentemente:

V (x y) = (X Y)^{2} [G (y) + G (x) + 2 D_{1, 1} + 2 D_{1, 2} + 2 D_{2, 1} + D_{2, 2} - D_{1, 1}^{2}]

$V(xy) = (XY)^2[G(y) + G(x) + 2D_{1,1} + 2D_{1,2} + 2D_{2,1} + D_{2,2} - D_{1,1}^2]$

V (x y) = X^{2} V (y) + Y^{2} V (x) + 2 X Y E_{1, 1} + 2 X E_{1, 2} + 2 Y E_{2, 1} + E_{2, 2} - E_{1, 1}^{2}

$V(xy) = X^2V(y) + Y^2V(x) + 2XYE_{1,1} + 2XE_{1,2} + 2YE_{2,1} + E_{2,2} - E_{1,1}^2$

Più di due variabili

L'articolo del 1960 suggerisce che questo è un esercizio per il lettore (che sembra aver motivato l'articolo del 1962!).

La notazione è simile, con alcune estensioni:

$(x_1, x_2, \ldots x_n)$ essere variabili casuali invece di ed $x$ $y$
$M = E\left( \prod_{i=1}^k x_i \right)$
$A = \left(M / \prod_{i=1}^k X_i\right) - 1$
$s_i$ = 0, 1 o 2 per $i = 1, 2, \ldots k$
$u$ = numero di 1 in $(s_1, s_2, \ldots s_k)$
$m$ = numero di 2 in $(s_1, s_2, \ldots s_k)$
$D(u,m) = 2^u - 2$ per e per , $m=0$ $2^u$ $m>1$
$C(s_1, s_2, \ldots, s_k) = D(u,m) \cdot E \left( \prod_{i=1}^k \delta_{x_i}^{s_i} \right)$
$\sum_{s_1 \cdots s_k}$ indica la somma dei set di dove $3^k - k -1$ $(s_1, s_2, \ldots s_k)$ $2m + u > 1$

Quindi, finalmente:

V (\prod_{i = 1}^{k} x_{i}) = \prod X_{i}^{2} (\sum_{s_{1} \dots s_{k}} C (s_{1}, s_{2} \dots s_{k}) - A^{2})

$V\left(\prod_{i=1}^k x_i\right) = \prod X_i^2 \left( \sum_{s_1 \cdots s_k} C(s_1, s_2 \ldots s_k) - A^2\right)$

Vedi i documenti per dettagli e approssimazioni leggermente più tracciabili!

— Matt Krause
fonte

si prega di notare che la risposta di cui sopra di Matt Krause contiene un errore e il documento stesso. Nella definizione della funzione C (s1, ..., sk) dovrebbe essere un prodotto anziché una somma.

— Nicolas Gisler,

Potresti approfondire un po 'di più ..? "Perché io - una persona anonima di Internet - lo dico" non è proprio una risposta ...

— Tim

Se provi a ottenere la varianza var (x * y) per variabili casuali indipendenti, tramite la formula per k arbitraria puoi vedere che solo un prodotto e non una somma ti dà la risposta corretta. Inoltre, se guardi il foglio puoi anche vederlo, a pagina 59 del documento (almeno nella mia versione) ha usato un prodotto anziché una somma.

— Nicolas Gisler,

Per il caso di due variabili casuali, una formula più facile da leggere per la varianza del prodotto di due variabili casuali correlate può essere trovata in questa risposta da @macro. Questa risposta indica anche il problema essenziale in vale a dire, il boschetto di notazione nasconde il fatto essenziale che ci sono termini in esso il cui valore non può essere determinato se non si conosce cov , o abbastanza circa la densità articolare delle due variabili casuali per determinare questa quantità.

V (x y) = X^{2} V (y) + Y^{2} V (x) + 2 X Y E_{1, 1} + 2 X E_{1, 2} + 2 Y E_{2, 1} + E_{2, 2} - E_{1, 1}^{2},

$V(xy) = X^2V(y) + Y^2V(x) + 2XYE_{1,1} + 2XE_{1,2} + 2YE_{2,1} + E_{2,2} - E_{1,1}^2,$

(x^{2}, y^{2})

$(x^2,y^2)$

— Dilip Sarwate,

Un suggerimento di modifica, che avrebbe dovuto essere davvero un commento, suggeriva che il documento originale conteneva un refuso in cui una somma e un prodotto venivano mescolati e questa risposta doveva essere modificata. Vedi stats.stackexchange.com/review/suggested-edits/83662

— Silverfish

Solo per aggiungere alla fantastica risposta di Matt Krause (in effetti facilmente derivabile da lì). Se x, y sono indipendenti, allora,

\begin{aligned} E_{1, 1} & = E [(x - E [x]) (y - E [y])] = C o v (x, y) = 0 \\ E_{1, 2} & = E [(x - E [x]) (y - E [y])^{2}] \\ = E [x - E (x)] E [(y - E [y])^{2}] \\ = (E [x] - E [x]) E [(y - E [y])^{2}] = 0 \\ E_{2, 1} & = 0 \\ E_{2, 2} & = E [(x - E [x])^{2} (y - E [y])^{2}] \\ = E [(x - E [x])^{2}] E [(y - E [y])^{2} \\ = V [x] V [y] \\ V [x y] & = E [x]^{2} V [y] + E [y]^{2} V [x] + V [x] V [y] \end{aligned}

$\begin{equation*} \begin{split} E_{1,1} &= E[(x-E[x])(y-E[y])] = Cov(x,y) = 0\\ E_{1,2} &= E[(x-E[x])(y-E[y])^2] \\ &= E[x-E(x)]E[(y-E[y])^2] \\ &= (E[x]-E[x])E[(y-E[y])^2]=0\\ E_{2,1} &= 0\\ E_{2,2} &= E[(x-E[x])^2(y-E[y])^2]\\ &= E[(x-E[x])^2]E[(y-E[y])^2\\ &= V[x]V[y]\\ V[xy] &= E[x]^2 V[y] + E[y]^2 V[x] + V[x]V[y] \end{split} \end{equation*}$

— Ananda
fonte

Il risultato per il caso di variabili casuali indipendenti è stato discusso qui .

n

$n$

— Dilip Sarwate,

Oltre alla formula generale data da Matt, può essere utile notare che esiste una formula un po 'più esplicita per le variabili casuali gaussiane a media zero. Deriva dal teorema di Isserlis , vedi anche Momenti più elevati per la distribuzione normale multivariata centrata.

Supponiamo che segua una distribuzione normale multivariata con media 0 e matrice di covarianza . Se il numero di variabili è dispari, e dove significa somma su tutte le partizioni di in coppie disgiunte con ogni termine che è un prodotto delle corrispondenti e dove $(x_1, \ldots, x_k)$ $\Sigma$ $k$ $E\left(\prod_i x_i\right) = 0$

V (\prod_{i} x_{i}) = E (\prod_{i} x_{i}^{2}) = \sum \prod {\tilde{Σ}}_{i, j}

$V\left(\prod_i x_i\right) = E\left( \prod_i x_i^2\right) = \sum \prod \tilde{\Sigma}_{i,j}$

Σ \prod

$\Sigma \prod$

{1, \dots, 2 k}

$\{1, \ldots, 2k\}$

k

$k$

{i, j}

$\{i, j\}$

k

$k$

{\tilde{Σ}}_{i, j}

$\tilde{\Sigma}_{i,j}$

\tilde{Σ} = (\begin{array}{cc} Σ & Σ \\ Σ & Σ \end{array})

$\tilde{\Sigma} = \left( \begin{array}{cc} \Sigma & \Sigma \\ \Sigma & \Sigma \end{array} \right)$ è la matrice di covarianza per . Se è pari, Nel caso otteniamo Se otteniamo dove ci sono 15 termini nella somma.

(x_{1}, \dots, x_{k}, x_{1}, \dots, x_{k})

$(x_1, \ldots, x_k, x_1, \ldots, x_k)$

k

$k$

V (\prod_{i} x_{i}) = \sum \prod {\tilde{Σ}}_{i, j} - {(\sum \prod Σ_{i, j})}^{2} .

$V\left(\prod_i x_i\right) = \sum \prod \tilde{\Sigma}_{i,j} - \left(\sum \prod \Sigma_{i,j}\right)^2.$

k = 2

$k = 2$

V (x_{1} x_{2}) = Σ_{1, 1} Σ_{2, 2} + 2 (Σ_{1, 2})^{2} - Σ_{1, 2}^{2} = Σ_{1, 1} Σ_{2, 2} + (Σ_{1, 2})^{2} .

$V(x_1x_2) = \Sigma_{1,1} \Sigma_{2,2} + 2 (\Sigma_{1,2})^2 - \Sigma_{1,2}^2 = \Sigma_{1,1} \Sigma_{2,2} + (\Sigma_{1,2})^2.$

k = 3

$k = 3$

V (x_{1} x_{2} x_{3}) = \sum Σ_{i, j} Σ_{k, l} Σ_{r, t},

$V(x_1x_2x_3) = \sum \Sigma_{i,j}\Sigma_{k,l}\Sigma_{r,t},$

È infatti possibile implementare la formula generale. La parte più difficile sembra essere il calcolo delle partizioni richieste. In R, questo può essere fatto con la funzione setpartsdal pacchetto partitions. Utilizzando questo pacchetto non è stato un problema generare le 2.027.025 partizioni per , anche le partizioni 34.459.425 per potevano essere generate, ma non le 654.729.075 partizioni per (sul mio laptop da 16 GB). $k = 8$ $k = 9$ $k = 10$

Vale la pena notare un paio di altre cose. Innanzitutto, per le variabili gaussiane con media diversa da zero dovrebbe essere possibile derivare anche un'espressione dal teorema di Isserlis. In secondo luogo, non è chiaro (per me) se la formula sopra è robusta contro le deviazioni dalla normalità, cioè se può essere usata come approssimazione anche se le variabili non sono multivariate normalmente distribuite. In terzo luogo, sebbene le formule di cui sopra siano corrette, è lecito chiedersi quanto la varianza indichi sulla distribuzione dei prodotti. Anche per la distribuzione del prodotto è abbastanza leptico, e per più grandi diventa rapidamente estremamente leptico. $k = 2$ $k$

— NRH
fonte

Approccio pulito! Per quello che vale, la formula nella mia risposta ha anche un ingrandimento combinatorio: la sommatoria sopra C implica la somma di termini .

O (3^{k})

$O(3^k)$

— Matt Krause,