Combinazione lineare di due variabili casuali normali multivariate dipendenti

Supponiamo di avere due vettori di variabili casuali, entrambi normali, ovvero e . Siamo interessati alla distribuzione della loro combinazione lineare , dove e sono matrici, è un vettore. Se e sono indipendenti, . La domanda è nel caso dipendente, supponendo che conosciamo la correlazione di qualsiasi coppia . Grazie. $X \sim N(\mu_X, \Sigma_X)$ $Y \sim N(\mu_Y, \Sigma_Y)$ $Z = A X + B Y + C$ $A$ $B$ $C$ $X$ $Y$ $Z \sim N(A \mu_X + B \mu_Y + C, A \Sigma_X A^T + B \Sigma_Y B^T)$ $(X_i, Y_i)$

I migliori auguri, Ivan

probability normal-distribution multinomial

— Ivan
fonte

Risposte:

In tal caso, devi scrivere (con notazioni eventualmente chiare) ( modificato: assumendo la normalità congiunta di ) Quindi e ie

(\begin{matrix} X \\ Y \end{matrix}) \sim N [(\begin{matrix} μ_{X} \\ μ_{Y} \end{matrix}), Σ_{X, Y}]

$\left(\begin{matrix}X\\Y \end{matrix}\right) \sim \mathcal{N}\left[ \left(\begin{matrix}\mu_X\\\mu_Y\end{matrix}\right), \Sigma_{X,Y} \right]$

(X, Y)

$(X,Y)$

A X + B Y = (\begin{matrix} A & B \end{matrix}) (\begin{matrix} X \\ Y \end{matrix})

$AX+BY=\left(\begin{matrix}A& B \end{matrix}\right) \left(\begin{matrix}X\\Y \end{matrix}\right)$

A X + B Y + C \sim N [(\begin{matrix} A & B \end{matrix}) (\begin{matrix} μ_{X} \\ μ_{Y} \end{matrix}) + C, (\begin{matrix} A & B \end{matrix}) Σ_{X, Y} (\begin{matrix} A^{T} \\ B^{T} \end{matrix})]

$AX+BY+C \sim \mathcal{N}\left[ \left(\begin{matrix}A& B \end{matrix}\right) \left(\begin{matrix}\mu_X\\\mu_Y\end{matrix}\right) + C, \left(\begin{matrix}A & B \end{matrix}\right)\Sigma_{X,Y} \left(\begin{matrix}A^T \\ B^T \end{matrix}\right)\right]$

A X + B Y + C \sim N [A μ_{X} + B μ_{Y} + C, A Σ_{X X} A^{T} + B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T} + B Σ_{Y Y} B^{T}]

$AX+BY+C \sim \mathcal{N}\left[A\mu_X + B\mu_Y +C, A\Sigma_{XX}A^T+B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T+B\Sigma_{YY}B^T \right]$

— Xi'an
fonte

Nel caso in cui venga trascurato, si noti che il thread dei commenti in un'altra risposta indica (a) che questi calcoli di covarianza vanno bene (comprendendo che implicano una notazione a matrice di blocchi naturale ma non dichiarata) ma (b) non possiamo validamente concludere che le combinazioni lineari siano normalmente distribuito fino a quando non facciamo un ulteriore presupposto; vale a dire che e hanno una distribuzione normale multivariata congiunta .

X

$X$

Y

$Y$

— whuber

Potresti spiegare come hai ottenuto da a nell'ultima riga? Avrei pensato che e il risultato non semplifica ulteriormente. Qui non è una matrice simmetrica poiché il suo elemento -th è mentre il suo elemento -th è , e non vi è alcun motivo per cui queste covarianze debbano essere uguali.

B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T}

$B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T$

2 A Σ_{X Y} B^{T}

$2A\Sigma_{XY}B^T$

B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T} = (A Σ_{X Y} B^{T})^{T} + A Σ_{X Y} B^{T}

$B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T = (A\Sigma_{XY}B^T)^T + A\Sigma_{XY}B^T$

Σ_{X Y}

$\Sigma_{XY}$

(i, j)

$(i,j)$

cov (X_{i}, Y_{j})

$\text{cov}(X_i,Y_j)$

(j, i)

$(j,i)$

cov (X_{j}, Y_{i})

$\text{cov}(X_j,Y_i)$

— Dilip Sarwate,

@DilipSarwate: (+1) hai ragione, nel caso generale, non c'è motivo per cui questi due termini siano uguali.

— Xi'an,

La tua domanda non ha una risposta unica come quella attualmente posta a meno che tu non che e siano normalmente distribuiti congiuntamente con il blocco in alto a destra della covarianza . penso che intendi questo perché dici di avere ogni covarianza tra X e Y. In questo caso possiamo scrivere che è anche normale multivariato. allora viene dato in termini di come: $X$ $Y$ $\Sigma_{XY}$ $W=(X^T,Y^T)^T$ $Z$ $W$

Z = (A, B) W + C

$Z=(A,B)W+C$

Quindi usi la solita formula per una combinazione lineare. Si noti che la media è invariata ma alla matrice di covarianza sono aggiunti due termini extra $A\Sigma_{XY}B^T+B\Sigma_{XY}^TA^T$

— probabilityislogic
fonte

Grazie per aver segnalato questo problema, in effetti, non ci ho nemmeno pensato, ma sembra che le variabili siano effettivamente visualizzabili, nel mio caso, come distribuite congiuntamente normalmente, anche se i loro componenti sono correlati.

— Ivan,

Concordo sul fatto che la questione non può essere risolta come posta. Esso può essere risolto in modo semplice se si assume, come @ risposta di Xi'an fa, che e sono congiuntamente distribuiti normalmente. Potrebbe essere risolvibile, presumibilmente con più difficoltà, se la distribuzione articolare fosse specificata come qualcosa di diverso dalla normale articolare. Ma conoscere solo per tutti , non significa che sia multivariato normale . Ogni due variabili casuali con varianze finite hanno una covarianza. La covarianza non è definita solo per variabili casuali normali o congiuntamente normali.

X

$X$

Y

$Y$

cov (X_{i}, Y_{j})

$\text{cov}(X_i,Y_j)$

i, j

$i, j$ $W = (X^T,Y^T)^T$

— Dilip Sarwate,

Nel mio caso, X e Y sono congiuntamente normali, cercherò di spiegare perché, per favore correggimi se sbaglio. Supponiamo che esista un insieme di camper normali univariati indipendenti. Ogni elemento di X e Y è una combinazione lineare arbitraria di queste variabili univariate dall'insieme. Pertanto, poiché le variabili iniziali sono indipendenti e sono coinvolte solo le trasformazioni lineari, i vettori risultanti X, Y e Z sono tutti normali camper multivariati. Segue la definizione di rv normale multivariato, dove dovrebbe essere un rv normale univariato per qualsiasi vettore . Ha senso?

a^{T} X

$a^T X$

a

$a$

— Ivan,

@Ivan La tua spiegazione ha senso, ma il reclamo riguarda l'affermazione "Supponiamo che abbiamo due vettori di variabili casuali, entrambi sono normali, cioè e "che non significa che e siano congiuntamente normali . Né dire che "conosciamo la correlazione di qualsiasi coppia " significa che e sono congiuntamente normali anche se, come si afferma correttamente, implica che è normale (e similmente per .) Normalità univariata

X \sim N (μ_{X}, Σ_{X})

$X\sim N(\mu_X,\Sigma_X)$

Y \sim N (μ_{Y}, Σ_{Y})

$Y\sim N(\mu_Y,\Sigma_Y)$

X

$X$

Y

$Y$

(X_{i}, Y_{i})

$(X_i,Y_i)$

X_{i}

$X_i$

Y_{i}

$Y_i$

X \sim N (μ_{X}, Σ_{X})

$X\sim N(\mu_X,\Sigma_X)$

X_{i}

$X_i$

Y_{i}

$Y_i$ non implica una normalità comune. Vedi riferimento sotto.

— Dilip Sarwate,

@Ivan Vedi la discussione che segue questa domanda

— Dilip Sarwate,