Come funziona la formula per generare variabili casuali correlate?

19

Se abbiamo 2 variabili casuali normali, non correlate allora possiamo creare 2 variabili casuali correlate con la formula $X_1, X_2$

$Y=\rho X_1+ \sqrt{1-\rho^2} X_2$

e poi avrà una correlazione con . $Y$ $\rho$ $X_1$

Qualcuno può spiegare da dove proviene questa formula?

correlation normal-distribution covariance

— Lanza
fonte

1

Un'ampia discussione su questo e sui problemi correlati appare nella mia risposta su stats.stackexchange.com/a/71303 . Tra le altre cose, è chiaro che (1) l'assunzione della Normalità è irrilevante e (2) è necessario fare ipotesi aggiuntive: le varianze di e devono essere uguali affinché la correlazione di con sia .

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

X_{1}

$X_1$

ρ

$\rho$

— whuber

Link molto interessante. Non sono sicuro di capire cosa intendi per normalità essendo irrilevante. Se o non sono normali e diventa più difficile controllare la densità di attraverso l'algoritmo Kaiser-Dickman. Questo è il motivo per cui algoritmi specializzati generano dati correlati non normali (ad es. Headrick, 2002; Ruscio & Kaczetow, 2008; Vale & Maurelli, 1983) Ad esempio, immagina che il tuo obiettivo sia generare ~ normale, ~ uniforme , con = .5. Usando ~ uniforme si ottiene una che non è uniforme ( finisce per essere una combinazione lineare di normale e uniforme).

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

X

$X$

Y

$Y$

ρ

$\rho$

X_{2}

$X_2$

Y

$Y$

Y

$Y$

— Anthony,

@Anthony La domanda si pone solo sulla correlazione , che è puramente una funzione del primo e del secondo momento. La risposta non dipende da altre proprietà delle distribuzioni. Quello di cui stai discutendo è un argomento completamente diverso.

— whuber

17

Supponiamo di voler trovare una combinazione lineare di e tale che $X_1$ $X_2$

corr (α X_{1} + β X_{2}, X_{1}) = ρ

$\text{corr}(\alpha X_1 + \beta X_2, X_1) = \rho$

Nota che se moltiplichi e per la stessa costante (diversa da zero), la correlazione non cambierà. Pertanto, aggiungeremo una condizione per preservare la varianza: $\alpha$ $\beta$ $\text{var}(\alpha X_1 + \beta X_2) = \text{var}(X_1)$

Questo equivale a

ρ = \frac{cov (α X_{1} + β X_{2}, X_{1})}{\sqrt{var (α X_{1} + β X_{2}) var (X_{1})}} = \frac{α \overset{= var (X_{1})}{\overset{⏞}{cov (X_{1}, X_{1})}} + \overset{= 0}{\overset{⏞}{β cov (X_{2}, X_{1})}}}{\sqrt{var (α X_{1} + β X_{2}) var (X_{1})}} = α \sqrt{\frac{var (X_{1})}{α^{2} var (X_{1}) + β^{2} var (X_{2})}}

$\rho = \frac{\text{cov}(\alpha X_1 + \beta X_2, X_1)}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \frac{\alpha \overbrace{\text{cov}(X_1, X_1)}^{=\text{var}(X_1)} + \overbrace{\beta \text{cov}(X_2, X_1)}^{=0}}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \alpha \sqrt{\frac{\text{var}(X_1)}{\alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2)}}$

Supponendo che entrambe le variabili casuali abbiano la stessa varianza (questo è un presupposto cruciale!) ( ), otteniamo $\text{var}(X_1) = \text{var}(X_2)$

ρ \sqrt{α^{2} + β^{2}} = α

$\rho \sqrt{\alpha^2 + \beta^2} = \alpha$

Esistono molte soluzioni a questa equazione, quindi è il momento di ricordare la condizione di conservazione della varianza:

var (X_{1}) = var (α X_{1} + β X_{2}) = α^{2} var (X_{1}) + β^{2} var (X_{2}) \Rightarrow α^{2} + β^{2} = 1

$\text{var}(X_1) = \text{var}(\alpha X_1 + \beta X_2) = \alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2) \Rightarrow \alpha^2 + \beta^2 = 1$

E questo ci porta a

α = ρ β = \pm \sqrt{1 - ρ^{2}}

$\alpha = \rho \\ \beta = \pm \sqrt{1-\rho^2}$

UPD . Per quanto riguarda la seconda domanda: sì, questo è noto come sbiancamento .

— Artem Sobolev
fonte

9

L'equazione è una forma bivariata semplificata della decomposizione di Cholesky . Questa equazione semplificata viene talvolta chiamata algoritmo di Kaiser-Dickman (Kaiser & Dickman, 1962).

Si noti che e devono avere la stessa varianza affinché questo algoritmo funzioni correttamente. Inoltre, l'algoritmo viene in genere utilizzato con variabili normali. Se o non sono normali, potrebbe non avere la stessa forma distributiva di . $X_1$ $X_2$ $X_1$ $X_2$ $Y$ $X_2$

Riferimenti:

Kaiser, HF e Dickman, K. (1962). Matrici di punteggio campione e popolazione e matrici di correlazione campione da una matrice di correlazione della popolazione arbitraria. Psychometrika, 27 (2), 179-182.

— Anthony
fonte

2

Suppongo che non occorrano variabili normali standardizzate, basta avere la stessa varianza.

— Artem Sobolev,

2

Y

$Y$

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

3

$\cos$ $n^{th}$ $n^{th}$ $\cos\theta$ $sin\theta$ $X_1,X_2$
$\rho = cos \theta$ $\sqrt{1-{\rho}^2}=\pm sin \theta$

$X_1, X_2$

— Dmitry Rubanovich
fonte

2

T E X

$\TeX$