Se A e B sono correlati con C, perché A e B non sono necessariamente correlati?

So empiricamente che è così. Ho appena sviluppato modelli che si imbattono in questo enigma. Ho anche il sospetto che non sia necessariamente una risposta sì / no. Voglio dire che se sia A che B sono correlati con C, ciò potrebbe avere delle implicazioni per quanto riguarda la correlazione tra A e B. Ma questa implicazione potrebbe essere debole. Potrebbe essere solo una direzione del segno e nient'altro.

Ecco cosa intendo ... Diciamo che A e B hanno entrambi una correlazione di 0,5 con C. Dato che, la correlazione tra A e B potrebbe ben essere 1.0. Penso che potrebbe anche essere 0,5 o addirittura inferiore. Ma penso sia improbabile che sia negativo. Sei d'accordo con questo?

Inoltre, c'è un'implicazione se stai prendendo in considerazione il coefficiente di correlazione di Pearson standard o invece il coefficiente di correlazione di Spearman (rango)? Le mie recenti osservazioni empiriche sono state associate al coefficiente di correlazione di Spearman.

Poiché la correlazione è una proprietà matematica delle distribuzioni multivariate, alcune intuizioni possono essere ottenute esclusivamente attraverso calcoli, indipendentemente dalla genesi statistica di tali distribuzioni.

Per le correlazioni di Pearson , considerare variabili multinormale , , . Questi sono utili su cui lavorare perché qualsiasi matrice definita non negativa è in realtà la matrice di covarianza di alcune distribuzioni multinormali, risolvendo così la domanda di esistenza. Se ci atteniamo alle matrici con sulla diagonale, le voci fuori diagonale della matrice di covarianza saranno le loro correlazioni. Scrivendo la correlazione di e come , la correlazione di e come e la correlazione di e comeY Z 1 X Y ρ Y Z τ X Z $X$$Y$$Z$$1$$X$$Y$$\rho$$Y$$Z$$\tau$$X$$Z$$\sigma$ , lo calcoliamo

• $1 + 2 \rho \sigma \tau - \left(\rho^2 + \sigma^2 + \tau^2\right) \ge 0$ (perché questo è il fattore determinante della matrice di correlazione e non può essere negativo).

• Quando questo implica che . Per dirla in altro modo: quando sia che sono di grandi dimensioni, e devono avere una correlazione diversa da zero.ρ 2 + τ 2 ≤ 1 ρ τ X $\sigma = 0$$\rho^2 + \tau^2 \le 1$$\rho$$\tau$$X$$Z$

• Se , è possibile qualsiasi valore non negativo di (tra e ovviamente).σ 0 $\rho^2 = \tau^2 = 1/2$$\sigma$$0$$1$

• Quando , sono ammessi valori negativi di . Ad esempio, quando , può essere ovunque tra e .σ ρ = τ = 1 / 2 σ - 1 / 2 $\rho^2 + \tau^2 \lt 1$$\sigma$$\rho = \tau = 1/2$$\sigma$$-1/2$$1$

Queste considerazioni implicano che ci sono effettivamente alcuni vincoli sulle reciproche correlazioni. I vincoli (che dipendono solo dalla definizione non negativa della matrice di correlazione, non dalle distribuzioni effettive delle variabili) possono essere rafforzati a seconda delle ipotesi sulle distribuzioni univariate. Ad esempio, è facile vedere (e dimostrare) che quando le distribuzioni di e non fanno parte della stessa famiglia di scale di posizione, le loro correlazioni devono essere strettamente inferiori a dimensione. (Prova: una correlazione di implica che e sono linearmente correlati come)Y 1 ± 1 X $X$$Y$$1$$\pm 1$$X$$Y$

Per quanto riguarda le correlazioni di rango di Spearman , considera tre osservazioni trivariate , e di . Le loro correlazioni di rango reciproco sono , e . Così, anche il segno della correlazione di rango di e può essere il contrario dei segni delle correlazioni di e e e .$(1,1,2)$$(2,3,1)$$(3,2,3)$$(X, Y, Z)$$1/2$$1/2$$-1/2$$Y$$Z$$X$$Y$$X$$Z$

Sto facendo una battuta di pesca annuale proprio ora. Esiste una correlazione tra l'ora del giorno in cui pesca e la quantità di pesce che catturo. Esiste anche una correlazione tra la dimensione dell'esca che uso e la quantità di pesce che catturo. Non vi è alcuna correlazione tra la dimensione dell'esca e l'ora del giorno.

La correlazione è il coseno dell'angolo tra due vettori. Nella situazione descritta, (A, B, C) è una tripla di osservazioni, fatte n volte, ciascuna osservazione è un numero reale. La correlazione tra A e B è il coseno dell'angolo tra e misurato nello spazio euclideo n-dimensionale. Quindi la nostra situazione si riduce a considerare 3 vettori , e nello spazio n dimensionale. Abbiamo 3 coppie di vettori e quindi 3 angoli. Se due degli angoli sono piccoli (alta correlazione), anche il terzo sarà piccolo. Ma dire "correlato" non è molto una restrizione: significa che l'angolo è compreso tra 0 e$V_A=A-E(A)$$V_B=B-E(B)$$V_A$$V_B$$V_C$$\pi/2$. In generale questo non dà alcuna restrizione al terzo angolo. In altre , inizia con un angolo inferiore a tra e (qualsiasi correlazione tranne -1). Lascia che l'angolo tra e . Quindi C sarà correlato con A e B.$\pi$$V_A$$V_B$$V_C$$V_A$$V_B$

Come aggiunta alla risposta di Whuber: la formula presentata

$1 + 2 \rho \sigma \tau - \left(\rho^2 + \sigma^2 + \tau^2\right) \ge 0$ .

può essere trasformato nella seguente disuguaglianza (Olkin, 1981):

$\sigma\tau - \sqrt{(1-\sigma^2)(1-\tau^2)} \le \rho \le \sigma\tau + \sqrt{(1-\sigma^2)(1-\tau^2)}$

Una rappresentazione grafica dei limiti superiore e inferiore per è simile a:$\rho$

Olkin, I. (1981). Restrizioni di gamma per matrici di correlazione momento-prodotto. Psychometrika, 46, 469-472. doi: 10.1007 / BF02293804

Penso che sia meglio chiedere "perché DOVREBBERO essere correlati?" o forse "Perché dovrebbe avere qualche correlazione particolare?"

Il seguente codice R mostra un caso in cui x1 e x2 sono entrambi correlati con Y, ma hanno una correlazione 0 tra loro

x1 <- rnorm(100)
x2  <- rnorm(100)
y <- 3*x1 + 2*x2 + rnorm(100, 0, .3)

cor(x1,y)
cor(x2,y)
cor(x1,x2)

La correlazione con Y può essere rafforzata riducendo da .3 a .1 o altro

Lascerò la dimostrazione statistica a coloro che sono più adatti di me per questo ... ma dire intuitivamente che l'evento A genera un processo X che contribuisce alla generazione dell'evento C. Quindi A è correlato a C (attraverso X). B, d'altra parte genera Y, che modella anche C. Pertanto A è correlato a C, B è correlato a C ma A e B non sono correlati.

Per coloro che desiderano un po 'di intuizione, una correlazione può essere vista come un coseno di un certo angolo. Quindi, considera tre vettori in 3D, diciamo A, B e C, ciascuno corrispondente a una variabile. La domanda è determinare l'intervallo di possibili angoli tra A e C quando sono noti l'angolo tra A e B, nonché l'angolo tra B e C. Per questo, puoi giocare con uno strumento online senza installare alcun software. Vai alla pagina http://www.montefiore.ulg.ac.be/~pierard/chained_correlations.php

Facciamo un esempio:

A={x1,x2,x3,x4,x5,x6,x7,x8,x9}

B={x1,x2,x3,0,0,0,0,0,0}

C={0,0,0,x4,x5,x6,0,0,0}

Per alcuni x, A e B avranno una correlazione significativa, allo stesso modo A e C avranno anche una correlazione significativa ma la correlazione di B e C non sarà significativa.

Quindi, non è necessariamente vero che se A e B sono correlati e A e C sono correlati, anche B e C sono correlati.

Nota: per una comprensione approfondita, si prega di pensare a questo esempio su dati di grandi dimensioni.