Perché questa serie di dati non ha covarianza?

La mia comprensione di come funziona la covarianza è che i dati correlati dovrebbero avere una covarianza piuttosto elevata. Mi sono imbattuto in una situazione in cui i miei dati sembrano correlati (come mostrato nel diagramma a dispersione) ma la covarianza è quasi zero. Come può la covarianza dei dati essere zero se sono correlati?

import numpy as np
x1 = np.array([ 0.03551153,  0.01656052,  0.03344669,  0.02551755,  0.02344788,
        0.02904475,  0.03334179,  0.02683399,  0.02966126,  0.03947681,
        0.02537157,  0.03015175,  0.02206443,  0.03590149,  0.03702152,
        0.02697212,  0.03777607,  0.02468797,  0.03489873,  0.02167536])
x2 = np.array([ 0.0372599 ,  0.02398212,  0.03649548,  0.03145494,  0.02925334,
        0.03328783,  0.03638871,  0.03196318,  0.03347346,  0.03874528,
        0.03098697,  0.03357531,  0.02808358,  0.03747998,  0.03804655,
        0.03213286,  0.03827639,  0.02999955,  0.0371424 ,  0.0279254 ])
print np.cov(x1, x2)

array([[  3.95773132e-05,   2.59159589e-05],
       [  2.59159589e-05,   1.72006225e-05]])

L'entità della covarianza dipende dall'entità dei dati e dalla vicinanza di tali punti dati sparsi per la media di tali dati. È facile vedere quando guardi la formula:

$cov_{x,y}= \frac{\sum(x_i-\bar{x})(y_i-\bar{y})}{n-1}$

Nel tuo caso, la deviazione dei dati x1e x2indica la media di x1e x2sono:

x1-mean(x1)
 [1]  0.006043341 -0.012907669  0.003978501 -0.003950639 -0.006020309 -0.000423439  0.003873601
 [8] -0.002634199  0.000193071  0.010008621 -0.004096619  0.000683561 -0.007403759  0.006433301
[15]  0.007553331 -0.002496069  0.008307881 -0.004780219  0.005430541 -0.007792829

x2-mean(x2)
 [1]  0.0039622385 -0.0093155415  0.0031978185 -0.0018427215 -0.0040443215 -0.0000098315
 [7]  0.0030910485 -0.0013344815  0.0001757985  0.0054476185 -0.0023106915  0.0002776485
[13] -0.0052140815  0.0041823185  0.0047488885 -0.0011648015  0.0049787285 -0.0032981115
[19]  0.0038447385 -0.0053722615

Ora, se moltiplichi quei due vettori tra loro ovviamente otterrai numeri abbastanza piccoli:

(x1-mean(x1)) * (x2-mean(x2))
 [1] 2.394516e-05 1.202419e-04 1.272252e-05 7.279927e-06 2.434807e-05 4.163041e-09 1.197349e-05
 [8] 3.515290e-06 3.394159e-08 5.452315e-05 9.466023e-06 1.897897e-07 3.860380e-05 2.690611e-05
[15] 3.586993e-05 2.907425e-06 4.136268e-05 1.576570e-05 2.087901e-05 4.186512e-05

$n-1$

sum((x1-mean(x1)) * (x2-mean(x2))) / (length(x1)-1)
[1] 2.591596e-05

Questo è il motivo per cui la grandezza della covarianza non dice molto sulla forza di come x1e x2co-variare. Standardizzando (o normalizzando) la covarianza, cioè dividendola per il prodotto della deviazione standard di x1e x2(molto simile alla covarianza, cioè 2.609127e-05),

$r=\frac{cov_{x,y}}{s_x s_y} = \frac{\sum(x_1-\bar{x})(y_i-\bar{y})}{(n-1) s_x s_y}$

$r=0.99$

Parliamo di ciò che può essere visto da una rapida occhiata alla trama e ad alcuni controlli di ragionevolezza (questi sono il tipo di cose che si possono fare naturalmente guardando i dati, semplicemente armati di alcuni fatti di base):

$n$$n-1$

$10^{-4}$

Di conseguenza, i valori osservati delle varianze nell'output hanno senso; sono entrambi meno di quello, ma più di un decimo di esso.

$\frac14$

$0.02$$(0.02)^2/4=10^{-4}$

Da quell'analisi molto approssimativa, nulla sembra sorprendente.

$0.023$$0.015$$8.6\times 10^{-5}$

$2.9\times 10^{-5}$

$2.9\times 10^{-5}$$2.6\times 10^{-5}$

(Non male per un rapido calcolo dell'inviluppo che inizia con intervalli fino a due cifre significative!)