Come spiegheresti la differenza tra correlazione e covarianza?

In seguito a questa domanda, come spiegheresti la covarianza a qualcuno che capisce solo la media? , che affronta il problema di spiegare la covarianza a un laico, mi è venuta in mente una domanda simile.

Come si potrebbe spiegare a un neofita statistico la differenza tra covarianza e correlazione ? Sembra che entrambi si riferiscano alla modifica di una variabile collegata a un'altra variabile.

Analogamente alla questione pregiudiziale, sarebbe preferibile una mancanza di formule.

Il problema con le covarianze è che sono difficili da confrontare: quando si calcola la covarianza di un insieme di altezze e pesi, espressa in (rispettivamente) metri e chilogrammi, si otterrà una covarianza diversa rispetto a quando lo si fa in altre unità ( che crea già un problema per le persone che fanno la stessa cosa con o senza il sistema metrico!), ma sarà anche difficile stabilire se (ad esempio) altezza e peso 'covary more' di, diciamo la lunghezza delle dita dei piedi e delle dita , semplicemente perché la "scala" su cui viene calcolata la covarianza è diversa.

La soluzione a questo è di "normalizzare" la covarianza: dividi la covarianza per qualcosa che rappresenta la diversità e la scala in entrambe le covariate, e finisci con un valore che è certo di essere compreso tra -1 e 1: la correlazione. Indipendentemente dall'unità in cui si trovavano le variabili originali, otterrai sempre lo stesso risultato e ciò garantirà anche che, in una certa misura, puoi confrontare se due variabili "correlano" più di altre due, semplicemente confrontando la loro correlazione.

Nota: quanto sopra presuppone che il lettore comprenda già il concetto di covarianza.

I requisiti di questo tipo di domande mi sembrano un po 'bizzarri. Ecco un concetto / formula matematica , ma voglio parlarne in un contesto completamente privo di simboli matematici. Penso anche che dovrebbe essere affermato che l'attuale algebra necessaria per comprendere le formule, penso, dovrebbe essere insegnata alla maggior parte degli individui prima dell'istruzione superiore (non è necessaria alcuna comprensione dell'algebra matriciale, basterà una semplice algebra).

Quindi, all'inizio invece di ignorare completamente la formula e parlarne in alcuni tipi di analogie magiche ed euristiche, diamo un'occhiata alla formula e proviamo a spiegare i singoli componenti in piccoli passi. La differenza in termini di covarianza e correlazione, quando si osservano le formule, dovrebbe diventare chiara. Considerando che parlando in termini di analogie ed euristiche, sospetto che oscurerebbero due concetti relativamente semplici e le loro differenze in molte situazioni.

Quindi iniziamo con una formula per la covarianza del campione (questi che ho appena preso e adottato da Wikipedia);

$\frac{1}{n-1}\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y})$

Per velocizzare tutti, definiamo esplicitamente tutti gli elementi e le operazioni nella formula.

• e y i sono ciascuna misure di due attributi separati della stessa osservazione$x_i$$y_i$
• e ˉ y sono i mezzi (o media) di ciascun attributo$\bar{x}$$\bar{y}$
• Per , diciamo solo che questo significa che dividiamo il risultato finale pern-1.$\frac{1}{n-1}$${n-1}$
• potrebbe essere un simbolo straniero per alcuni, quindi sarebbe probabilmente utile spiegare questa operazione. È semplicemente la somma di tutti i separati osservazioni, ed n rappresenta il numero totale di osservazioni.$\sum_{i=1}^{n}$$i$$n$

A questo punto, potrei introdurre un semplice esempio, per dare un volto agli elementi e alle operazioni per così dire. Così, per esempio, consente solo fare una tabella dove ogni riga corrisponde a un'osservazione (e ed y sono etichettati in modo appropriato). Uno probabilmente renderebbe questi esempi più specifici (ad esempio diciamo che x rappresenta l'età e y rappresenta il peso), ma per la nostra discussione qui non dovrebbe importare.$x$$y$$x$$y$

x y
---
2 5
4 8
9 3
5 6
0 8

A questo punto se ritieni che l'operazione di somma nella formula potrebbe non essere stata completamente compresa, puoi introdurla di nuovo in un contesto molto più semplice. Di 'solo presente che equivale a dire in questo esempio;$\sum_{i=1}^{n}(x_i)$

  x
 --
  2
  4
  9
  5
+ 0
 --
 20

Ora quel pasticcio dovrebbe essere chiarito, e possiamo farci strada nella seconda parte della formula, . Ora, supponendo che le persone sanno già che cosa la media, ˉ x e ° y rappresentiamo, e direi, essere ipocriti dei miei precedenti commenti nel post, si può solo fare riferimento alla media in termini di semplici euristiche (per esempio al centro della distribuzione). Si può quindi eseguire questo processo un'operazione alla volta. La dichiarazione ( x i - ˉ x$(x_i-\bar{x})(y_i-\bar{y})$$\bar{x}$$\bar{y}$$(x_i-\bar{x})$sta solo esaminando le deviazioni / distanza tra ciascuna osservazione e la media di tutte le osservazioni per quel particolare attributo. Quindi quando un'osservazione è più lontana dalla media, a questa operazione verrà assegnato un valore più elevato. Si può quindi fare riferimento alla tabella di esempio fornita e dimostrare semplicemente l'operazione sul vettore delle osservazioni.$x$

x x_bar (x - x_bar)
2 4     -2
4 4      0
9 4      5
5 4      1
0 4     -4

L'operazione è la stessa per il vettore , ma solo per il rinforzo puoi presentare anche quell'operazione.$y$

y y_bar (y - y_bar)
5  6     -1
8  6      2
3  6     -3
6  6      0
8  6      2

$(x_i-\bar{x})$$(y_i-\bar{y})$$(x_i-\bar{x})\cdot(y_i-\bar{y})$

Prendi nota di ciò che accade durante la moltiplicazione, se due osservazioni sono entrambe a grande distanza sopra la media, l'osservazione risultante avrà un valore positivo ancora maggiore (lo stesso vale se entrambe le osservazioni sono a grande distanza sotto la media, moltiplicando due negativi è uguale a positivo). Si noti inoltre che se un'osservazione è alta sopra la media e l'altra è ben al di sotto della media, il valore risultante sarà grande (in termini assoluti) e negativo (poiché un positivo per un negativo equivale a un numero negativo). Infine, nota che quando un valore è molto vicino alla media per entrambe le osservazioni, moltiplicando i due valori si otterrà un piccolo numero. Ancora una volta possiamo presentare questa operazione in una tabella.

(x - x_bar) (y - y_bar)  (x - x_bar)*(y - y_bar)
-2             -1                2
 0              2                0  
 5             -3              -15 
 1              0                0
-4              2               -8

$n-1$

(x - x_bar)*(y - y_bar)
-----------------------
   2
   0
 -15
   0
+ -8
-----
 -21

-21/(5-1) = -5.25

A questo punto potresti voler rinforzare la provenienza del 5, ma dovrebbe essere semplice come fare riferimento alla tabella e contare il numero di osservazioni (lasciamo di nuovo la differenza tra campione e popolazione ad un'altra volta).

$\rho$

$\rho = \frac{Cov(x,y)}{\sqrt{Var(x)Var(y)}}$

$Cov(x,x) = Var(x)$). E si applicano tutti gli stessi concetti che hai introdotto con la covarianza (cioè se una serie ha molti valori ben lontani dalla sua media, avrà una varianza elevata). Forse nota qui che una serie non può avere anche una varianza negativa (che dovrebbe logicamente seguire dalla matematica precedentemente presentata).

$Var(x)Var(y)$$\sqrt{Var(x)Var(y)}$

Capisco in alcune circostanze che questo livello di trattamento non sarebbe appropriato. Il senato ha bisogno del riassunto esecutivo . In tal caso, puoi fare riferimento alla semplice euristica che le persone hanno utilizzato in altri esempi, ma Roma non è stata costruita in un giorno. E al senato che chiede il riassunto esecutivo, se hai così poco tempo forse dovresti semplicemente prendere la mia parola per farlo e rinunciare alle formalità di analogie e punti elenco.

$\sqrt{Var[x]Var[y]}$

Cioè, la correlazione è semplicemente una rappresentazione della covarianza, quindi il risultato deve essere compreso tra -1 (perfettamente inversamente correlato) e +1 (perfettamente correlato positivamente), osservando che un valore vicino allo zero significa che due variabili non sono correlate.

La covarianza non ha limiti e manca di un contesto rispetto ad altre covarianze. Normalizzando / regolando / standardizzando le covarianze in una correlazione, i set di dati possono essere confrontati più facilmente.

Come puoi immaginare, ci sono diversi modi in cui una statistica (come la covarianza) può essere normalizzata / standardizzata. La formula matematica per la relazione tra correlazione e covarianza riflette semplicemente l'uso della convenzione da parte degli statistici (vale a dire, adattandosi in base alle loro deviazioni standard):

Se hai familiarità con l'idea di centrare e standardizzare, x-xbar è centrare x nella sua media. Lo stesso vale per y. Quindi la covarianza centra semplicemente i dati. La correlazione, tuttavia, non solo centra i dati ma scala anche usando la deviazione standard (standardizzare). La moltiplicazione e la somma sono il punto-prodotto dei due vettori e indica quanto paralleli questi due vettori si confrontino tra loro (la proiezione di un vettore sull'altro). La divisione di (n-1) o prendendo il valore atteso è in scala per il numero di osservazioni. Pensieri?

Per quanto ho capito. La correlazione è una versione "normalizzata" della covarianza.

La correlazione viene ridimensionata in modo da essere compresa tra -1 e +1 in base alla presenza di una correlazione positiva o negativa ed è senza dimensioni. La covarianza tuttavia varia da zero, nel caso di due variabili indipendenti, a Var (X), nel caso in cui le due serie di dati siano uguali. Le unità di COV (X, Y) sono le unità di X volte le unità di Y.