Esempi di dati indipendenti e non correlati nella vita reale e modi per misurarli / rilevarli

Sentiamo sempre parlare di questo vettore di dati VS questo altro vettore di dati è indipendente l'uno dall'altro, o non correlato, ecc., E mentre è facile imbattersi in matematica riguardo a questi due concetti, voglio legarli in esempi dal reale- vita, e anche trovare modi per misurare questa relazione.

Da questo punto di vista, sto cercando esempi di due segnali che sono delle seguenti combinazioni: (Inizierò con alcuni):

Due segnali indipendenti E (necessariamente) non correlati:
- Il rumore di un motore di un'auto (chiamalo ) e la tua voce ( ) mentre parli. $v_1[n]$ $v_2[n]$
- Una registrazione dell'umidità ogni giorno ( ) e l'indice dow-jones ( ). $v_1[n]$ $v_2[n]$

Q1) Come misureresti / dimostreresti che sono indipendenti con quei due vettori in mano? Sappiamo che l'indipendenza significa che il prodotto dei loro pdf è uguale al loro pdf congiunto, ed è grandioso, ma con quei due vettori in mano, come si può dimostrare la loro indipendenza?

Due segnali NON indipendenti, ma ancora non correlati:

Q2) Non riesco a pensare ad alcun esempio qui ... quali sarebbero alcuni esempi? So che possiamo misurare la correlazione prendendo la correlazione incrociata di due di questi vettori, ma come dimostreremmo che NON sono indipendenti?

Due segnali correlati:
- Un vettore che misura la voce di un cantante d'opera nella sala principale, , mentre qualcuno registra la sua voce da qualche parte all'interno dell'edificio, diciamo nella sala prove ( ). $v_1[n]$ $v_2[n]$
- Se misuri continuamente la tua frequenza cardiaca in macchina, ( ), e misuri anche l'intensità delle luci blu che si infrangono sul parabrezza posteriore ( ) ... Immagino che sarebbero molto correlate. . :-) $v_1[n]$ $v_2[n]$

D3) Relativo a q2, ma nel caso della misurazione della correlazione incrociata da questo punto di vista empirico, è sufficiente esaminare il prodotto punto di quei vettori (poiché quello è il valore al picco della loro correlazione incrociata)? Perché dovremmo preoccuparci di altri valori nella funzione cross-corr?

Grazie ancora, più esempi danno il meglio per la costruzione dell'intuizione!

cross-correlation independence

— Spacey
fonte

@DilipSarwate Grazie Dilip, lo darò un'occhiata. Per ora alcuni esempi sarebbero buoni però.

— Spacey,

Non puoi "dimostrare" che sono indipendenti allo stesso modo in cui anche un sondaggio ben costruito non può "dimostrare" come tutti voteranno, e per le stesse ragioni.

— Jim Clay,

@JimClay Sentiti libero di rilassare il criterio 'prova' - quello che sto cercando di ottenere sono i modi per misurare / quantificare l'indipendenza. Ne sentiamo spesso parlare e quindi essere indipendenti, beh, come lo sanno? Quale nastro di misurazione viene utilizzato?

— Spacey,

Vorrei sapere se la corelazione cros può essere utilizzata per due segnali analogici uno ad alta risoluzione e l'altro a bassa risoluzione a scopo di analisi.

Se abbiamo qualche variabile casuale X e segnali del costrutto 2 a ** = (x) e ** b ** = (x) con e ortogonali e ** x = a + b $f_1$ $f_2$ $f_1$ $f_2$ . Ciò implicherebbe che tali segnali sono indipendenti? Ciò richiede alcune condizioni aggiuntive? Questa proprietà sarebbe interessante perché evita la costruzione di pdf congiunti di a e b .

— Mladen,

Risposte:

Alcuni elementi ... (So che questo non è esaustivo, una risposta più completa dovrebbe probabilmente menzionare i momenti)

Per verificare se due distribuzioni sono indipendenti, è necessario misurare quanto sia simile la loro distribuzione congiunta al prodotto della loro distribuzione marginale . A tale scopo, è possibile utilizzare qualsiasi distanza tra le distribuzioni. Se si utilizza la divergenza di Kullback-Leibler per confrontare tali distribuzioni, si considererà la quantità: $p(x,y)$ $p(x) \times p(y)$

$\int_x \int_y p(x, y) \log \frac{p(x, y)}{p(x) p(y)} dx dy$

E avrai riconosciuto ... le informazioni reciproche! Più è basso, più sono indipendenti le variabili.

Più in pratica, per calcolare questa quantità dalle tue osservazioni, puoi stimare le densità , , dai tuoi dati usando uno stimatore di densità del Kernel e fare un'integrazione numerica su una griglia fine ; o semplicemente quantificare i dati in bin e utilizzare l'espressione delle Informazioni reciproche per distribuzioni discrete. $p(x)$ $p(y)$ $p(x, y)$ $N$

Dalla pagina di Wikipedia sull'indipendenza e la correlazione statistiche:

Trame di distribuzione

$p(x, y)$ $p(x)$ $p(y)$

Esistono effettivamente situazioni in cui è possibile esaminare tutti i valori delle funzioni di correlazione incrociata. Si presentano, ad esempio, nell'elaborazione del segnale audio. Considera due microfoni che catturano la stessa fonte, ma distanti da pochi metri. La correlazione incrociata dei due segnali avrà un picco elevato nel ritardo corrispondente alla distanza tra i microfoni divisa per la velocità del suono. Se guardi la correlazione incrociata al ritardo 0, non vedrai che un segnale è una versione spostata nel tempo dell'altro!

— pichenettes
fonte

p (x, y)

$p(x,y)$

p(x}

$p(x}$

(contd) 2) Quindi per riassumere: se la matrice di covarianza di xe y è diagonale, allora sono non correlate, ma NON necessariamente indipendenti? Testare l'indipendenza era il problema con la domanda di follow-up (1). Tuttavia, se dimostriamo che sono indipendenti, ovviamente la loro matrice di covarianza DEVE essere diagonale. Ho capito bene? Qual è un esempio di 2 segnali fisici che posso misurare nella vita reale che sarebbero dipendenti, ma non correlati? Grazie ancora.

— Spacey,

x_{n}

$x_n$

y_{n}

$y_n$

N

$N$

p (x, y)

$p(x, y)$

p^{*} (x, y) = \sum_{i} \frac{1}{N} K (x - x_{i}, y - y_{i})

$p^*(x, y) = \sum_i \frac{1}{N}K(x - x_i, y - y_i)$

K

$K$

(x_{n}, y_{n})

$(x_n, y_n)$

p^{*} (x, y) = \frac{C}{N}

$p^*(x, y) = \frac{C}{N}$

C

$C$

(x, y)

$(x, y)$

"2 segnali fisici che sarebbero dipendenti, ma non correlati": Diciamo che hackeriamo il GPS di una cabina di New York per registrare una storia (latitudine, longitudine) della sua posizione. C'è una buona probabilità che il lat., A lungo. i dati non saranno correlati - non esiste un "orientamento" privilegiato della nuvola di punti. Ma difficilmente sarà indipendente, poiché, se ti fosse chiesto di indovinare la latitudine del taxi, forniresti una supposizione molto migliore se conoscessi la longitudine (potresti quindi guardare una mappa e escludere il [lat, lunghe] coppie occupate da edifici).

— Pichenettes,

Un altro esempio: due onde sinusoidali su un multiplo intero della stessa frequenza. Correlazione nulla (la base di Fourier è ortonormale); ma se conosci il valore di uno c'è solo un insieme finito di valori che l'altro può prendere (pensa a un diagramma di Lissajous).

— Pichenettes,

È molto difficile stabilire se due segnali siano indipendenti (date osservazioni finite) senza alcuna conoscenza / ipotesi precedenti.

$X$ $Y$ $X$ $Y$ $Y$ $X$ $Y$

cov (f_{1} (X), f_{2} (Y)) = E (f_{1} (X), f_{2} (Y)) = 0

$\text{cov}(f_1(X),f_2(Y)) = E(f_1(X),f_2(Y)) = 0$

f_{1}

$f_1$

f_{2}

$f_2$

X

$X$

Y

$Y$

f_{1} (x) = f_{2} (x) = x

$f_1(x) = f_2(x) = x$

$E(X^iY^j)$

$X(t)$ $Y(t)$

S_{X, Y} (f), S_{X^{2}, Y} (f), S_{X, Y^{2}} (f) \dots

$S_{X,Y}(f),S_{X^2,Y}(f),S_{X,Y^2}(f) \dots$

f

$f$

Esempio :

X (t) = \sin (2 π f t)

$X(t) = \sin(2 \pi ft)$

Y (t) = \sin (2 π f t k)

$Y(t) = \sin( 2 \pi ftk)$

k \in Z

$k \in \mathbb{Z}$

k \neq 1

$k \neq 1$

X (t)

$X(t)$

Y (t)

$Y(t)$

\sin (k x)

$\sin(kx)$

\sin (x)

$\sin(x)$

Y (t) = f (X (t))

$Y(t) = f (X (t))$

f

$f$

$X(t)$ $Y(t)$

— rwolst
fonte

X_{x^{2}, Y} (f)

$X_{x^2, Y}(f)$

X^{2} (t)

$X^2(t)$

Y (t)

$Y(t)$