Per quali distribuzioni l'incorrelazione implica l'indipendenza?

Un promemoria storico nelle statistiche è "la non correlazione non implica l'indipendenza". Di solito questo promemoria è integrato dall'affermazione psicologicamente calmante (e scientificamente corretta) "quando, tuttavia, le due variabili sono normalmente distribuite congiuntamente , allora l'incorrelazione implica indipendenza".

Posso aumentare il numero di felici eccezioni da una a due: quando due variabili sono distribuite da Bernoulli , quindi, la non correlazione implica indipendenza. Se e sono due camper di Bermoulli, , per cui abbiamo , e analogamente per , la loro covarianza è $X$ $Y$ $X \sim B(q_x),\; Y \sim B(q_y)$ $P(X=1) = E(X) = q_x$ $Y$

Cov (X, Y) = E (X Y) - E (X) E (Y) = \sum_{S_{X Y}} p (x, y) x y - q_{x} q_{y}

$\operatorname{Cov}(X,Y)= E(XY) - E(X)E(Y) = \sum_{S_{XY}}p(x,y)xy - q_xq_y$

= P (X = 1, Y = 1) - q_{x} q_{y} = P (X = 1 ∣ Y = 1) P (Y = 1) - q_{x} q_{y}

$= P(X=1,Y=1) - q_xq_y = P(X=1\mid Y=1)P(Y=1)-q_xq_y$

= (P (X = 1 ∣ Y = 1) - q_{x}) q_{y}

$= \Big(P(X=1\mid Y=1)-q_x\Big)q_y$

Per mancanza di correlazione, richiediamo che la covarianza sia zero

Cov (X, Y) = 0 \Rightarrow P (X = 1 ∣ Y = 1) = P (X = 1)

$\operatorname{Cov}(X,Y) = 0 \Rightarrow P(X=1\mid Y=1) = P(X=1)$

\Rightarrow P (X = 1, Y = 1) = P (X = 1) P (Y = 1)

$\Rightarrow P(X=1,Y=1) = P(X=1)P(Y=1)$

che è la condizione necessaria anche affinché le variabili siano indipendenti.

Quindi la mia domanda è: conosci altre distribuzioni (continue o discrete) per le quali la non correlazione implica indipendenza?

Significato: supponiamo che due variabili casuali abbiano distribuzioni marginali che appartengono alla stessa distribuzione (forse con valori diversi per i parametri di distribuzione coinvolti), ma diciamo con lo stesso supporto ad es. due esponenziali, due triangolari, ecc. Tutte le soluzioni all'equazione sono tali da implicare anche l'indipendenza, in virtù della forma / proprietà delle funzioni di distribuzione coinvolte? Questo è il caso dei marginali normali (dato anche che hanno una distribuzione normale bivariata), così come dei marginali di Bernoulli: esistono altri casi? $X,Y$ $\operatorname{Cov}(X,Y) = 0$

La motivazione qui è che di solito è più facile controllare se la covarianza è zero, rispetto a verificare se l'indipendenza vale. Quindi se, data la distribuzione teorica, controllando la covarianza si verifica anche l'indipendenza (come nel caso del Bernoulli o del caso normale), questa sarebbe una cosa utile da sapere.
Se ci vengono dati due campioni da due camper che hanno marginali normali, sappiamo che se potessimo concludere statisticamente dai campioni che la loro covarianza è zero, possiamo anche dire che sono indipendenti (ma solo perché hanno marginali normali). Sarebbe utile sapere se potremmo concludere allo stesso modo nei casi in cui i due camper avevano marginali appartenenti a qualche altra distribuzione.

— Alecos Papadopoulos
fonte

Logicamente, non c'è dubbio qui: prendi qualsiasi coppia di variabili indipendenti come distribuzione. Che siano o no correlati, sono indipendenti dalla fiat ! Devi davvero essere più preciso su cosa intendi per "distribuzione" e su quali tipi di risposte troverai utili.

— whuber

@whuber Non capisco il tuo commento. Io comincio da uncorrelatedness e chiedere "se posso dimostrare che essi siano correlati quando questo implica che essi sono anche indipendenti"? Poiché i due risultati indicati nella domanda dipendono dal fatto che il camper ha una distribuzione specifica (normale o Bernoulli), chiedo "esiste qualche altra distribuzione nota per la quale, se le due variabili la seguono, questo risultato vale"?

— Alecos Papadopoulos,

Prendi due variabili indipendenti e lascia che sia la loro distribuzione. è una risposta valida alla tua domanda. Nota che stai chiedendo di provare un condizionale, che per definizione è vero ogni volta che il conseguente è vero, indipendentemente dal valore di verità del suo antecedente. Pertanto, secondo le regole di base della logica, tutte le distribuzioni di variabili indipendenti sono risposte alla tua domanda.

X, Y

$X,Y$

F

$F$

F

$F$

— whuber

@Whuber, hai evidentemente ragione. Ho aggiunto del testo relativo alla motivazione di questa domanda, che spero chiarisca quale fosse la mia motivazione.

— Alecos Papadopoulos,

Con quali informazioni inizi quando prendi questa decisione? Dalla formulazione del tuo esempio, sembra che ti venga dato il pdf marginale per ogni variabile e le informazioni che ogni coppia di variabili non è correlata. Decidi quindi se sono anche indipendenti. È preciso?

— Probislogic,

"Tuttavia, se le due variabili sono normalmente distribuite, l'incorrelazione implica indipendenza" è un errore molto comune .

Ciò vale solo se sono distribuiti congiuntamente normalmente.

Il controesempio che ho visto più spesso è normale e indipendente Rademacher (quindi è 1 o -1 con probabilità 0,5 ciascuno); allora è anche normale (chiaro considerando la sua funzione di distribuzione), (il problema qui è mostrare ad es. ripetendo l'attesa su , e notando che è $X \sim N(0,1)$ $Y$ $Z=XY$ $\operatorname{Cov}(X,Z)=0$ $\mathbb{E}(XZ)=0$ $Y$ $XZ$ $X^2$ oppure con probabilità 0,5 ciascuno) ed è chiaro che le variabili dipendono (ad es. se conosco quindi o , quindi le informazioni su mi danno informazioni su ). $-X^2$ $X>2$ $Z>2$ $Z<-2$ $X$ $Z$

Vale anche la pena ricordare che le distribuzioni marginali non determinano in modo univoco la distribuzione congiunta. Prendi due RV reali e con CDF marginali e . Quindi per ogni la funzione: $X$ $Y$ $F_X(x)$ $G_Y(y)$ $\alpha<1$

H_{X, Y} (X, y) = F_{X} (X) {sol}_{Y} (y) (1 + α (1 - F_{X} (X)) (1 - F_{Y} (y)))

$H_{X,Y}(x,y)=F_X(x)G_Y(y)\left(1+\alpha\big(1-F_X(x)\big)\big(1-F_Y(y)\big)\right)$

sarà un CDF bivariato. (Per ottenere la marginale da prendere il limite mentre va all'infinito, dove Viceversa per ) Chiaramente selezionando valori diversi di puoi ottenere diverse distribuzioni congiunte! $F_X(x)$ $H_{X,Y}(x,y)$ $y$ $F_Y(y)=1$ $Y$ $\alpha$

— pesciolino d'argento
fonte

Infatti. Ho dimenticato il "giunto".

— Alecos Papadopoulos,

@Alecos Dato che le distribuzioni marginali non determinano la distribuzione congiunta in generale (ho appena modificato la mia risposta per chiarire), dove lascia questa domanda?

— Silverfish

@Alecos Penso di avere una migliore comprensione della sostanza della domanda ora: date due distribuzioni marginali, esiste una serie infinita di possibili distribuzioni congiunte. In quali circostanze l'imposizione della condizione di covarianza zero ci lascia con una sola di quelle distribuzioni congiunte ancora possibili, vale a dire quella in cui le variabili casuali sono indipendenti?

— Silverfish

Se mi attengo al caso bivariato, con MGF comune

e MGF marginali

, la domanda diventa: quando fa

M_{X, Y} (s, t)

$M_{X,Y}(s,t)$

M_{X} (s) = M_{X, Y} (s, 0)

$M_X(s)=M_{X,Y}(s,0)$

M_{Y} (t) = M_{X, Y} (0, t)

$M_Y(t)=M_{X,Y}(0,t)$

implica che

\frac{\partial^{2}}{\partial s \partial t} M_{X, Y} (s, t) |_{s = 0, t = 0} = \frac{\partial}{\partial s} M_{X, Y} (s, t) |_{s = 0, t = 0} \cdot \frac{\partial}{\partial t} M_{X, Y} (s, t) |_{s = 0, t = 0}

$\frac{\partial^2}{\partial s \partial t}M_{X,Y}(s,t)|_{s=0,t=0} = \frac{\partial}{\partial s} M_{X,Y}(s,t)|_{s=0,t=0} \cdot \frac{\partial}{\partial t} M_{X,Y}(s,t)|_{s=0,t=0}$

M_{X, Y} (s, t) = M_{X, Y} (s, 0) \cdot M_{X, Y} (0, t)

$M_{X,Y}(s,t)=M_{X,Y}(s,0) \cdot M_{X,Y}(0,t)$

— Silverfish

@Silverman Verificherei il concetto di subindipendenza , en.wikipedia.org/wiki/Subindependence , per vedere se questo problema può essere formulato in termini di funzioni generatrici del momento.

— Alecos Papadopoulos,