Il CCA tra due set di dati identici equivale al PCA in questo set di dati?

Leggendo Wikipedia sull'analisi di correlazione canonica (CCA) per due vettori casuali e , mi chiedevo se l'ansiosi componente principale (PCA) è la stessa di CCA quando ? $X$ $Y$ $X=Y$

pca multivariate-analysis canonical-correlation

— Tim
fonte

Per favore, chiarisci: 1) vectors X and YSono due variabili (colonne di dati) o due casi (righe); dato che eseguiremo le analisi delle variabili. 2) X and Y are the sameVolevi dire che X = Y o in qualche altro modo?

— ttnphns,

@ttnphns: 1) e sono due vettori casuali. Sono due vettori di variabili casuali, due serie di colonne di dati, non due casi (righe). 2) .

X

$X$

Y

$Y$

X = Y

$X=Y$

— Tim

Se ogni set è costituito da una singola variabile, c'è una correlazione canonica che è esattamente la Pearson r tra di loro; e CCA diventa regressione lineare di X per Y e viceversa. La decomposizione di quella r per mezzo di PCA è un po 'un'altra storia. PCA e CCA sono analisi diverse.

— ttnphns,

Ciao, @Tim, mi chiedo se la mia risposta sia stata utile o se hai ancora qualche domanda in più? In tal caso, sarei felice di chiarire.

— Amoeba,

@amoeba: Sì, lo è. Non ho ulteriori domande in questo momento e leggerò la tua risposta in seguito. Grazie per la tua risposta. + 1

— Tim

Lascia che sia e sia matrici di dati, che rappresentano due set di dati con campioni (ovvero osservazioni dei vettori di riga casuali e ) in ciascuno di essi. $\bf X$ $n\times p_1$ $\bf Y$ $n \times p_2$ $n$ $X$ $Y$

CCA cerca una combinazione lineare di variabili in e una combinazione lineare di variabili in tale che siano correlate al massimo tra loro; quindi cerca la coppia successiva, sotto un vincolo di zero correlazione con la prima coppia; eccetera. $p_1$ $\bf X$ $p_2$ $\bf Y$

Nel caso (e ), qualsiasi combinazione lineare in un set di dati avrà banalmente una correlazione con la stessa combinazione lineare in un altro set di dati. Quindi tutte le coppie CCA avranno correlazioni e l'ordine delle coppie è arbitrario. L'unico vincolo rimasto è che le combinazioni lineari dovrebbero essere non correlate tra loro. Esiste un numero infinito di modi per scegliere combinazioni lineari non correlate (si noti che i pesi non devono essere ortogonali nella $\mathbf{X} = \mathbf{Y}$ $p_1=p_2 = p$ $1$ $1$ $p$ $p$ spazio tridimensionale) e ciascuno di essi produrrà una soluzione CCA valida. Un modo in tal senso è dato dal PCA, poiché due PC qualsiasi hanno una correlazione zero.

Quindi la soluzione PCA sarà davvero una soluzione CCA valida, ma in questo caso esiste un numero infinito di soluzioni CCA equivalentemente buone.

Matematicamente, look CCA per destra ( ) e sinistro ( ) vettori singolari di , che in questo caso è uguale a , con qualsiasi vettore essere un autovettore . Quindi può essere arbitrario. CCA poi ottiene i pesi combinati lineari e $\mathbf a$ $\mathbf b$ $\mathbf C_{XX}^{-1/2} \mathbf C_{XY} \mathbf C_{YY}^{-1/2}$ $\mathbf I$ $\mathbf a=\mathbf b$ $\mathbf C_{XX}^{-1/2} \mathbf a$ $\mathbf C_{YY}^{-1/2} \mathbf b$ . In questo caso si riduce a prendere in modo arbitrario e trasformandola con , che sarà certamente produrre direzioni non correlate . $\mathbf C_{XX}^{-1/2}$

— ameba
fonte