Cosa si chiama esattamente "componente principale" in PCA?

Supponiamo è il vettore che massimizza la varianza della proiezione dei dati a matrice disegno . $u$ $X$

Ora, ho visto i materiali che fanno riferimento come il (primo) componente principale dei dati, che è anche il più grande autovettore con autovalore. $u$

Tuttavia, ho anche visto che il componente principale dei dati è . $X u$

Ovviamente, ed e sono cose diverse. Qualcuno può aiutarmi qui e dirmi qual è la differenza tra queste due definizioni dei componenti principali? $u$ $Xu$

pca terminology definition

— mynameisJEFF
fonte

L'autovettore u è la direzione dell'asse (i valori di u sono la direzione dei coseni rispetto agli assi originali). Xu sono i dati stessi, i valori del componente principale, le coordinate sull'asse sopra menzionato).

— ttnphns,

Hai assolutamente ragione nell'osservare che anche se (uno degli autovettori della matrice di covarianza, ad esempio il primo) e (proiezione dei dati sul sottospazio monodimensionale attraversato da ) sono due cose diverse, entrambe spesso vengono chiamati "componente principale", a volte anche nello stesso testo. $\mathbf{u}$ $\mathbf{X}\mathbf{u}$ $\mathbf{u}$

Nella maggior parte dei casi è chiaro dal contesto cosa si intende esattamente. In alcuni casi rari, tuttavia, può essere anche assai confusione, ad esempio quando alcune tecniche correlate (come sparso PCA o CCA) sono discusse, dove diverse direzioni non devono essere ortogonali. In questo caso un'affermazione come "componenti sono ortogonali" ha significati molto diversi a seconda che si riferisca ad assi o proiezioni. $\mathbf{u}_i$

Suggerirei di "asse principale" o "direzione principale" e "componente principale". $\mathbf{u}$ $\mathbf{X}\mathbf{u}$

Ho visto anche chiamato "vettore principale componente". $\mathbf u$

Devo dire che la convenzione alternativa è quella di chiamare "componente principale" e "punteggi delle componenti principali". $\mathbf u$ $\mathbf{Xu}$

Riepilogo delle due convenzioni:

\begin{array}{ccc} Convenzione 1 & Convenzione 2 \\ u & {\begin{cases} asse principale \\ direzione principale \\ vettore componente principale \end{cases} & componenti principali \\ X u & componenti principali & punteggi dei componenti principali \end{array}

$\begin{array}{c|c|c} & \text{Convention 1} & \text{Convention 2} \\ \hline \mathbf u & \begin{cases}\text{principal axis}\\ \text{principal direction}\\ \text{principal component vector}\end{cases} & \text{principal component} \\ \mathbf{Xu} & \text{principal component} & \text{principal component scores} \end{array}$

Nota: solo gli autovettori della matrice di covarianza corrispondenti a autovalori diversi da zero possono essere chiamati direzioni / componenti principali. Se la matrice di covarianza è di livello basso, avrà uno o più autovalori zero; gli autovettori corrispondenti (e le proiezioni corrispondenti che sono costanti zero) non devono essere chiamati direzioni / componenti principali. Vedi alcune discussioni nella mia risposta qui.

— ameba dice Reinstate Monica
fonte

La Convenzione 2 dovrebbe essere messa al bando. Ha la capacità di creare senza fine confusione per i principianti in quanto unisce vettori di base e componenti di vettori di dati rispetto alla base.

— congetture

che dire della definizione di Loadings? I caricamenti sono i singoli valori dell'autovettore u?

— Mak

@sera Vedi stats.stackexchange.com/questions/143905 e stats.stackexchange.com/questions/125684

— amoeba dice

@amoeba grazie! un'ultima domanda. In SVD, per X = USVh (Vh: V trasposto) se gli autovettori sono le colonne di U, allora posso chiamare Vh come caricamenti?

— Makis,

@sera No. Vedi stats.stackexchange.com/questions/134282

— amoeba dice