Quali sono i componenti principali "ruotati" e "non ruotati", dato che PCA ruota sempre gli assi delle coordinate?


13

Per quanto ho capito, i componenti principali sono ottenuti ruotando gli assi delle coordinate per allinearli con le direzioni della massima varianza.

Ciononostante, continuo a leggere "componenti principali non ruotati" e il mio software di statistica (SAS) mi offre componenti principali ruotati in varimax e quelli non ruotati. Qui sono confuso: quando calcoliamo i componenti principali, gli assi sono già ruotati; quindi perché è necessaria un'altra rotazione? E cosa significa "componente principale non ruotato"?


1
Le domande esclusivamente su come funziona il software sono fuori tema qui, ma potresti avere una vera domanda statistica sepolta qui. Potresti voler modificare la tua domanda per chiarire il problema statistico sottostante. Potresti scoprire che quando comprendi i concetti statistici coinvolti, gli elementi specifici del software sono evidenti o almeno facili da ottenere dalla documentazione.
gung - Ripristina Monica

1
@gung - La mia domanda non riguarda il software. Può essere che l'ho posizionato in modo errato. Tutto quello che volevo sapere è che, secondo la mia comprensione, otteniamo i componenti principali solo quando ruotiamo gli assi nella linea di massima varianza. Quindi cos'è il componente principale non ruotato, un termine che ho trovato in varie pagine che spiegano PCA. Fammi sapere se la mia domanda è ancora ambigua.
Srewashi Lahiri,

Certamente sembra come se fosse su SAS. In caso contrario, modificherei la tua Q per rimuovere i riferimenti a SAS e spiegare nuovamente la tua domanda in termini neutrali rispetto al software. Potresti anche essere interessato a leggere questa discussione .
gung - Ripristina Monica

Ho citato SAS perché stavo eseguendo l'analisi in quel software. Anche se sconti la parola, puoi semplicemente fornirmi una spiegazione alla mia versione modificata della domanda. Inoltre ho passato il filo. Gentilmente correggimi se sbaglio. Quando calcoliamo i componenti principali, significa che gli assi sono già ruotati. Quindi non è necessaria un'altra notazione varimax. È così? Sono davvero confuso su questa parte.
Mille

2
Srewashi, mi sono preso la libertà di riscrivere sostanzialmente la tua domanda in base ai tuoi chiarimenti nei commenti. Penso che sia una buona domanda, +1. Verifica che le mie modifiche riflettano le tue intenzioni! Puoi sempre modificarne di più. Cc a @gung.
ameba dice Reinstate Monica il

Risposte:


15

Questa sarà una risposta non tecnica.

Hai ragione: il PCA è essenzialmente una rotazione degli assi delle coordinate, scelta in modo tale che ogni asse riuscito acquisisca la massima varianza possibile.

In alcune discipline (come ad esempio la psicologia), alle persone piace applicare la PCA per interpretare gli assi risultanti. Vale a dire che vogliono poter dire che l'asse principale n. 1 (che è una certa combinazione lineare di variabili originali) ha un significato particolare. Per indovinare questo significato, guarderebbero i pesi nella combinazione lineare. Tuttavia, questi pesi sono spesso disordinati e non è possibile distinguere alcun significato chiaro.

In questi casi, le persone a volte scelgono di armeggiare un po 'con la soluzione PCA alla vaniglia. Prendono un certo numero di assi principali (che sono considerati "significativi" da alcuni criteri) e li ruotano ulteriormente , cercando di ottenere una "struttura semplice", ovvero combinazioni lineari che sarebbero più facili da interpretare. Esistono algoritmi specifici che cercano la struttura più semplice possibile; uno di questi si chiama varimax. Dopo la rotazione di varimax, i componenti successivi non catturano più la varianza possibile! Questa funzionalità di PCA viene interrotta eseguendo la rotazione varimax aggiuntiva (o qualsiasi altra).

Quindi, prima di applicare la rotazione varimax, hai componenti principali "non ruotati". E successivamente, ottieni i componenti principali "ruotati". In altre parole, questa terminologia si riferisce alla post-elaborazione dei risultati PCA e non alla rotazione PCA stessa.


Tutto ciò è in qualche modo complicato dal fatto che ciò che viene ruotato sono i carichi e non gli assi principali in quanto tali. Tuttavia, per i dettagli matematici rimando te (e qualsiasi lettore interessato) alla mia lunga risposta qui: PCA è seguito da una rotazione (come varimax) è ancora PCA?


Non ho ancora trovato una spiegazione migliore e più chiara. Ho anche esaminato l'altro link che hai fornito, ma devo ancora decifrarlo per intero. Se ho capito bene, i componenti principali non ruotati sono già ortogonali e non correlati. Qui ho un po 'di confusione: poiché i PC corrispondono alla varianza massima successiva, è necessario che dopo che sia stato trovato il primo PC, la seconda linea di varianza massima (secondo PC) sarà a 90 gradi (ortogonale) rispetto al primo e così via ?
Srewashi Lahiri,

Proprio così: i componenti principali "non ruotati" non sono correlati e gli assi principali "non ruotati" sono ortogonali. E sì, è necessario che gli assi principali successivi siano componenti ortogonali e principali non correlati ai precedenti (uno può dimostrarlo matematicamente). A proposito, se pensi che questa (o qualsiasi altra) risposta risolva il problema per te, puoi "accettarlo" facendo clic sul segno di spunta verde a sinistra. Una volta raggiunta la reputazione di 15, sarai anche in grado di valutare le risposte che ritieni utili (penso che attualmente non sei in grado di votare nessuna risposta).
ameba dice Ripristina Monica il

+1. what gets rotated are loadings and not principal axes as suchVorrei aggiungere che questa è una nozione tecnica. Teoricamente, questi due tipi di rotazione sono giustapposti. In PCA ruotiamo per trovare la base ortogonale specifica (quella con la trama più ripida degli autovalori). In varimax, ruotiamo per trovare un'altra base ortogonale specifica (con la struttura più intercettabile). Potremmo fare qualsiasi tipo di base ortogonale.
ttnphns,

Se possibile, puoi spiegarlo in parole povere che cosa significa pc non ruotato?
sai_636,

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.