Questa sarà una risposta non tecnica.
Hai ragione: il PCA è essenzialmente una rotazione degli assi delle coordinate, scelta in modo tale che ogni asse riuscito acquisisca la massima varianza possibile.
In alcune discipline (come ad esempio la psicologia), alle persone piace applicare la PCA per interpretare gli assi risultanti. Vale a dire che vogliono poter dire che l'asse principale n. 1 (che è una certa combinazione lineare di variabili originali) ha un significato particolare. Per indovinare questo significato, guarderebbero i pesi nella combinazione lineare. Tuttavia, questi pesi sono spesso disordinati e non è possibile distinguere alcun significato chiaro.
In questi casi, le persone a volte scelgono di armeggiare un po 'con la soluzione PCA alla vaniglia. Prendono un certo numero di assi principali (che sono considerati "significativi" da alcuni criteri) e li ruotano ulteriormente , cercando di ottenere una "struttura semplice", ovvero combinazioni lineari che sarebbero più facili da interpretare. Esistono algoritmi specifici che cercano la struttura più semplice possibile; uno di questi si chiama varimax. Dopo la rotazione di varimax, i componenti successivi non catturano più la varianza possibile! Questa funzionalità di PCA viene interrotta eseguendo la rotazione varimax aggiuntiva (o qualsiasi altra).
Quindi, prima di applicare la rotazione varimax, hai componenti principali "non ruotati". E successivamente, ottieni i componenti principali "ruotati". In altre parole, questa terminologia si riferisce alla post-elaborazione dei risultati PCA e non alla rotazione PCA stessa.
Tutto ciò è in qualche modo complicato dal fatto che ciò che viene ruotato sono i carichi e non gli assi principali in quanto tali. Tuttavia, per i dettagli matematici rimando te (e qualsiasi lettore interessato) alla mia lunga risposta qui: PCA è seguito da una rotazione (come varimax) è ancora PCA?