Qual è la differenza tra PCA normale e PCA probabilistico?

So che il normale PCA non segue il modello probabilistico per i dati osservati. Qual è la differenza di base tra PCA e PPCA ? Nel modello di variabile latente PPCA contiene ad esempio le variabili osservate , latente (variabili non osservate ) e una matrice che non deve essere ortonormale come nel normale PCA. Un'altra differenza che posso pensare al normale PCA fornisce solo i componenti principali, in cui PPCA fornisce la distribuzione probabilistica dei dati. $y$ $x$ $W$

Qualcuno potrebbe per favore attraverso più luce sulle differenze tra PCA e PPCA?

pca

— Vendetta
fonte

Vedi qui .

— Ami Tavory,

+1. Vedi le mie risposte qui stats.stackexchange.com/questions/208731 e anche qui stats.stackexchange.com/questions/203087 . Hai letto le diapositive a cui ti sei collegato? Sembrano spiegare tutto in dettaglio. Riesci a seguire quell'esposizione o è troppo complicato?

— ameba dice di reintegrare Monica il

@amoeba, ho seguito le diapositive, ma ho alcune differenze. Non mi dà una chiara intuizione che cosa PPCA può fare che PCA non può fare? Cosa succede tecnicamente introducendo variabili latenti? La stima della covarianza come nel PPCA può essere fatta anche nel normale PCA? Se puoi aggiungere una risposta sarebbe davvero utile

— Vendetta,

@amoeba, Queste due domande hanno una risposta abbastanza buona. In particolare la domanda sul sottospazio principale nel PCA probabilistico. Questo mi dà più intuizione nel comprendere la stima dei componenti principali di W.

— Vendetta,

OK, proverò a postare una risposta, ma sono abbastanza impegnato in questi giorni. Cercherò di trovare il tempo questa settimana, ma potrei rimandarlo alla settimana prossima. (+1 a proposito)

— Ameba dice Reinstate Monica,

L'obiettivo di PPCA non è quello di fornire risultati migliori rispetto alla PCA, ma di consentire un'ampia gamma di estensioni e analisi future. Il documento afferma chiaramente alcuni dei vantaggi dell'introduzione, ad esempio:

"la definizione di una misura di probabilità consente un confronto con altre tecniche probabilistiche, facilitando nel contempo i test statistici e consentendo l'applicazione di modelli bayesiani".

I modelli bayesiani in particolare stanno vivendo un grande rinascimento ultimamente, ad esempio VAE, "Bayes variazionale a codifica automatica", https://arxiv.org/abs/1312.6114 . L'estensione della PCA per essere utilizzabile in quadri variazionali e simili ha il potenziale per un altro ricercatore di dire "Oh hey, e se lo facessi ...?"

— Hugh Perkins
fonte