Esecuzione di PCA con solo una matrice di distanza

Voglio raggruppare un enorme set di dati per il quale ho solo le distanze a coppie. Ho implementato un algoritmo k-medoids, ma ci vuole troppo tempo per essere eseguito, quindi vorrei iniziare riducendo la dimensione del mio problema applicando PCA. Tuttavia, l'unico modo che conosco per eseguire questo metodo è utilizzare la matrice di covarianza che non ho nella mia situazione.

Esiste un modo per applicare la PCA conoscendo solo le distanze a coppie?

Aggiornamento: ho rimosso completamente la mia risposta originale, perché si basava su una confusione tra distanze euclidee e prodotti scalari. Questa è una nuova versione della mia risposta. Scuse.

Se per distanze a coppie intendi le distanze euclidee, allora sì, c'è un modo per eseguire la PCA e trovare i componenti principali. Descrivo l'algoritmo nella mia risposta alla seguente domanda: qual è la differenza tra l'analisi dei componenti principali e il ridimensionamento multidimensionale?

Molto brevemente, la matrice delle distanze euclidee può essere convertita in una matrice Gram centrata, che può essere utilizzata direttamente per eseguire la PCA tramite la composizione elettronica. Questa procedura è nota come scaling multidimensionale [classico] (MDS) .

Se le distanze a coppie non sono euclidee, non è possibile eseguire PCA, ma è comunque possibile eseguire MDS, che non sarà più equivalente a PCA. Tuttavia, in questa situazione è probabile che MDS sia ancora migliore per i tuoi scopi.

Esiste un PCA con una matrice di distanza, che si chiama ridimensionamento multidimensionale (MDS). Puoi saperne di più su Wikipedia o in questo libro .

Puoi farlo Rcon la funzione mds cmdscale. Per un campione x, puoi verificarlo prcomp(x)e cmdscale(dist(x))dare lo stesso risultato (dove prcompfa PCA e distcalcola solo le distanze euclidiche tra gli elementi di x)

Sembra un problema a cui potrebbe essere applicato il clustering spettrale. Poiché si dispone della matrice della distanza a coppie, è possibile definire un grafico completamente connesso in cui ogni nodo ha N connessioni, corrispondenti alla sua distanza da ogni altro nodo nel grafico. Da questo, puoi calcolare il grafico Laplacian (se sembra spaventoso, non preoccuparti - è un calcolo facile) e quindi prendere autovettori del più piccoloautovalori (questo è dove differisce da PCA). Se prendi 3 autovettori, ad esempio, avrai una matrice Nx3. In questo spazio, i punti dovrebbero (si spera) essere ben separati a causa di una certa teoria dei grafi che suggerisce che questo è un taglio ottimale per massimizzare il flusso (o la distanza, in questo caso) tra i cluster. Da lì, è possibile utilizzare un k-mean o un algoritmo simile per raggruppare in 3 spazi. Consiglio di dare un'occhiata a questa fantastica procedura dettagliata per ulteriori approfondimenti:

http://arxiv.org/abs/0711.0189

Le distanze a coppie formano anche una matrice quadrata proprio come la matrice di co-varianza. PCA è solo SVD ( http://en.wikipedia.org/wiki/Singular_value_decomposition ) applicato alla matrice di co-varianza. Dovresti comunque essere in grado di ridurre le dimensioni usando SVD sui tuoi dati. Non sono esattamente sicuro di come interpretare il tuo output ma è sicuramente qualcosa da provare. È possibile utilizzare metodi di clustering come k-mean o cluster gerarchico. Dai un'occhiata anche ad altre tecniche di riduzione dimensionale come il ridimensionamento multidimensionale. Cosa stai cercando di uscire dai tuoi cluster?