Statistiche e Big Data svd

3

Relazione tra SVD e PCA. Come usare SVD per eseguire PCA?

L'analisi dei componenti principali (PCA) viene di solito spiegata tramite una decomposizione degli automi della matrice di covarianza. Tuttavia, può anche essere eseguita mediante decomposizione in valori singolari (SVD) della matrice dati . Come funziona? Qual è la connessione tra questi due approcci? Qual è la relazione tra SVD e …

352 pca dimensionality-reduction matrix svd

1

Come invertire PCA e ricostruire variabili originali da diversi componenti principali?

L'analisi dei componenti principali (PCA) può essere utilizzata per la riduzione della dimensionalità. Dopo aver eseguito tale riduzione di dimensionalità, come si può ricostruire approssimativamente le variabili / caratteristiche originali da un piccolo numero di componenti principali? In alternativa, come si possono rimuovere o eliminare diversi componenti principali dai dati? …

113 pca dimensionality-reduction svd

3

Un esempio: regressione di LASSO utilizzando glmnet per il risultato binario

Sto iniziando a dilettarsi con l'uso di glmnetcon LASSO Regressione dove il mio risultato di interesse è dicotomica. Di seguito ho creato un piccolo frame di dati finti: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) …

78 r self-study lasso regression interpretation anova statistical-significance survey conditional-probability independence naive-bayes graphical-model r time-series forecasting arima r forecasting exponential-smoothing bootstrap outliers r regression poisson-distribution zero-inflation genetic-algorithms machine-learning feature-selection cart categorical-data interpretation descriptive-statistics variance multivariate-analysis covariance-matrix r data-visualization generalized-linear-model binomial proportion pca matlab svd time-series correlation spss arima chi-squared curve-fitting text-mining zipf probability categorical-data distance group-differences bhattacharyya regression variance mean data-visualization variance clustering r standard-error association-measure somers-d normal-distribution integral numerical-integration bayesian clustering python pymc nonparametric-bayes machine-learning svm kernel-trick hyperparameter poisson-distribution mean continuous-data univariate missing-data dag python likelihood dirichlet-distribution r anova hypothesis-testing statistical-significance p-value rating data-imputation censoring threshold

3

Qual è l'intuizione dietro SVD?

Ho letto della decomposizione a valore singolare (SVD). In quasi tutti i libri di testo viene menzionato il fatto che fattorizza la matrice in tre matrici con specifiche specificate. Ma qual è l'intuizione dietro la divisione della matrice in tale forma? PCA e altri algoritmi per la riduzione della dimensionalità …

50 matrix linear-algebra svd intuition

1

Analisi PCA e corrispondenza nella loro relazione con il biplot

Il biplot viene spesso utilizzato per visualizzare i risultati dell'analisi dei componenti principali (e delle relative tecniche). È un grafico a dispersione doppio o overlay che mostra i caricamenti e i punteggi dei componenti contemporaneamente. Oggi sono stato informato da @amoeba che ha dato una risposta partendo dal mio commento …

38 pca multivariate-analysis svd correspondence-analysis biplot

2

Teoria dietro la regressione parziale dei minimi quadrati

Qualcuno può raccomandare una buona esposizione della teoria alla base della regressione dei minimi quadrati parziali (disponibile online) per qualcuno che capisce SVD e PCA? Ho esaminato molte fonti online e non ho trovato nulla che avesse la giusta combinazione di rigore e accessibilità. Ho esaminato The Elements of Statistical …

33 regression references regularization svd partial-least-squares

1

Riduzione della dimensionalità (SVD o PCA) su una matrice ampia e sparsa

/ modifica: ulteriori follow-up ora è possibile utilizzare irlba :: prcomp_irlba / modifica: follow-up sul mio post. irlbaora ha argomenti "center" e "scale", che ti permettono di usarlo per calcolare i componenti principali, ad esempio: pc <- M %*% irlba(M, nv=5, nu=0, center=colMeans(M), right_only=TRUE)$v Ho una vasta gamma Matrixdi funzioni …

31 r pca dimensionality-reduction svd matrix-decomposition

1

In che modo il centraggio fa la differenza nel PCA (per la decomposizione di SVD ed autovene)?

Qual è la differenza nel centrare (o decifrare) i tuoi dati per PCA? Ho sentito che semplifica la matematica o che impedisce al primo PC di essere dominato dai mezzi delle variabili, ma mi sento come se non fossi ancora riuscito a cogliere fermamente il concetto. Ad esempio, la risposta …

30 r pca svd eigenvalues centering

5

Come si usa SVD nel filtro collaborativo?

Sono un po 'confuso da come viene utilizzato SVD nel filtro collaborativo. Supponiamo di avere un grafico sociale e di costruire una matrice di adiacenza dai bordi, quindi prendere un SVD (dimentichiamoci di regolarizzazione, tassi di apprendimento, ottimizzazioni di sparsità, ecc.), Come posso usare questo SVD per migliorare i miei …

30 svd recommender-system

1

La SVD della matrice correlata dovrebbe essere additiva ma non sembra esserlo

Sto solo cercando di replicare un reclamo fatto nel seguente documento, Trovare i ciclotteri correlati dai dati di espressione genica , che è: Proposta 4. Se . Poi abbiamo:XioJ= RioCTJXIJ=RICJTX_{IJ}=R_{I}C^{T}_{J} io. Se è un ciclista perfetto con modello additivo, allora è un ciclista perfetto con correlazione su colonne; ii. Se …

29 correlation multivariate-analysis svd

4

Perché Andrew Ng preferisce utilizzare SVD e non EIG della matrice di covarianza per fare PCA?

Sto studiando PCA dal corso Coursera di Andrew Ng e altri materiali. Nel primo incarico di Stanford sulla PNL cs224n , e nel video della lezione di Andrew Ng , fanno una scomposizione di valore singolare invece della decomposizione di autovettori della matrice di covarianza, e Ng dice persino che …

29 pca linear-algebra svd eigenvalues numerics

1

Quale norma dell'errore di ricostruzione è minimizzata dalla matrice di approssimazione di basso rango ottenuta con PCA?

Dato un PCA (o SVD) ravvicinamento delle matrici XXX con una matrice X , sappiamo che X è la migliore approssimazione basso rango di X .X^X^\hat XX^X^\hat XXXX È questo secondo la norma ∥ ⋅ ∥ 2 indotta∥⋅∥2∥⋅∥2\parallel \cdot \parallel_2 (ovvero la più grande norma sugli autovalori) o secondo la …

26 pca svd matrix-decomposition

2

Perché l'LDA di Python-scikit-learning non funziona correttamente e come calcola l'LDA tramite SVD?

Stavo usando Linear Discriminant Analysis (LDA) dalla scikit-learnlibreria di machine learning (Python) per la riduzione della dimensionalità ed ero un po 'curioso dei risultati. Mi chiedo ora cosa scikit-learnstia facendo l'ADL in modo che i risultati appaiano diversi, ad esempio, da un approccio manuale o da un ADL fatto in …

26 python scikit-learn dimensionality-reduction discriminant-analysis svd

2

Come calcolare SVD di una matrice sparsa enorme?

Qual è il modo migliore per calcolare la decomposizione a valore singolare (SVD) di una matrice positiva molto grande (65 M x 3,4 M) in cui i dati sono estremamente scarsi? Meno dello 0,1% della matrice è diverso da zero. Ho bisogno di un modo che: andrà bene nella memoria …

26 svd numerics

7

Test per la dipendenza lineare tra le colonne di una matrice

Ho una matrice di correlazione dei ritorni di sicurezza il cui determinante è zero. (Questo è un po 'sorprendente poiché la matrice di correlazione del campione e la matrice di covarianza corrispondente dovrebbero teoricamente essere definite positive.) La mia ipotesi è che almeno un titolo dipenda linearmente da altri titoli. …

26 r correlation pca linear-model svd

Domande taggate «svd»