Statistiche e Big Data numerics

6

Quale algoritmo viene utilizzato nella regressione lineare?

Di solito sento parlare di "minimi quadrati ordinari". È l'algoritmo più utilizzato per la regressione lineare? Ci sono motivi per usarne uno diverso?

42 regression least-squares algorithms computational-statistics numerics

4

Perché Andrew Ng preferisce utilizzare SVD e non EIG della matrice di covarianza per fare PCA?

Sto studiando PCA dal corso Coursera di Andrew Ng e altri materiali. Nel primo incarico di Stanford sulla PNL cs224n , e nel video della lezione di Andrew Ng , fanno una scomposizione di valore singolare invece della decomposizione di autovettori della matrice di covarianza, e Ng dice persino che …

29 pca linear-algebra svd eigenvalues numerics

2

Come calcolare SVD di una matrice sparsa enorme?

Qual è il modo migliore per calcolare la decomposizione a valore singolare (SVD) di una matrice positiva molto grande (65 M x 3,4 M) in cui i dati sono estremamente scarsi? Meno dello 0,1% della matrice è diverso da zero. Ho bisogno di un modo che: andrà bene nella memoria …

26 svd numerics

3

Strane correlazioni nei risultati SVD di dati casuali; hanno una spiegazione matematica o è un bug LAPACK?

Osservo un comportamento molto strano nel risultato SVD di dati casuali, che posso riprodurre sia in Matlab che in R. Sembra un problema numerico nella libreria LAPACK; è? Traccio n=1000n=1000n=1000 campioni dal k=2k=2k=2 gaussiano dimensionale con zero covarianza di identità e media: X∼N(0,I)X∼N(0,I)X\sim \mathcal N (0, \mathbf I) . Li …

21 pca svd linear-algebra numerics

5

Articoli essenziali sulle decomposizioni matriciali

Di recente ho letto il libro di Skillicorn sulle scomposizioni matriciali ed ero un po 'deluso, poiché era destinato a un pubblico universitario. Vorrei compilare (per me e per gli altri) una breve bibliografia di articoli essenziali (sondaggi, ma anche articoli innovativi) sulle decomposizioni matriciali. Quello che ho in mente …

18 matrix-decomposition svd numerics

1

Aggiornamento della decomposizione SVD dopo aver aggiunto una nuova riga alla matrice

Supponiamo di avere una matrice densa di dimensioni , con decomposizione SVDIn posso calcolare la SVD come segue: .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Se una nuova riga viene aggiunta a , si può calcolare la nuova decomposizione SVD sulla base di quella vecchia (cioè usando , e ), senza ricalcolare SVD …

17 algorithms svd linear-algebra matrix-decomposition numerics

1

Quali sono gli algoritmi efficienti per calcolare la decomposizione del valore singolare (SVD)?

L'articolo di Wikipedia sull'analisi dei componenti principali afferma che Esistono algoritmi efficienti per calcolare l'SVD di senza dover formare la matrice , quindi il calcolo dell'SVD è ora il modo standard per calcolare un'analisi dei componenti principali da una matrice di dati, a meno che non sia necessaria solo una …

17 pca algorithms svd numerics

3

Quali algoritmi veloci esistono per il calcolo dell'SVD troncato?

Forse fuori tema qui, ma esistono già diverse ( una , due ) domande correlate. Frugando in letteratura (o una ricerca su google per algoritmi SVD troncati ) si presentano molti documenti che usano SVD troncati in vari modi e affermano (frustrantemente, spesso senza citazione) che ci sono algoritmi veloci …

14 algorithms svd numerics

1

L'ottimizzatore lme4 predefinito richiede molte iterazioni per dati ad alta dimensione

TL; DR: l' lme4ottimizzazione sembra essere lineare nel numero di parametri del modello per impostazione predefinita ed è molto più lenta di un glmmodello equivalente con variabili fittizie per gruppi. C'è qualcosa che posso fare per accelerarlo? Sto cercando di adattare un modello logit gerarchico abbastanza grande (~ 50k righe, …

12 r mixed-model optimization lme4-nlme numerics

2

Divergenza di Kullback-Leibler per due campioni

Ho cercato di implementare una stima numerica della divergenza di Kullback-Leibler per due campioni. Per eseguire il debug dell'implementazione, estrarre i campioni da due distribuzioni normali e .N(0,1)N(0,1)\mathcal N (0,1)N(1,2)N(1,2)\mathcal N (1,2) Per una semplice stima ho generato due istogrammi e ho provato ad approssimare numericamente l'integrale. Mi sono bloccato …

10 estimation intuition kullback-leibler numerics

3

Approccio ed esempio di clustering dei grafici in "R"

Sto cercando di raggruppare / unire i nodi in un grafico usando il clustering dei grafici in 'r'. Ecco una variazione incredibilmente giocattolo del mio problema. Esistono due "cluster" C'è un "ponte" che collega i cluster Ecco una rete candidata: Quando guardo la distanza di connessione, il "hopcount", se vuoi, …

10 r clustering data-visualization numerics

Domande taggate «numerics»