Statistiche e Big Data feature-selection

1

Analisi di sensibilità in reti neurali profonde

A seguito di una domanda a cui è già stata data risposta ( Estrazione dell'importanza del peso dalla rete di feed-forward a un livello ) Sto cercando un'inferenza sulla pertinenza degli input nelle reti neurali. Considerando una rete profonda, dove ricostruire l'importanza dell'input andando indietro attraverso gli strati dal nodo …

14 neural-networks python feature-selection sensitivity-analysis

1

Lazo bayesiano contro picco e lastra

Domanda: Quali sono i vantaggi / gli svantaggi dell'utilizzo di uno precedente rispetto all'altro per la selezione delle variabili? Se ho il rischio: dove posso mettere sia uno dei priori: w i ~ π delta 0 + ( 1 - π ) N ( 0 , 100 )y∼N(Xw,σ2I)y∼N(Xw,σ2I)y\sim\mathcal{N}(Xw,\sigma^2I) Oppure: w …

14 bayesian feature-selection

3

Perché le reti neurali necessitano di selezione / ingegneria delle caratteristiche?

Soprattutto nel contesto delle competizioni kaggle ho notato che le prestazioni del modello riguardano la selezione / ingegneria delle caratteristiche. Sebbene io possa comprendere appieno il motivo per cui si tratta degli algoritmi ML più convenzionali / di vecchia scuola, non vedo perché ciò avvenga quando si utilizzano reti neurali …

14 neural-networks deep-learning feature-selection feature-engineering

3

Come devono essere ordinate la selezione delle caratteristiche e l'ottimizzazione dell'iperparametro nella pipeline dell'apprendimento automatico?

Il mio obiettivo è classificare i segnali dei sensori. Finora il concetto della mia soluzione è: i) Funzionalità di ingegneria dal segnale non elaborato ii) Selezione di funzionalità rilevanti con ReliefF e un approccio di clustering iii) Applicazione di NN, Random Forest e SVM Tuttavia sono intrappolato in un dilemma. …

14 feature-selection hyperparameter optimization

2

Perché la migliore selezione di sottogruppi non è preferita rispetto al lazo?

Sto leggendo la migliore selezione di sottoinsiemi nel libro Elementi di apprendimento statistico. Se ho 3 predittori , creo sottoinsiemi:x1,x2,x3X1,X2,X3x_1,x_2,x_323=823=82^3=8 Sottoinsieme senza predittori sottoinsieme con predittorex1X1x_1 sottoinsieme con predittorex2X2x_2 sottoinsieme con predittorex3x3x_3 sottoinsieme con predittorix1,x2x1,x2x_1,x_2 sottoinsieme con predittorix1,x3x1,x3x_1,x_3 sottoinsieme con predittorix2,x3x2,x3x_2,x_3 sottoinsieme con predittorix1,x2,x3x1,x2,x3x_1,x_2,x_3 Quindi collaudo tutti questi modelli sui …

13 regression feature-selection lasso bias-variance-tradeoff

2

Approcci contrastanti alla selezione delle variabili: AIC, valori p o entrambi?

Da quanto ho capito, la selezione delle variabili basata su valori p (almeno nel contesto di regressione) è altamente imperfetta. Sembra che la selezione delle variabili basata su AIC (o simili) sia anche considerata imperfetta da alcuni, per ragioni simili, anche se questo sembra un po 'poco chiaro (ad esempio, …

13 hypothesis-testing multiple-regression feature-selection model-selection aic

2

Qual è la differenza tra la selezione delle funzioni e la riduzione della dimensionalità?

So che sia la selezione delle funzioni che la riduzione della dimensionalità mirano a ridurre il numero di funzioni nel set di funzioni originale. Qual è la differenza esatta tra i due se stiamo facendo la stessa cosa in entrambi?

13 machine-learning pca feature-selection dimensionality-reduction

2

Se p> n, il lazo seleziona al massimo n variabili

Una delle motivazioni per la rete elastica è stata la seguente limitazione di LASSO: Nel p>np>np > n caso , il lazo seleziona al massimo n variabili prima di saturare, a causa della natura del problema di ottimizzazione convessa. Questa sembra essere una funzione limitante per un metodo di selezione …

13 regression optimization feature-selection lasso

1

In Random Forest, perché un sottoinsieme casuale di funzionalità viene scelto a livello di nodo anziché a livello di albero?

La mia domanda: Perché la foresta casuale considera sottoinsiemi casuali di funzioni da suddividere a livello di nodo all'interno di ciascun albero anziché a livello di albero ? Sfondo: questa è una questione di storia. Tin Kam Ho pubblicato questo articolo sulla costruzione di "foreste" decision selezionando in modo casuale …

13 machine-learning feature-selection random-forest importance history

2

Ci sono circostanze in cui si dovrebbe usare la regressione graduale?

La regressione graduale era stata abusata in molti articoli biomedici in passato, ma questo sembra migliorare con una migliore educazione dei suoi numerosi problemi. Molti revisori più anziani tuttavia lo richiedono ancora. Quali sono le circostanze in cui la regressione graduale ha un ruolo e dovrebbe essere utilizzata, se presente?

13 regression multiple-regression feature-selection model-selection stepwise-regression

2

Perché usare il lazo di gruppo anziché il lazo?

Ho letto che il lazo di gruppo viene utilizzato per la selezione delle variabili e la scarsità in un gruppo di variabili. Voglio conoscere l'intuizione dietro questa affermazione. Perché il lazo di gruppo è preferito al lazo? Perché il percorso della soluzione lazo di gruppo non è lineare a tratti?

13 regression feature-selection lasso regularization

1

Spiegare i passaggi dell'algoritmo LLE (local linear embedding)?

Comprendo che il principio di base dietro l'algoritmo per LLE consiste in tre passaggi. Individuazione del vicinato di ciascun punto dati mediante una metrica come k-nn. Trova pesi per ciascun vicino che denotano l'effetto che il vicino ha sul punto dati. Costruire l'incorporamento a bassa dimensione dei dati in base …

13 machine-learning model-selection feature-selection dimensionality-reduction nonlinear

2

Quando LASSO seleziona predittori correlati?

Sto usando il pacchetto 'lars' in R con il seguente codice: > library(lars) > set.seed(3) > n <- 1000 > x1 <- rnorm(n) > x2 <- x1+rnorm(n)*0.5 > x3 <- rnorm(n) > x4 <- rnorm(n) > x5 <- rexp(n) > y <- 5*x1 + 4*x2 + 2*x3 + 7*x4 + …

13 correlation feature-selection lasso regularization ridge-regression

2

Trovare le migliori caratteristiche nei modelli di interazione

Ho un elenco di proteine con i loro valori caratteristici. Una tabella di esempio è simile alla seguente: ...............Feature1...Feature2...Feature3...Feature4 Protein1 Protein2 Protein3 Protein4 Le righe sono proteine e le colonne sono caratteristiche. Ho anche un elenco di proteine che interagiscono pure; per esempio Protein3, Protein4 Protein1, Protein2 Protein4, Protein1 Problema …

13 machine-learning statistical-significance feature-selection networks

3

Clustering distribuzioni di probabilità - metodi e metriche?

Ho alcuni punti dati, ognuno contenente 5 vettori di risultati discreti agglomerati, i risultati di ogni vettore generati da una diversa distribuzione (il tipo specifico di cui non sono sicuro, la mia ipotesi migliore è Weibull, con parametri di forma che variano da qualche parte attorno all'esponenziale alla potenza legge …

13 distributions clustering feature-selection kolmogorov-smirnov k-means

Domande taggate «feature-selection»