Statistiche e Big Data machine-learning

1

Come funziona lo studente di base lineare nel potenziamento? E come funziona nella libreria xgboost?

So implementare la funzione dell'obiettivo lineare e i boost lineari in XGBoost. La mia domanda concreta è: quando l'algoritmo si adatta al residuo (o al gradiente negativo) sta usando una caratteristica ad ogni passo (modello univariato) o tutte le caratteristiche (modello multivariato)? Qualsiasi riferimento alla documentazione relativa ai boost lineari …

9 regression machine-learning boosting xgboost

1

Quanto è efficiente il Q-learning con le reti neurali quando esiste un'unità di output per azione?

Contesto: sto usando l'approssimazione del valore Q della rete neurale nel mio compito di apprendimento di rinforzo. L'approccio è esattamente lo stesso di quello descritto in questa domanda , tuttavia la domanda stessa è diversa. In questo approccio il numero di risultati è il numero di azioni che possiamo intraprendere. …

9 machine-learning neural-networks reinforcement-learning q-learning

1

Quanti dati per l'apprendimento profondo?

Sto imparando il deep learning (in particolare le CNN) e come in genere richiede moltissimi dati per prevenire un eccesso di adattamento. Tuttavia, mi è stato anche detto che maggiore è la capacità / più parametri ha un modello, più dati sono necessari per evitare un eccesso di adattamento. Pertanto, …

9 machine-learning neural-networks deep-learning conv-neural-network

2

Prevedere la fiducia di una rete neurale

Supponiamo di voler formare una rete neurale profonda per eseguire la classificazione o la regressione, ma voglio sapere quanto sarà sicura la previsione. Come ho potuto raggiungere questo obiettivo? La mia idea è di calcolare l'entropia crociata per ogni dato di allenamento, in base alle sue prestazioni di previsione nei …

9 machine-learning neural-networks

1

Normalizzazione degli input per i neuroni ReLU

Secondo "Efficient Backprop" di LeCun et al (1998) è buona norma normalizzare tutti gli input in modo che siano centrati attorno a 0 e rientrino nell'intervallo della seconda derivata massima. Quindi, per esempio, useremmo [-0.5,0.5] per la funzione "Tanh". Questo per aiutare il progresso della retro-propagazione man mano che l'Assia …

9 machine-learning neural-networks normalization deep-learning multidimensional-scaling

2

Il collo di bottiglia nell'applicazione pratica del deep learning

Dopo aver letto molti articoli di deep learning, una sorta di sensazione approssimativa è che ci sono molti trucchi nell'allenamento della rete per ottenere prestazioni migliori del normale. Dal punto di vista delle applicazioni del settore, è molto difficile sviluppare questo tipo di trucchi, tranne quei gruppi di ricerca d'élite …

9 machine-learning deep-learning deep-belief-networks

1

I contorni

Presumo una configurazione generale di regressione, ovvero una funzione continua hθ:X→Rnhθ:X→Rnh_\theta:X\to \mathbb R^n viene scelta da una famiglia {hθ}θ{hθ}θ\{h_\theta\}_\theta per adattarsi ai dati dati (xi,yi)∈X×Rn,i=1,…,k(xi,yi)∈X×Rn,i=1,…,k(x_i,y_i)\in X\times \mathbb R^n, i=1,\ldots, k ( XXX può essere qualsiasi spazio come cubo [0,1]m[0,1]m[0,1]^m in effetti qualsiasi spazio topologico ragionevole) secondo alcuni criteri naturali. Esistono …

9 regression machine-learning multiple-regression

1

Perché la discesa gradiente prossimale invece di semplici metodi a gradiente inferiore per il lazo?

Stavo pensando di risolvere Lasso tramite metodi di laurea alla vaniglia. Ma ho letto persone che suggeriscono di usare la discesa gradiente prossimale. Qualcuno può evidenziare perché per il Lazo si possono usare i metodi GD prossimali anziché i metodi secondari alla vaniglia?

9 machine-learning optimization lasso gradient-descent

1

Impossibile far funzionare correttamente questa rete del codificatore automatico (con livelli convoluzionali e maxpool)

Le reti di autoencoder sembrano essere molto più complicate delle normali reti MLP classificatore. Dopo diversi tentativi di utilizzo di Lasagne, tutto ciò che ottengo nell'output ricostruito è qualcosa che assomiglia al meglio a una media sfocata di tutte le immagini del database MNIST senza distinzioni su cosa sia effettivamente …

9 machine-learning neural-networks dimensionality-reduction unsupervised-learning autoencoders

2

Quando si utilizzano SVM, perché devo ridimensionare le funzionalità?

Secondo la documentazione dell'oggetto StandardScaler in scikit-learn: Ad esempio, molti elementi utilizzati nella funzione obiettivo di un algoritmo di apprendimento (come il kernel RBF di Support Vector Machines o i regolarizzatori L1 e L2 dei modelli lineari) presuppongono che tutte le funzioni siano centrate attorno a 0 e abbiano una …

9 machine-learning svm standard-deviation mean references

1

Riconciliazione degli alberi di regressione potenziata (BRT), modelli potenziati generalizzati (GBM) e macchina per il potenziamento del gradiente (GBM)

Domande: Qual è la differenza (s) tra alberi di regressione potenziata (BRT) e modelli potenziati generalizzati (GBM)? Possono essere usati in modo intercambiabile? L'una è una forma specifica dell'altra? Perché Ridgeway ha usato la frase "Generalized Boosted Regression Models" (GBM), per descrivere ciò che Friedman aveva precedentemente proposto come "Gradient …

9 machine-learning boosting gbm

2

Stima degli errori out-of-bag per il boost?

In Random Forest, ogni albero viene cresciuto in parallelo su un unico esempio di boostrap dei dati. Poiché ci si aspetta che ogni campione di boostrap contenga circa il 63% di osservazioni uniche, questo lascia circa il 37% di osservazioni che possono essere utilizzate per testare l'albero. Ora, sembra che …

9 machine-learning cross-validation data-mining random-forest boosting

1

Come trovare e valutare la discretizzazione ottimale per la variabile continua con criterio

Ho un set di dati con variabile continua e una variabile di destinazione binaria (0 e 1). Devo discretizzare le variabili continue (per la regressione logistica) rispetto alla variabile target e con il vincolo che la frequenza di osservazione in ciascun intervallo dovrebbe essere bilanciata. Ho provato algoritmi di machine …

9 r machine-learning chi-squared discrete-data supervised-learning

2

Gli alberi CART acquisiscono interazioni tra i predittori?

Questo documento afferma che in CART, poiché una divisione binaria viene eseguita su una singola covariata ad ogni passaggio, tutte le divisioni sono ortogonali e quindi le interazioni tra covariate non sono considerate. Tuttavia, molti riferimenti molto seri sostengono, al contrario, che la struttura gerarchica di un albero garantisce che …

9 machine-learning classification data-mining cart

1

Quali sono le differenze tra i filtri appresi nell'autoencoder e nella rete neurale convoluzionale?

In CNN, impareremo i filtri per produrre una mappa delle caratteristiche nel livello convoluzionale. In Autoencoder, ciascuna singola unità nascosta di livello può essere considerata come filtro. Qual è la differenza tra i filtri appresi in queste due reti?

9 machine-learning neural-networks conv-neural-network autoencoders

Domande taggate «machine-learning»