Scienza dei dati randomized-algorithms

1

Perché xgboost è molto più veloce di sklearn GradientBoostingClassifier?

Sto cercando di formare un modello di aumento gradiente su 50.000 esempi con 100 funzioni numeriche. XGBClassifiergestisce 500 alberi entro 43 secondi sulla mia macchina, mentre GradientBoostingClassifiergestisce solo 10 alberi (!) in 1 minuto e 2 secondi :( Non mi sono preoccupato di provare a far crescere 500 alberi perché …

29 scikit-learn xgboost gbm data-mining classification data-cleaning machine-learning reinforcement-learning data-mining bigdata dataset nlp language-model stanford-nlp machine-learning neural-network deep-learning randomized-algorithms machine-learning beginner career xgboost loss-function neural-network software-recommendation naive-bayes-classifier classification scikit-learn feature-selection r random-forest cross-validation data-mining python scikit-learn random-forest churn python clustering k-means machine-learning nlp sentiment-analysis machine-learning programming python scikit-learn nltk gensim visualization data csv neural-network deep-learning descriptive-statistics machine-learning supervised-learning text-mining orange data parameter-estimation python pandas scraping r clustering k-means unsupervised-learning

2

Perché l'inizializzazione di pesi e distorsioni dovrebbe essere scelta intorno a 0?

Ho letto questo: Per addestrare la nostra rete neurale, inizializzeremo ogni parametro W (l) ijWij (l) e ogni b (l) ibi (l) su un piccolo valore casuale vicino allo zero (diciamo secondo un normale (0, ϵ2) normale (0 , ϵ2) distribuzione per alcuni piccoli ϵϵ, diciamo 0.01) da Stanford Tutorial …

13 deep-learning stanford-nlp randomized-algorithms

1

COME: Inizializzazione del peso della rete neurale profonda

Dato il difficile compito di apprendimento (ad es. Alta dimensionalità, complessità intrinseca dei dati), le reti neurali profonde diventano difficili da addestrare. Per alleviare molti dei problemi si potrebbe: Normalizza && seleziona manualmente i dati di qualità scegliere un algoritmo di allenamento diverso (ad es. RMSprop invece di Discesa gradiente) …

10 machine-learning neural-network deep-learning randomized-algorithms

2

Qual è il metodo più efficiente per l'ottimizzazione dell'iperparametro in scikit-learn?

Una panoramica del processo di ottimizzazione dell'iperparametro in scikit-learn è qui . La ricerca esaustiva della griglia troverà il set ottimale di iperparametri per un modello. Il rovescio della medaglia è che la ricerca esaustiva della griglia è lenta. La ricerca casuale è più veloce della ricerca sulla griglia ma …

10 scikit-learn hyperparameter hyperparameter-tuning grid-search randomized-algorithms

Domande taggate «randomized-algorithms»