Statistiche e Big Data gradient

2

Aumento gradiente per la regressione lineare: perché non funziona?

Durante l'apprendimento del Gradient Boosting, non ho sentito parlare di vincoli riguardanti le proprietà di un "classificatore debole" che il metodo utilizza per costruire e creare un modello. Tuttavia, non potevo immaginare un'applicazione di un GB che utilizza la regressione lineare, e infatti quando ho eseguito alcuni test, non funziona. …

35 regression machine-learning boosting ensemble gradient

1

L'aumento del gradiente è appropriato per i dati con tassi di eventi bassi come l'1%?

Sto provando a incrementare il gradiente su un set di dati con un tasso di eventi di circa l'1% utilizzando Enterprise miner, ma non riesce a produrre alcun output. La mia domanda è, dato che si tratta di un approccio basato sull'albero decisionale, è anche giusto usare il boost gradiente …

14 boosting unbalanced-classes rare-events gradient

2

Derivando il gradiente di una rete neurale a singolo strato dai suoi input, qual è l'operatore nella regola della catena?

Il problema è: Deriva il gradiente rispetto allo strato di input per una singola rete neurale a strato nascosto usando sigmoid per input -> nascosto, softmax per nascosto -> output, con una perdita di entropia incrociata. Posso superare gran parte della derivazione usando la regola della catena, ma non sono …

9 neural-networks gradient

1

Posso combinare molti alberi che aumentano il gradiente usando la tecnica dell'insacco

Basato su Gradient Boosting Tree vs Random Forest . GBDT e RF utilizzano strategie diverse per contrastare la distorsione e la variazione. La mia domanda è che posso ricampionare il set di dati (con la sostituzione) per addestrare più GBDT e combinare le loro previsioni come risultato finale? È equivalente …

8 random-forest cart boosting bagging gradient

Domande taggate «gradient»