Statistiche e Big Data ensemble

4

La metodologia della foresta casuale può essere applicata alle regressioni lineari?

Le foreste casuali funzionano creando un insieme di alberi decisionali in cui ogni albero viene creato utilizzando un campione bootstrap dei dati di addestramento originali (campione di variabili di input e osservazioni). È possibile applicare un processo simile per la regressione lineare? Crea k modelli di regressione lineare usando un …

14 regression predictive-models ensemble

1

Utilizzo di LASSO su foreste casuali

Vorrei creare una foresta casuale usando il seguente processo: Costruisci un albero su un campione casuale di dati e caratteristiche usando il guadagno delle informazioni per determinare le divisioni Terminare un nodo foglia se supera una profondità predefinita O qualsiasi divisione comporterebbe un conteggio delle foglie inferiore a un minimo …

14 classification random-forest lasso ensemble

1

Perché non usare sempre l'apprendimento d'insieme?

Mi sembra che l'apprendimento d'insieme fornirà sempre migliori prestazioni predittive rispetto a una singola ipotesi di apprendimento. Quindi, perché non li usiamo sempre? La mia ipotesi è forse a causa di limitazioni computazionali? (anche allora, usiamo predittori deboli, quindi non lo so).

13 boosting ensemble bagging

6

Risorse per l'apprendimento di come implementare metodi di ensemble

Comprendo teoricamente (in un certo senso) come funzionerebbero, ma non sono sicuro di come utilizzare effettivamente un metodo di ensemble (come voto, miscele ponderate, ecc.). Quali sono le buone risorse per l'implementazione dei metodi di ensemble? Ci sono risorse particolari per quanto riguarda l'implementazione in Python? MODIFICARE: Per chiarire alcuni …

13 machine-learning python ensemble

2

C'è qualche problema teorico con la media dei coefficienti di regressione per costruire un modello?

Voglio costruire un modello di regressione che è una media di più modelli OLS, ciascuno basato su un sottoinsieme dei dati completi. L'idea alla base di questo è basata su questo documento . Creo k pieghe e costruisco k modelli OLS, ognuno sui dati senza una delle pieghe. Quindi faccio …

13 regression least-squares ensemble

3

Modello di serie storiche dell'insieme

Devo automatizzare la previsione delle serie storiche e non conosco in anticipo le funzionalità di tali serie (stagionalità, tendenza, rumore, ecc.). Il mio obiettivo non è quello di ottenere il miglior modello possibile per ogni serie, ma di evitare modelli piuttosto cattivi. In altre parole, ottenere piccoli errori ogni volta …

13 time-series forecasting arima ensemble exponential-smoothing

1

In che modo l'aumento del gradiente calcola le stime di probabilità?

Ho cercato di capire l'incremento del gradiente leggendo vari blog, siti Web e cercando di trovare la mia risposta cercando ad esempio il codice sorgente XGBoost. Tuttavia, non riesco a trovare una spiegazione comprensibile di come gli algoritmi di aumento gradiente producano stime di probabilità. Quindi, come calcolano le probabilità?

12 machine-learning classification boosting ensemble xgboost

1

Apprendimento d'insieme: perché lo stacking dei modelli è efficace?

Di recente mi sono interessato al raggruppamento di modelli come forma di apprendimento dell'ensemble. In particolare, ho sperimentato un po 'con alcuni set di dati giocattolo per problemi di regressione. Ho praticamente implementato singoli regressori di "livello 0", memorizzato le previsioni di output di ciascun regressore come una nuova funzionalità …

11 machine-learning ensemble stacking

3

Limiti ai metodi di ensemble basati su alberi in piccoli problemi n, grandi p?

Metodi di ensemble basati su alberi come Random Forest e derivati successivi (ad esempio, foresta condizionale), tutti pretendono di essere utili nei cosiddetti problemi "small n , large p ", per identificare l'importanza della variabile relativa. In effetti, questo sembra essere il caso, ma la mia domanda è fino a …

10 random-forest small-sample ensemble

1

Come confrontare gli eventi osservati con quelli previsti?

Supponiamo di avere un campione di frequenze di 4 possibili eventi: Event1 - 5 E2 - 1 E3 - 0 E4 - 12 e ho le probabilità attese dei miei eventi: p1 - 0.2 p2 - 0.1 p3 - 0.1 p4 - 0.6 Con la somma delle frequenze osservate dei …

9 r statistical-significance chi-squared multivariate-analysis exponential joint-distribution statistical-significance self-study standard-deviation probability normal-distribution spss interpretation assumptions cox-model reporting cox-model statistical-significance reliability method-comparison classification boosting ensemble adaboost confidence-interval cross-validation prediction prediction-interval regression machine-learning svm regularization regression sampling survey probit matlab feature-selection information-theory mutual-information time-series forecasting simulation classification boosting ensemble adaboost normal-distribution multivariate-analysis covariance gini clustering text-mining distance-functions information-retrieval similarities regression logistic stata group-differences r anova confidence-interval repeated-measures r logistic lme4-nlme inference fiducial kalman-filter classification discriminant-analysis linear-algebra computing statistical-significance time-series panel-data missing-data uncertainty probability multivariate-analysis r classification spss k-means discriminant-analysis poisson-distribution average r random-forest importance probability conditional-probability distributions standard-deviation time-series machine-learning online forecasting r pca dataset data-visualization bayes distributions mathematical-statistics degrees-of-freedom

1

voto duro, voto morbido nei metodi basati su ensemble

Sto leggendo l' apprendimento automatico pratico con Scikit-Learn e TensorFlow: concetti, strumenti e tecniche per costruire sistemi intelligenti . Quindi non sono in grado di capire la differenza tra voto duro e voto morbido nel contesto di metodi basati su ensemble. Cito le loro descrizioni dal libro. Le prime due …

9 machine-learning ensemble

Domande taggate «ensemble»