Domande taggate «overfitting»

L'errore di modellazione (in particolare l'errore di campionamento) anziché le relazioni replicabili e informative tra le variabili migliora le statistiche di adattamento del modello, ma riduce la parsimonia e peggiora la validità esplicativa e predittiva.

Definizione matematica / algoritmica per overfitting

Esiste una definizione matematica o algoritmica di overfitting? Spesso le definizioni fornite sono il classico diagramma 2D di punti con una linea che attraversa ogni singolo punto e la curva di perdita di validazione sale improvvisamente. Ma esiste una definizione matematicamente rigorosa?

18 mathematical-statistics optimization overfitting

La convalida incrociata è sufficiente per evitare un eccesso di adattamento?

Se ho un dato ed eseguo una classificazione (diciamo foresta casuale su questi dati) con convalida incrociata (diciamo 5 volte), potrei concludere che non c'è adattamento eccessivo nel mio metodo?

17 cross-validation overfitting

La classifica privata di Kaggle è un buon predittore delle prestazioni fuori campione del modello vincitore?

Sebbene i risultati del set di test privato non possano essere utilizzati per perfezionare ulteriormente il modello, la selezione del modello su un numero enorme di modelli non viene eseguita in base ai risultati del set di test privato? Non riusciresti, con quel solo processo, a finire con il sovradimensionamento …

16 model-selection overfitting out-of-sample

Nella teoria dell'apprendimento statistico, non c'è un problema di overfitting su un set di test?

Consideriamo il problema relativo alla classificazione del set di dati MNIST. Secondo la pagina MNIST di Yann LeCun , "Ciresan et al." ha ottenuto un tasso di errore dello 0,23% sul set di test MNIST utilizzando la rete neurale convoluzionale. Indichiamo l'allenamento MNIST impostato come , il test MNIST impostato …

16 machine-learning classification overfitting probability-inequalities

Trattare con singolare vestibilità in modelli misti

Diciamo che abbiamo un modello mod <- Y ~ X*Condition + (X*Condition|subject) # Y = logit variable # X = continuous variable # Condition = values A and B, dummy coded; the design is repeated # so all participants go through both Conditions # subject = random effects for different …

16 mixed-model lme4-nlme overfitting singular

L'errore Out of Bag rende il CV non necessario nelle foreste casuali?

Sono abbastanza nuovo per le foreste casuali. In passato, ho sempre confrontato l'accuratezza di adattamento vs test rispetto a adattamento vs treno per rilevare eventuali eccessi. Ma ho appena letto qui che: "Nelle foreste casuali, non è necessaria la convalida incrociata o un set di test separato per ottenere una …

15 cross-validation random-forest overfitting

Quale misura dell'errore di addestramento segnalare per le foreste casuali?

Attualmente sto adattando foreste casuali per un problema di classificazione usando il randomForestpacchetto in R, e non sono sicuro su come segnalare errori di addestramento per questi modelli. Il mio errore di allenamento è vicino allo 0% quando lo calcolo usando le previsioni che ottengo con il comando: predict(model, data=X_train) …

15 r machine-learning classification random-forest overfitting

Ottimizzazione: la radice di tutto il male nelle statistiche?

Ho già sentito la seguente espressione: "L'ottimizzazione è la radice di ogni male nelle statistiche". Ad esempio, la risposta migliore in questa discussione fa questa affermazione in riferimento al pericolo di ottimizzazione troppo aggressiva durante la selezione del modello. La mia prima domanda è la seguente: questa citazione è attribuibile …

14 cross-validation optimization overfitting

Come rilevare quando un modello di regressione è troppo in forma?

Quando sei tu a fare il lavoro, essendo consapevole di ciò che stai facendo, sviluppi la sensazione di quando hai adattato troppo il modello. Per prima cosa, è possibile tenere traccia dell'andamento o del deterioramento nel rettangolo R rettificato del modello. È inoltre possibile tenere traccia di un deterioramento simile …

14 regression multivariate-analysis overfitting

Errore tra Train vs Test e relativo rapporto con il sovra-adattamento: riconciliazione di consigli contrastanti

Sembra che ci siano consigli contrastanti là fuori su come gestire il confronto tra errore treno e test, in particolare quando c'è un divario tra i due. Sembra che ci siano due scuole di pensiero che per me sembrano in conflitto. Sto cercando di capire come conciliare i due (o …

14 cross-validation overfitting

Come si inserisce la validazione incrociata di k-fold nel contesto di training / validation / testing sets?

La mia domanda principale riguarda il tentativo di capire come k-fold cross-validation si adatta al contesto di avere set di training / validation / testing (se si adatta a tutti in tale contesto). Di solito, le persone parlano di dividere i dati in un set di addestramento, validazione e test …

14 cross-validation dataset overfitting

I dati di input correlati portano a un overfitting con le reti neurali?

A mio avviso, i dati di input correlati devono portare a un overfitting nelle reti neurali perché la rete apprende la correlazione, ad esempio il rumore nei dati. È corretto?

13 correlation neural-networks overfitting

Prevenire l'overfitting di LSTM su piccoli set di dati

Sto modellando 15000 tweet per la previsione del sentimento usando un LSTM a singolo strato con 128 unità nascoste usando una rappresentazione simile a word2vec con 80 dimensioni. Ottengo una precisione di discesa (38% con casuale = 20%) dopo 1 epoca. Un ulteriore addestramento fa declinare l'accuratezza della convalida man …

13 deep-learning regularization overfitting lstm

È meglio selezionare le distribuzioni in base a teoria, adattamento o qualcos'altro?

Questo è al limite di una domanda filosofica, ma sono interessato a come gli altri con più esperienza pensano alla selezione della distribuzione. In alcuni casi sembra chiaro che la teoria potrebbe funzionare meglio (le lunghezze della coda dei topi sono probabilmente distribuite normalmente). In molti casi probabilmente non esiste …

12 distributions overfitting heuristic

Bayesian vs MLE, problema di overfitting

Nel libro PRML di Bishop, afferma che il sovrautilizzo è un problema con la stima della massima verosimiglianza (MLE) e Bayesian può evitarlo. Ma penso che l'overfitting sia un problema in più per la selezione del modello, non per il metodo usato per fare la stima dei parametri. Cioè, supponiamo …

12 bayesian model-selection overfitting

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.

Licensed under cc by-sa 3.0 with attribution required.