Statistiche e Big Data bias-variance-tradeoff

7

Pregiudizio e varianza nella validazione incrociata con esclusione K vs piega

Come si confrontano i diversi metodi di convalida incrociata in termini di varianza e distorsione del modello? La mia domanda è in parte motivata da questa discussione: Numero ottimale di pieghe nella convalida incrociata fold: il CV congedo unico è sempre la scelta migliore? KKK. La risposta suggerisce che i …

83 machine-learning variance cross-validation bias bias-variance-tradeoff

2

Numero ottimale di pieghe nella convalida incrociata fold: il CV congedo unico è sempre la scelta migliore?

A parte le considerazioni sulla potenza di calcolo, ci sono dei motivi per ritenere che aumentare il numero di pieghe nella convalida incrociata porta a una migliore selezione / convalida del modello (vale a dire che maggiore è il numero di pieghe meglio è)? Portando l'argomento all'estremo, la convalida incrociata …

47 cross-validation bias-variance-tradeoff

2

Comprensione della derivazione del trade-bias varianza

Sto leggendo il capitolo del compromesso di bias varianza di Gli elementi dell'apprendimento statistico e ho dei dubbi nella formula a pagina 29. Lascia che i dati derivino da un modello tale che Y=f(x)+ϵY=f(x)+ϵ Y = f(x)+\epsilon dove ϵϵ\epsilon è un numero casuale con valore atteso ε = e [ …

20 machine-learning unbiased-estimator mse bias-variance-tradeoff

2

Domanda sul compromesso della varianza

Sto cercando di capire il compromesso di bias-varianza, la relazione tra il bias dello stimatore e il bias del modello e la relazione tra la varianza dello stimatore e la varianza del modello. Sono giunto a queste conclusioni: Tendiamo a sovrautilizzare i dati quando trascuriamo il bias dello stimatore, cioè …

15 regression variance bias bias-variance-tradeoff

2

Perché la migliore selezione di sottogruppi non è preferita rispetto al lazo?

Sto leggendo la migliore selezione di sottoinsiemi nel libro Elementi di apprendimento statistico. Se ho 3 predittori , creo sottoinsiemi:x1,x2,x3X1,X2,X3x_1,x_2,x_323=823=82^3=8 Sottoinsieme senza predittori sottoinsieme con predittorex1X1x_1 sottoinsieme con predittorex2X2x_2 sottoinsieme con predittorex3x3x_3 sottoinsieme con predittorix1,x2x1,x2x_1,x_2 sottoinsieme con predittorix1,x3x1,x3x_1,x_3 sottoinsieme con predittorix2,x3x2,x3x_2,x_3 sottoinsieme con predittorix1,x2,x3x1,x2,x3x_1,x_2,x_3 Quindi collaudo tutti questi modelli sui …

13 regression feature-selection lasso bias-variance-tradeoff

1

Termine di varianza nella decomposizione bias-varianza della regressione lineare

In 'Gli elementi di apprendimento statistico', l'espressione di bias-varianza decomposizione lineare modello figura come dove è la funzione target effettiva,Er r ( x0) = σ2ε+ E[ f( x0) - Ef^( x0) ]2+ | | h (x0) | |2σ2ε,Err(X0)=σε2+E[f(X0)-Ef^(X0)]2+||h(X0)||2σε2,Err(x_0)=\sigma_\epsilon^2+E[f(x_0)-E\hat f(x_0)]^2+||h(x_0)||^2\sigma_\epsilon^2,f( x0)f(X0)f(x_0)σ2εσε2 \sigma_\epsilon^2 è la varianza dell'errore casuale nel modello e è …

9 regression linear-model bias-variance-tradeoff

4

È possibile scomporre i residui adattati in bias e varianza, dopo aver inserito un modello lineare?

Vorrei classificare i punti dati come che necessitano di un modello più complesso o che non necessitano di un modello più complesso. Il mio pensiero attuale è di adattare tutti i dati a un semplice modello lineare e osservare la dimensione dei residui per fare questa classificazione. Ho quindi fatto …

9 regression multiple-regression residuals bias-variance-tradeoff

Domande taggate «bias-variance-tradeoff»