Comprensione dei risultati della regressione della cresta


9

Sono nuovo di ridimensionare la regressione. Quando ho applicato la regressione della cresta lineare, ho ottenuto i seguenti risultati:

>myridge = lm.ridge(y ~ ma + sa + lka + cb  + ltb , temp, lamda = seq(0,0.1,0.001))
> select(myridge)
modified HKB estimator is 0.5010689 
modified L-W estimator is 0.3718668 
smallest value of GCV  at 0 

Domande:

  • Va bene ottenere zero per GCV?
  • cosa significa esattamente?
  • C'è un problema con il mio modello?
  • Come posso trovare il valore di ?R2myridge

Cambia lamda in lambda. Penso che la sequenza che hai specificato sia stata ignorata.

Risposte:


20

Potresti stare meglio con il pacchetto penalizzato o il pacchetto glmnet ; entrambi implementano il lazo o la rete elastica in modo da combinare le proprietà del lazo (selezione delle caratteristiche) e la regressione della cresta (gestione delle variabili collineari). penalizzato anche cresta. Questi due pacchetti sono molto più completi rispetto lm.ridge()al pacchetto MASS per queste cose.

Ad ogni modo, implica una penalità pari a zero, quindi le stime dei minimi quadrati sono ottimali, nel senso che avevano il punteggio GCV più basso (validazione incrociata generalizzata). Tuttavia, potresti non aver concesso una sanzione sufficientemente elevata; in altre parole, le stime dei minimi quadrati erano ottimali del piccolo insieme di valori che hai guardato. Traccia il percorso della cresta (valori dei coefficienti in funzione di e verifica se le tracce si sono stabilizzate o meno. In caso contrario, aumenta l'intervallo di valori valutati.λ λ λλ=0λλλ


5

Il motivo per cui stai ottenendo un GCV 0 è perché hai usato:

myridge = lm.ridge (y ~ ma + sa + lka + cb + ltb, temp, lamda = seq (0,0.1,0,001))

invece di

myridge = lm.ridge (y ~ ma + sa + lka + cb + ltb, temp, lambda = seq (0,0.1,0,001))

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.