Perché R Squared non è una buona misura per adattarsi alle regressioni usando LASSO?

Ho letto in diversi punti che R Squared non è una misura ideale quando un modello è in forma usando LASSO. Tuttavia, non sono chiaro esattamente perché .

Inoltre, potresti raccomandare la migliore alternativa?

— Dave
fonte

L'obiettivo di utilizzare LASSO è ottenere una rappresentazione sparsa (di una quantità prevista) nel senso di non avere molte covariate. Il confronto tra modelli con tende a favorire modelli con molte covariate: infatti, l'aggiunta di covariate non correlate al risultato non diminuirà mai e quasi sempre lo aumenterà almeno un po '. Il modello LASSO identificherà il modello con la verosimiglianza logaritmica ottimale penalizzata (una verosimiglianza logaritmica non aperta è monotonicamente correlata alla ). Le statistiche di convalida che sono più ampiamente utilizzate per confrontare i modelli LASSO con altri tipi di modelli sono, ad esempio, il BIC o convalidati . $R^2$ $R^2$ $R^2$ $R^2$

— ADAMO
fonte

+1 per presentare chiaramente il motivo e fornire un'alternativa

— Haitao Du

Grazie mille per l'ottima risposta! Ti dispiacerebbe approfondire "Il modello LASSO identificherà il modello con la verosimiglianza logaritmica ottimale penalizzata (una verosimiglianza logaritmica non aperta è monotonicamente correlata a R2)." Prendo la prima parte per indicare che sceglierà il modello con il minor numero di errori (in previsione e tramite la penalità)? Ma non sono chiaro cosa significhi il bit tra parentesi. Ciò significa che LL non aperto aumenta mentre R2 scende? Inoltre, R2 con convalida incrociata deve trovarsi in un set di dati completamente nuovo? O può essere basato sui dati di allenamento?

— Dave,

\log (2 π) N + 1 - \log (N) + \log (\sum_{i = 1}^{n} r_{i}^{2})

$\log(2\pi)N+1−\log(N)+\log(\sum_{i=1}^n r_i^2)$

1 - \sum_{i = 1}^{n} r_{i}^{2} / \sum_{i = 1}^{n} y_{i}^{2}

$1 - \sum_{i=1}^n r_i^2/\sum_{i=1}^ny_i^2$ . La penalizzazione contribuisce all'errore indirettamente, è un prezzo da pagare per applicare la scarsità. Il modello non aperto avrà sempre un errore (interno) più basso. Le persone generalmente eseguono la convalida incrociata con lo stesso set di dati. Testare i modelli in nuovi set di dati è un'altra cosa (non è necessaria la parte "incrociata") e non è abbastanza.

— AdamO

@AdamO Penso che sarebbe una buona idea modificare il tuo commento nella tua risposta, è molto buono.

— Matthew Drury,

Ciao @AdamO un'ultima domanda di follow-up. Capisco ora perché R2 tradizionale è una misura sbagliata. Ma non sono chiaro il motivo per cui R2 validato in modo incrociato (all'interno dello stesso set di dati) va bene?

— Dave,