Domande taggate «lasso»

Un metodo di regolarizzazione per i modelli di regressione che riduce i coefficienti verso zero, rendendone alcuni uguali a zero. Pertanto il lazo esegue la selezione delle funzioni.

1
Come interpretare i risultati quando sia la cresta che il lazo funzionano separatamente ma producono coefficienti diversi
Sto eseguendo un modello di regressione sia con Lasso che con Ridge (per prevedere una variabile di esito discreto che varia da 0-5). Prima di eseguire il modello, utilizzo il SelectKBestmetodo di scikit-learnper ridurre il set di funzionalità da 250 a 25 . Senza una selezione iniziale delle caratteristiche, sia …
2
Perché la regressione della cresta non può fornire una migliore interpretabilità rispetto a LASSO?
Ho già un'idea dei pro e dei contro della regressione della cresta e del LASSO. Per LASSO, il termine di penalità L1 produrrà un vettore di coefficienti sparsi, che può essere visto come un metodo di selezione delle caratteristiche. Tuttavia, ci sono alcune limitazioni per LASSO. Se le funzionalità hanno …
2
Programmazione quadratica e Lazo
Sto cercando di eseguire una regressione del lazo, che ha la seguente forma: Riduci a icona inwww(Y−Xw)′(Y−Xw)+λ|w|1(Y−Xw)′(Y−Xw)+λ|w|1(Y - Xw)'(Y - Xw) + \lambda \;|w|_1 Dato un , mi è stato consigliato di trovare w ottimale con l'aiuto della programmazione quadratica, che assume la seguente forma:λλ\lambdawww Riduci a icona xxx in …
4
Come fissare un coefficiente e adattarlo agli altri usando la regressione
Vorrei fissare manualmente un certo coefficiente, diciamo , quindi adattare i coefficienti a tutti gli altri predittori, mantenendo β 1 = 1.0 nel modello.β1= 1.0β1=1.0\beta_1=1.0β1= 1.0β1=1.0\beta_1=1.0 Come posso ottenere questo usando R? Mi piacerebbe particolarmente lavorare con LASSO ( glmnet) se possibile. In alternativa, come posso limitare questo coefficiente a …
1
Ridge e LASSO hanno una struttura di covarianza?
Dopo aver letto il capitolo 3 in Elements of Statistical Learning (Hastie, Tibshrani & Friedman), mi chiedevo se fosse possibile implementare i famosi metodi di restringimento citati sul titolo di questa domanda, data una struttura di covarianza, cioè minimizzare il (forse più generale ) quantità (y⃗ −Xβ⃗ )TV−1(y⃗ −Xβ⃗ )+λf(β), …
3
Quanto è difendibile scegliere in un modello LASSO in modo che produca il numero di predittori diversi da zero che si desidera?
Quando determino la mia lambda attraverso la convalida incrociata, tutti i coefficienti diventano zero. Ma ho alcuni suggerimenti dalla letteratura che alcuni dei predittori dovrebbero sicuramente influenzare il risultato. È spazzatura scegliere arbitrariamente lambda in modo che ci sia la stessa scarsità che si desidera? Voglio selezionare i primi 10 …
11 lasso 
2
Può
Se β∗=argminβ∥y−Xβ∥22+λ∥β∥1β∗=argminβ‖y−Xβ‖22+λ‖β‖1\beta^*=\mathrm{arg\,min}_{\beta} \|y-X\beta\|^2_2+\lambda\|\beta\|_1 , può ∥β∗∥2‖β∗‖2\|\beta^*\|_2 aumentare quando λλ\lambda aumenta? Penso che sia possibile Sebbene ∥β∗∥1‖β∗‖1\|\beta^*\|_1 non aumenta quando aumenta λλ\lambda (la mia prova ), ∥β∗∥2‖β∗‖2\|\beta^*\|_2 può aumentare. La figura seguente mostra una possibilità. Quando λλ\lambda aumenta, se β∗β∗\beta^* viaggia (linearmente) da PPP a QQQ , allora ∥β∗∥2‖β∗‖2\|\beta^*\|_2 aumenta mentre …
11 lasso 
2
Penalizzazione soft-soglia vs. lazo
Sto cercando di riassumere ciò che ho capito finora nell'analisi multivariata penalizzata con insiemi di dati ad alta dimensione, e ancora faccio fatica a ottenere una definizione corretta della penalizzazione a soglia morbida rispetto al lasso (o ).L1L1L_1 Più precisamente, ho usato la regressione PLS sparsa per analizzare la struttura …
1
Relazione LASSO tra
La mia comprensione della regressione di LASSO è che i coefficienti di regressione sono selezionati per risolvere il problema di minimizzazione: minβ∥ y- Xβ∥22 s . t . ∥ β∥1≤ tminβ‖y-Xβ‖22 S.t.‖β‖1≤t\min_\beta \|y - X \beta\|_2^2 \ \\s.t. \|\beta\|_1 \leq t In pratica questo viene fatto usando un moltiplicatore di …
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.