Come modellare una variabile target limitata?

Ho 5 variabili e sto cercando di prevedere la mia variabile target che deve essere compresa tra 0 e 70.

Come posso utilizzare questa informazione per modellare meglio il mio obiettivo?

regression bounds

— user333
fonte

Risposte:

$\max(0, \min(70, \hat{y}))$ $\hat{y}$

Tuttavia, l'intervallo limitato aumenta la possibilità di una relazione non lineare tra la variabile dipendente ( ) e le variabili indipendenti ( ). Alcuni indicatori aggiuntivi di questo includono: $y$ $x_i$

Maggiore variazione dei valori residui quando trova al centro del suo intervallo, rispetto alla variazione dei residui ai due estremi dell'intervallo. $\hat{y}$
Ragioni teoriche per specifiche relazioni non lineari.
Prova di specifiche errate del modello (ottenute nei modi consueti).
Significato dei termini quadratici o di ordine superiore in . $x_i$

Considera una reespressione non lineare di nel caso in cui una di queste condizioni sia valida. $y$

Esistono molti modi per riesprimere per creare relazioni più lineari con . Ad esempio, qualsiasi funzione crescente definita sull'intervallo può essere "piegata" per creare una funzione crescente simmetrica tramite . Se diventa arbitrariamente grande e negativo come argomento si avvicina a , la versione piegata di mapperà in tutti i numeri reali. Esempi di tali funzioni includono il logaritmo e qualsiasi potenza negativa. L'uso del logaritmo equivale al "collegamento logit" consigliato da @ user603. Un altro modo è lasciare $y$ $x_i$ $f$ $[0,70]$ $y \to f(y) - f(70-y)$ $f$ $0$ $f$ $[0,70]$ $G$ essere il CDF inverso di qualsiasi distribuzione di probabilità e definire . L'uso di una distribuzione normale fornisce la trasformazione "probit". $f(y) = G(y/70)$

Un modo per sfruttare le famiglie di trasformazioni è quello di sperimentare: provare una probabile trasformazione, eseguire una rapida regressione della trasformata rispetto a e testare i residui: dovrebbero apparire indipendenti dai valori previsti di (omoscedastici e non correlati) . Questi sono segni di una relazione lineare con le variabili indipendenti. Aiuta anche se i residui dei valori previsti trasformati indietro tendono ad essere piccoli. Ciò indica che la trasformazione ha migliorato l'adattamento. Per resistere agli effetti dei valori anomali, utilizzare metodi di regressione robusti come i minimi quadrati ripetutamente pesati . $y$ $x_i$ $y$

— whuber
fonte

+1 Ottima risposta! Puoi estrapolare o citare il motivo per cui "una maggiore variazione dei valori residui quando y_ che si trova al centro del suo intervallo, rispetto alla variazione dei residui alle due estremità del campo" è un'indicazione di non linearità?

— Andy McKenzie,

@Andy In teoria, tale eteroscedasticità non ha alcuna connessione diretta con la non linearità, ma in pratica si osserva spesso che una trasformazione stabilizzante la varianza tende a linearizzare le relazioni. Qualsiasi curva che sale continuamente da un minimo (come 0) a un massimo (come 70) avrà una pendenza massima da qualche parte nel mezzo di tale intervallo, causando spesso anche una maggiore varianza residua. Questo è il motivo per cui ci aspetteremmo che i residui mostrino una maggiore varianza nel mezzo e meno nelle estremità. In caso contrario , possiamo sperare in relazioni lineari con la variabile non trasformata .

— whuber

È importante considerare perché i valori sono limitati nell'intervallo 0-70. Ad esempio, se sono il numero di risposte corrette in un test di 70 domande, è necessario considerare i modelli per le variabili "numero di successi", come la regressione binomiale sovradispersa. Altri motivi potrebbero portarti ad altre soluzioni.

— Aniko
fonte

Trasformazione dei dati: ridimensiona i tuoi dati in $[0,1]$ e modellali usando un modello glm con un collegamento logit.

Modifica: quando ridimensionate un vettore (cioè dividete tutti gli elementi per la voce più grande), di regola, prima di farlo, schermate (bulbi oculari) per i valori anomali.

AGGIORNARE

Supponendo che tu abbia accesso a R, la parte di modellazione con una solida routine glm, vedi $\verb+glmrob()+$ nel pacchetto $\verb+robustbase+$ .

— user603
fonte

Il serraggio dei dati come raccomandato qui distorcherà le pendenze in una regressione.

— whuber

Inoltre, non vedo il valore immediato nel serraggio basato su quantili campione, quando il vero intervallo di dati è noto a priori.

— cardinale il

@Cardinal Il punto è che (ad es.) Il 99% dei dati risiede in [0,1] e che i valori rimanenti sono 70: un vincolo compatto sull'intervallo non assicura l'assenza di valori anomali! Pertanto, sono d'accordo con lo spirito del consiglio offerto da @ user603, nonostante la mia preoccupazione per il possibile pregiudizio nell'approccio proposto.

— whuber

@whuber: La mia inclinazione in una tale impostazione sarebbe quella di utilizzare un GLM che era resistente agli outlier piuttosto che a questa forma di bloccaggio. Quindi lasciare che l'adattamento del modello si adatti tramite il coefficiente "intercetta" e il "pendenza".

— cardinale il

@Cardinal Sì, questa è una soluzione valida. Spero che l'uso di tale GLM sia ancora accompagnato da procedure diagnostiche per verificare la linearità (approssimativa) e l'indipendenza dei residui.

— whuber