Quando è R al quadrato negativo?

La mia comprensione è che non può essere negativo in quanto è il quadrato di R. Tuttavia ho eseguito una semplice regressione lineare in SPSS con una singola variabile indipendente e una variabile dipendente. Il mio output SPSS mi dà un valore negativo per . Se dovessi calcolare questo a mano da R, allora sarebbe positivo. Cosa ha fatto SPSS per calcolare questo come negativo?R 2 R $R^2$$R^2$$R^2$

R=-.395
R squared =-.156
B (un-standardized)=-1261.611

Codice che ho usato:

DATASET ACTIVATE DataSet1. 
REGRESSION /MISSING LISTWISE /STATISTICS COEFF OUTS R ANOVA 
           /CRITERIA=PIN(.05) POUT(.10) /NOORIGIN 
           /DEPENDENT valueP /METHOD=ENTER ageP

Ottengo un valore negativo. Qualcuno può spiegare cosa significa?

R 2 R 2 R $R^2$ confronta l'adattamento del modello scelto con quello di una linea retta orizzontale (l'ipotesi nulla). Se il modello scelto si adatta peggio di una linea orizzontale, allora è negativo. Nota che non è sempre il quadrato di nulla, quindi può avere un valore negativo senza violare alcuna regola matematica. è negativo solo quando il modello scelto non segue l'andamento dei dati, quindi si adatta peggio di una linea orizzontale.$R^2$$R^2$$R^2$

Esempio: adattare i dati a un modello di regressione lineare vincolato in modo che l' intercetta deve essere uguale a .$Y$$1500$

Il modello non ha alcun senso dato questi dati. È chiaramente il modello sbagliato, forse scelto per caso.

L'adattamento del modello (una linea retta vincolata a passare attraverso il punto (0,1500)) è peggiore dell'adattamento di una linea orizzontale. Quindi la somma dei quadrati dal modello è più grande della somma dei quadrati dalla linea orizzontale . viene calcolato come . Quando è maggiore di , calcola un valore negativo per .( S S tot ) R 2 1 - S S $(SS_\text{reg})$$(SS_\text{tot})$$R^2$ SSregSStotR$1 - \frac{SS_\text{reg}}{SS_\text{tot}}$$SS_\text{reg}$$SS_\text{tot}$$R^2$

Con regressione lineare senza vincoli, deve essere positivo (o zero) ed è uguale al quadrato del coefficiente di correlazione, . Un negativo è possibile solo con regressione lineare quando l'intercetta o la pendenza sono vincolate in modo che la linea di "adattamento migliore" (dato il vincolo) si adatti peggio di una linea orizzontale. Con la regressione non lineare, può essere negativo ogni volta che il modello più adatto (data l'equazione scelta e i suoi eventuali vincoli) si adatta ai dati peggiori di una linea orizzontale. r R 2 R $R^2$$r$$R^2$$R^2$

In conclusione: un negativo non è un'impossibilità matematica o il segno di un errore del computer. Significa semplicemente che il modello scelto (con i suoi vincoli) si adatta molto male ai dati.$R^2$

Hai dimenticato di includere un'intercettazione nella tua regressione? Non ho familiarità con il codice SPSS, ma a pagina 21 di Hayashi's Econometrics:

Se i regressori non includono una costante ma (come fanno alcuni pacchetti software di regressione) si calcola comunque con la formula$R^2$

$R^2=1-\frac{\sum_{i=1}^{n}e_i^2}{\sum_{i=1}^{n}(y_i-\bar{y})^2}$

quindi può essere negativo. Questo perché, senza il beneficio di un'intercettazione, la regressione potrebbe fare peggio della media del campione in termini di tracciamento della variabile dipendente (ovvero, il numeratore potrebbe essere maggiore del denominatore).$R^2$

Verificherei e assicurerei che SPSS includa un'intercettazione nella tua regressione.

Questo può accadere se si dispone di una serie temporale Niid e si costruisce un modello ARIMA inappropriato della forma (0,1,0) che è un modello di camminata casuale di prima differenza senza deriva, quindi la varianza (somma dei quadrati - SSE) dei residui sarà maggiore della varianza (somma dei quadrati SSO) della serie originale. Pertanto l'equazione 1-SSE / SSO produrrà un numero negativo quando SSE esegue SSO. Lo abbiamo visto quando gli utenti si sono semplicemente adattati a un modello presunto o hanno utilizzato procedure inadeguate per identificare / formare una struttura ARIMA appropriata. Il messaggio più grande È che un modello può distorcere (proprio come un paio di occhiali cattivi) la tua visione. Senza avere accesso ai tuoi dati altrimenti avrei un problema a spiegare i risultati errati. Hai portato questo all'attenzione di IBM?

L'idea di un modello presunto controproducente è stata ripresa da Harvey Motulsky. Ottimo post Harvey!