Minimi quadrati generalizzati: dai coefficienti di regressione ai coefficienti di correlazione?


10

Per i minimi quadrati con un predittore:

y=βx+ϵ

Se ed y sono standardizzati prima di montare (cioè ~ N ( 0 , 1 ) ), allora:xyN(0,1)

  • è uguale al coefficiente di correlazione di Pearson, r .βr
  • è lo stesso nella regressione riflessa: x = β y + ϵβx=βy+ϵ

Per i minimi quadrati generalizzati (GLS), vale lo stesso? Vale a dire se standardizzo i miei dati, posso ottenere coefficienti di correlazione direttamente dai coefficienti di regressione?

Dalla sperimentazione con i dati, il GLS riflesso porta a diversi coefficienti e inoltre non sono sicuro di credere che i coefficienti di regressione si adattino ai miei valori previsti per la correlazione. So che le persone citano i coefficienti di correlazione GLS, quindi mi chiedo come arrivano a loro e quindi cosa significano veramente?β

Risposte:


4

La risposta è sì, i coefficienti di regressione lineare sono le correlazioni dei predittori con la risposta, ma solo se si utilizza il sistema di coordinate corretto .

x1,x2,,xnyxiyxity

β=(XtX)1Xty

XtX=I

β=Xty

x~iX~tX~=I

Quindi, nel complesso, la risposta alla tua domanda è sì, ma solo quando i predittori sono essi stessi non correlati . Altrimenti, l'espressione

XtXβ=Xty

mostra che i beta devono essere mescolati con le correlazioni tra i predittori stessi per recuperare le correlazioni predittore-risposta.

x

x0tx=ixi=0

x0XXtX=I

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.