Conversione di beta standardizzati in variabili originali

Mi rendo conto che questa è probabilmente una domanda molto semplice ma dopo la ricerca non riesco a trovare la risposta che sto cercando.

Ho un problema in cui devo standardizzare le variabili eseguono la (regressione della cresta) per calcolare le stime della cresta delle beta.

Ho quindi bisogno di riconvertirli nella scala delle variabili originali.

Ma come posso farlo?

Ho trovato una formula per il caso bivariato che

β^{*} = \hat{β} \frac{S_{x}}{S_{y}} .

$\beta^* = \hat\beta \frac{S_x}{S_y} \>.$

Questo è stato dato in D. Gujarati, Econometria di base , pagina 175, formula (6.3.8).

Dove sono gli stimatori della corsa di regressione sulle variabili standardizzate e è lo stesso stimatore riconvertito alla scala originale, è la deviazione standard del campione del regresso e è la deviazione standard del campione. $\beta^*$ $\hat\beta$ $S_y$ $S_x$

Sfortunatamente il libro non copre il risultato analogo per la regressione multipla.

Inoltre non sono sicuro di aver capito il caso bivariato? La semplice manipolazione algebrica fornisce la formula per nella scala originale: $\hat\beta$

\hat{β} = β^{*} \frac{S_{y}}{S_{x}}

$\hat\beta=\beta^* \frac{S_y}{S_x}$

Mi sembra strano che il che sono stati calcolati su variabili che sono già sgonfiate da , debba essere nuovamente sgonfiato da per essere riconvertito? (Inoltre perché i valori medi non vengono aggiunti nuovamente?) $\hat\beta$ $S_x$ $S_x$

Quindi, qualcuno può spiegare come fare questo per un caso multivariato idealmente con una derivazione in modo che io possa capire il risultato?

— Baz
fonte

Per il modello di regressione che utilizza le variabili standardizzate, assumiamo il seguente modulo per la linea di regressione

E [Y] = β_{0} + \sum_{j = 1}^{k} β_{j} z_{j},

$\mathbb E[Y] =\beta_{0}+\sum_{j=1}^{k}\beta_{j}z_{j},$

dove è il regressore j-esimo (standardizzato), generato da sottraendo la media del campione e dividendo per la deviazione standard del campione : $z_{j}$ $x_j$ $\bar x_j$ $S_j$

z_{j} = \frac{x_{j} - {\bar{x}}_{j}}{S_{j}}

$z_j = \frac{x_j - \bar{x}_j}{S_j}$

Effettuando la regressione con i regressori standardizzati, otteniamo la linea di regressione adattata:

\hat{Y} = {\hat{β}}_{0} + \sum_{j = 1}^{k} {\hat{β}}_{j} z_{j}

$\hat Y = \hat \beta_0 +\sum_{j=1}^{k} \hat \beta_{j}z_{j}$

Desideriamo ora trovare i coefficienti di regressione per i predittori non standardizzati. abbiamo

\hat{Y} = {\hat{β}}_{0} + \sum_{j = 1}^{k} {\hat{β}}_{j} (\frac{x_{j} - {\bar{x}}_{j}}{S_{j}})

$\hat Y = \hat \beta_0 +\sum_{j=1}^{k} \hat \beta_{j}\left(\frac{x_j - \bar{x}_j}{S_j}\right)$

Riorganizzando, questa espressione può essere scritta come

\hat{Y} = ({\hat{β}}_{0} - \sum_{j = 1}^{k} {\hat{β}}_{j} \frac{{\bar{x}}_{j}}{S_{j}}) + \sum_{j = 1}^{k} (\frac{{\hat{β}}_{j}}{S_{j}}) x_{j}

$\hat Y = \left( \hat \beta_0 - \sum_{j=1}^k \hat \beta_j \frac{\bar x_j}{S_j} \right) + \sum_{j=1}^k \left(\frac{\hat \beta_j}{S_j}\right) x_j$

Come possiamo vedere, l'intercetta per la regressione usando le variabili non trasformate è data da . Il coefficiente di regressione del -predittore è . $\hat \beta_0 - \sum_{j=1}^k \hat \beta_j \frac{\bar x_j}{S_j}$ $j$ $\frac{\hat \beta_j}{S_j}$

Nel caso presentato, ho assunto che solo i predittori fossero stati standardizzati. Se si standardizza anche la variabile di risposta, la trasformazione dei coefficienti di covariata nella scala originale viene eseguita utilizzando la formula dal riferimento fornito. Abbiamo:

\frac{E [Y] - \hat{y}}{S_{y}} = β_{0} + \sum_{j = 1}^{k} β_{j} z_{j}

$\frac{\mathbb E[Y] - \hat y}{S_y} =\beta_{0}+\sum_{j=1}^{k}\beta_{j}z_{j}$

Effettuando la regressione, otteniamo l'equazione di regressione adattata

{\hat{Y}}_{s c a l e d} = \frac{{\hat{Y}}_{u n s c a l e d} - \bar{y}}{S_{y}} = {\hat{β}}_{0} + \sum_{j = 1}^{k} {\hat{β}}_{j} (\frac{x_{j} - {\bar{x}}_{j}}{S_{j}}),

$\hat Y_{scaled} = \frac{\hat Y_{unscaled} - \bar y}{S_y} = \hat \beta_0 +\sum_{j=1}^{k} \hat \beta_{j}\left(\frac{x_j - \bar{x}_j}{S_j}\right),$

dove i valori adattati sono sulla scala della risposta standardizzata. Per ridimensionarli e recuperare le stime dei coefficienti per il modello non trasformato, moltiplichiamo l'equazione per e portiamo la media campionaria di dall'altra parte: $S_y$ $y$

{\hat{Y}}_{u n s c a l e d} = {\hat{β}}_{0} S_{y} + \bar{y} + \sum_{j = 1}^{k} {\hat{β}}_{j} (\frac{S_{y}}{S_{j}}) (x_{j} - {\bar{x}}_{j}) .

$\hat Y_{unscaled} = \hat \beta_0 S_y + \bar y +\sum_{j=1}^{k} \hat \beta_{j}\left(\frac{S_y}{S_j}\right) (x_j - \bar{x}_j).$

L'intercetta corrispondente al modello in cui né la risposta né i predittori sono stati standardizzati è di conseguenza data da , mentre i coefficienti di covariata per il modello di interesse possono essere ottenuti moltiplicando ogni coefficiente con . $\hat \beta_0 S_y + \bar y - \sum_{j=1}^k \hat \beta_j \frac{S_y}{S_j}\bar x_j$ $S_y / S_j$

— Philipp Burckhardt
fonte