Cosa calcola effettivamente la formula y ~ x + 0 in R?

Qual è la differenza statistica tra fare una regressione lineare in R con il formulaset su y ~ x + 0invece di y ~ x? Come posso interpretare questi due diversi risultati?

multiple-regression generalized-linear-model intercept

— Jimboy
fonte

Risposte:

L'aggiunta +0(o -1) a una formula del modello (ad es., In lm()) in R elimina l'intercetta. Questa è generalmente considerata una brutta cosa da fare; vedere:

La pendenza stimata viene calcolata in modo diverso in base alla stima dell'intercettazione, vale a dire:

\begin{aligned} (with intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i} - \frac{(\sum x_{i}) (\sum y_{i})}{N}}{\sum x_{i}^{2} - \frac{(\sum x_{i})^{2}}{N}} \\ (without intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i}}{\sum x_{i}^{2}} \end{aligned}

$\begin{align} \hat\beta_1 &= \frac{\sum x_iy_i - \frac{\big(\sum x_i\big)\big(\sum y_i\big)}{N}}{\sum x_i^2 - \frac{\big(\sum x_i\big)^2}{N}} \tag{with intercept} \\[15pt] \hat\beta_1 &= \frac{\sum x_iy_i}{\sum x_i^2} \tag{without intercept} \end{align}$

Poiché la quantità da sottrarre (il "subtrahend") sia nel numeratore che nel denominatore non è necessariamente , la stima della pendenza viene distorta quando l'intercettazione viene soppressa. $0$

Anche il valore per viene calcolato in modo diverso; vedere: $R^2$

Ecco le formule sottostanti:

\begin{aligned} (with intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum (y_{i} - \bar{y})^{2}} \\ (without intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum y_{i}^{2}} \end{aligned}

$\begin{align} R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum (y_i - \bar y)^2} \tag{with intercept} \\[15pt] R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum y_i^2} \tag{without intercept} \end{align}$

— gung - Ripristina Monica
fonte

Grazie Gung! Se sopprimo l'Intercettazione, il mio R-quadrato multiplo migliora improvvisamente. Potete aiutarmi qui?

— JimBoy,

Non esiste un modo concordato per calcolare r al quadrato senza intercettazione. Il quadrato r non ha la sua solita interpretazione. Fare regressione senza intercettazione è quasi sempre una

— MOLTA

@Repmat: vedi anche stats.stackexchange.com/questions/171240/…

@JimBoy: vedi stats.stackexchange.com/questions/171240/…

Dipende dal contesto (ovviamente), nel lm(...)comando in R sopprimerà l'intercettazione. Cioè, fai la regressione attraverso l'origine.

Nota che la maggior parte dei libri di testo sull'argomento della regressione ti dirà che forzare l'intercettazione (a qualsiasi valore) è una cattiva idea.

L'interpretazione di x non cambia, ma il valore (confrontandolo con e senza un'intercettazione) cambierà, a volte in modo molto significativo.

— Repmat
fonte

Grazie, Repmat! Ottengo stime molto diverse se sopprimo l'intercettazione rispetto a quando non lo faccio. Inoltre, tutti i test t diventano estremamente significativi. Sai perché questo è?

— JimBoy,

L'intercettazione assorbirà qualsiasi variabile diversa da 0 non contenuta nel modello. Senza l'intercettazione, la varianza deve andare da qualche parte. Questo è il motivo per cui la maggior parte dei libri, come regola generale, afferma che la regressione senza intercettazione è sempre sbagliata. Cioè, OLS è sempre distorto e coerente in questo caso (con alcune eccezioni).

— Repmat,