Coefficiente di Determinazione (

Voglio cogliere appieno la nozione di descrive la quantità di variazione tra le variabili. Ogni spiegazione web è un po 'meccanica e ottusa. Voglio "ottenere" il concetto, non solo usare meccanicamente i numeri.$r^2$

Ad esempio: ore studiate vs. punteggio del test

$r$ = .8

$r^2$ = .64

• Che cosa significa questo?
• Il 64% della variabilità dei punteggi dei test può essere spiegato in ore?
• Come possiamo saperlo solo quadrando?

Inizia con l'idea di base della variazione. Il tuo modello iniziale è la somma delle deviazioni quadrate dalla media. Il valore R ^ 2 è la proporzione di quella variazione che viene spiegata usando un modello alternativo. Ad esempio, R-quadrato ti dice quanta della variazione in Y puoi eliminare riassumendo le distanze al quadrato da una linea di regressione, piuttosto che la media.

Penso che ciò sia reso perfettamente chiaro se pensiamo al semplice problema di regressione tracciato. Considera un tipico diagramma a dispersione in cui hai un predittore X lungo l'asse orizzontale e una risposta Y lungo l'asse verticale.

La media è una linea orizzontale sul diagramma in cui Y è costante. La variazione totale in Y è la somma delle differenze al quadrato tra la media di Y e ogni singolo punto dati. È la distanza tra la linea media e ogni singolo punto quadrato e sommato.

È inoltre possibile calcolare un'altra misura di variabilità dopo aver ottenuto la linea di regressione dal modello. Questa è la differenza tra ciascun punto Y e la linea di regressione. Piuttosto che ogni (Y - la media) al quadrato otteniamo (Y - il punto sulla linea di regressione) al quadrato.

Se la linea di regressione è tutt'altro che orizzontale, otterremo una distanza totale inferiore quando utilizziamo questa linea di regressione adattata piuttosto che la media, ovvero c'è una variazione meno inspiegabile. Il rapporto tra la variazione aggiuntiva spiegata e la variazione originale è il tuo R ^ 2. È la proporzione della variazione originale nella tua risposta che viene spiegata adattando quella linea di regressione.

Ecco un codice R per un grafico con la media, la linea di regressione e i segmenti dalla linea di regressione a ciascun punto per aiutare a visualizzare:

library(ggplot2)
data(faithful)

plotdata <- aggregate( eruptions ~ waiting , data = faithful, FUN = mean) 

linefit1 <- lm(eruptions ~ waiting, data = plotdata)

plotdata$expected <- predict(linefit1)
plotdata$sign <- residuals(linefit1) > 0

p <- ggplot(plotdata, aes(y=eruptions, x=waiting, xend=waiting, yend=expected) )  

p  + geom_point(shape = 1, size = 3) +
     geom_smooth(method=lm, se=FALSE) + 
     geom_segment(aes(y=eruptions, x=waiting, xend=waiting, yend=expected, colour = sign),  
                  data = plotdata) +
     theme(legend.position="none")  +
     geom_hline(yintercept = mean(plotdata$eruptions), size = 1)

Una dimostrazione matematica della relazione tra i due è qui: correlazione di Pearson e analisi di regressione dei minimi quadrati .

Non sono sicuro che ci sia un'intuizione geometrica o di altro tipo che può essere offerta a parte la matematica, ma se posso pensarne una aggiornerò questa risposta.

Aggiornamento: Intuizione geometrica

$x$$y$$y$

$y = x\ \beta + \epsilon$

$y_1,y_2$$x_1,x_2$

testo alternativo http://a.imageshack.us/img202/669/linearregression1.png

$\beta$$x\ \beta$$y$$\beta$$x$$\hat{\beta}$$\beta$$y$$\hat{y} = x\ \hat{\beta}$

$y = \hat{y} + \hat{\epsilon}$

$y$$\hat{y}$$\hat{\epsilon}$$\hat{\beta}$

$\beta$$x\ \beta$$\hat{\epsilon}$

$y$$y$$x$$y$$y_1^2+y_2^2$$y$$\hat{y}$$\hat{y}$

Con il teorema di Pitagora, abbiamo:

$y^2 = \hat{y}^2 + \hat{\epsilon}^2$

$x$$\frac{\hat{y}^2}{y^2}$$cos(\theta) = \frac{\hat{y}}{y}$

Pertanto, abbiamo la relazione richiesta:

$y$$x$

Spero che sia d'aiuto.

L' applet Regression By Eye potrebbe essere utile se stai cercando di sviluppare un po 'di intuizione.

Ti consente di generare dati, quindi di indovinare un valore per R , che puoi confrontare con il valore effettivo.