Perché esiste un valore R ^ 2 (e cosa lo sta determinando) quando lm non ha variazioni nel valore previsto?

Considera il seguente codice R:

example <- function(n) {
    X <- 1:n
    Y <- rep(1,n)
    return(lm(Y~X))
}
#(2.13.0, i386-pc-mingw32)
summary(example(7))    #R^2 = .1963
summary(example(62))   #R^2 = .4529
summary(example(4540)) #R^2 = .7832
summary(example(104))) #R^2 = 0
#I did a search for n 6:10000, the result for R^2 is NaN for
#n = 2, 4, 16, 64, 256, 1024, 2085 (not a typo), 4096, 6175 (not a typo), and 8340 (not a typo)

Guardare http://svn.r-project.org/R/trunk/src/appl/dqrls.f ) non mi ha aiutato a capire cosa sta succedendo, perché non conosco Fortran. In un'altra domanda è stato risposto che gli errori di tolleranza della macchina in virgola mobile sono la causa dei coefficienti per X che sono vicini, ma non del tutto 0.

$R^2$ è maggiore quando il valore per coef(example(n))["X"]è più vicino a 0. Ma ...

1. Perché esiste un valore ? $R^2$
2. Cosa (specificamente) lo sta determinando?
3. Perché la progressione apparentemente ordinata dei NaNrisultati?
4. Perché le violazioni di tale progressione?
5. Che cosa è questo comportamento "previsto"?

Come dice Ben Bolker, la risposta a questa domanda può essere trovata nel codice per summary.lm().

Ecco l'intestazione:

function (object, correlation = FALSE, symbolic.cor = FALSE, 
    ...) 
{

Quindi, diamo x <- 1:1000; y <- rep(1,1000); z <- lm(y ~ x)un'occhiata a questo estratto leggermente modificato:

    p <- z$rank
    rdf <- z$df.residual
    Qr <- stats:::qr.lm(z)
    n <- NROW(Qr$qr)
    r <- z$residuals
    f <- z$fitted.values
    w <- z$weights
    if (is.null(w)) {
        mss <- sum((f - mean(f))^2)
        rss <- sum(r^2)
    }
    ans <- z[c("call", "terms")]
    if (p != attr(z$terms, "intercept")) {
        df.int <- 1L
        ans$r.squared <- mss/(mss + rss)
        ans$adj.r.squared <- 1 - (1 - ans$r.squared) * ((n - 
            df.int)/rdf)
    }

Si noti che ans $ r.squared è ...$0.4998923$

Per rispondere a una domanda con una domanda: cosa traggiamo da questo? :)

Credo che la risposta stia nel modo in cui R gestisce i numeri in virgola mobile. Penso che msssia rssla somma di errori di arrotondamento molto piccoli (al quadrato), quindi la ragione è circa 0,5. Per quanto riguarda la progressione, sospetto che ciò abbia a che fare con il numero di valori necessari affinché le approssimazioni +/- si annullino su 0 (per entrambi e , come è probabile la fonte di questi valori). Non so perché i valori differiscano da una progressione, però.$R^2$mssrss0/0NaN2^(1:k)

Aggiornamento 1: Ecco un bel thread di R-help che affronta alcuni dei motivi per cui gli avvisi di underflow non vengono risolti in R.

Inoltre, le domande e risposte SO contengono numerosi post interessanti e collegamenti utili relativi a underflow, aritmetica ad alta precisione, ecc.

Sono curioso della tua motivazione per porre la domanda. Non riesco a pensare a una ragione pratica che dovrebbe comportare questo comportamento; la curiosità intellettuale è una ragione alternativa (e l'IMO molto più ragionevole). Penso che non sia necessario comprendere FORTRAN per rispondere a questa domanda, ma penso che sia necessario conoscere la decomposizione QR e il suo utilizzo nella regressione lineare. Se trattate dqrlscome una scatola nera che calcola una decomposizione QR e restituisce varie informazioni su di essa, allora potreste essere in grado di tracciare i passaggi ... o semplicemente andare direttamente summary.lme rintracciare per vedere come viene calcolato R ^ 2. In particolare:

mss <- if (attr(z$terms, "intercept")) 
          sum((f - mean(f))^2)
       else sum(f^2)
rss <- sum(r^2)
## ... stuff ...
ans$r.squared <- mss/(mss + rss)

Quindi devi tornare indietro lm.fite vedere che i valori adattati vengono calcolati come r1 <- y - z$residuals(cioè come la risposta meno i residui). Ora puoi capire cosa determina il valore dei residui e se il valore meno la sua media è esattamente zero o no, e da lì capire i risultati computazionali ...

$R^2$ è definito come ( http://en.wikipedia.org/wiki/R_squared ), quindi se la somma dei quadrati è 0, allora non è definita. Secondo me R dovrebbe mostrare un messaggio di errore.$R^2 = 1-\frac{\textrm{SS}_{err}}{\textrm{SS}_{tot}}$