Perché le decomposizioni eigen e svd di una matrice di covarianza basata su dati sparsi producono risultati diversi?

Sto cercando di scomporre una matrice di covarianza basata su un set di dati sparsi / vuoti. Sto notando che la somma di lambda (spiegazione della varianza), calcolata con svd, viene amplificata con dati sempre più vuoti. Senza lacune svde eigenottieni gli stessi risultati.

Ciò non sembra accadere con una eigendecomposizione. Mi ero orientato verso l'uso svdperché i valori lambda sono sempre positivi, ma questa tendenza è preoccupante. C'è una sorta di correzione che deve essere applicata o dovrei evitare del svdtutto per un tale problema.

###Make complete and gappy data set
set.seed(1)
x <- 1:100
y <- 1:100
grd <- expand.grid(x=x, y=y)

#complete data
z <- matrix(runif(dim(grd)[1]), length(x), length(y))
image(x,y,z, col=rainbow(100))

#gappy data
zg <- replace(z, sample(seq(z), length(z)*0.5), NaN)
image(x,y,zg, col=rainbow(100))


###Covariance matrix decomposition
#complete data
C <- cov(z, use="pair")
E <- eigen(C)
S <- svd(C)

sum(E$values)
sum(S$d)
sum(diag(C))


#gappy data (50%)
Cg <- cov(zg, use="pair")
Eg <- eigen(Cg)
Sg <- svd(Cg)

sum(Eg$values)
sum(Sg$d)
sum(diag(Cg))



###Illustration of amplification of Lambda
set.seed(1)
frac <- seq(0,0.5,0.1)
E.lambda <- list()
S.lambda <- list()
for(i in seq(frac)){
    zi <- z
    NA.pos <- sample(seq(z), length(z)*frac[i])
    if(length(NA.pos) > 0){
        zi <- replace(z, NA.pos, NaN)
    }
    Ci <- cov(zi, use="pair")
    E.lambda[[i]] <- eigen(Ci)$values
	S.lambda[[i]] <- svd(Ci)$d
}


x11(width=10, height=5)
par(mfcol=c(1,2))
YLIM <- range(c(sapply(E.lambda, range), sapply(S.lambda, range)))

#eigen
for(i in seq(E.lambda)){
    if(i == 1) plot(E.lambda[[i]], t="n", ylim=YLIM, ylab="lambda", xlab="", main="Eigen Decomposition")
    lines(E.lambda[[i]], col=i, lty=1)
}
abline(h=0, col=8, lty=2)
legend("topright", legend=frac, lty=1, col=1:length(frac), title="fraction gaps")

    #svd
for(i in seq(S.lambda)){
    if(i == 1) plot(S.lambda[[i]], t="n", ylim=YLIM, ylab="lambda", xlab="", main="Singular Value Decomposition")
    lines(S.lambda[[i]], col=i, lty=1)
}
abline(h=0, col=8, lty=2)
legend("topright", legend=frac, lty=1, col=1:length(frac), title="fraction gaps")

Devi fare la somma del valore assoluto dei valori di autovene cioè sum (abs (es. Valori $)) e confrontarlo con la somma dei valori singolari. Sarebbero uguali.

Il motivo è che se moltiplichi le righe o le colonne che corrispondono agli autovalori negativi per , allora il valore di autovalore della nuova matrice diventa positivo e l'ortogonalità degli autovettori non viene disturbata.$-1$

La prova del contrario di questo bellissimo teorema è apparsa in L'algebra degli iperboloidi della rivoluzione, Javier F. Cabrera, Linear Algebra and its Applications, Princeton University (ora a Rutgers).

Un altro modo di ragionare è che sqrt (eigen (t (Cg)% *% Cg)) sono uguali ai valori singolari di Cg. Ma quando gli autovalori sono negativi, i dati devono essere rappresentati in una forma eremitica tenendo conto del piano complesso, che è ciò che è stato perso nella formulazione originale, cioè i dati formati dalla radice quadrata simmetrica della matrice con autovelox negativo i valori avrebbero voci complesse.