Come determinare quantili (isoline?) Di una distribuzione normale multivariata

24

inserisci qui la descrizione dell'immagine

Sono interessato a come si può calcolare un quantile di una distribuzione multivariata. Nelle figure, ho disegnato i quantili del 5% e del 95% di una data distribuzione normale univariata (a sinistra). Per la giusta distribuzione normale multivariata, sto immaginando che un analogo sarebbe un isolino che circonda la base della funzione di densità. Di seguito è riportato un esempio del mio tentativo di calcolare questo utilizzando il pacchetto mvtnorm, ma senza successo. Suppongo che ciò possa essere fatto calcolando un contorno dei risultati della funzione di densità multivariata, ma mi chiedevo se ci fosse un'altra alternativa ( ad esempio , analogo di qnorm). Grazie per l'aiuto.

Esempio:

mu <- 5
sigma <- 2 
vals <- seq(-2,12,,100)
ds <- dnorm(vals, mean=mu, sd=sigma)

plot(vals, ds, t="l")
qs <- qnorm(c(0.05, 0.95), mean=mu, sd=sigma)
abline(v=qs, col=2, lty=2)


#install.packages("mvtnorm")
require(mvtnorm)
n <- 2
mmu <- rep(mu, n)
msigma <- rep(sigma, n)
mcov <- diag(msigma^2)
mvals <- expand.grid(seq(-2,12,,100), seq(-2,12,,100))
mvds <- dmvnorm(x=mvals, mean=mmu, sigma=mcov)

persp(matrix(mvds,100,100), axes=FALSE)
mvqs <- qmvnorm(0.95, mean=mmu, sigma=mcov, tail = "both") #?

#ex. plot   
png("tmp.png", width=8, height=4, units="in", res=400)
par(mfcol=c(1,2))

#univariate
plot(vals, ds, t="l")
qs <- qnorm(c(0.05, 0.95), mean=mu, sd=sigma)
abline(v=qs, col=2, lty=2)

#multivariate
pmat <- persp(seq(-2,12,,100), seq(-2,12,,100), matrix(mvds,100,100), axes=FALSE, shade=TRUE, lty=0)
cont <- contourLines(seq(-2,12,,100), seq(-2,12,,100), matrix(mvds,100,100), levels=0.05^2)
lines(trans3d(cont[[1]]$x, cont[[1]]$y, cont[[1]]$level, pmat), col=2, lty=2)

dev.off()

— Marc nella scatola
fonte

3

Una soluzione Mathematica viene fornita (e illustrata per il caso 3D) su mathematica.stackexchange.com/questions/21396/… . Riconosce che i livelli di contorno sono dati da una distribuzione chi-quadrata.

— whuber

@whuber - ti dispiacerebbe dimostrare cosa intendi con "... l'ellissoide di fiducia è un contorno dell'inverso della matrice di covarianza"? Saluti.

— Marc nella scatola

2

Questo è più facile da vedere in una dimensione, dove la "matrice di covarianza" (per una distribuzione campionaria) è un numero

, quindi il suo inverso è

, pensato come una mappa quadratica su

via

. Un contorno al livello

per definizione è l'insieme di

per cui

; cioè

o equivalentemente

s^{2}

$s^2$

1 / s^{2}

$1/s^2$

R^{1}

$\mathbb{R}^1$

x \to x^{2} / s^{2}

$x\to x^2/s^2$

λ

$\lambda$

x

$x$

x^{2} / s^{2} = λ

$x^2/s^2=\lambda$

x^{2} = λ s^{2}

$x^2=\lambda s^2$

. Quando

è ilquantile

di una distribuzione

,

x = \pm \sqrt{λ} s

$x=\pm\sqrt{\lambda}s$

λ

$\lambda$

1 - α

$1-\alpha$

χ^{2} (1)

$\chi^2(1)$

è ilquantile

di una distribuzione

, da cui recuperiamo i soliti limiti di confidenza

.

\sqrt{λ}

$\sqrt{\lambda}$

1 - α

$1-\alpha$

t (1)

$t(1)$

\pm t_{1 - α; 1} s

$\pm t_{1-\alpha; 1}s$

— whuber

Puoi usare la prima formula in questa risposta scegliendo

in

per ottenere l'ellisse corrispondente

(la linea tratteggiata rossa nelle tue trame) per qualsiasi

α

$\alpha$

(0, 1)

$(0,1)$

S_{α}

$S_\alpha$

x \in R^{2}

$\mathbf{x}\in \mathbb{R}^2$

— user603

25

La linea di contorno è un ellissoide. Il motivo è perché devi guardare l'argomento dell'esponenziale, nel pdf della distribuzione normale multivariata: gli isolini sarebbero linee con lo stesso argomento. Quindi ottieni dove è la matrice di covarianza. Questa è esattamente l'equazione di un'ellisse; nel caso più semplice, e è diagonale, quindi ottieni

(x - μ)^{T} Σ^{- 1} (x - μ) = c

$({\bf x}-\mu)^T\Sigma^{-1}({\bf x}-\mu) = c$

Σ

$\Sigma$

μ = (0, 0)

$\mu=(0,0)$

Σ

$\Sigma$

Se

non è diagonale, in diagonale si ottiene lo stesso risultato.

{(\frac{x}{σ_{x}})}^{2} + {(\frac{y}{σ_{y}})}^{2} = c

$\left(\frac{x}{\sigma_x}\right)^2+\left(\frac{y}{\sigma_y}\right)^2=c$

Σ

$\Sigma$

Ora, dovresti integrare il pdf del multivariato all'interno (o all'esterno) dell'ellisse e richiedere che questo sia uguale al quantile che desideri. Diciamo che i tuoi quantili non sono i soliti, ma di principio ellittici (cioè stai cercando la regione di densità più alta, HDR, come sottolinea Tim risposta). Vorrei cambiare le variabili nel pdf in , integrare nell'angolo e quindi per da a $z^2=(x/\sigma_x)^2+(y/\sigma_y)^2$ $z$ $0$ $\sqrt{c}$ Poi si sostitutivi :

1 - α = \int_{0}^{\sqrt{c}} d z \frac{z e^{- z^{2} / 2}}{2 π} \int_{0}^{2 π} d θ = \int_{0}^{\sqrt{c}} z e^{- z^{2} / 2}

$1-\alpha=\int_0^{\sqrt{c}}dz\frac{z\;e^{-z^2/2}}{2\pi}\int_0^{2\pi}d\theta=\int_0^{\sqrt{c}}z\;e^{-z^2/2}$

s = - z^{2} / 2

$s=-z^2/2$

\int_{0}^{\sqrt{c}} z e^{- z^{2} / 2} = \int_{- c / 2}^{0} e^{s} d s = (1 - e^{- c / 2})

$\int_0^{\sqrt{c}}z\;e^{-z^2/2}=\int_{-c/2}^{0}e^sds=(1-e^{-c/2})$

Quindi, in linea di principio, devi cercare l'ellisse centrata in , con asse sopra gli autovettori di e raggio effettivo $\mu$ $\Sigma$ : $-2\ln\alpha$

(x - μ)^{T} Σ^{- 1} (x - μ) = - 2 \ln α

$({\bf x}-\mu)^T\Sigma^{-1}({\bf x}-\mu) = -2\ln{\alpha}$

— eleggere
fonte

4

Hai fatto domande sulla multivariata normale, ma hai iniziato la tua domanda chiedendo "quantile di una distribuzione multivariata" in generale. Dalla formulazione della tua domanda e dell'esempio fornito sembra che tu sia interessato alle regioni a più alta densità . Sono definiti da Hyndman (1996) come segue

$f(z)$ $X$ $100( 1 - \alpha )\%$ $R(f_\alpha)$ $X$

$R (f_{α}) = {x : f (x) \geq f_{α}}$ $R(f_\alpha) = \{ x : f(x) \geq f_\alpha\}$
$f_\alpha$ $\Pr(X \in R(f_\alpha)) \geq 1 - a$

$Y = f(x)$ $f_\alpha$ $\Pr(f(x) \geq f_\alpha) \geq 1 - \alpha$ $\alpha$ $Y$ $y_1,...,y_m$ $f(x)$

Hyndman, RJ (1996). Calcolo e rappresentazione grafica delle regioni a più alta densità. The American Statistician, 50 (2), 120-126.

— Tim
fonte

2

$-2*\ln(\alpha)$ . Si è verificato un errore nel calcolo sopra. La versione corretta:

\int_{0}^{\sqrt{c}} z e^{- z^{2} / 2} = \int_{- c / 2}^{0} e^{S} d S = (1 - e^{- c / 2})

$\int_0^\sqrt{c} z e^{-z^2/2} =\int_{-c/2}^0e^sds=(1-e^{-c/2})$

— chunjiw
fonte

1

Potresti disegnare un'ellissi corrispondente alle distanze di Mahalanobis.

library(chemometrics)
data(glass)
data(glass.grp)
x=glass[,c(2,7)]
require(robustbase)
x.mcd=covMcd(x)
drawMahal(x,center=x.mcd$center,covariance=x.mcd$cov,quantile=0.90)

O con cerchi intorno al 95%, 75% e 50% dei dati

drawMahal(x,center=x.mcd$center,covariance=x.mcd$cov,quantile=c(0.95,.75,.5))

— margherita
fonte

4

Benvenuto nel sito @ user98114. Potete fornire del testo per spiegare cosa sta facendo questo codice e come risolve il problema del PO?

— gung - Ripristina Monica