Come creare una matrice di covarianza arbitraria

21

Ad esempio, in R, la MASS::mvrnorm()funzione è utile per generare dati per dimostrare varie cose nelle statistiche. Prende un Sigmaargomento obbligatorio che è una matrice simmetrica che specifica la matrice di covarianza delle variabili. Come potrei creare una matrice simmetrica con voci arbitrarie? $n\times n$

r random-generation covariance-matrix

— rsl
fonte

3

Penso che questa domanda trarrebbe beneficio dall'essere modificata per concentrarsi su "come posso creare una matrice di covarianza arbitraria" e meno sull'aspetto della codifica. C'è sicuramente un problema statistico alla base qui, come dimostrato dalla risposta.

— Silverfish

2

Correlati: Come generare in modo efficiente matrici di correlazione semidefinite positive casuali?

— ameba dice Reinstate Monica il

22

Crea una matrice con valori arbitrari $n\times n$ $A$

e quindi usa $\Sigma = A^T A$ come matrice di covarianza.

Per esempio

n <- 4  
A <- matrix(runif(n^2)*2-1, ncol=n) 
Sigma <- t(A) %*% A

— Henry
fonte

Analogamente, Sigma <- A + t(A).

— rsl

6

@MoazzemHossen: il tuo suggerimento produrrà una matrice simmetrica, ma potrebbe non essere sempre semidefinito positivo (ad esempio, il tuo suggerimento potrebbe produrre una matrice con autovalori negativi) e quindi potrebbe non essere adatto come matrice di covarianza

— Henry,

Sì, ho notato che R restituisce un errore nel caso in cui il mio modo suggerito abbia prodotto una matrice inadatta.

— rsl

4

Si noti che se si preferisce una matrice di correlazione per una migliore interpretabilità, esiste la funzione ? Cov2cor , che può essere applicata successivamente.

— gung - Ripristina Monica

1

@ B11b: hai bisogno che la tua matrice di covarianza sia semi-definita positiva. Ciò metterebbe alcuni limiti ai valori di covarianza, non del tutto ovvi quando

n > 2

$n \gt 2$

— Henry,

24

Mi piace avere il controllo sugli oggetti che creo, anche quando potrebbero essere arbitrari.

Si consideri, poi, che tutti i possibili covarianza matrici può essere espresso nella forma $n\times n$ $\Sigma$

Σ = P^{'} Diagonal (σ_{1}, σ_{2}, \dots, σ_{n}) P

$\Sigma= P^\prime\ \text{Diagonal}(\sigma_1,\sigma_2,\ldots, \sigma_n)\ P$

dove è una matrice ortogonale e . $P$ $\sigma_1 \ge \sigma_2 \ge \cdots \ge \sigma_n \ge 0$

Geograficamente questo descrive una struttura di covarianza con una gamma di componenti principali di dimensioni . Questi componenti puntano nelle direzioni delle righe di . Vedere le figure in Analisi delle componenti principali, autovettori e autovalori per esempi con . Impostando si imposteranno le magnitudini delle covarianze e le loro dimensioni relative, determinando così qualsiasi forma ellissoidale desiderata. Le file di orientano gli assi della forma come preferisci. $\sigma_i$ $P$ $n=3$ $\sigma_i$ $P$

Un vantaggio algebrico e di calcolo di questo approccio è che quando , viene prontamente invertito (operazione che è un'operazione comune sulle matrici di covarianza): $\sigma_n \gt 0$ $\Sigma$

Σ^{- 1} = P^{'} Diagonal (1 / σ_{1}, 1 / σ_{2}, \dots, 1 / σ_{n}) P .

$\Sigma^{-1} = P^\prime\ \text{Diagonal}(1/\sigma_1, 1/\sigma_2, \ldots, 1/\sigma_n)\ P.$

Non ti interessano le direzioni, ma solo le gamme di dimensioni della ? Va bene: puoi facilmente generare una matrice ortogonale casuale. Avvolgi iid i valori normali standard in una matrice quadrata e poi ortogonali. Funzionerà quasi sicuramente (a condizione che non sia enorme). La decomposizione QR lo farà, come in questo codice $\sigma_i$ $n^2$ $n$

n <- 5
p <- qr.Q(qr(matrix(rnorm(n^2), n)))

Questo funziona perché la distribuzione multinormale a variabili così generata è "ellittica": è invariante sotto tutte le rotazioni e le riflessioni (attraverso l'origine). Pertanto, tutte le matrici ortogonali vengono generate in modo uniforme, come spiegato in Come generare punti distribuiti uniformemente sulla superficie della sfera dell'unità 3-d? . $n$

Un modo rapido per ottenere da e , dopo averli specificati o creati, utilizza e sfrutta il riutilizzo di array in operazioni aritmetiche, come in questo esempio con : $\Sigma$ $P$ $\sigma_i$ crossprodR $\sigma=(\sigma_1, \ldots, \sigma_5) = (5,4,3,2,1)$

Sigma <- crossprod(p, p*(5:1))

Come controllo, la decomposizione del valore singolare dovrebbe restituire sia che . Puoi ispezionarlo con il comando $\sigma$ $P^\prime$

svd(Sigma)

SigmaNaturalmente, l' inverso si ottiene semplicemente cambiando la moltiplicazione di in una divisione: $\sigma$

Tau <- crossprod(p, p/(5:1))

Puoi verificarlo visualizzando zapsmall(Sigma %*% Tau), che dovrebbe essere la matrice di identità . Un inverso generalizzato (essenziale per i calcoli di regressione) si ottiene sostituendo qualsiasi con , esattamente come sopra, ma mantenendo gli zeri tra gli come erano. $n\times n$ $\sigma_i \ne 0$ $1/\sigma_i$ $\sigma_i$

— whuber
fonte

Potrebbe aiutare a dimostrare come usare le file di

per orientare gli assi come preferiscono.

P

$P$

— gung - Ripristina Monica

1

Vale la pena ricordare che i singoli valori svd(Sigma)verranno riordinati, il che mi ha confuso per un minuto.

— FrankD,

1

È possibile simulare matrici definite positive casuali dalla distribuzione di Wishart utilizzando la funzione "rWishart" dal pacchetto "stats" ampiamente utilizzato.

n <- 4
rWishart(1,n,diag(n))

— Carlos Llosa
fonte

1

Esiste un pacchetto specifico per questo, clusterGeneration(scritto tra l'altro da Harry Joe, un grande nome in quel campo).

Esistono due funzioni principali:

genPositiveDefMat generare una matrice di covarianza, 4 metodi diversi
rcorrmatrix : genera una matrice di correlazione

Esempio rapido:

library(clusterGeneration)
#> Loading required package: MASS
genPositiveDefMat("unifcorrmat",dim=3)
#> $egvalues
#> [1] 15.408962  5.673916  1.228842
#> 
#> $Sigma
#>          [,1]     [,2]     [,3]
#> [1,] 6.714871 1.643449 6.530493
#> [2,] 1.643449 6.568033 2.312455
#> [3,] 6.530493 2.312455 9.028815
genPositiveDefMat("eigen",dim=3)
#> $egvalues
#> [1] 8.409136 4.076442 2.256715
#> 
#> $Sigma
#>            [,1]       [,2]      [,3]
#> [1,]  2.3217300 -0.1467812 0.5220522
#> [2,] -0.1467812  4.1126757 0.5049819
#> [3,]  0.5220522  0.5049819 8.3078880

^{Creato il 27-10-2019 dal pacchetto reprex (v0.3.0)}

Infine, nota che un approccio alternativo è fare un primo tentativo da zero, quindi usare Matrix::nearPD()per rendere la tua matrice positiva.

— Matifou
fonte