Come verificare se una matrice di covarianza è diversa da zero?

Lo sfondo del mio studio :

In un campionamento di Gibbs dove campione (la variabile di interessi) e da e rispettivamente, dove e sono -dimensional vettori casuali. Sappiamo che il processo è generalmente suddiviso in due fasi: $X$ $Y$ $P(X|Y)$ $P(Y|X)$ $X$ $Y$ $k$

Periodo di burn-in, in cui eliminiamo tutti i campioni. Indica i campioni come e . $X_1\sim X_t$ $Y_1\sim Y_t$
Periodo "After-Burn-in", in cui calcoliamo la media dei campioni come risultato finale desiderato. $\bar{X} = \frac{1}{k}\sum_{i=1}^k X_{t+i}$

Tuttavia, i campioni nella sequenza "after-burn-in" non sono distribuiti in modo indipendente. Pertanto, se voglio controllare la varianza del risultato finale, diventa $X_{t+1}\sim X_{t+k}$

Var [\bar{X}] = Var [\sum_{i = 1}^{k} X_{t + i}] = \frac{1}{k^{2}} (\sum_{i = 1}^{k} Var [X_{t + i}] + \sum_{i = 1}^{k - 1} \sum_{j = i + 1}^{k} Cov [X_{t + i}, X_{t + j}])

$\operatorname{Var}[\bar{X}] = \operatorname{Var}\left[\sum_{i=1}^k X_{t+i}\right] = \frac{1}{k^2}\left(\sum_{i=1}^k\operatorname{Var}[X_{t+i}] + \sum_{i=1}^{k-1} \sum_{j=i+1}^k \operatorname{Cov}[X_{t+i},X_{t+j}]\right)$

Qui il termine è una matrice di covarianza che si applica a qualsiasi con . $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $k\times k$ $(i,j)$ $i<j$

Ad esempio, ho

X_{t + 1} = (1, 2, 1)^{'} X_{t + 2} = (1, 0, 2)^{'} X_{t + 3} = (1, 0, 0)^{'} X_{t + 4} = (5, 0, - 1)^{'}

$X_{t+1} = (1,2,1)'\\ X_{t+2} = (1,0,2)'\\ X_{t+3} = (1,0,0)'\\ X_{t+4} = (5,0,-1)'$

quindi potrei stimare la matrice di covarianza con $\operatorname{Cov}[X_{t+i}, X_{t+i+1}]$

\frac{1}{3} \sum_{i = 1}^{3} (X_{t + i} - μ_{t + i}) (X_{t + i + 1} - μ_{t + i + 1})^{'}

$\frac{1}{3}\sum_{i=1}^3 (X_{t+i}-\mu_{t+i})(X_{t+i+1}-\mu_{t+i+1})'$

Ora sono interessato a sapere se la stima risultante è significativamente diversa da zero, quindi devo includerla nella mia stima della varianza di . $\operatorname{Var}[\bar{X}]$

Quindi ecco le mie domande :

Noi campione da . Poiché sta cambiando, penso che e non appartengano alla stessa distribuzione, quindi non è lo stesso di . Questa affermazione è corretta? $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$ $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$
Supponiamo che io abbia abbastanza dati per stimare (campioni vicini nella sequenza), c'è un modo per testare se la matrice di covarianza è significativamente un matrice diversa da zero? In generale, sono interessato a un indicatore che mi guidi verso alcune matrici significative di covarianza che dovrebbero essere incluse nella mia stima della varianza finale. $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

— TomHall
fonte

In realtà, ora questa sembra una bella domanda; Penso che alcune altre persone si troveranno nella posizione migliore per dare delle risposte positive rispetto a me, quindi mi piacerebbe promuoverlo (metterci una taglia sopra) quando diventerà idoneo a breve. [Risposte brevi: 1. Queste due covarianze sono diverse. 2. Non è necessario verificare se i variati consecutivi sono correlati (in tutti tranne i casi più banali; l'algoritmo funziona generando variati dipendenti) - più interessante misurare la correlazione che testarla;] ... se buone risposte non si presentano Espanderò questi brevi commenti in una risposta completa

— Glen_b -Reinstate Monica

Sembra che la tua domanda sia molto più ampia della domanda sul titolo. In particolare, rivolgendosi alla domanda sul titolo, esiste il test di sfericità di Bartlett che consente di verificare se una matrice di covarianza del campione è diagonale. Probabilmente dovresti adattarlo al tuo scenario di covarianza (la tua "matrice di covarianza" non è in realtà una matrice di covarianza, è una matrice di covarianza, è un blocco off-diagonale della matrice di covarianza completa sia di X_t che di X_ { t + 1} insieme). CC a @Glen_b.

— ameba dice di reintegrare Monica il

Aggiungerei che le covarianze tendono a decadere più o meno geometricamente (sempre più man mano che ci si allontana); i valori distanti nel tempo tendono ad avere una correlazione molto bassa ( non zero ma largamente ignorabile) mentre quelli vicini possono talvolta essere abbastanza dipendenti.

— Glen_b

@Tom 1. Tuttavia, con serie fisse, a ritardi molto distanti (4 non è distante!), Cosa succede all'ACF?

$\quad$ 2. Sai qualcosa su come funzionano i valori generati da MCMC che non puoi dire su serie temporali arbitrarie ... sono Markovian . Noterai che i miei commenti precedenti non sostengono che i ritardi più vicini debbano mostrare un decadimento geometrico (ad esempio, non ho detto che era impossibile vedere una correlazione più elevata al ritardo 4 rispetto a 3). Otterrai comunque (se certe condizioni valgono) la tendenza al decadimento geometrico nell'ACF man mano che ti allontani.

— Glen_b

Se il periodo di campionamento è così breve da non disporre di stime altamente accurate della covarianza incrociata, potrebbe essere necessario affrontare il fatto che le stime delle condizioni di covarianza incrociata presentano un errore standard di grandi dimensioni. Data la mia attuale comprensione, ribadirò ancora più fortemente la mia obiezione a testare le correlazioni. Il test di ipotesi per correlazioni zero vs non zero non risolve il problema qui.

— Glen_b

Campioniamo da . Poiché sta cambiando, penso che e non provengano dalla stessa distribuzione [...] $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$

Stai confondendo le distribuzioni condizionali e incondizionate qui, vedi anche la mia prossima osservazione. Condizionale su e , $Y_{t+i} = y_1$ $Y_{t+i+1} = y_2$ . Ma l'intero punto di costruire campionatore Gibbs è quello di campione dalle distribuzioni stazionarie di e . In termini molto approssimativi, se hai eseguito la catena per un tempo sufficiente e in modo che segua la distribuzione stazionaria, puoi quindi dire senso che la distribuzione incondizionata di $P(X_{t+i}|Y_{t+i} = y_1) \neq P(X_{t+i+1}|Y_{t+i+1} = y_2)$ $X$ $Y$ $\{Y_t\}$

\begin{aligned} P (X_{t}) = \int_{Y} P (X_{t} | Y_{t}) d P (Y_{t}), \end{aligned}

$\begin{align} P(X_t) = \int_{\mathcal{Y}}P(X_t|Y_t)dP(Y_t), \end{align}$

X_{t}

$X_t$ è anche invariante. In altre parole, come

e convergiamo alle distribuzioni stazionarie,

, poiché

verranno estratti asintoticamente dalla (stessa!) distribuzione stazionaria

t \to \infty

$t \to \infty$

P (X_{t + i} | Y_{t + i}) = P (X_{t + i + 1} | Y_{t + i + 1})

$P(X_{t+i}|Y_{t+i}) = P(X_{t+i+1}|Y_{t+i+1})$

Y_{t + i}

$Y_{t+i}$

Y_{t + i + 1}

$Y_{t+i+1}$

. D'altra parte e come in precedenza, una volta che ci condizioniamo su

, questo non sarà più valido, indipendentemente da quanto

siagrande.

P (Y_{t})

$P(Y_t)$

Y_{t + i} = y_{1}

$Y_{t+i} = y_1$

Y_{t + i + 1} = y_{2}

$Y_{t+i+1} = y_2$

t

$t$

[...] quindi non è lo stesso di . Questa affermazione è corretta? $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$

$X_{t+1} \sim X_{t}$ $X_t$ $X_{t+1}$ $Y_t = 0.8\cdot Y_{t-1} + \varepsilon_t$ $\varepsilon_t \overset{iid}{\sim} N(0,1)$ $Y_t = \sum_{i=0}^t0.8^i \varepsilon_{t-i}$ $\text{Var}(Y_t) = \sum_{i=0}^t0.8^{2i} = \dfrac{1}{1-0.8^2}$ $Y_t \overset{iid}{\sim} N(0, \dfrac{1}{1-0.8^2})$ $Y_t$ $Y_{t+1}$ $Y_{t+1} \sim Y_{t}$ $X_t$

$\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

$k(\cdot)$ $0$ $l_T$ $l_T$

— Jeremias K
fonte