Teorema del limite centrale per le catene di Markov

$\newcommand{\E}{\mathbb{E}}$ $\newcommand{\P}{\mathbb{P}}$ Il Teorema del limite centrale (CLT) afferma che per indipendenti e identicamente distribuiti (iid) con e , la somma converge in una distribuzione normale come : $X_1,X_2,\dots$ $\E[X_i]=0$ $\operatorname{ Var} (X_i)<\infty$ $n\to\infty$

\sum_{i = 1}^{n} X_{i} \to N (0, \sqrt{n}) .

$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$

Supponiamo invece che formino una catena di Markov a stati finiti con una distribuzione stazionaria con aspettativa 0 e varianza limitata. Esiste una semplice estensione di CLT per questo caso? $X_1,X_2,\dots$ $\P_\infty$

I documenti che ho trovato su CLT per Markov Chains trattano generalmente casi molto più generali. Sarei molto grato per un puntatore al risultato generale pertinente e una spiegazione di come si applica.

markov-process central-limit-theorem

— tom4everitt
fonte

L'articolo di Lin e Tegmark Critical Behaviour di Deep Dynamics approfondisce le "limitazioni * dei processi e delle analisi di Markov ... disponibili qui ... ai2-s2-pdfs.s3.amazonaws.com/5ba0/…

— Mike Hunter

Risposte:

La risposta di Alex R. è quasi sufficiente, ma aggiungo qualche dettaglio in più. In Sul teorema del limite centrale della catena di Markov - Galin L. Jones , se guardi il teorema 9, dice:

Se è una catena di Markov ergodica di Harris con distribuzione stazionaria , allora un CLT vale per se è uniformemente ergodico ed . $X$ $\pi$ $f$ $X$ $E[f^2] < \infty$

Per gli spazi a stati finiti, tutte le catene irriducibili e aperiodiche di Markov sono uniformemente ergodiche. La dimostrazione di ciò comporta un notevole background nella teoria della catena di Markov. Un riferimento buon sarebbe Pagina 32, nella parte inferiore del Teorema 18 qui .

Quindi, la catena Markov CLT sarebbe valida per qualsiasi funzione che ha un secondo momento finito. La forma che assume il CLT è descritta come segue. $f$

Sia lo stimatore della media temporale di , quindi, come sottolinea Alex R., come , $\bar{f}_n$ $E_{\pi}[f]$ $n \to \infty$

{\bar{f}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \overset{a.s.}{\to} E_{π} [f] .

$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$

La catena di Markov CLT è

\sqrt{n} ({\bar{f}}_{n} - E_{π} [f]) \overset{d}{\to} N (0, σ^{2}),

$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$

dove

σ^{2} = \underset{Expected term}{\underset{⏟}{{Var}_{π} (f (X_{1}))}} + \underset{Term due to Markov chain}{\underset{⏟}{2 \sum_{k = 1}^{\infty} {Cov}_{π} (f (X_{1}), f (X_{1 + k}))}} .

$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$

Una derivazione per il termine può essere trovata a pagina 8 e pagina 9 delle note MCMC di Charles Geyer qui $\sigma^2$

— Greenparker
fonte

Grazie, è molto chiaro! C'è una facile discussione sul perché le catene di Markov allo stato finito, irriducibili e aperiodiche siano uniformemente ergodiche? (non che non mi fidi di te ^^).

— tom4everitt,

@ tom4everitt Sfortunatamente, la definizione di "facile" è soggettiva. Se hai familiarità con le condizioni di deriva e di minorizzazione per le catene di Markov, allora l'argomento è facile. Altrimenti, sarebbe una lunga discussione. Cercherò invece di trovare un riferimento. Potrebbe volerci un po '.

— Greenparker,

Sarebbe fantastico. Se non ne trovi, sarebbe comunque utile un paio di frasi che suggeriscano i passaggi principali.

— tom4everitt,

@ tom4everitt Aggiunto un riferimento alla risposta. Spero che sia sufficiente.

— Greenparker,

@Greenparker Potrei chiederti aiuto per capire come deriva la varianza nella tua risposta. Ho esaminato il riferimento nella tua risposta, ma non ho trovato una derivazione lì. Ho una fonte, MC per MCsist, ma non capisco bene come sia derivata lì. Cioè, come viene derivato il termine ? Grazie!

σ^{2}

$\sigma^2$

— LeastSquaresWonderer,

Il "solito" risultato per Markov Chains è il Teorema Ergodico di Birkhoff, che dice questo

\frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \to E_{π} [f],

$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$

dove è la distribuzione stazionaria e soddisfa e la convergenza è quasi certa. $\pi$ $f$ $E|f(X_1)|<\infty$

Sfortunatamente le fluttuazioni di questa convergenza sono generalmente piuttosto difficili. Ciò è dovuto principalmente all'estrema difficoltà di capire i limiti di variazione totali sulla rapidità con cui converge alla distribuzione stazionaria . Esistono casi noti in cui le fluttuazioni sono analoghe al CLT e si possono trovare alcune condizioni sulla deriva che fanno ritenere l'analogia: sul teorema del limite centrale della catena di Markov - Galin L. Jones (vedi teorema 1). $X_i$ $\pi$

Ci sono anche situazioni stupide, ad esempio una catena con due stati, in cui uno sta assorbendo (cioè e In questo caso non ci sono fluttuazioni, e tu ottenere la convergenza a una distribuzione normale degenerata (una costante). $P(1\rightarrow 2)=1$ $P(2\rightarrow 1)=0$

— Alex R.
fonte

Non penso che stia chiedendo una convergenza quasi sicura. Penso che voglia una sorta di "traduzione" di alcuni dei CLT su spazi generali: probabilmente una spiegazione di cosa significano i presupposti richiesti nel contesto specifico delle catene spaziali a stati finiti

— Taylor,

Grazie. Una normale catena Markov a stati finiti soddisferebbe banalmente la condizione di deriva? Sarei anche felice di conoscerlo solo per una catena a due stati, ma per me è tutt'altro che ovvio come dimostrarlo.

— tom4everitt,