AR (1) è un processo di Markov?

Il processo AR (1) come $y_t=\rho y_{t-1}+\varepsilon_t$ un processo di Markov?

Se lo è, allora VAR (1) è la versione vettoriale del processo Markov?

time-series

— Maiale volante
fonte

Risposte:

Il seguente risultato vale: Se sono valori di assunzione indipendenti in e sono funzioni quindi con definito ricorsivamente come $\epsilon_1, \epsilon_2, \ldots$ $E$ $f_1, f_2, \ldots$ $f_n: F \times E \to F$ $X_n$

X_{n} = f_{n} (X_{n - 1}, ϵ_{n}), X_{0} = x_{0} \in F

$X_n = f_n(X_{n-1}, \epsilon_n), \quad X_0 = x_0 \in F$

il processo in è un processo di Markov che inizia con . Il processo è omogeneo nel tempo se gli sono distribuiti in modo identico e tutte le funzioni sono identiche. $(X_n)_{n \geq 0}$ $F$ $x_0$ $\epsilon$ $f$

AR (1) e VAR (1) sono entrambi processi indicati in questa forma con

f_{n} (x, ϵ) = ρ x + ϵ .

$f_n(x, \epsilon) = \rho x + \epsilon.$

Quindi sono processi Markov omogenei se gli sono iid $\epsilon$

Tecnicamente, gli spazi e necessitano di una struttura misurabile e le funzioni devono essere misurabili. È abbastanza interessante che un risultato inverso valga se lo spazio è uno spazio di Borel . Per qualsiasi processo Markov su uno spazio Borel ci sono uniformi IID variabili casuali in e funzioni $E$ $F$ $f$ $F$ $(X_n)_{n \geq 0}$ $F$ $\epsilon_1, \epsilon_2, \ldots$ $[0,1]$ tale che con probabilità uno Vedi la proposizione 8.6 in Kallenberg,Fondamenti della probabilità moderna. $f_n : F \times [0, 1] \to F$

X_{n} = f_{n} (X_{n - 1}, ϵ_{n}) .

$X_n = f_n(X_{n-1}, \epsilon_n).$

— NRH
fonte

Un processo è un processo AR (1) se $X_{t}$

X_{t} = c + φ X_{t - 1} + ε_{t}

$X_{t} = c + \varphi X_{t-1} + \varepsilon_{t}$

dove gli errori, sono IID. Un processo ha la proprietà Markov if $\varepsilon_{t}$

P (X_{t} = x_{t} | e n t i r e h i s t o r y o f t h e p r o c e s s) = P (X_{t} = x_{t} | X_{t - 1} = x_{t - 1})

$P(X_{t} = x_t | {\rm entire \ history \ of \ the \ process }) = P(X_{t}=x_t| X_{t-1}=x_{t-1})$

Dalla prima equazione, la distribuzione di probabilità di dipende chiaramente solo da , quindi sì, un processo AR (1) è un processo di Markov. $X_{t}$ $X_{t-1}$

— macro
fonte

-1, lo stesso motivo di un altro poster. La risposta implica che è facile controllare la proprietà Markov citata. Non lo è, se non dimostrato diversamente. Si noti inoltre che i processi AR (1) possono essere definiti con

non-iid, quindi anche questo dovrebbe essere affrontato.

ε_{t}

$\varepsilon_t$

— mpiktas,

Il problema principale è che possiamo facilmente scrivere

e quindi l'ultima frase implicherebbe che

X_{t} = c + ϕ c + ϕ^{2} X_{t - 2} + ϕ ε_{t - 1} + ε_{t}

$X_t=c+\phi c+\phi^2X_{t-2}+\phi\varepsilon_{t-1}+\varepsilon_{t}$

P (X_{t} = x_{t} | entire  history) = P (X_{t} = x_{t} | X_{t - 2} = x_{t - 2})

$P(X_t=x_t|\text{entire history})=P(X_{t}=x_t|X_{t-2}=x_{t-2})$ .

— mpiktas,

X_{t - 2}

$X_{t-2}$

X_{t - 1}

$X_{t-1}$

X_{t - 2}

$X_{t-2}$

X_{t - 1}

$X_{t-1}$

X_{t - 2}

$X_{t-2}$ and

X_{t - 1}

$X_{t-1}$ (through the error term

ε_{t - 1}

$\varepsilon_{t-1}$ ). The bottom line is that joint likelihood can be written easily as a product of conditional likelihoods which only require conditioning on the previous time point. Through parameter redundancies you can make it look like the distribution of

X_{t}

$X_t$ depends on

X_{t - 2}

$X_{t-2}$ but, once you've conditioned on

X_{t - 1}

$X_{t-1}$ , it clearly doesn't. (p.s. I was using a standard definition of an AR(1) process per Shumway and Stoeffer's time series book)

— Macro

Note I do not say that the answer is incorrect. I am just nitpicking at the details, i.e. that the second equality is intuitively evident, but if you want to prove it formally it is not so easy, IMHO.

— mpiktas

What is a Markov process? (loosely speeking) A stochastic process is a first order Markov process if the condition

P [X (t) = x (t) | X (0) = x (0), . . ., X (t - 1) = x (t - 1)] = P [X (t) = x (t) | X (t - 1) = x (t - 1)]

$P\left [ X\left ( t \right )= x\left ( t \right ) | X\left ( 0 \right )= x\left ( 0 \right ),...,X\left ( t-1 \right )= x\left ( t-1 \right )\right ]=P\left [ X\left ( t \right )= x\left ( t \right ) | X\left ( t-1 \right )= x\left ( t-1 \right )\right ]$

holds. Since next value (i.e. distribution of next value) of $AR(1)$ process only depends on current process value and does not depend on the rest history, it is a Markov process. When we observe the state of autoregressive process, the past history (or observations) do not supply any additional information. So, this implies that probability distribution of next value is not affected (is independent on) by our information about the past.

The same holds for VAR(1) being first order multivariate Markov process.

— Tomas
fonte

Hm, if

ε_{t}

$\varepsilon_t$ are not iid, I do not think it holds. Also you did not give a proof, only cited the Markov property.

— mpiktas

I thought that Markov Process refers to the continuous case. Usual AR time series are discrete, so it should correspond to a Markov Chain instead of a Markov Process.

— joint_p

So we observe state of autoregressive process,

X_{t}

$X_t$ . The past history is

X_{t - 1}, X_{t - 2}, . . .

$X_{t-1},X_{t-2},...$ . This does not supply any additional information?

— mpiktas

@joint_p, the terminology is not completely consistent in the literature. Historically, as I see it, the usage of "chain" instead of "process" was typically a reference to the state space of the process being discrete but occasionally also time being discrete. Today many use "chain" to refer to discrete time but allowing for a general state space, as in Markov Chain Monte Carlo. However, using "process" is also correct.

— NRH

-1, since the proof of Markovian property is not given. Also the hand waving argument is not consistent with formula given. current state =

t

$t$ , past means

t - 1, t - 2, . . .

$t-1, t-2,...$ , next means

t + 1

$t+1$ , but the formula does not involve

t + 1

$t+1$ .

— mpiktas