Rappresentazione dello spazio degli stati di ARMA (p, q) da Hamilton

Ho letto Hamilton capitolo 13 e ha la seguente rappresentazione dello spazio degli stati per un ARMA (p, q). Sia Quindi il processo ARMA (p, q) è il seguente: \ begin {align} y_t - \ mu & = \ phi_1 (y_ {t-1} - \ mu) + \ phi_2 (y_ {t-2} - \ mu) + ... + \ phi_3 (y_ {t-3} - \ mu) \\ & + \ epsilon_t + \ theta_1 \ epsilon_ {t-1} +. .. + \ theta_ {r-1} \ epsilon_ {t-r + 1}. \ end {align} Quindi, definisce l'equazione di stato come segue:$r = \max(p,q+1)$

$$\begin{aligned} y_t -\mu &= \phi_1(y_{t-1} -\mu) + \phi_2(y_{t-2} -\mu) + ... + \phi_3(y_{t-3} -\mu) \\ &+ \epsilon_t + \theta_1\epsilon_{t-1} + ... + \theta_{r-1}\epsilon_{t-r+1}. \end{aligned}$$

$$\xi_{t+1} = \begin{bmatrix} \phi_1 & \phi_2 & \dots & \phi_{r-1} & \phi_r \\ 1 & 0 & \dots & 0 & 0 \\ \vdots & \vdots & \dots & 0 & 0 \\ 0 & 0 & \dots &1 &0 \end{bmatrix} \xi_t + \begin{bmatrix} \epsilon_{t+1} \\ 0\\\vdots \\ 0 \end{bmatrix}$$

e l'equazione di osservazione come:

$$y_t = \mu + \begin{bmatrix} 1 & \theta_1 & \theta_2 & \dots & \theta_{r-1} \\ \end{bmatrix} \xi_t.$$

Non capisco cosa sia $\xi_t$ in questo caso. Perché nella sua rappresentazione AR (p) è $\begin{bmatrix} y_{t} - \mu \\ y_{t-1} - \mu\\\vdots \\ y_{t-p+1} - \mu \end{bmatrix}$ e nella sua rappresentazione MA (1) è $\begin{bmatrix} \epsilon_{t} \\ \epsilon_{t-1} \end{bmatrix}$ .

Qualcuno potrebbe spiegarmi un po 'meglio?

Hamilton mostra che questa è una rappresentazione corretta nel libro, ma l'approccio può sembrare un po 'controintuitivo. Consentitemi quindi di dare prima una risposta di alto livello che motiva la sua scelta di modello e quindi elabori un po 'la sua derivazione.

Motivazione :

Come dovrebbe essere chiaro dalla lettura del capitolo 13, ci sono molti modi per scrivere un modello dinamico nella forma dello spazio degli stati. Dovremmo quindi chiederci perché Hamilton abbia scelto questa particolare rappresentazione. Il motivo è che questa rappresentazione mantiene bassa la dimensionalità del vettore di stato. Intuitivamente, potresti pensare (o almeno lo farei io) che il vettore di stato per un ARMA ( , ) debba essere almeno della dimensione . Dopotutto, osservando dire , non possiamo dedurre il valore di . Tuttavia mostra che possiamo definire la rappresentazione dello spazio degli stati in un modo intelligente che lascia il vettore di stato della dimensione al massimoq p + q y t - 1 ϵ t - 1 r = max { p , q + 1 } p $p$$q$$p+q$$y_{t-1}$$\epsilon_{t-1}$$r = \max\{p, q + 1 \}$. Mantenere bassa la dimensionalità dello stato può essere importante per l'implementazione computazionale, immagino. Si scopre che la sua rappresentazione nello spazio degli stati offre anche una buona interpretazione di un processo ARMA: lo stato non osservato è un AR ( ), mentre la parte MA ( ) sorge a causa di un errore di misurazione.$p$$q$

Derivazione :

Ora per la derivazione. Prima nota che, usando la notazione dell'operatore lag, l'ARMA (p, q) è definito come: dove lasciamo per e per e omettiamo poiché è almeno . Quindi tutto ciò che dobbiamo mostrare è che le sue equazioni di stato e osservazione implicano l'equazione sopra. Lascia che il vettore di stato sia Ora guarda il equazione di stato. Puoi controllare che le equazioni da aϕ j = 0 j > p θ j = 0 j > q θ r r q + 1ξ t = { ξ 1 , t , ξ 2 , t , … , ξ r , t } ⊤ 2 r t + ϕ 2 ξ 2 , t + … +

$$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) =(1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_t$$ $\phi_j = 0$$j>p$$\theta_j = 0$$j>q$$\theta_r$$r$$q+1$ $$\mathbf{\xi}_t = \{\xi_{1,t}, \xi_{2,t},\ldots,\xi_{r,t}\}^\top$$ $2$$r$sposta semplicemente le voci su un punto avanti e scarta nel vettore di stato in . La prima equazione, che definisce è quindi quella pertinente. Scrivendolo: Poiché il secondo elemento di è il primo elemento di e il terzo elemento di è il primo elemento di ξ i - 1 , t + 1 ξ r , t t + 1 ξ i , t + 1 ξ 1 , t + 1 = ϕ 1 ξ 1 $\xi_{i,t}$$\xi_{i-1,t+1}$$\xi_{r,t}$$t+1$$\xi_{i,t+1}$ $$\xi_{1,t+1} = \phi_1 \xi_{1,t} + \phi_2 \xi_{2,t} + \ldots + \phi_r \xi_{r,t} + \epsilon_{t+1}$$ $\mathbf{\xi_{t}}$$\mathbf{\xi_{t-1}}$$\mathbf{\xi_{t}}$$\mathbf{\xi_{t-2}}$e così via, possiamo riscriverlo, usando la notazione dell'operatore lag e spostando il polinomio di ritardo sul lato sinistro (equazione 13.1.24 in H.): Quindi lo stato nascosto segue un processo autoregressivo. Allo stesso modo, l'equazione di osservazione è o Questo non assomiglia molto ad un ARMA finora, ma ora arriva il bella parte: moltiplica l'ultima equazione per : $$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t+1} = \epsilon_{t+1}$$ $$y_t = \mu + \xi_{1,t} + \theta_1\xi_{2,t} + \ldots + \theta_{r-1}\xi_{r-1,t}$$ $$y_t - \mu = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\xi_{1,t}$$ $(1-\phi_1L - \ldots - \phi_rL^r)$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})(1-\phi_1L - \ldots - \phi_rL^r)y_t$$ Ma dall'equazione di stato (ritardata di un punto), abbiamo ! Quindi quanto sopra equivale a che è esattamente quello che dovevamo mostrare! Quindi il sistema di osservazione dello stato rappresenta correttamente l'ARMA (p, q). Stavo davvero parafrasando Hamilton, ma spero che questo sia utile comunque.$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t} = \epsilon_{t}$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_{t}$$

È lo stesso di cui sopra, ma ho pensato di fornire una risposta più breve e più concisa. Ancora una volta, questa è la rappresentazione di Hamilton per un processo causale ARMA ( , ), dove . Questo numero sarà la dimensione del vettore di stato ed è necessario per rendere il numero di righe del lo stato corrisponde al numero di colonne della matrice di osservazione. Ciò significa che dobbiamo anche impostare i coefficienti su zero ogni volta che l'indice è troppo grande.$p$$q$$r=\max(p,q+1)$$r$$(\xi_t, \xi_{t-1},\ldots, \xi_{t-r+1})'$

1. Equazione di osservazione

$$\begin{align*} &\phi(B)(y_t - \mu) = \theta(B)\epsilon_t \\ \iff &(y_t - \mu) = \phi^{-1}(B)\theta(B)\epsilon_t \tag{causality}\\ \iff &y_t = \mu + \phi^{-1}(B)\theta(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\phi^{-1}(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\xi_t \tag{letting $\xi_t = \phi^{-1}(B)\epsilon_t$}\\ \iff &y_t = \mu + \left[\begin{array}{ccccc}1 & \theta_1 & \theta_2 & \ldots & \theta_{r-1} \end{array}\right] \underbrace{\left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \vdots \\ \xi_{t-r+1} \end{array}\right]}_{\text{the state vector}} + 0\tag{this is where we need $r$}. \end{align*}$$

2. Equazione di stato

$$\begin{align*} &\xi_t = \phi^{-1}(B)\epsilon_t \\ \iff &\phi(B)\xi_t = \epsilon_t \\ \iff &(1 - \phi_1 B - \cdots - \phi_rB^r) \xi_t = \epsilon_t \\ \iff &\xi_t = \phi_1 \xi_{t-1} + \cdots + \phi_r \xi_{t-r} + \epsilon_t \\ \iff & \left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r+1} \end{array}\right] = \left[ \begin{array}{ccccc} \phi_1 & \phi_2 & \phi_3 & \cdots & \phi_r \\ 1 & 0 & 0 & \cdots & 0 \\ 0 & 1 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \cdots & 0 \\ 0 & 0 &\cdots & 1 & 0 \end{array}\right] \left[ \begin{array}{c} \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r} \end{array}\right] + \left[ \begin{array}{c} \epsilon_t \\ 0 \\ \vdots \\ 0 \end{array}\right]. \end{align*}$$