Diverse rappresentazioni dello spazio degli stati per Auto-Regressione e filtro Kalman

Vedo che esistono diversi modi per scrivere un modello AR in una rappresentazione dello spazio degli stati, in modo da poter applicare il filtro Kalman per stimare il segnale. Vedi gli esempi 1, 2 e 3 qui .

Mi chiedo quali differenze ci siano tra le diverse rappresentazioni dello spazio degli stati sulla stima del filtro Kalman?

Grazie!

Sfortunatamente non so molto sui filtri di Kalman, ma penso di poterti aiutare con le cose dello spazio degli stati.

Nell'esempio 1, il modello AR è esattamente la tua vecchia definizione ricorsiva di output DSP:

$$y_t = \alpha + \phi_1y_{t-1} + \phi_2y_{t-2} + \eta_t$$

In questo caso scriviamo il modello dello spazio degli stati con corrispondenza diretta con l'equazione sopra:

$$\begin{pmatrix}y_t \\ y_{t-1}\end{pmatrix} = \begin{pmatrix}\phi_1 & \phi_2 \\ 1 & 0\end{pmatrix}\begin{pmatrix}y_{t-1} \\ y_{t-2} \end{pmatrix} + \begin{pmatrix}\alpha \\ 0 \end{pmatrix} + \begin{pmatrix}1 \\ 0 \end{pmatrix}\eta_t$$

Si noti che in questo caso, gli stati del sistema sono valori correnti e precedenti dell'output.

Nel secondo esempio, stai separando i tuoi stati $c$dai tuoi valori di output. Ciò significa che gli stati possono ora essere qualsiasi cosa, anche se continuano a mappare direttamente sui valori di output. In questo modo otteniamo

$$y_t = \mu + c_t$$

$$c_t = \phi_1c_{t-1} + \phi_2c_{t-2} + \eta_t$$

E quindi

$$\begin{pmatrix}c_t \\ c_{t-1}\end{pmatrix} = \begin{pmatrix}\phi_1 & \phi_2 \\ 1 & 0\end{pmatrix}\begin{pmatrix}c_{t-1} \\ c_{t-2} \end{pmatrix} + \begin{pmatrix}1 \\ 0 \end{pmatrix}\eta_t$$

Dovresti anche riconoscerlo come rappresentazione standard dello spazio di stato di un sistema lineare, perché le equazioni per l'evoluzione dello stato e l'output dipendente dallo stato sono due equazioni diverse . Questa separazione è banale nel caso di un modello AR, ma quest'ultima notazione è il modo in cui pensiamo a tutti i modelli lineari di spazio-stato in generale.

Il terzo esempio è curioso. Se moltiplichi tutti i coefficienti, ti renderai conto che è effettivamente equivalente al primo e al secondo esempio. Allora perché farlo? Risulta che l'esempio 2 (essendo la rappresentazione dello spazio degli stati corretta del sistema) è chiamato la Forma canonica controllabile di questo sistema. Se fai qualche lettura o semplicemente analizzi attentamente il sistema, ti renderai conto che possiamo mettere questo sistema in qualsiasi stato per cui ci piace fornire valori ben educati per$\phi_1$ e $\phi_2$ con il singolo input $\alpha$. Perciò chiamiamo tali sistemi controllabili ed è molto facile vedere da questa forma delle equazioni dello spazio degli stati.

Dovresti notare che due sistemi lineari possono essere identici fino a un cambio di base. Ciò significa che possiamo scegliere una base diversa per rappresentare lo stesso sistema lineare. Puoi convincerti che è esattamente quello che abbiamo fatto per passare dal secondo al terzo esempio. In particolare, ci piace questa trasformazione lineare per trasporre la matrice di transizione di stato, in modo da ottenere uno stato sconosciuto$\boldsymbol{s}$

$$y_t = \begin{pmatrix}1 & 0\end{pmatrix} \boldsymbol{\alpha_t}$$

$$\boldsymbol{\alpha_t} = \begin{pmatrix}s_t \\ s_{t-1}\end{pmatrix} = \begin{pmatrix}\phi_1 & \phi_2 \\ 1 & 0\end{pmatrix}\begin{pmatrix}s_{t-1} \\ s_{t-2} \end{pmatrix} + \begin{pmatrix}\alpha \\ 0 \end{pmatrix} + \begin{pmatrix}1 \\ 0 \end{pmatrix}\eta_t$$

Ora possiamo usare il cambio di base per scoprire cosa sia questo stato $\boldsymbol{s}$ deve essere rispetto allo stato $\boldsymbol{y}$. E possiamo calcolarlo

$$\begin{pmatrix}s_t \\ s_{t-1}\end{pmatrix} = \begin{pmatrix}y_t \\ \phi_2 y_{t-1}\end{pmatrix}$$

Questa forma (trasposizione della forma canonica di controllabilità) è chiamata forma canonica di osservabilità perché se possiamo mettere un sistema in questa forma, possiamo facilmente dedurre quali stati del sistema possono essere osservati semplicemente guardando l'output. Per una descrizione dei moduli canonici, puoi leggere questo documento e, naturalmente, guardarti intorno sul web. Si noti che nel documento gli stati sono capovolti, il che non cambia nulla sulla rappresentazione del sistema, semplicemente riordinando le righe / colonne delle matrici.

In breve, tutto dipende da cosa stai cercando di stimare, cioè da ciò che sai del segnale e da cosa non fai. Il filtro di Kalman cercherà di valutare lo stato in base a vostra definizione di ciò che stato è. Il problema convenzionale è quando stiamo cercando di stimare i coefficienti AR.

Facciamo un esempio di un $AR(2)$ modello senza termine costante $\mu$.

$$y_k = a_1y_{k-1} + a_2y_{k-2} + \eta_k$$

Per stimare il sistema sopra, tutto ciò che devi fare è stimare i coefficienti AR, $a_1$ e $a_2$.

Impostazione generale dello spazio dello stato del filtro Kalman:

$${\bf x}_{k} = {\bf F}_{k-1}{\bf x}_{k-1} + {\bf w}_k$$ $${\bf y}_{k} = {\bf H}_{k}{\bf x}_{k} + {\bf v}_k$$ ${\bf w}_k= WGN(0, Q^s)$ e ${\bf v}_k= WGN(0, Q^o)$

In questo caso, dobbiamo stimare $a_1$ e $a_2$. Quindi è naturale impostare lo stato come questi coefficienti.${\bf x}_k = [a_1, a_2]^T$ Per questo esempio, questi coefficienti sono costanti (${\bf F}_{k} ={\bf F}_{k-1} = {\bf I}$) e non vi è alcun rumore in questi coefficienti - - ${\bf w}_k = {\bf 0} \implies Q^s = {\bf 0}$.

Dal momento che tutto ciò che osserviamo è $y_k$, diventano le misure per il nostro sistema. Dato che abbiamo già definito quale sia il vettore di stato, affinché le nostre equazioni di misura siano uguali al modello AR dato, sostituiamo il nostro rumore di misura${\bf v}_k$ con $\eta_k$ e ${\bf H}_{k} = [y_{k-1}, y_{k-2}]$.

$${\bf x}_{k} = {\bf x}_{k-1} = \begin{bmatrix} a_1 \\ a_2 \end{bmatrix}$$ $$y_k = {\bf H}_{k}{\bf x}_{k} + \eta_k = \begin{bmatrix} y_{k-1} & y_{k-2} \end{bmatrix}\begin{bmatrix} a_1 \\ a_2 \end{bmatrix} + \eta_k$$

Ora puoi usare il filtro Kalman per stimare il tuo stato e di conseguenza il tuo segnale.

Nota: l'unica cosa strana qui è la tua matrice ${\bf H}_k$ dipende dalle tue misure $y_k$. Alcune persone hanno l'idea sbagliata che i guadagni di Kalman e la matrice di covarianza di stato siano sempre indipendenti dalle misurazioni e che possano essere calcolati in anticipo. Questo caso mostra chiaramente che non è così. Sia il Kalman Gain che lo State Covariance Matrix sono stimati con funzioni di ${\bf H}_k$, che in questo caso dipende dalla misurazione.