Termini di errore del modello a media mobile

17

Questa è una domanda di base sui modelli Box-Jenkins MA. Ho capito, un modello MA è fondamentalmente una regressione lineare di serie temporali valori $Y$ contro precedente termini di errore $e_t,..., e_{t-n}$ . Cioè, l'osservazione $Y$ viene dapprima regredito contro il suo valori precedenti $Y_{t-1}, ..., Y_{t-n}$ e poi uno o più $Y - \hat{Y}$ valori vengono utilizzati come termini di errore per il modello MA.

Ma come vengono calcolati i termini di errore in un modello ARIMA (0, 0, 2)? Se il modello MA viene utilizzato senza una parte autoregressiva e quindi senza un valore stimato, come posso avere un termine di errore?

— Robert Kubrick
fonte

1

No, penso che tu stia confondendo la definizione di un modello MA (n), in cui la regressione è solo in termini di

e_{t - i}

$e_{t-i}$ , con la sua stima, in cui gli

e_{t - i}

$e_{t-i}$ sono stimati dai dati .

— Xi'an,

1

Il problema principale nella tua domanda è che dici che il modello MA è sostanzialmente una regressione lineare. Questo semplicemente non è vero, dal momento che non osserviamo termini di errore.

— mpiktas,

Credo che il termine di errore è in realtà

Y_{t} - \hat{Y_{t}}

$Y_t - \hat{Y_t}$ , dove

è

o semplicemente

. Questo è il motivo per cui una stima dei parametri del modello MA è derivata da un modello ricorrente nella funzione di autocorrelazione parziale

, ovvero il comportamento dei residui. La stima del parametro AR si basa invece su un modello ricorrente di acf (Y).

\hat{Y}

$\hat{Y}$

E (Y | Y_{t, . . ., t - n})

$E(Y|Y_{t,...,t-n})$

Y_{t} - Y_{t - 1}

$Y_t - Y_{t-1}$

Y

$Y$

— Robert Kubrick,

20

Stima del modello MA:

Supponiamo una serie con 100 punti temporali e diciamo che questo è caratterizzato dal modello MA (1) senza intercettazione. Quindi il modello è dato da

y_{t} = ε_{t} - θ ε_{t - 1}, t = 1, 2, \dots, 100 (1)

$y_t=\varepsilon_t-\theta\varepsilon_{t-1},\quad t=1,2,\cdots,100\quad (1)$

Il termine di errore qui non viene osservato. Quindi, per ottenere questo, Box et al. Analisi delle serie storiche: previsioni e controllo (3a edizione) , pagina 228 , suggeriscono che il termine di errore sia calcolato in modo ricorsivo da,

ε_{t} = y_{t} + θ ε_{t - 1}

$\varepsilon_t=y_t+\theta\varepsilon_{t-1}$

Quindi il termine di errore per è, Ora non possiamo calcolarlo senza conoscere il valore di . Pertanto, per ottenere ciò, è necessario calcolare la stima iniziale o preliminare del modello, fare riferimento a Box et al. di detto libro, la Sezione 6.3.2 pagina 202 afferma che, $t=1$

ε_{1} = y_{1} + θ ε_{0}

$\varepsilon_{1}=y_{1}+\theta\varepsilon_{0}$

θ

$\theta$

È stato dimostrato che le prime autocorrelazioni del processo MA ( ) sono diverse da zero e possono essere scritte in termini di parametri del modello come $q$ $q$ L'espressione precedente per in termini , forniture equazioni in incognite. Le stime preliminari degli possono essere ottenute sostituendo le stime con nell'equazione sopra
$ρ_{k} = \frac{- θ_{k} + θ_{1} θ_{k + 1} + θ_{2} θ_{k + 2} + \dots + θ_{q - k} θ_{q}}{1 + θ_{1}^{2} + θ_{2}^{2} + \dots + θ_{q}^{2}} k = 1, 2, \dots, q$ $\rho_k=\displaystyle\frac{-\theta_{k}+\theta_1\theta_{k+1}+\theta_2\theta_{k+2}+\cdots+\theta_{q-k}\theta_q}{1+\theta_1^2+\theta_2^2+\cdots+\theta_q^2}\quad k=1,2,\cdots, q$ $\rho_1,\rho_2\cdots,\rho_q$ $\theta_1,\theta_2,\cdots,\theta_q$ $q$ $q$ $\theta$ $r_k$ $\rho_k$

Si noti che è l'autocorrelazione stimata. Ci sono ulteriori discussioni nella Sezione 6.3 - Stime iniziali per i parametri , si prega di leggere su questo. Ora, supponendo di ottenere la stima iniziale . Quindi, Ora, un altro problema è che non abbiamo valore per perché inizia da 1, quindi non possiamo calcolare . Fortunatamente, ci sono due metodi per ottenerlo, $r_k$ $\theta=0.5$

ε_{1} = y_{1} + 0.5 ε_{0}

$\varepsilon_{1}=y_{1}+0.5\varepsilon_{0}$

ε_{0}

$\varepsilon_0$

t

$t$

ε_{1}

$\varepsilon_1$

Probabilità condizionale
Probabilità incondizionata

Secondo Box et al. Nella sezione 7.1.3 pagina 227 , i valori di possono essere sostituiti a zero come approssimazione se è moderato o grande, questo metodo è Probabilità condizionale. Altrimenti, viene usata la verosimiglianza incondizionata, in cui il valore di è ottenuto mediante previsionali, Box et al. consiglia questo metodo. Maggiori informazioni sulla previsione a posteriori alla Sezione 7.1.4 a pagina 231 . $\varepsilon_0$ $n$ $\varepsilon_0$

Dopo aver ottenuto le stime iniziali e il valore di , possiamo finalmente procedere con il calcolo ricorsivo del termine di errore. Quindi la fase finale è stimare il parametro del modello , ricordare che questa non è più la stima preliminare. $\varepsilon_0$ $(1)$

Nella stima del parametro , utilizzo la procedura di stima non lineare, in particolare l'algoritmo Levenberg-Marquardt, poiché i modelli MA non sono lineari sul suo parametro. $\theta$

Nel complesso, ti consiglio vivamente di leggere Box et al. Analisi delle serie storiche: previsioni e controllo (3a edizione) .

— Al-Ahmadgaid Asaad
fonte

Puoi spiegare cosa è

?

r_{k}

$r_k$

— Piyush Divyanakar,

4

Un modello MA (q) gaussiano è definito (non solo da Box e Jenkins!) Come quindi il modello MA (q) è un modello di errore "puro", il grado definisce fino a che punto risale la correlazione.

Y_{t} = - \sum_{i = 1}^{q} ϑ_{i} e_{t - i} + σ e_{t}, e_{t} \overset{iid}{\sim} N (0, 1)

$Y_t = -\sum_{i=1}^q \vartheta_i e_{t-i} + \sigma e_t,\quad e_t\stackrel{\text{iid}}{\sim} \mathcal{N}(0,1)$

q

$q$

— Xi'an
fonte

1

e_{t}

$e_t$

e_{t}

$e_t$

q

$q$

1

Perché c'è un segno negativo nella tua formula? Di solito il meno è per i modelli AR. Matematicamente non è un problema, sono solo curioso, dal momento che non ho mai visto meno nei modelli MA.

— mpiktas,

3

e_{t}

$e_t$

1

Y

$Y$

E (Y)

$E(Y)$

1

$Y$ $Y_{t−1},...,Y_{t−n}$ $Y−\hat{Y}$ $Y$ $e_{t-1}$ $e_{t−2}$ $e_t$ which will be uncorrelated for all i=3,4,,,,t .We then have two regression coefficients: $\theta_1$ representing the impact of $e_{t-1}$ and $\theta_2$ representing the impact of $e_{t-2}$ . Thus $e_t$ is a white noise random series containing n-2 values. Since we have n-2 estimable relationships we start with the assumption that e1 and e2 are equal to 0.0 . Now for any pair of $\theta_1$ and $\theta_2$ we can estimate the t-2 residual values. The combination that yields the smallest error sum of squares would then be the best estimates of $\theta_1$ and $\theta_2$ .

— IrishStat
fonte

What are the 2 other predictor series? I am asking because when I look at the literature I have it's never clearly specified. Are these 2 other series unrelated to

Y

$Y$ ? I had the impression that all ARIMA formulation is limited to the

Y

$Y$ series.

— Robert Kubrick

1

The 2 predictors are the lags of the error terms. Since these are not known a priori since we do not know the error terms before we begin is why this has to be treated by non-linear estimation.The confusion you are having is that a model that is finite in the past ( i.e. an AR MODEL ) is potentially infinite in the errors AND a model that is finite in the errors ( i.e. an MA MODEL) is potentially infinite in the past of Y.The reason one selects an AR MODEL versus an MA MODEL is for parsimony. Sometimes we construct an ARMA MODEL which blends both the history of Y and the history of the errors.

— IrishStat

1

As I commented in the other answer, what I am still missing is what's the optimal forecast for

Y

$Y$ , which is used to calculate the innovation

e_{t - n}

$e_{t-n}$ .

— Robert Kubrick,

1

See my post here for an explanation of how to understand the disturbance terms in a MA series.

You need different estimation techniques to estimate them. This is because you cannot first get the residuals of a linear regression and then include the lagged residual values as explanatory variables because the MA process uses the residuals of the current regression. In your example you are making two regression equations and using residuals from one into the other. This is not what an MA process is. It cannot be estimated with OLS.

— JoeDanger
fonte