Conseguenze della modellizzazione di un processo non stazionario mediante ARMA?

Capisco che dovremmo usare ARIMA per modellare una serie temporale non stazionaria. Inoltre, tutto ciò che ho letto dice che ARMA dovrebbe essere usato solo per serie storiche stazionarie.

Quello che sto cercando di capire è, cosa succede in pratica quando si classificano erroneamente un modello e si presume d = 0che una serie temporale non sia stazionaria? Per esempio:

controlData <- arima.sim(list(order = c(1,1,1), ar = .5, ma = .5), n = 44)

i dati di controllo si presentano così:

 [1]   0.0000000   0.1240838  -1.4544087  -3.1943094  -5.6205257
 [6]  -8.5636126 -10.1573548  -9.2822666 -10.0174493 -11.0105225
[11] -11.4726127 -13.8827001 -16.6040541 -19.1966633 -22.0543414
[16] -24.8542959 -25.2883155 -23.6519271 -21.8270981 -21.4351267
[21] -22.6155812 -21.9189036 -20.2064343 -18.2516852 -15.5822178
[26] -13.2248230 -13.4220158 -13.8823855 -14.6122867 -16.4143756
[31] -16.8726071 -15.8499558 -14.0805114 -11.4016515  -9.3330560
[36]  -7.5676563  -6.3691600  -6.8471371  -7.5982880  -8.9692152
[41] -10.6733419 -11.6865440 -12.2503202 -13.5314306 -13.4654890

Supponendo che non sapevo che fossero i dati ARIMA(1,1,1), potrei dare un'occhiata pacf(controlData).

PACF (ControlData)

Quindi uso Dickey-Fuller per vedere se i dati non sono fissi:

require('tseries')
adf.test(controlData)

# Augmented Dickey-Fuller Test
#
# data:  controlData
# Dickey-Fuller = -2.4133, Lag order = 3, p-value = 0.4099
# alternative hypothesis: stationary

adf.test(controlData, k = 1)

# Augmented Dickey-Fuller Test
#
#data:  controlData
# Dickey-Fuller = -3.1469, Lag order = 1, p-value = 0.1188
# alternative hypothesis: stationary

Quindi, potrei supporre che i dati siano ARIMA (2,0, *) Quindi utilizzare auto.arima(controlData)per cercare di ottenere la soluzione migliore?

require('forecast')
naiveFit <- auto.arima(controlData)
naiveFit
# Series: controlData 
# ARIMA(2,0,1) with non-zero mean 
# 
# Coefficients:
#          ar1      ar2     ma1  intercept
#      1.4985  -0.5637  0.6427   -11.8690
# s.e.  0.1508   0.1546  0.1912     3.2647
#
# sigma^2 estimated as 0.8936:  log likelihood=-64.01
# AIC=138.02   AICc=139.56   BIC=147.05

Quindi, anche se i dati passati e futuri sono ARIMA (1,1,1), potrei essere tentato di classificarli come ARIMA (2,0,1). tsdata(auto.arima(controlData))anche bello.

Ecco cosa troverebbe un modellatore informato:

informedFit <- arima(controlData, order = c(1,1,1))
# informedFit
# Series: controlData 
# ARIMA(1,1,1)                    
#
# Coefficients:
#          ar1     ma1
#       0.4936  0.6859
# s.e.  0.1564  0.1764
#
# sigma^2 estimated as 0.9571:  log likelihood=-62.22
# AIC=130.44   AICc=131.04   BIC=135.79

1) Perché questi criteri di informazione sono migliori del modello selezionato da auto.arima(controlData)?

Ora, confronto graficamente i dati reali e i 2 modelli:

plot(controlData)
lines(fitted(naiveFit), col = "red")
lines(fitted(informedFit), col = "blue")

tsPlots

2) Nel ruolo del difensore del diavolo, che tipo di conseguenze dovrei pagare usando un ARIMA (2, 0, 1) come modello? Quali sono i rischi di questo errore?

3) Sono principalmente preoccupato per eventuali implicazioni per le previsioni a termine a più periodi. Presumo che sarebbero meno accurati? Sto solo cercando delle prove.

4) Consiglieresti un metodo alternativo per la selezione del modello? Ci sono problemi con il mio ragionamento come modellatore "non informato"?

Sono davvero curioso di sapere quali sono le altre conseguenze di questo tipo di classificazione errata. Ho cercato alcune fonti e non sono riuscito a trovare nulla. Tutta la letteratura che ho potuto trovare solo tocchi su questo argomento, invece solo affermando che i dati dovrebbero essere stazionari prima di eseguire l'ARMA, e se non è stazionaria, allora deve essere differenziata d volte.

Grazie!

r time-series arima stationarity

— Clark Henry
fonte

La mia impressione è che sia analogo al presupposto degli "errori ortogonali" nella regressione trasversale (cioè distorce gli errori standard ma non i coefficienti), ma sono davvero interessato a sentire la risposta effettiva.

— Shadowtalker

Risposte:

La mia impressione è che questa domanda non abbia una risposta unica, del tutto generale, quindi esplorerò solo il caso più semplice e in modo un po 'informale.

\begin{matrix} (1) & y_{t} = y_{t - 1} + u_{t}, t = 1, . . ., T, y_{0} = 0 \end{matrix}

$y_t = y_{t-1} + u_t,\;\; t=1,...,T,\;\; y_0 =0 \tag{1}$

u_{t}

$u_t$

E (u_{t}^{2}) = σ_{u}^{2}

$E(u_t^2)= \sigma^2_u$

\begin{matrix} (2) & y_{t} = \sum_{i = 1}^{t} u_{i} \end{matrix}

$y_t = \sum_{i=1}^tu_i \tag{2}$

$A$

\begin{matrix} (3) & y_{t} = β y_{t - 1} + u_{t}, t = 1, . . ., T, y_{0} = 0 \end{matrix}

$y_t = \beta y_{t-1} + u_t,\;\; t=1,...,T,\;\; y_0 =0 \tag{3}$

$\hat \beta$ $\beta$

$k$

\begin{matrix} (4) & {\hat{y}}_{T + k} = {\hat{β}}^{k} y_{T} \end{matrix}

$\hat y_{T+k} = \hat \beta^k y_T \tag{4}$

e lo sarà il suo MSE

M S E_{A} [{\hat{y}}_{T + k}] = E {({\hat{β}}^{k} y_{T} - y_{T + k})}^{2}

$MSE_A[\hat y_{T+k}] = E\left(\hat \beta^k y_T-y_{T+k}\right)^2$

\begin{matrix} (5) & = E {[({\hat{β}}^{k} - 1) y_{T} - \sum_{i = T + 1}^{T + k} u_{i}]}^{2} = E [({\hat{β}}^{k} - 1)^{2} y_{T}^{2}] + k σ_{u}^{2} \end{matrix}

$=E\left[(\hat \beta^k-1) y_T -\sum_{i=T+1}^{T+k}u_i \right]^2 = E\big[(\hat\beta^k-1)^2 y_T^2\big]+ k\sigma^2_u \tag{5}$

(il termine medio della piazza svanisce, così come i prodotti incrociati di errori futuri).

$B$

\begin{matrix} (6) & Δ y_{t} = γ Δ y_{t - 1} + u_{t} \end{matrix}

$\Delta y_t = \gamma \Delta y_{t-1} + u_t \tag{6}$

$\hat \gamma$

\begin{matrix} (7) & y_{t} = y_{t - 1} + γ (y_{t - 1} - y_{t - 2}) + u_{t} \end{matrix}

$y_t = y_{t-1} + \gamma (y_{t-1}-y_{t-2}) + u_t \tag{7}$

così prevedendo il livello del processo, avremo

{\hat{y}}_{T + 1} = y_{T} + \hat{γ} (y_{T} - y_{T - 1})

$\hat y_{T+1} = y_{T} + \hat \gamma (y_{T}-y_{T-1})$

che in realtà, dato il vero DGP sarà

\begin{matrix} (8) & {\hat{y}}_{T + 1} = y_{T} + \hat{γ} u_{T} \end{matrix}

$\hat y_{T+1} = y_{T} + \hat \gamma u_T \tag {8}$

$B$

{\hat{y}}_{T + k} = y_{T} + (\hat{γ} + {\hat{γ}}^{2} + . . . + {\hat{γ}}^{k}) u_{T}

$\hat y_{T+k} = y_{T} + \big(\hat \gamma + \hat \gamma^2+...+\hat \gamma^k)u_T$

$|\hat \gamma|<1$ $0$

\begin{matrix} (9) & {\hat{y}}_{T + k} = y_{T} + \frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}} u_{T} \end{matrix}

$\hat y_{T+k} = y_{T} + \frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}u_T \tag{9}$

e così

\begin{matrix} (10) & M S E_{B} [{\hat{y}}_{T + k}] = E [{(\frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}})}^{2} u_{T}^{2}] + k σ_{u}^{2} \end{matrix}

$MSE_B[\hat y_{T+k}] = E\left[\left(\frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}\right)^2u_T^2\right] + k\sigma^2_u \tag{10}$

mentre ripeto per comodità

\begin{matrix} (5) & M S E_{A} [{\hat{y}}_{T + k}] = E [({\hat{β}}^{k} - 1)^{2} y_{T}^{2}] + k σ_{u}^{2} \end{matrix}

$MSE_A[\hat y_{T+k} ] = E\big[(\hat\beta^k-1)^2 y_T^2\big]+ k\sigma^2_u \tag{5}$

Quindi, affinché il modello differenziato funzioni meglio in termini di previsione MSE, vogliamo

M S E_{B} [{\hat{y}}_{T + k}] \leq M S E_{A} [{\hat{y}}_{T + k}]

$MSE_B[\hat y_{T+k}] \leq MSE_A[\hat y_{T+k}]$

\Rightarrow E [{(\frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}})}^{2} u_{T}^{2}] \leq E [({\hat{β}}^{k} - 1)^{2} y_{T}^{2}]

$\Rightarrow E\left[\left(\frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}\right)^2u_T^2\right] \leq E\big[(\hat\beta^k-1)^2 y_T^2\big]$

$B$ $A$ $\hat \beta$

$\hat \beta >1$ $k$ $k$ $B$ $A$

$A$ $\hat \beta <1$ $k \rightarrow \infty$

E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2} u_{T}^{2}] \leq E [y_{T}^{2}] = T σ_{u}^{2} ? ?

$E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2u_T^2\right] \leq E\big[y_T^2\big]= T\sigma^2_u\;\; ??$

$k \rightarrow \infty$ $k$

$\left(\frac {\hat \gamma }{1-\hat \gamma}\right)^2$ $0$ $B$

$\hat \gamma$ $u_T$

Cov [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}, u_{T}^{2}] + E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}] \cdot σ_{u}^{2} \leq T σ_{u}^{2} ? ?

$\operatorname{Cov}\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2,\,u_T^2\right] + E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2\right]\cdot \sigma^2_u \leq T\sigma^2_u\;\; ??$

\Rightarrow Cov [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}, u_{T}^{2}] \leq (T - E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}]) \cdot σ_{u}^{2} ? ?

$\Rightarrow \operatorname{Cov}\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2,\,u_T^2\right] \leq \left (T-E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2\right]\right)\cdot \sigma^2_u \;\; ??$

Ora, la stima della covarianza sul lato sinistro dovrebbe essere ridotta, dal momento che lo stimatore $\hat \gamma$ dipende da tutto $T$ errori. Dall'altro lato della disuguaglianza, $\hat \gamma$ proviene da un set di dati stazionario, quindi il valore atteso della funzione sopra descritta dovrebbe essere molto inferiore alla dimensione del campione (poiché più di questa funzione si $(0,1)$ ).

Quindi, in tutto, senza discutere alcun metodo di stima specifico, credo che siamo stati in grado di dimostrare in modo informale che il modello differenziato dovrebbe funzionare meglio in termini di previsione MSE.

— Alecos Papadopoulos
fonte

Questa è una buona domanda

Come realizzo, hai appena considerato il pacf ma non è abbastanza. ACF e PACF sono entrambi necessari per selezionare il modello migliore.

D'altra parte, i test fissi sono deboli e sensibili e necessitano di una grande quantità di ritardi per essere testati.

Inoltre, si preferisce rendere ferme le serie temporali prima di applicare qualsiasi modello. In parole povere, i modelli ARIMA considerano solo un caso speciale di non-stazionario (preferibilmente di tendenza).

Per quanto riguarda le tue domande, non sono sicuro della funzione auto.arima, ma sono sicuro che il numero di punti dati nel tuo esempio sia piccolo. Simulare un modello utilizzando un numero elevato di punti dati risponderebbe bene alle tue domande. Inoltre, ti consiglio di prendere in considerazione ACF delle serie storiche e PACF. Per quanto riguarda la selezione del modello, la regola empirica è scegliere il modello più semplice (si noti che il modello più semplice dopo aver reso le serie temporali stazionarie).

Ti rimando a questo riferimento. Questo libro non risponde a tutte le tue domande ma ti fornisce alcuni indizi.

----- sezione complementare ------- @nsw considerando una tendenza nei tuoi dati. Se si considera un modello stazionario, si ottiene una previsione verso l'alto / verso il basso, ma in realtà i modelli ARMA sono progettati per prevedere dati flat. Ho modificato il tuo codice per riflettere questa differenza:

require ( 'previsioni')

require ( '') Tseries

controlData <- arima.sim (list (ordine = c (1,1,1), ar = .5, ma = .5), n = 1000 )

ACF (ControlData)

ts.plot (ControlData)

naiveFit <- arima (controlData, order = c (2,0,1))

trueFit <- arima (controlData, order = c (1,1,1))

PrnaiveFit <-forecast.Arima (naiveFit, 10)

PrtrueFit <- forecast.Arima (trueFit, 10)

matplot (cbind (PrnaiveFit $ mean, PrtrueFit $ mean), type = 'b', col = c ('red', 'green'), ylab = c ('predict ion'), pch = c ('n', 't'))

— TPArrow
fonte

La domanda chiede perché si preferisce "rendere stazionarie le serie storiche". Questo non risponde davvero a questa domanda.

— Shadowtalker

@ssdecontrol Hai ragione in generale. Sono molto più preoccupato per le conseguenze implicite sulla previsione dopo errata specificazione. Ma non voglio battere troppo su Hamed.HM. Ha ancora affrontato la mia ultima domanda su "è questo il modo giusto di selezionare un modello?" Ma solo per ribadire, questa è l'ultima delle mie preoccupazioni qui.

— Clark Henry,