Montaggio di un modello ARIMAX con regolarizzazione o penalizzazione (ad es. Con il lazo, la rete elastica o la regressione della cresta)

Uso la funzione auto.arima () nel pacchetto di previsione per adattarsi ai modelli ARMAX con una varietà di covariate. Tuttavia, ho spesso un gran numero di variabili tra cui scegliere e di solito finisco con un modello finale che funziona con un sottoinsieme di esse. Non mi piacciono le tecniche ad hoc per la selezione delle variabili perché sono umano e soggetto a parzialità, ma le serie temporali con convalida incrociata sono difficili , quindi non ho trovato un buon modo per provare automaticamente diversi sottoinsiemi delle mie variabili disponibili e Sono bloccato a sintonizzare i miei modelli usando il mio miglior giudizio.

Quando inserisco i modelli glm, posso utilizzare la rete elastica o il lazo per la regolarizzazione e la selezione delle variabili, tramite il pacchetto glmnet . Esiste un toolkit esistente in R per l'utilizzo della rete elastica sui modelli ARMAX o dovrò rotolare il mio? È anche una buona idea?

modifica: avrebbe senso calcolare manualmente i termini AR e MA (diciamo fino a AR5 e MA5) e usare glmnet per adattarsi al modello?

modifica 2: Sembra che il pacchetto FitAR mi faccia parte, ma non tutto, del modo in cui ci sono.

Questa non è una soluzione, ma alcune riflessioni sulle possibilità e difficoltà che conosco.

Ogni volta che è possibile specificare un modello di serie temporale come con x t calcolabile da covariate e osservazioni ritardate, è anche possibile calcolare la rete elastica dei minimi quadrati penalizzata stimatore di β usando glmnet in R. È necessario scrivere codice per calcolare x t per formare la matrice del modello che deve essere specificata in glmnet. Questo funziona per i modelli AR ma non direttamente per i modelli ARMA, diciamo. Inoltre, le procedure di convalida incrociata di glmnet non sono di per sé sensibili per i dati delle serie temporali.

$$Y_{t+1} = \mathbf{x}_t \beta + \epsilon_{t+1}$$ $\mathbf{x}_t$$\beta$$\mathbf{x}_t$

Per i modelli più generali un'implementazione di un algoritmo per il calcolo dello stimatore penalizzato netto elastico non lineare dei minimi quadrati di β . Per quanto ne so, non esiste una tale implementazione in R. Attualmente sto scrivendo un'implementazione per risolvere il caso in cui Y t + 1 = x t g ( β ) + ϵ t +

$$Y_{t+1} = f(\mathbf{x}_t, \beta) + \epsilon_{t+1}$$ $\beta$
$$Y_{t+1} = \mathbf{x}_t g(\beta) + \epsilon_{t+1}$$ il punto è che per la selezione del modello è fondamentale che la penalizzazione del lazo sia su e non su g ( β ) . Se ricordo correttamente la parametrizzazione ARIMA, assume anche questa forma , ma al momento non posso offrire alcun codice. È (sarà) basato su un metodo di discesa con gradiente coordinato per una minimizzazione separabile non regolare .$\beta$$g(\beta)$$-$

Un altro problema è la selezione della quantità di penalizzazione (i parametri di ottimizzazione). Richiederà generalmente una forma di convalida incrociata per le serie storiche, ma spero di essere in grado di elaborare alcuni metodi meno impegnativi dal punto di vista computazionale per modelli specifici.

Sono stato sfidato da un cliente a risolvere questo problema in modo automatico, cioè chiavi in ​​mano. Ho implementato un approccio che per ciascuna coppia (cioè ye un candidato x), prewhiten, calcola le correlazioni incrociate delle serie pre-sbiancate, identifica il PDL (O ADL AUTOREGRESSIVE DISTRIBUTED LAG MODEL incluso qualsiasi DEAD TIME) incorporando il rilevamento degli interventi a produrre stime affidabili, sviluppare una "misura" per questa struttura. Dopo aver eseguito questa operazione per TUTTI i regressori candidati, classificarli in base alla "misura" e quindi selezionare i primi regressori K in base alla "misura". Questo a volte viene definito filtro lineare. Abbiamo integrato con successo questa euristica nel nostro pacchetto di serie storiche disponibile in commercio. Dovresti essere in grado di "FARE IL TUO PROPRIO"