Qual è la differenza tra modello deterministico e stocastico?

Modello lineare semplice:

$x=\alpha t + \epsilon_t$ dove ~ iid $\epsilon_t$ $N(0,\sigma^2)$

con e $E(x) = \alpha t$ $Var(x)=\sigma^2$

AR (1):

$X_t =\alpha X_{t-1} + \epsilon_t$ dove ~ iid $\epsilon_t$ $N(0,\sigma^2)$

con e $E(x) = \alpha t$ $Var(x)=t\sigma^2$

Quindi un semplice modello lineare è considerato un modello deterministico mentre un modello AR (1) è considerato un modello stocahstic.

Secondo un video Youtube di Ben Lambert - Deterministic vs Stochastic , la ragione di AR (1) da chiamare come modello stocastico è perché la sua varianza aumenta con il tempo. Quindi la caratteristica della varianza non costante deve essere il criterio per determinare lo stocastico o il deterministico?

Inoltre, non penso che il semplice modello lineare sia totalmente deterministico in quanto abbiamo un termine associato al modello. Quindi, abbiamo sempre una casualità in . Quindi, fino a che punto possiamo dire che un modello è deterministico o stocastico? $\epsilon_t$ $x$

— Ken T
fonte

Qualsiasi modello che presenta un termine di errore è stocastico. Non ha nulla a che fare con la varianza dovuta al cambiamento nel tempo.

— Michael R. Chernick,

@MichaelChernick Non capisco. Allora perché la gente dice che la semplice regressione lineare è un modello deterministico?

— Ken T

Potresti fornire un link per mostrare dove viene detto e perché lo si dice.

— Michael R. Chernick,

Era dalle note del mio corso sull'analisi delle serie storiche qualche anno fa. Forse è sbagliato.

— Ken T

Risposte:

Il video parla di tendenze deterministiche e stocastiche , non di modelli . Il momento clou è molto importante. Entrambi i tuoi modelli sono stocastici, tuttavia nel modello 1 la tendenza è deterministica.

Il modello 2 non ha una tendenza. Il testo della domanda non è corretto.

Il modello 2 nella tua domanda è AR (1) senza una costante, mentre nel video il modello è una camminata casuale (moto browniano): Questo modello ha effettivamente una tendenza stocastica . È stocastico perché è solo in media. Ogni realizzazione di un moto browniano si discosterà da causa del termine casuale , che è facilmente visibile differenziando:

x_{t} = α + x_{t - 1} + e_{t}

$x_t=\alpha+x_{t-1}+e_t$

α t

$\alpha t$

α t

$\alpha t$

e_{t}

$e_t$

Δ x_{t} = x_{t} - x_{t - 1} = α + e_{t}

$\Delta x_t=x_t-x_{t-1}=\alpha+e_t$

x_{t} = x_{0} + \sum_{t = 1}^{t} Δ x_{t} = x_{0} + α t + \sum_{t = 1}^{t} e_{t}

$x_t=x_0+\sum_{t=1}^t\Delta x_t=x_0+\alpha t +\sum_{t=1}^t e_t$

— Aksakal
fonte

+1. Ma per essere perfettamente chiari e precisi, potresti voler sottolineare che la deviazione da è dovuta al termine casuale , non solo .

α t

$\alpha t$

e_{1} + e_{2} + \dots + e_{t}

$e_1+e_2+\dots +e_t$

e_{t}

$e_t$

— whuber

Come menzionato da Aksakal nella sua risposta, il video Ken T collegato descrive le proprietà delle tendenze , non dei modelli direttamente, presumibilmente come parte dell'insegnamento sull'argomento correlato della stazionarietà di tendenza e differenza in econometria. Dato che nella tua domanda, hai chiesto dei modelli, eccolo nel contesto dei modelli :

Un modello o processo è stocastico se ha casualità. Ad esempio, se dati gli stessi input (variabili indipendenti, pesi / parametri, iperparametri, ecc.), Il modello potrebbe produrre output diversi. Nei modelli deterministici, l'output è completamente specificato dagli input al modello (variabili indipendenti, pesi / parametri, iperparametri, ecc.), In modo che, dati gli stessi input al modello, gli output siano identici. L'origine del termine "stocastico" deriva da processi stocastici . Come regola generale, se un modello ha una variabile casuale, è stocastico. I modelli stocastici possono anche essere semplici variabili casuali indipendenti.

Disimballiamo un po 'più di terminologia che ti aiuterà a capire la letteratura sui modelli statistici (deterministico, stocastico o altro ...):

$AR(1)$ $t-1$ $\mu_{\epsilon_t}=0$ ), ecc. Facciamo queste ipotesi al fine di rendere utile il modello lineare per stimare le variabili dipendenti minimizzando alcune norme di tale termine di errore. Queste ipotesi ci consentono di derivare proprietà utili degli stimatori e dimostrare che determinati stimatori sono i migliori in base a tali ipotesi; ad esempio, che lo stimatore OLS è BLU .

Un esempio più semplice di un modello stocastico è il lancio di una moneta giusta (testa o croce), che può essere modellata stocasticamente come una variabile casuale binaria uniformemente distribuita o un processo di Bernoulli . Puoi anche considerare il lancio della moneta come un sistema fisico e trovare un modello deterministico (in un'impostazione idealizzata) se prendi in considerazione la forma della moneta, l'angolo e la forza dell'impatto, la distanza dalla superficie, ecc. Se il quest'ultimo modello (fisico) del lancio della moneta non contiene variabili casuali (ad es. non considera l'errore di misura di nessuno degli input del modello), quindi è deterministico.

$X_t$ $AR(1)$ $\epsilon_t$ $y_t = ax_t+\epsilon_t$ $t$ $Var[X_t]$ $t$ $Var[X_t]$

Inoltre, a volte c'è confusione tra processi stocastici stazionari e processi stocastici non stazionari. La stazionarietà implica che statistiche come media o varianza non cambiano nel tempo nel modello. Entrambi sono ancora considerati modelli / processi stocastici fintanto che è coinvolta la casualità. Come collega Maroon, Matthew Gunn, menziona nella sua risposta, la decomposizione di Wold afferma che qualsiasi processo stocastico stazionario può essere scritto come la somma di un processo deterministico e stocastico.

— lo voglio
fonte

Bella risposta! Una domanda: perché scrivi "... se la sua varianza cambia su un parametro ..." non dovrebbe essere un cambiamento su una variabile (o funzione di una variabile)?

— Alexis,

@Alexis Mi riferivo al tempo come parametro del modello. Hai ragione, quella lingua è imprecisa. Fisso. Grazie. :-)

— ido

Come cambia la varianza di AR (1)?

— Aksakal,

V a r [ε_{t}]

$Var[\varepsilon_t]$

σ^{2}

$\sigma^2$

V a r [X_{t}] = t σ^{2}

$Var[X_t] = t\sigma^2$

X_{t} = α + X_{t - 1} + ε_{t}

$X_t = \alpha + X_{t-1} + \varepsilon_t$

ε_{t} \sim N (0, σ^{2})

$\varepsilon_t \sim N(0, \sigma^2)$

A R (1)

$AR(1)$ si riferisce al modello descritto come tale da Ken T.)

— ido

V a r [X_{t}] = V a r [X_{t - 1}] + V a r [ε_{t}] = \sum_{i = 1}^{t} V a r [ε_{i}] = t σ^{2}

$Var[X_t] = Var[X_{t-1}] + Var[\varepsilon_t] = \sum_{i=1}^{t} Var[\varepsilon_i] = t\sigma^2$

V a r [ε_{i}] = σ^{2}

$Var[\varepsilon_i] = \sigma^2$

ε_{t}

$\varepsilon_t$

ε_{t}

$\varepsilon_t$

C o v [X_{t}, X_{t - 1}] = 0

$Cov[X_t, X_{t-1}] = 0$

Alcune definizioni informali

- $y(t) = 2t$
- $y(t) = e^t$
$\{Y_t\}$ $\Omega$ $Y(t,\omega)$ $t$ $\omega$ $\Omega$
- $y_t = \epsilon_t$ $\epsilon_t \sim \mathcal{N}(0, 1)$
- $y_t = .7 y_{t-1} + \epsilon_t$
$\omega$ $\Omega$ $\omega \in \Omega$ $Y_t(\omega)$

Alcuni commenti ...

... la ragione di AR (1) da chiamare come modello stocastico è perché la sua varianza aumenta con il tempo.

$t$

$\epsilon_t$

$x_t$ $x_t = \alpha t + \epsilon_t$ $\{\epsilon_t\}$ $\{x_t\}$

$y_t = \alpha t$ $\{x_t\}$ $\alpha t$ $\epsilon_t$

Ciò porta al teorema di Wold che qualsiasi processo stazionario di covarianza può essere scomposto in modo univoco in una componente deterministica e una componente stocastica.

— Matthew Gunn
fonte