Come modellare una moneta distorta con distorsione temporale?

I modelli di monete di parte hanno in genere un parametro . Un modo per stimare da una serie di estrazioni è usare una beta precedente e calcolare la distribuzione posteriore con probabilità binomiale.$\theta = P(\text{Head} | \theta)$$\theta$

Nelle mie impostazioni, a causa di uno strano processo fisico, le proprietà della mia moneta stanno lentamente cambiando e diventa una funzione del tempo . I miei dati sono un insieme di estrazioni ordinate, ad esempio . Posso considerare che ho solo un pareggio per ogni su una griglia temporale discreta e regolare.t { H , T , H , H , H , T , . . . } $\theta$$t$$\{H,T,H,H,H,T,...\}$$t$

Come lo modelleresti? Sto pensando a qualcosa come un filtro Kalman adattato al fatto che la variabile nascosta è e mantiene la probabilità binomiale. Cosa potrei usare per modellare per mantenere tracciabile l'inferenza?P ( θ ( t + 1 ) | θ ( t ) $\theta$$P(\theta(t+1)|\theta(t))$

Modifica le seguenti risposte (grazie!) : Vorrei modellare come una catena di Markov di ordine 1 come avviene nei filtri HMM o Kalman. L'unica ipotesi che posso fare è che sia regolare. Potrei scrivere con un piccolo rumore gaussiano (idea del filtro di Kalman), ma questo spezzerebbe il requisito che deve rimanere in . Seguendo l'idea di @J Dav, potrei usare una funzione probit per mappare la linea reale su , ma ho l'intuizione che ciò darebbe una soluzione non analitica. Una distribuzione beta con meanθ ( t ) P ( θ ( t + 1 ) | θ ( t ) ) = θ ( t ) + ϵ ϵ θ [ 0 , 1 ] [ 0 , 1 ] θ ( t $\theta(t)$$\theta(t)$$P(\theta(t+1)|\theta(t)) = \theta(t) + \epsilon$$\epsilon$$\theta$$[0,1]$$[0,1]$$\theta(t)$ e una varianza più ampia potrebbe fare il trucco.

Sto ponendo questa domanda poiché ho la sensazione che questo problema sia così semplice che deve essere stato studiato in precedenza.

Dubito che tu possa trovare un modello con soluzione analitica, ma l'inferenza può ancora essere resa trattabile usando gli strumenti giusti poiché la struttura delle dipendenze del tuo modello è semplice. Come ricercatore di machine learning, preferirei utilizzare il seguente modello in quanto l'inferenza può essere resa piuttosto efficiente usando la tecnica della propagazione delle aspettative:

Sia il risultato del -esimo processo. Definiamo il parametro variabile nel tempo$X(t)$$t$

$\eta(t+1) \sim \mathcal{N}(\eta(t), \tau^2)$ per .$t \geq 0$

Per collegare con , introdurre variabili latenti$\eta(t)$$X(t)$

$Y(t) \sim \mathcal{N}(\eta(t), \beta^2)$ ,

e modello essere$X(t)$

Y ( t ) ≥ 0 X ( t ) = 0 Y ( t ) P [ X ( t ) = 1 ] = Φ ( η ( t ) / β ) Φ θ ( t ) = η ( t ) /$X(t) = 1$ se e altrimenti. Puoi effettivamente ignorare e emarginarli per dire semplicemente , (con cdf di standard normale) ma l'introduzione di variabili latenti rende facile l'inferenza. Inoltre, nota che nella tua parametrizzazione originale .$Y(t) \geq 0$$X(t) = 0$$Y(t)$$\mathbb{P}[X(t)=1] = \Phi(\eta(t)/\beta)$$\Phi$$\theta(t) = \eta(t)/\beta$

Se sei interessato a implementare l'algoritmo di inferenza, dai un'occhiata a questo documento . Usano un modello molto simile in modo da poter adattare facilmente l'algoritmo. Per capire l'EP la seguente pagina può essere utile. Se sei interessato a perseguire questo approccio fammi sapere; Posso fornire consigli più dettagliati su come implementare l'algoritmo di inferenza.

Per elaborare il mio commento un modello come p (t) = p exp (-t) è un modello semplice che consente di stimare p (t) stimando p utilizzando la stima della massima verosimiglianza. Ma la probabilità decade davvero in modo esponenziale. Questo modello sarebbe chiaramente sbagliato se si osservano periodi di tempo con alta frequenza di successo rispetto a quanto osservato in precedenza e in tempi successivi. Il comportamento oscillatorio potrebbe essere modellato come p (t) = p | sint |. Entrambi i modelli sono molto trattabili e possono essere risolti con la massima probabilità ma offrono soluzioni molto diverse.$_0$$_0$$_0$

La tua probabilità cambia con ma come diceva Michael, non sai come. linearmente o no? Sembra un problema di selezione del modello in cui la tua probabilità :$t$$p$

$p=\Phi(g(t,\theta))$ può dipendere da una funzione altamente non lineare . è solo una funzione di delimitazione che garantisce tra 0 e 1 probabilità.$g(t,\theta)$$\Phi$

Un semplice approccio esplorativo sarebbe quello di provare diverse prove per con diversi non lineari e di eseguire una selezione del modello basata su criteri informativi standard.$\Phi$$g()$$g()$

Per rispondere alla sua ri-eddited domanda:

Come hai detto, l'utilizzo di probit implicherebbe solo soluzioni numeriche, ma potresti invece utilizzare una funzione logistica:

Funzione logistica:$P[\theta(t+1)] = \frac{1}{1+\exp{(\theta(t)+\epsilon)}}$

Linearizzato da:$\log{\frac{P}{1-P}} = \theta(t)+\epsilon$

Non sono sicuro di come possa funzionare con l'approccio del filtro Kalman, ma credo ancora che una specifica non lineare come o molte altre senza un termine casuale lo farà Fai il lavoro. Come puoi vedere questa funzione è "smoth", nel senso che è continua e differenziabile. Sfortunatamente l'aggiunta di genererebbe salti della probabilità risultante che è qualcosa che non vuoi, quindi il mio consiglio sarebbe di eliminare .ϵ $\theta(t+1)=a t^3 +bt^2+ct + d$$\epsilon$$\epsilon$

Probabilità di accesso:$P[Coin_{t+1}=H | t] = \frac{1}{1+\exp{(\theta(t))}}$

Hai già delle casualità nell'evento bernoulli (Markov Chain) e ne stai aggiungendo un'altra fonte grazie a . Pertanto, il problema potrebbe essere risolto come Probit o Logit stimato dalla massima probabilità con come variabile esplicativa. Suppongo che tu sia d'accordo sul fatto che tale parsimonia è molto importante. A meno che il tuo obiettivo principale sia applicare un determinato metodo (HMM e Kalman Filter) e non fornire la soluzione valida più semplice al tuo problema.$\epsilon$$t$