Calcolo della probabilità logaritmica per un determinato MLE (catene di Markov)

Attualmente sto lavorando con le catene di Markov e ho calcolato la stima della massima verosimiglianza utilizzando le probabilità di transizione come suggerito da diverse fonti (ovvero il numero di transizioni da a a diviso per il numero di transizioni complessive da a ad altri nodi).

Ora voglio calcolare la verosimiglianza logaritmica dell'MLE.

maximum-likelihood markov-process likelihood

— fsociety
fonte

Hai già calcolato la stima della massima verosimiglianza delle probabilità di transizione e ora vuoi calcolare la verosimiglianza di cosa esattamente?

— Nick,

Consenti a essere un percorso della catena markov e che sia la probabilità di osservare il percorso quando è il vero valore del parametro (ovvero la funzione di probabilità per ). Usando la definizione di probabilità condizionale, lo sappiamo $\{ X_i \}_{i=1}^{T}$ $P_{\theta}(X_1, ..., X_T)$ $\theta$ $\theta$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}, . . ., X_{1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Poiché si tratta di una catena markov, sappiamo che , quindi questo semplifica questo $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Ora, se ripeti questa stessa logica volte, ottieni $T$

P_{θ} (X_{1}, . . ., X_{T}) = \prod_{i = 1}^{T} P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$

dove deve essere interpretato come lo stato iniziale del processo. I termini sul lato destro sono solo elementi della matrice di transizione. Poiché era la probabilità di log che hai richiesto, la risposta finale è: $X_0$

L (θ) = \sum_{i = 1}^{T} \log (P_{θ} (X_{i} | X_{i - 1}))

${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$

Questa è la probabilità di una singola catena markov - se il tuo set di dati include diverse catene (indipendenti) markov, la probabilità completa sarà una somma dei termini di questo modulo.

— macro
fonte

Wow, grazie mille per la risposta. In questo caso è la probabilità di "transizione" presa dall'MLE, giusto?

P_{θ}

$P_{\theta}$

— fsociety,

@ph_singer, sei il benvenuto. è la probabilità di spostarsi dallo stato a , dato il valore del parametro, . Se non hai imposto alcuna struttura sulla matrice di transizione (che è quello che sembra) allora indica semplicemente il vettore delle probabilità di transizione (e gli MLE sono solo le proporzioni del campione, come hai correttamente indicato nella tua domanda), quindi sì : sarà solo la proporzione campione di mosse dallo stato che sono finite nello stato .

P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_i$

θ

$\theta$

θ

$\theta$

P_{{\hat{θ}}_{M L E}} (X_{i} | X_{i - 1})

$P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_{i}$

— Macro

Grazie ancora! Ancora un'altra domanda: se uso un altro ordine (ad esempio, k = 2), come funzionerebbe questo processo?

— fsociety,

Puoi chiarire cosa intendi per "ordine"?

— Macro

(+1) L'OP probabilmente significa per indicare un MC del secondo ordine , ovvero, a seconda dei due stati precedenti anziché solo l'ultimo .

k = 2

$k=2$

X_{i - 1}, X_{i - 2}

$X_{i-1},X_{i-2}$

X_{i - 1}

$X_{i-1}$

— cardinale