Modelli di Markov con probabilità di transizione condizionata


10

Innanzi tutto, lasciatemi riconoscere in anticipo che non sono esperto di statistica e matematica come vorrei essere. Qualcuno potrebbe dire di avere abbastanza conoscenze per essere pericoloso. : DI scusami se non sto usando correttamente la terminologia.

Sto cercando di modellare le probabilità di un sistema che passa da uno stato a un altro. Un semplice modello Markov è un buon inizio. (Set di stati, set di probabilità di stato iniziale, set di probabilità di transizione tra stati.)

Tuttavia, il sistema che sto modellando è più complesso di così. Le probabilità di transizione che portano a uno stato al momento T dipendono sicuramente da variabili diverse dallo stato in T-1. Ad esempio, S1 -> S2 potrebbe avere una probabilità di transizione del 40% quando il sole splende, ma S1 -> S2 probabilità va all'80% quando piove.

Ulteriori informazioni dalle domande dei commentatori:

  1. Gli stati sono osservabili.
  2. Ci saranno solo 5-10 stati.
  3. Attualmente ci sono circa 30 covariate che vogliamo investigare, anche se il modello finale avrà sicuramente meno di questo.
  4. Alcune covariate sono continue, altre sono discrete.

Tre domande:

  1. Come posso incorporare le probabilità di transizione condizionale nel mio modello Markov?
  2. Oppure, c'è un'altra prospettiva interamente da cui dovrei affrontare questo problema?
  3. Inoltre, quali parole chiave / concetti dovrei cercare online per saperne di più su questo?

Sono già stato in giro per il web alla ricerca di cose come "modelli markov con probabilità di transizione condizionale", ma finora nulla mi ha schiaffeggiato in faccia e ha detto: "Questa è la tua risposta, manichino!"

Grazie per l'aiuto e la pazienza.


Benvenuti nel sito. Quanto è grande lo spazio degli stati? Non si osserva lo stato che il processo è in ad ogni passo? Quante covariate (predittori aggiuntivi) hai? Sono continui, discreti o forse una miscela di entrambi?
cardinale

Grazie cardinale. Sì, gli stati sono osservabili. Probabilmente ci saranno da 5 a 10 stati. (È ancora incerto, ma non mi aspetto uno spazio statale molto ampio.) In questo momento, abbiamo un elenco di circa 30 covariate aggiuntive che intendiamo investigare, sebbene la maggior parte di esse finirà probabilmente per avere scarso effetto. Alcuni sono continui e alcuni sono discreti.
Aaron Johnson,

Risposte:


5

Puoi sempre avere una catena markov di secondo ordine o superiore. In tal caso, il tuo modello pronto include tutte le informazioni di transizione probabilistica al suo interno. Puoi controllare Dynamic Bayesian Networks, che è una generalizzazione di modello grafico delle catene di Markov che vengono utilizzate frequentemente nell'apprendimento automatico.


YBE, grazie per la rapida risposta! Questo (modellizzazione del sistema come secondo ordine o catena superiore) mi permette di modellare covariate continue o semplicemente covariate discrete? E puoi indicarmi un link che fornisce un buon esempio di cosa stai parlando? Grazie!
Aaron Johnson,

C'è un documento che puoi controllare. Inizia prima a descrivere le catene del 1 ° ordine, quindi descrive la situazione per le catene di ordine superiore. (Catene multivariate di ordine superiore e relative applicazioni di Ching, Ng, Fung) Se sei interessato a cose di apprendimento automatico, ti consiglio di visitare il sito Web di Kevin Murphy. Ha anche una cassetta degli attrezzi MATLAB con cui puoi giocare.
YBE,

+1 alla tua risposta per il riferimento al documento Ching, Ng e Fung. È una buona idea. Tuttavia, dopo averlo letto, sembra che copre solo le variabili discrete (che è una specie di quello che mi aspettavo.) Mentre posso discretizzare le mie variabili continue, sono ancora curioso - Esistono modelli in grado di gestire il continuo grezzo variabili?
Aaron Johnson,

Non sono un esperto, ma immagino che i risultati dovrebbero valere per il caso continuo in generale. Il filtro Kalman, ad esempio, funziona su un HMM (catena markov del 1 ° ordine) con stati continui.
YBE

Non ho scelto immediatamente la tua risposta perché stavo aspettando più candidati. Non sono mai venuti e me ne sono dimenticato. Due anni dopo, ora ti conferisco accettando la tua risposta. Grazie per le informazioni! A proposito, hai incontrato qualcos'altro su questo argomento negli ultimi due anni? È ancora qualcosa che mi interessa.
Aaron Johnson,


0

T1

Questo pacchetto sembra essere abbastanza adatto per modellare gli effetti delle covariate sulle transizioni tra risultati categorici nel tempo. Non sarebbe di aiuto se davvero avessi bisogno di una catena di ordini superiore, ma non sembra che sia il caso basato sulla tua domanda originale.

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.