MCMC è senza memoria?

Sto cercando di capire quali sono le catene di Markov Monte Carlo (MCMC) dalla pagina Wikipedia francese. Dicono "che i metodi Monte Carlo della catena Markov consistono nel generare un vettore solo dai dati vettoriali , quindi è un processo" senza memoria ""$x_ {i}$$x_ {i-1}$

I metodi di Monte-Carlo per le cattedre di Markov sono coerenti con il generale un vettore unicità alla parte del donatore del video ; c'est donc un processus «sans mémoire»,$x_{i}$$x_{{i-1}}$

Non capisco perché dicono che gli MCMC sono "senza memoria" per quanto usiamo le informazioni dai dati vettoriali per generare .$x_ {i-1}$$x_i$

La caratteristica distintiva di una catena di Markov è che la distribuzione condizionale del suo valore attuale in base ai valori passati dipende solo dal valore precedente . Quindi ogni catena di Markov è "senza memoria" nella misura in cui solo il valore precedente influenza l'attuale probabilità condizionata e tutti gli stati precedenti sono "dimenticati". (Hai ragione nel dire che non è completamente privo di memoria - dopo tutto, la distribuzione condizionale del valore attuale dipende dal valore precedente.) Questo è vero per MCMC e anche per qualsiasi altra catena Markov.

Mentre abbiamo la risposta corretta, vorrei espandere solo un po 'la semantica intuitiva dell'affermazione. Immagina di ridefinire i nostri indici in modo tale da generare il vettore dal vettore . Ora, momento in cui è metaforicamente visto come "il presente", e tutti i vettori provenienti "prima di" sono irrilevanti per il calcolo della prossima uno in futuro.$x_{i+1}$$x_{i}$$i$$x_{i}$

Attraverso questa semplice rinumerazione, diventa "completamente senza memoria" in senso intuitivo - cioè, non importa affatto come il sistema Markov sia diventato nel suo stato attuale . Lo stato presente da solo determina gli stati futuri , senza utilizzare alcuna informazione dagli stati passati ( ).$x_{i-n}$

Un punto forse più sottile: viene usata anche la parola "memoria" perché ciò significa anche che non è possibile inferire stati passati dallo stato attuale. Una volta che sei su , non sai cosa è successo "prima" durante . Questo è l'opposto dei sistemi che codificano la conoscenza degli stati passati nello stato presente.$x_{i}$$x_{i-n}$

Ti svegli. Non hai idea di come sei arrivato dove sei. Ti guardi intorno e prendi una decisione su cosa fare dopo basandoti esclusivamente sulle informazioni che hai a disposizione in quel momento. Questa è essenzialmente la stessa situazione di ciò che sta accadendo in MCMC.

Sta usando le informazioni correnti che può attualmente vedere per prendere una decisione su cosa fare dopo. Invece di pensarlo come capire da (che potrebbe essere ciò che ti sta causando problemi perché stai pensando "hey stiamo guardando nel passato quando guardiamo ) pensa a come capire quale dovrebbe essere basato sulle informazioni correnti per le quali non hai bisogno di 'memoria'. Queste due formulazioni sono equivalenti ma potrebbe aiutarti a pensare alla semantica un po 'meglio.$x_{i}$$x_{i-1}$$x_{i-1}$$x_{i+1}$$x_i$