Campionamento da una distribuzione impropria (usando MCMC e altro)

La mia domanda di base è: come campioneresti da una distribuzione impropria? Ha anche senso campionare da una distribuzione impropria?

Il commento di Xi'an qui affronta in qualche modo la domanda, ma stavo cercando qualche dettaglio in più su questo.

Più specifico per MCMC:

Parlando di MCMC e leggendo articoli, gli autori sottolineano di aver ottenuto distribuzioni posteriori adeguate. C'è il famoso articolo di Geyer (1992) in cui l'autore ha dimenticato di verificare se il suo posteriore era corretto (altrimenti un eccellente documento).

Ma supponiamo che a abbiamo una probabilità e una distribuzione precedente impropria su tale che anche il posteriore risultante sia improprio e MCMC viene usato per campionare dalla distribuzione. In questo caso, cosa indica il campione? Ci sono informazioni utili in questo esempio? Sono consapevole che la catena Markov qui è quindi transitoria o nulla ricorrente. Ci sono dei take-away positivi se è null-ricorrente ?$f(x|\theta)$$\theta$

Infine, nella risposta di Neil G qui , menziona quella

in genere puoi campionare (usando MCMC) dalla parte posteriore anche se non è corretto.

Dice che tale campionamento è comune nell'apprendimento profondo. Se questo è vero, che senso ha?

Campionamento da un posteriore impropria (densità) non ha senso da un punto probabilistica / di vista teorico. La ragione di ciò è che la funzione f non ha un integrale finito sullo spazio dei parametri e, di conseguenza, non può essere collegata a un modello di probabilità ( misura finita) ( Ω , σ , P ) (spazio, sigma-algebra, misura della probabilità ).$f$$f$$(\Omega,\sigma,{\mathbb P})$

Se si dispone di un modello con un precedente improprio che porta a un posteriore improprio, in molti casi è ancora possibile campionarlo utilizzando MCMC, ad esempio Metropolis-Hastings, e i "campioni posteriori" possono sembrare ragionevoli. A prima vista sembra affascinante e paradossale. Tuttavia, la ragione di ciò è che i metodi MCMC sono limitati ai limiti numerici dei computer in pratica, e quindi, tutti i supporti sono limitati (e discreti!) Per un computer. Quindi, in base a tali restrizioni (limitatezza e discrezione) il posteriore è effettivamente corretto nella maggior parte dei casi.

C'è un grande riferimento di Hobert e Casella che presenta un esempio (di natura leggermente diversa) in cui è possibile costruire un campionatore Gibbs per un posteriore, i campioni posteriori sembrano perfettamente ragionevoli, ma il posteriore è improprio!

http://www.jstor.org/stable/2291572

Un esempio simile è recentemente apparso qui . In effetti, Hobert e Casella avvertono il lettore che i metodi MCMC non possono essere utilizzati per rilevare la scorrettezza del posteriore e che questo deve essere verificato separatamente prima di implementare qualsiasi metodo MCMC. In sintesi:

1. Alcuni campionatori MCMC, come Metropolis-Hastings, possono (ma non dovrebbero) essere utilizzati per campionare da un posteriore improprio poiché il computer limita e divulga lo spazio dei parametri. Solo se si dispone di enormi campioni, si potrebbe essere in grado di osservare alcune cose strane. La capacità di rilevare questi problemi dipende anche dalla distribuzione "strumentale" utilizzata nel campionatore. Quest'ultimo punto richiede una discussione più ampia, quindi preferisco lasciarlo qui.
2. (Hobert e Casella). Il fatto che sia possibile costruire un campionatore di Gibbs (modello condizionale) per un modello con un precedente improprio non implica che il posteriore (modello comune) sia corretto.
3. Un'interpretazione probabilistica formale dei campioni posteriori richiede la proprietà del posteriore. I risultati e le prove di convergenza sono stabiliti solo per le opportune distribuzioni / misure di probabilità.

PS (un po 'di lingua sulla guancia): non sempre credere a ciò che le persone fanno in Machine Learning. Come ha affermato il prof. Brian Ripley: "l'apprendimento automatico è una statistica meno qualsiasi verifica di modelli e ipotesi".

Dare una visione alternativa, più applicata, dall'eccellente risposta di Rod sopra -

$+/- 10^{100}$

$1/x$precedente - uno che uso per il calcolo, che non ha un limite superiore, e la "caratteristica extra" di esso dove è uguale a zero sopra la popolazione di San Francisco ... ", con la" caratteristica extra "applicata in un passaggio successivo alla generazione del campione. Il vero precedente non è quello utilizzato nel calcolo MCMC (nel mio esempio.)

Quindi, in linea di principio, sarei abbastanza d'accordo con l'uso di un campione generato da MCMC da una distribuzione impropria nel lavoro applicato, ma presterei molta attenzione a come è avvenuta quell'improprietà e come il campione casuale ne sarà influenzato . Idealmente, il campione casuale non ne risentirebbe, come nel mio esempio di hot dog, in cui in un mondo ragionevole non si genererebbe mai un numero casuale maggiore del numero di persone a San Francisco ...

Dovresti anche essere consapevole del fatto che i tuoi risultati potrebbero essere abbastanza sensibili alla caratteristica del posteriore che lo ha reso improprio, anche se in seguito lo tronchi in un numero elevato (o qualsiasi modifica sia appropriata per il tuo modello. ) Vorresti che i tuoi risultati fossero robusti a lievi modifiche che spostano il posteriore da improprio a corretto. Questo può essere più difficile da garantire, ma fa tutto parte del problema più grande di assicurarsi che i risultati siano solidi per le tue ipotesi, in particolare quelli che sono fatti per comodità.