I processi stocastici come il processo gaussiano / processo di Dirichlet hanno densità? In caso contrario, come può essere applicata la regola di Bayes?


10

Dirichlet Pocess e Gaussian Process sono spesso definiti "distribuzioni su funzioni" o "distribuzioni su distribuzioni". In tal caso, posso parlare in modo significativo della densità di una funzione in un GP? Cioè, il processo gaussiano o il processo di Dirichlet hanno qualche nozione di densità di probabilità?

In caso contrario, come possiamo usare la regola di Bayes per passare dal precedente al posteriore, se la nozione della probabilità precedente di una funzione non è ben definita? Esistono cose come le stime MAP o EAP nel mondo non parametrico bayesiano? Molte grazie.


1
Dato che la realizzazione (ad es.) Del processo gaussiano è osservata solo su una raccolta finita di punti, il prodotto corrispondente delle misure di Lebesgue è la misura dominante. Ciò significa che per l'osservazione della funzione casuale in una raccolta finita di punti, esiste una densità. f
Xi'an

La risposta sulle densità è sì e la formulazione matematica appropriata è chiamata derivata Radon-Nikodym.
whuber

Risposte:


4

Una "densità" o "probabilità" si riferisce al teorema di Radon-Nikodym nella teoria delle misure. Come notato da @ Xi'an, quando si considera un insieme finito di cosiddette osservazioni parziali di un processo stocastico, la probabilità corrisponde alla solita nozione di derivato rispetto alla misura di Lebesgue. Ad esempio, la probabilità di un processo gaussiano osservata in un noto insieme finito di indici è quella di un vettore casuale gaussiano con la sua media una covarianza dedotta da quella del processo, che può assumere entrambe forme parametriche.

Nel caso idealizzato in cui un numero infinito di osservazioni è disponibile da un processo stocastico, la misura di probabilità è su uno spazio infinito dimensionale, ad esempio uno spazio di funzioni continue se il processo stocastico ha percorsi continui. Ma nulla esiste come una misura di Lebesgue su uno spazio infinito-dimensionale, quindi non esiste una definizione diretta della probabilità.

Per i processi gaussiani ci sono alcuni casi in cui possiamo definire una probabilità usando la nozione di equivalenza delle misure gaussiane. Un esempio importante è fornito dal teorema di Girsanov, ampiamente utilizzato in matematica finanziaria. Ciò definisce la probabilità di una diffusione come derivata rispetto alla distribuzione di probabilità di un processo di Wiener standard definito per . Un'esposizione di matematica ordinata è stata trovata nel libro di Bernt Øksendal . Il (imminente) libro di Särkkä e Solin offre una presentazione più intuitiva che aiuterà i praticanti. È disponibile una brillante esposizione matematica su analisi e probabilità sugli spazi a dimensione infinita di Nate Elderedge.YtBtt0

Si noti che la probabilità di un processo stocastico che sarebbe completamente osservato viene talvolta chiamata probabilità di riempimento da parte degli statistici.


Spiegazione molto utile! Penso che parte della mia confusione riguardo argomenti come questi nella nonparametria bayesiana sia dovuta alla mia mancanza di familiarità con la teoria delle misure e l'analisi funzionale, quindi sarò sicuro di controllare i tuoi riferimenti.
snickerdoodles777,
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.