Ottimizzazione bayesiana per rumore non gaussiano


8

Una funzione scatola nera f:RnR, che viene valutato puntualmente in base al rumore gaussiano, ovvero f(x)+N(μ(x),σ(x)2), può essere ridotto a icona utilizzando l'ottimizzazione bayesiana in cui un processo gaussiano viene utilizzato come modello di funzione rumoroso.

Come si può utilizzare l'ottimizzazione bayesiana per funzioni soggette a rumore non gaussiano, ad esempio distribuzioni distorte?

Ci sono implementazioni che supportano questa impostazione?


Solo un commento: le persone di solito non usano il processo gaussiano (e le normali distribuzioni per tutti gli altri problemi) a causa della convinzione che tutte le cose siano normalmente distribuite, ma perché facilita i calcoli.
Tim

Risposte:


1

Esistono modelli di processo gaussiani con probabilità non gaussiana : la distribuzione precedente sulla funzionef è ancora un processo gaussiano, ma il termine rumore non è più gaussiano, vale a dire la probabilità p(y|f)non si presume più di essere gaussiano. Di conseguenza, i risultati analitici vengono persi e l'inferenza del disegno ora richiede metodi di approssimazione come MCMC o approssimazione di Laplace.

Per diverse distribuzioni questo è implementato e spiegato come parte del pacchetto Matlab GPML , disponibile e spiegato qui . La tabella dei metodi di inferenza nella sezione 3d ("Una panoramica più dettagliata") offre una panoramica di quali distribuzioni sono state implementate per la probabilità e quale metodo di inferenza è disponibile per ciascuna di esse.

Gli unici articoli a cui posso collegarti ora (perché li ho aggiunti ai segnalibri ad un certo punto) sono quelli dello Studente t distribuzione:

  • Shah, Amar, Andrew Wilson e Zoubin Ghahramani. "Processi student-t come alternative ai processi gaussiani." Intelligenza artificiale e statistica. Il 2014.
  • Shah, Amar, Andrew Wilson e Zoubin Ghahramani. "Processi student-t come alternative ai processi gaussiani." Intelligenza artificiale e statistica. Il 2014.
  • Jylänki, Pasi, Jarno Vanhatalo e Aki Vehtari. "Robusta regressione del processo gaussiano con una probabilità di Student-t." Journal of Machine Learning Research 12.Nov (2011): 3227-3257.
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.