Esiste un coniugato precedente alla distribuzione di Laplace?


13

Esiste un coniugato precedente alla distribuzione di Laplace ? In caso contrario, esiste un'espressione nota in forma chiusa che approssima il posteriore per i parametri della distribuzione di Laplace?

Ho cercato su google un bel po 'senza successo, quindi la mia ipotesi attuale è "no" sulle domande sopra ...


1
Google "miscele di media varianza normale scott e polson" - questo ti darà alcuni bay approssimativi usando MAP tramite algoritmo em.
probabilityislogic

Risposte:


12

Vediamoli uno alla volta prima (prendendo l'altro come dato).

Dal link (con la modifica di seguire la convenzione di usare simboli greci per i parametri):

f(X|μ,τ)=12τexp(-|X-μ|τ)

- parametro scala :

L(τ)ατ-K-1e-Sτ

KS

Quindi il parametro scale ha un coniugato precedente - mediante ispezione il coniugato precedente è gamma inversa.

- parametro di posizione

Σio|Xio-μ|μ

Un priore uniforme troncerà semplicemente il posteriore, che non è poi così male da lavorare se sembra plausibile come un priore.

Una possibilità interessante che a volte può essere utile è che è piuttosto facile includere un precedente di Laplace (uno con la stessa scala dei dati) usando una pseudo-osservazione. Si potrebbe anche approssimare qualche altro (più stretto) prima attraverso diverse pseudo-osservazioni)

exp(-Σj|μ-θj|/φj)exp(-Σjwj*|μ-θj|)

È anche abbastanza flessibile da poter essere usato per approssimare altri priori.

(Più in generale, si potrebbe lavorare sulla scala logaritmica e usare un precedente concavo logaritmico continuo, e anche il posteriore avrebbe quella forma; questo includerebbe Laplace asimmetrico come caso speciale)

Esempio

Solo per dimostrare che è abbastanza facile da gestire: di seguito è riportato un precedente (grigio tratteggiato), una probabilità (tratteggiata, nero) e posteriore (solido, rosso) per il parametro di posizione per un Laplace ponderato (... questo era con scale note ).

inserisci qui la descrizione dell'immagine

L'approccio ponderato di Laplace funzionerebbe bene in MCMC, credo.

-

Mi chiedo se la modalità posteriore risultante sia una mediana ponderata?

- in realtà (per rispondere alla mia domanda), sembra che la risposta sia "sì". Questo rende piuttosto bello lavorare con.

-

Priore congiunto

f(μ,τ)=f(μ|τ)f(τ)μ|ττττ

Senza dubbio qualcosa di più generale per il comune prima è del tutto possibile, ma non credo che perseguirò il caso comune oltre a quello qui.

-

Non avevo mai visto o sentito parlare di questo approccio precedente ponderato prima, ma era piuttosto semplice inventarlo, quindi probabilmente è già stato fatto. (I riferimenti sono ben accetti, se qualcuno ne è a conoscenza.)

Se nessuno fosse a conoscenza di riferimenti, forse dovrei scrivere qualcosa, ma sarebbe sorprendente.


Caspita, ottima risposta. Di sicuro non conosco alcun riferimento a qualcosa di simile. Se trovi qualcosa o scrivi qualcosa, per favore fammi sapere!
Rasmus Bååth,

1
Un modo possibile per raggiungere il parametro location è utilizzare la normale rappresentazione della miscela di varianza di laplace. Si tratta di una prima anche se condizionalmente coniugato ...
probabilityislogic

@probabilityislogic è interessante. Nelle modifiche precedenti, ho messo in linea sottolineando che il Laplace era una miscela esponenziale di normali perché mi chiedevo se potesse esserci qualcosa da fare, ma mentre modificavo la risposta non si adattava più da nessuna parte e ho preso di nuovo fuori. Dal tuo utile commento sembra che possa essere usato in quel modo; è probabile che sia utile.
Glen_b -Restate Monica
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.