Uguale o diverso? La via bayesiana

Di 'che ho il seguente modello:

Poisson (λ) \sim {\begin{cases} λ_{1} & if t < τ \\ λ_{2} & if t \geq τ \end{cases}

$\text{Poisson}(\lambda) \sim \begin{cases} \lambda_1 & \text{if } t \lt \tau \\ \lambda_2 & \text{if } t \geq \tau \end{cases}$

E dai miei dati i posteriori di e mostrati di seguito. Esiste un modo bayesiano di dire (o quantificare) se e sono uguali o diversi ? $\lambda_1$ $\lambda_2$ $\lambda_1$ $\lambda_2$

Forse misurando la probabilità che sia diverso da $\lambda_1$ $\lambda_2$ ? O forse usando le divergenze di KL?

Ad esempio, come posso misurare , o almeno, ? $p(\lambda_2 \neq \lambda_1)$ $p(\lambda_2 \gt \lambda_1)$

In generale, una volta che hai i lati mostrati di seguito (assume valori PDF diversi da zero ovunque per entrambi), qual è un buon modo per rispondere a questa domanda?

inserisci qui la descrizione dell'immagine

Aggiornare

Sembra che a questa domanda si possa rispondere in due modi:

Se abbiamo campioni dei posteriori, potremmo guardare la frazione dei campioni in cui $\lambda_1 \neq \lambda_2$ (o equivalentemente $\lambda_2 > \lambda_1$ ). @ Cam.Davidson.Pilon includeva una risposta che avrebbe risolto questo problema utilizzando tali campioni.
Integrazione di una sorta di differenza dei posteriori. E questa è una parte importante della mia domanda. Come sarebbe quella integrazione? Presumibilmente l'approccio di campionamento approssimerebbe questo integrale, ma vorrei conoscere la formulazione di questo integrale.

Nota: i grafici sopra provengono da questo materiale .

distributions bayesian poisson-distribution

— Amelio Vazquez-Reina
fonte

Puoi semplicemente calcolare la varianza di entrambe le distribuzioni e aggiungerle. Questa è la varianza della differenza nei mezzi. Quindi calcola la differenza nei mezzi e vedi quante deviazioni standard è. È possibile approssimare entrambe le distribuzioni con normale per iniziare e utilizzare i soliti intervalli di confidenza per una distribuzione normale. Sono mezzi chiaramente diversi.

— Dave31415,

La verifica dell'ipotesi intrinseca è una risposta

— Stéphane Laurent,

Tutti i calcoli richiesti sono forniti nel mio documento ma non ho studiato il caso di

(

è il rapporto tra i due tassi di Poisson)

H_{0} : {ϕ = 1}

$H_0:\{\phi=1\}$

ϕ

$\phi$

— Stéphane Laurent,

Grazie @ StéphaneLaurent. Il tuo documento è un ottimo indicatore, ma sembra essere specifico per i processi di Poisson. Qual è il confronto, ad alto livello, che un bayesiano può fare per stimare se

è uguale o diverso da

? L'analisi deve essere specifica per la distribuzione?

λ_{2}

$\lambda_2$

λ_{1}

$\lambda_1$

— Amelio Vazquez-Reina,

Scusa @ user023472 Non ho energia in questi giorni. Vedi i documenti di Bernardo citati nel mio documento. "Intrinseco" significa che il metodo è derivato e solo dal modello.

— Stéphane Laurent,

Risposte:

Penso che una domanda migliore sia: sono significativamente differenti?

Per rispondere a questo, dobbiamo calcolare . Chiama questa quantità . Se , allora c'è la stessa possibilità che uno sia più grande dell'altro. D'altra parte, se è davvero vicino a 1, allora possiamo essere certi che sì è più grande (leggi: diverso) di . $P(\lambda_2 > \lambda_1)$ $p$ $p \approx 0.50$ $p$ $\lambda_2$ $\lambda_1$

Come calcoliamo ? È banale in un framework MCMC bayesiano. Abbiamo campioni dalla parte posteriore, quindi calcoliamo semplicemente il chace che i campioni da sono più grandi di : $p$ $\lambda_2$ $\lambda_1$

 p = np.mean( lambda_2_samples > lambda_1_samples )
 print p

Mi scuso per non aver incluso questo nel libro, lo aggiungerò sicuramente perché penso che sia una delle idee più utili nell'inferenza bayesiana

— Cam.Davidson.Pilon
fonte

La probabilità è 1.0 che siano differenti, in quanto sono entrambe variabili casuali continue. Considera: qual è la tua ipotesi precedente che

? Pensi davvero che siano effettivamente uguali? (Ignora il test delle ipotesi: viviamo nel mondo reale in cui le variabili non sono mai effettivamente uguali). Vedi questo post del mio eroe, Gelman. Dal punto di vista computazionale, puoi testarlo elaborando .

λ_{1} = λ_{2}

$\lambda_1 = \lambda_2$ np.mean( lambda_2_samples != lambda_1_samples)

— Cam.Davidson.Pilon

P (| λ_{1} - λ_{2} | > 1)

$P(|\lambda_1-\lambda_2| > 1)$

P (λ_{1} \neq λ_{2})

$P(\lambda_1 \ne \lambda_2)$

λ_{1}

$\lambda_1$

λ_{2}

$\lambda_2$

λ_{2}

$\lambda_2$

λ_{1}

$\lambda_1$

oddio, odierei essere in quella situazione! Implica integrali cattivi. Per la maggior parte dei modelli, in realtà non è possibile ricavare i posteriori. Anche se tu potessi, potrebbe essere meglio usare un computer, solo per ottenere campioni. In sintesi, esempi> formule per calcoli come questo.

— Cam.Davidson.Pilon

Non stai misurando "sufficientemente grande". Considera una distribuzione con un picco a zero e un'altra con masse uguali a picchi -10, 10. La tua statistica - il valore atteso dell'indicatore che un campione è più grande dell'altro - dà 0,5, ma le distribuzioni sono chiaramente totalmente diverse.

— Neil G,

$\lambda_1$ $\lambda_2$ $\Pr(\lambda_1=\lambda_2)=0$

$\lambda_1$ $\lambda_2$ $\epsilon$ $[-\epsilon/2, \epsilon/2]$

$\lambda_2>\lambda_1$

— Sycorax dice Reinstate Monica
fonte

Grazie. In che modo la tua risposta si collega ad alcune delle idee discusse nei commenti del PO?

— Amelio Vazquez-Reina,

Mi scuso, ma non ho familiarità con nessuno di questi metodi, quindi non posso commentare in modo significativo. @ Stéphane_Laurent è piuttosto intelligente, però, quindi ti consiglio di consultare almeno il link.

— Sycorax dice Ripristina Monica il

@ user023472 Mi dispiace non avere l'energia oggi per dare una risposta sull'approccio alla discrepanza intrinseca. Si basa sulla divergenza di Kullback-Leibler.

— Stéphane Laurent,

ϵ

$\epsilon$

p (λ_{2} > λ_{1})

$p(\lambda_2 \gt \lambda_1)$

p (λ_{2} \neq λ_{1})

$p(\lambda_2 \neq \lambda_1)$

Grazie @ user777. Sono interessato al caso in cui non abbiamo accesso ai campioni. Prima avevi un integrale nel tuo post, ma sembra che tu l'abbia eliminato. Come sarebbe quell'integrale?

— Amelio Vazquez-Reina,