Neg Binomial e il priore di Jeffreys

Sto cercando di ottenere il precedente dei Jeffreys per una distribuzione binomiale negativa. Non riesco a vedere dove sbaglio, quindi se qualcuno potesse aiutarlo a sottolineare che sarebbe apprezzato.

Va bene, quindi la situazione è questa: devo confrontare le distribuzioni precedenti ottenute usando un binomio e un binomio negativo, dove (in entrambi i casi) ci sono prove e successi. Ottengo la risposta giusta per il caso binomiale, ma non per il binomio negativo. $n$ $m$

Chiamiamo il precedente Jeffreys . Poi, $\pi_J(\theta)$

π_{J} (θ) \propto [I (θ)]^{1 / 2} .

$\pi_J(\theta)\propto [I(\theta)]^{1/2}.$

Nelle condizioni di regolarità (soddisfatte quando abbiamo a che fare con la famiglia esponenziale),

I (θ) = - E (\frac{\partial^{2} \log L (θ | x)}{\partial θ^{2}})

$I(\theta)=-E\left(\frac{\partial^2 \log L(\theta|x)}{\partial \theta^2}\right)$ dove per il binomio negativo è in alto espressione (il numero totale di successi è fisso, non lo è). La distribuzione - penso - lo è

n

$n$

x

$x$

m

$m$

n

$n$

p (m | θ) \propto θ^{m} (1 - θ)^{n - m}

$p(m|\theta)\propto\theta^m(1-\theta)^{n-m}$ poiché è definita come probabilità di successo e è il numero di successi. Questa è anche la probabilità, poiché è uno scalare e non un vettore. Quindi,

θ

$\theta$

m

$m$

m

$m$

L (θ | n) \propto θ^{m} (1 - θ)^{n - m} \log L (θ | n) = m \log θ + (n - m) \log (1 - θ) \frac{\partial \log L (θ | n)}{\partial θ} = \frac{m}{θ} - \frac{n - m}{1 - θ} \frac{\partial^{2} \log L (θ | n)}{\partial θ^{2}} = - \frac{m}{θ^{2}} - \frac{n - m}{(1 - θ)^{2}}

$L(\theta|n)\propto\theta^m(1-\theta)^{n-m}\\ \log L(\theta|n)=m\log\theta +(n-m)\log (1-\theta)\\ \frac{\partial\log L(\theta|n)}{\partial \theta}=\frac{m}{\theta}-\frac{n-m}{1-\theta}\\ \frac{\partial^2\log L(\theta|n)}{\partial \theta^2}=-\frac{m}{\theta^2}-\frac{n-m}{(1-\theta)^2}$ quindi le informazioni di Fisher sono

I (θ) = - E (\frac{\partial^{2} \log L (θ | n)}{\partial θ^{2}}) = \frac{m}{θ^{2}} + \frac{E (n) - m}{(1 - θ)^{2}} = \frac{m}{θ^{2}} + \frac{\frac{m θ}{1 - θ} - m}{(1 - θ)^{2}} = \frac{m (1 - θ)^{2} + \frac{m θ^{3}}{(1 - θ)} - m θ^{2}}{θ^{2} (1 - θ)^{2}} = \frac{m (1 - 2 θ) + \frac{m θ^{3}}{(1 - θ)}}{θ^{2} (1 - θ)^{2}} = \frac{m (1 - 2 θ) (1 - θ) + m θ^{3}}{θ^{2} (1 - θ)^{3}} = \frac{m (1 - 3 θ + 2 θ^{2} + θ^{3})}{θ^{2} (1 - θ)^{3}} \propto \frac{1 - 3 θ + 2 θ^{2} + θ^{3}}{θ^{2} (1 - θ)^{3}}

$I(\theta)=-E\left(\frac{\partial^2\log L(\theta|n)}{\partial \theta^2}\right)=\frac{m}{\theta^2}+\frac{E(n)-m}{(1-\theta)^2}=\frac{m}{\theta^2}+\frac{\frac{m\theta}{1-\theta}-m}{(1-\theta)^2}\\ =\frac{m(1-\theta)^2+\frac{m\theta^3}{(1-\theta)}-m\theta^2}{\theta^2(1-\theta)^2}=\frac{m(1-2\theta)+\frac{m\theta^3}{(1-\theta)}}{\theta^2(1-\theta)^2}\\ =\frac{m(1-2\theta)(1-\theta)+m\theta^3}{\theta^2(1-\theta)^3}=\frac{m(1-3\theta+2\theta^2+\theta^3)}{\theta^2(1-\theta)^3}\\ \propto\frac{1-3\theta+2\theta^2+\theta^3}{\theta^2(1-\theta)^3}$

Questo, tuttavia, non mi dà la risposta corretta. La risposta corretta è

π_{J} (θ) \propto \frac{1}{θ (1 - θ)^{1 / 2}}

$\pi_J(\theta)\propto \frac{1}{\theta(1-\theta)^{1/2}}$ che significa che le informazioni che ottengo dovrebbero essere

I (θ) = \frac{1}{θ^{2} (1 - θ)}

$I(\theta)=\frac{1}{\theta^2(1-\theta)}$ poiché il precedente deve essere proporzionale alla radice quadrata delle informazioni.

Qualcuno può trovare degli errori? Non sarei sorpreso se avessi rovinato qualcosa con la configurazione della distribuzione (successi contro fallimenti con le rispettive probabilità, ecc.).

Ho usato il valore atteso da Wikipedia e conosco la risposta corretta da qui (pagina 3) .

— hejseb
fonte

Il problema sorge perché la distribuzione binomiale negativa può essere formulata in modo diverso. Di conseguenza, l'aspettativa differisce per diverse formulazioni. Nel modo in cui hai specificato la distribuzione binomiale negativa, l'aspettativa di è (ad es. Vedi qui a pagina 3). Con ciò, le informazioni di Fisher si semplificano in $n$ $E(n) = m/\theta$

I (θ) = m (\frac{1}{θ^{2} (1 - θ)})

$I(\theta) = m\left(\frac{1}{\theta^2(1-\theta)}\right)$

Quindi il priore dei Jeffreys è

π_{J} (θ) = | I (θ) |^{1 / 2} \propto θ^{- 1} (1 - θ)^{- 1 / 2}

$\pi_{J}(\theta) = |I(\theta)|^{1/2}\propto \theta^{-1}(1-\theta)^{-1/2}$

come hai già notato.

— COOLSerdash
fonte

Eccezionale! È molto utile e anche un riferimento eccellente in quanto attraversa il problema con cui stavo lottando. Grazie!

— Hejseb,

Ho trovato una soluzione che utilizza un'altra formulazione, vedi qui . Sono contento di aver potuto aiutare. Prego.

— COOLSerdash