Stima della massima verosimiglianza per la distribuzione binomiale negativa

La domanda è la seguente:

Un campione casuale di n valori viene raccolto da una distribuzione binomiale negativa con il parametro k = 3.

Trova lo stimatore di massima verosimiglianza del parametro π.

Trova una formula asintotica per l'errore standard di questo stimatore.

Spiega perché la distribuzione binomiale negativa sarà approssimativamente normale se il parametro k è abbastanza grande. Quali sono i parametri di questa normale approssimazione?

Il mio lavoro è stato il seguente:
1. Sento che questo è ciò che si desidera, ma non sono sicuro che io sia accurato qui o se posso eventualmente approfondirlo, date le informazioni fornite?

p (x) = (\binom{x - 1}{k - 1}) π^{k} (1 - π)^{x - k} L (π) = Π_{i}^{n} p (x_{n} | π) ℓ (π) = Σ_{i}^{n} \ln (p (x_{n} | π)) ℓ ‘ (π) = Σ_{i}^{n} \frac{k}{π} - \frac{(x - k)}{(1 - π)}

$p(x) = {x-1 \choose k-1}\pi^k(1-\pi)^{x-k}\\ L(\pi) = \Pi_i^n p(x_n|\pi)\\ \ell(\pi) = \Sigma_i^n\ln(p(x_n|\pi))\\ \ell`(\pi) = \Sigma_i^n\dfrac{k}{\pi}-\dfrac{(x-k)}{(1-\pi)}$

Penso che quanto segue sia ciò che viene richiesto. Per la parte finale sento di dover sostituire $\hat{\pi}$ con $\dfrac{k}{x}$
$ℓ ‘ ‘ (\hat{π}) = - \frac{k}{{\hat{π}}^{2}} + \frac{x}{(1 - \hat{π})^{2}} s e (\hat{π}) = \sqrt{- \frac{1}{ℓ ‘ ‘ (\hat{π})}} s e (\hat{π}) = \sqrt{\frac{{\hat{π}}^{2}}{k} - \frac{(1 - \hat{π})^{2}}{x}}$ $\ell``(\hat{\pi}) = -\dfrac{k}{\hat{\pi}^2} + \dfrac{x}{(1-\hat{\pi})^2}\\ se(\hat{\pi}) = \sqrt{-\dfrac{1}{\ell``(\hat{\pi})}}\\ se(\hat{\pi}) = \sqrt{\dfrac{\hat{\pi}^2}{k} - \dfrac{(1-\hat{\pi})^2}{x}}\\$
Non sono davvero sicuro di come provare questo e lo sto ancora cercando. Eventuali suggerimenti o collegamenti utili sarebbero molto apprezzati. Sento che sia collegato al fatto che una distribuzione binomiale negativa può essere vista come una raccolta di distribuzioni geometriche o l'inverso di una distribuzione binomiale, ma non sono sicuro di come affrontarla.

Qualsiasi aiuto sarebbe molto apprezzato

self-study maximum-likelihood negative-binomial

— Syzorr
fonte

(1) Per trovare la stima della massima verosimiglianza devi trovare dove la funzione log-verosimiglianza raggiunge il suo massimo. Il calcolo del punteggio (la prima derivata della funzione log-verosimiglianza rispetto a ) è un inizio: quale valore avrà questo al massimo? (E ricorda che non è necessario stimare .)

\hat{π}

$\hat \pi$

π

$\pi$

k

$k$

— Scortchi - Ripristina Monica

Ho dimenticato di aggiungere la derivata del log-verksity = 0 ai fini della determinazione del massimo. Se l'ho capito correttamente (ci sto lavorando ancora dalla pubblicazione), quello che ho è

\frac{k}{π} - \frac{Σ_{i = 0}^{n} (x_{i} - k)}{(1 - π)} = 0

$\dfrac{k}{\pi}-\dfrac{\Sigma_{i=0}^n(x_i-k)}{(1-\pi)} = 0$

— Syzorr

Fai attenzione:Si noti inoltre che parte da 1.

\sum_{i = 1}^{n} \frac{k}{π} - \sum_{i = 1}^{n} \frac{(x_{i} - k)}{(1 - π)} = ?

$\sum_{i=1}^n \frac{k}{\pi} - \sum_{i=1}^n{\frac{(x_i-k)}{(1-\pi)}} = \ ?$

i

$i$

— Scortchi - Ripristinare Monica

In (2), raramente accade che il reciproco di una differenza sia la differenza dei reciproci. Questo errore influisce enormemente sulla formula finale per .

s e (\hat{π})

$se(\hat\pi)$

— whuber

$p(x) = {x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}$

$L(\pi;x_i) = \prod_{i=1}^{n}{x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}\\$

$\ell(\pi;x_i) = \sum_{i=1}^{n}[log{x_i-1 \choose k-1}+klog(\pi)+(x_i-k)log(1-\pi)]\\ \frac{d\ell(\pi;x_i)}{d\pi} = \sum_{i=1}^{n}[\dfrac{k}{\pi}-\dfrac{(x_i-k)}{(1-\pi)}]$

Impostalo a zero,

$\frac{nk}{\pi}=\frac{\sum_{i=1}^nx_i-nk}{1-\pi}$

$\therefore$ $\hat\pi=\frac{nk}{\sum_{i=1}^nx}$

Per la seconda parte devi usare il teorema che , è l'informazione del pescatore qui. Pertanto, la deviazione standard di sarà . Oppure lo chiami come errore standard poiché usi CLT qui. $\sqrt{n}(\hat\theta-\theta) \overset{D}{\rightarrow}N(0,\frac{1}{I(\theta)})$ $I(\theta)$ $\hat\theta$ $[nI(\theta)]^{-1/2}$

Quindi dobbiamo calcolare le informazioni di Fisher per la distribuzione binomiale negativa.

$\frac{\partial^2 \log(P(x;\pi))}{\partial\pi^2}=-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2}$

$I(\theta)=-E(-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2})=\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi}$

Nota: per il binomio pmf negativo $E(x) =\frac{k}{\pi}$

Pertanto, l'errore standard per è $\hat \pi$ $[n(\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi})]^{-1/2}$

Semplifichiamo otteniamo $se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$

La distribuzione geometrica è un caso speciale di distribuzione binomiale negativa quando k = 1. Nota è una distribuzione geometrica $\pi(1-\pi)^{x-1}$

Pertanto, la variabile binomiale negativa può essere scritta come una somma di k variabili casuali indipendenti, identicamente distribuite (geometriche).

Quindi per CLT la distribuzione binomiale negativa sarà approssimativamente normale se il parametro k è abbastanza grande

— Profondo nord
fonte

Per favore leggi quali argomenti posso chiedere qui? su domande di autoapprendimento: piuttosto che fare i compiti delle persone per loro, cerchiamo di aiutarli a farlo da soli.

— Scortchi - Ripristina Monica

Si fa necessario considerare la dimensione del campione nel calcolo della MLE. Potresti confondere un resoconto di osservazioni indipendenti, ciascuna delle no. delle prove richieste per raggiungere guasti ( ) con un resoconto di una singola osservazione del n. delle prove richieste per raggiungere guasti ( ). Il primo dà una probabilità di ; quest'ultimo, .

n

$n$

n

$n$

k

$k$

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \ldots, x_n$

k

$k$

n

$n$

\sum_{i = 1}^{n} π^{(} 1 - π)^{x_{i} - k}

$\sum_{i=1}^n{\pi^(1-\pi)^{x_i-k}}$

π^{k} (1 - π)^{n - k}

$\pi^k(1-\pi)^{n-k}$

— Scortchi - Ripristina Monica

Hai ragione, sono sempre confuso su questa parte. Grazie mille. Faccio anche molte domande su questo forum, ma spero davvero che le persone possano darmi una risposta molto dettagliata, quindi posso studiarlo da solo passo dopo passo.

— Deep North

Si. Capisco perché la regola di non fornire troppi dettagli, ma questa risposta combinata con i miei appunti della lezione mi hanno permesso di legare un sacco di cose in sospeso. Ho intenzione di andare e parlare con il mio docente oggi su questo in modo da poter ottenere chiarimenti da lui. È venerdì qui adesso. Cessione in scadenza lunedì come sopra indicato. Lo abbiamo imparato mercoledì e abbiamo un solo esempio usando una distribuzione binomiale. Grazie mille per il dettaglio.

— Syzorr,

Ci sono alcuni difetti nel tuo lavoro lì perché I (θ) = E [] non -E [] (che mi ha confuso fino a quando non sono andato a cercare le equazioni che hai usato) Alla fine ho finito con

s e (π) = \sqrt{\frac{π^{2} (π - 1)}{k n}}

$se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$

— Syzorr