Stima della probabilità in un processo di Bernoulli campionando fino a 10 fallimenti: è di parte?

Supponiamo di avere un processo di Bernoulli con probabilità di fallimento (che sarà piccola, diciamo, q ≤ 0,01 ) da cui campioniamo fino a quando non incontriamo 10 guasti. Stimiamo così la probabilità di fallimento come q : = 10 / N , dove N è il numero di campioni.$q$$q \leq 0.01$$10$$\hat{q}:=10/N$$N$

Domanda : E ' q una stima di parte di q ? E, in tal caso, esiste un modo per correggerlo?$\hat{q}$$q$

Sono preoccupato dal fatto che insistere sull'ultimo campione sia una mancata distorsione della stima.

E 'vero che q è una stima distorta del q nel senso che E ( q ) ≠ q , ma si dovrebbe non necessariamente lasciare che questo ti scoraggiare. Questo esatto scenario può essere usato come critica contro l'idea che dovremmo sempre usare stimatori imparziali, perché qui la distorsione è più un artefatto del particolare esperimento che stiamo facendo. I dati sembrano esattamente come se avessimo scelto in anticipo il numero di campioni, quindi perché le nostre inferenze dovrebbero cambiare?$\hat{q}$$q$$\text{E}(\hat{q}) \neq q$

È interessante notare che, se si dovessero raccogliere dati in questo modo e quindi annotare la funzione di probabilità in entrambi i modelli binomiale (dimensione del campione fissa) e binomiale negativo, si scoprirà che i due sono proporzionali tra loro. Ciò significa che q è solo la stima di massima verosimiglianza ordinaria sotto il modello binomiale negativo, che naturalmente è una valutazione perfettamente ragionevole.$\hat{q}$

Non sta insistendo sul fatto che l'ultimo campione sia un fallimento che distorca la stima, sta prendendo il reciproco di $N$

Quindi nel tuo esempio ma E[$\mathbb{E}\left[\frac{N}{10}\right] =\frac{1}{q}$. Questo è vicino al confronto tra la media aritmetica e la media armonica$\mathbb{E}\left[\frac{10}{N}\right] \not = q$

La cattiva notizia è che la distorsione può aumentare man mano che si riduce, sebbene non di molto quando q è già piccolo. La buona notizia è che il pregiudizio diminuisce all'aumentare del numero richiesto di guasti. Sembra che se si richiedono errori f , allora il bias è limitato da un fattore moltiplicativo di $q$$q$$f$ perqpiccolo; non vuoi questo approccio quando ti fermi dopo il primo fallimento $\frac{f}{f-1}$$q$

Fermandosi dopo guasti, con q = 0,01 otterrai E [ $10$$q=0.01$ma E[$\mathbb{E}\left[\frac{N}{10}\right] = 100$, mentre conq=0,001otterraiE$\mathbb{E}\left[\frac{10}{N}\right] \approx 0.011097$$q=0.001$$\mathbb{E}\left[\frac{N}{10}\right] = 1000$$\mathbb{E}\left[\frac{10}{N}\right] \approx 0.001111$$\frac{10}{9}$

A complemento della risposta di dsaxton, ecco alcune simulazioni in R che mostrano la distribuzione campionaria di $\hat{q}$ quando $k=10$ e $q_0 = 0.02$:

n_replications <- 10000
k <- 10
failure_prob <- 0.02
n_trials <- k + rnbinom(n_replications, size=k, prob=failure_prob)
all(n_trials >= k)  # Sanity check, cannot have 10 failures in < 10 trials

estimated_failure_probability <- k / n_trials
histogram_breaks <- seq(0, max(estimated_failure_probability) + 0.001, 0.001)
## png("estimated_failure_probability.png")
hist(estimated_failure_probability, breaks=histogram_breaks)
abline(v=failure_prob, col="red", lty=2, lwd=2)  # True failure probability in red
## dev.off()

mean(estimated_failure_probability)  # Around 0.022
sd(estimated_failure_probability)
t.test(x=estimated_failure_probability, mu=failure_prob)  # Interval around [0.0220, 0.0223]

Sembra $\mathbb{E}\left[ \hat{q}\right] \approx 0.022$, che è un pregiudizio piuttosto piccolo rispetto alla variabilità in $\hat{q}$.