Con quale probabilità una moneta è migliore dell'altra?

Diciamo che abbiamo due monete distorte C1ed C2entrambe hanno diverse probabilità di girare la testa.

Lanciamo C1 n1volte e otteniamo H1testa, C2 n2volte e otteniamo H2testa. E scopriamo che il rapporto delle teste per una moneta è più alto dell'altra.

Qual è la probabilità con cui possiamo dire che una moneta è migliore dell'altra? (meglio qui significa maggiore probabilità effettiva di girare la testa).

È facile calcolare la probabilità di fare quell'osservazione, dato che le due monete sono uguali. Questo può essere fatto dal test esatto di Fishers . Date queste osservazioni

$$\begin{array} {r|c|c} &\text{coin }1 &\text{coin }2 \\ \hline \text{heads} &H_1 &H_2\\ \hline \text{tails} &n_1-H_1 &n_2-H_2\\\end{array}$$

la probabilità di osservare questi numeri mentre le monete sono uguali dato il numero di tentativi , e la quantità totale di teste è $n_1$$n_2$$H_1+H_2$

$$p(H_1, H_2|n_1, n_2, H_1+H_2) = \frac{(H_1+H_2)!(n_1+n_2-H_1-H_2)!n_1!n_2!}{H_1!H_2!(n_1-H_1)!(n_2-H_2)!(n_1+n_2)!}.$$

Ma quello che stai chiedendo è la probabilità che una moneta sia migliore. Dal momento che discutiamo di una credenza su quanto siano distorte le monete, dobbiamo usare un approccio bayesiano per calcolare il risultato. Si noti che nell'inferenza bayesiana il termine credenza è modellato come probabilità e i due termini sono usati in modo intercambiabile (s. Probabilità bayesiana ). Chiamiamo la probabilità che la moneta lanci teste . La distribuzione posteriore dopo l'osservazione, per questo è data dal teorema di Bayes : Il funzione di densità di probabilità (pdf)$i$$p_i$$p_i$

$$f(p_i|H_i,n_i)= \frac{f(H_i|p_i,n_i)f(p_i)}{f(n_i,H_i)}$$ $f(H_i|p_i,n_i)$è dato dalla probabilità binomiale, dal momento che l'individuo cerca sono esperimenti di Bernoulli: I presumo la conoscenza precedente su è che potrebbe trovarsi ovunque tra e con uguale probabilità, quindi . Quindi il nominatore è . $$f(H_i|p_i,n_i) = \binom{n_i}{H_i}p_i^{H_i}(1-p_i)^{n_i-H_i}$$ $f(p_i)$$p_i$$0$$1$$f(p_i) = 1$$f(H_i|p_i,n_i)f(p_i)= f(H_i|p_i,n_i)$

Per calcolare utilizziamo il fatto che l'integrale su un pdf deve essere uno . Quindi il denominatore sarà un fattore costante per raggiungere proprio questo. Esiste un pdf noto che differisce dal nominatore solo per un fattore costante, che è la distribuzione beta . Quindi $f(n_i,H_i)$$\int_0^1f(p|H_i,n_i)\mathrm dp = 1$

$$f(p_i|H_i,n_i) = \frac{1}{B(H_i+1, n_i-H_i+1)}p_i^{H_i}(1-p_i)^{n_i-H_i}.$$

Il pdf per la coppia di probabilità di monete indipendenti è

$$f(p_1,p_2|H_1,n_1,H_2,n_2) = f(p_1|H_1,n_1)f(p_2|H_2,n_2).$$

Ora dobbiamo integrarlo nei casi in cui per scoprire quanto sia probabile la moneta sia migliore della moneta : $p_1>p_2$$1$$2$

$$\begin{align} \mathbb P(p_1>p_2) &= \int_0^1 \int_0^{p‘_1} f(p‘_1,p‘_2|H_1,n_1,H_2,n_2)\mathrm dp‘_2 \mathrm dp‘_1\\ &=\int_0^1 \frac{B(p‘_1;H_2+1,n_2-H_2+1)}{B(H_2+1,n_2-H_2+1)} f(p‘_1|H_1,n_1)\mathrm dp‘_1 \end{align}$$

Non posso risolvere quest'ultimo integrale analiticamente, ma uno può risolverlo numericamente con un computer dopo aver inserito i numeri. è la funzione beta e è la funzione beta incompleta. Nota che perché è una variabile continua e mai esattamente uguale a .$B(\cdot,\cdot)$$B(\cdot;\cdot,\cdot)$$\mathbb P(p_1=p_2) = 0$$p_1$$p_2$

---

Per quanto riguarda l'assunto precedente su e osservazioni su di esso: una buona alternativa al modello che molti credono è quella di utilizzare una distribuzione beta . Ciò porterebbe a una probabilità finale In questo modo si potrebbe modellare una forte propensione per le monete regolari con , grandi ma uguali . Sarebbe equivalente a lanciare la moneta altre volte e ricevere teste quindi equivale ad avere solo più dati. è la quantità di lanci che non dovremmo fare$f(p_i)$$Beta(a_i+1,b_i+1)$

$$\mathbb P(p_1>p_2) =\int_0^1 \frac{B(p‘_1;H_2+1+a_2,n_2-H_2+1+b_2)}{B(H_2+1+a_2,n_2-H_2+1+b_2)} f(p‘_1|H_1+a_1,n_1+a_1+b_1)\mathrm dp‘_1.$$ $a_i$$b_i$$a_i+b_i$$a_i$$a_i + b_i$ se includiamo questo prima.

Il PO ha dichiarato che le due monete sono entrambe distorte in misura sconosciuta. Quindi ho capito che tutta la conoscenza deve essere dedotta dalle osservazioni. Questo è il motivo per cui ho optato per un non informativo prima che la dose non distorcesse il risultato, ad esempio verso le monete normali.

Tutte le informazioni possono essere trasmesse sotto forma di per moneta. La mancanza di un precedente informativo significa solo che sono necessarie più osservazioni per decidere quale moneta è migliore con alta probabilità.$(H_i, n_i)$

---

Ecco il codice in R che fornisce una funzione usando l'uniforme precedente : P(n1, H1, n2, H2) $=\mathbb P(p_1>p_2)$$f(p_i)=1$

mp <- function(p1, n1, H1, n2, H2) {
    f1 <- pbeta(p1, H2 + 1, n2 - H2 + 1)
    f2 <- dbeta(p1, H1 + 1, n1 - H1 + 1)
    return(f1 * f2)
}

P <- function(n1, H1, n2, H2) {
    return(integrate(mp, 0, 1, n1, H1, n2, H2))
}

Puoi disegnare per diversi risultati sperimentali e fisso , ad es. con questo codice tagliato:$P(p_1>p_2)$$n_1$$n_2$$n_1=n_2=4$

library(lattice)
n1 <- 4
n2 <- 4
heads <- expand.grid(H1 = 0:n1, H2 = 0:n2)
heads$P <- apply(heads, 1, function(H) P(n1, H[1], n2, H[2])$value)
levelplot(P ~ H1 + H2, heads, main = "P(p1 > p2)")

Potrebbe essere necessario install.packages("lattice")prima.

Si può vedere che anche con l'uniforme precedente e una piccola dimensione del campione, la probabilità o credere che una moneta sia migliore può diventare abbastanza solida, quando e differiscono abbastanza. È necessaria una differenza relativa ancora minore se e sono ancora maggiori. Ecco un diagramma per e :$H_1$$H_2$$n_1$$n_2$$n_1=100$$n_2=200$

---

Martijn Weterings ha suggerito di calcolare la distribuzione della probabilità posteriore per la differenza tra e . Questo può essere fatto integrando il pdf della coppia sull'insieme : $p_1$$p_2$$S(d)=\{(p_1,p_2)\in[0,1]^2|d=|p_1-p_2|\}$

$$\begin{align} f(d|H_1,n_1,H_2,n_2) &= \int_{S(d)}f(p_1,p_2|H_1,n_1,H_2,n_2) \mathrm d\gamma\\ &= \int_0^{1-d} f(p,p+d|H_1,n_1,H_2,n_2) \mathrm dp + \int_d^1 f(p,p-d|H_1,n_1,H_2,n_2) \mathrm dp\\ \end{align}$$

Ancora una volta, non un integrale che posso risolvere analiticamente, ma il codice R sarebbe:

d1 <- function(p, d, n1, H1, n2, H2) {
    f1 <- dbeta(p, H1 + 1, n1 - H1 + 1)
    f2 <- dbeta(p + d, H2 + 1, n2 - H2 + 1)
    return(f1 * f2)
}

d2 <- function(p, d, n1, H1, n2, H2) {
    f1 <- dbeta(p, H1 + 1, n1 - H1 + 1)
    f2 <- dbeta(p - d, H2 + 1, n2 - H2 + 1)
    return(f1 * f2)
}

fd <- function(d, n1, H1, n2, H2) {
    if (d==1) return(0)
    s1 <- integrate(d1, 0, 1-d, d, n1, H1, n2, H2)
    s2 <- integrate(d2, d, 1, d, n1, H1, n2, H2)
    return(s1$value + s2$value)
}

Ho tracciato per , , e tutti i valori di :$f(d|n_1,H_1,n_2,H_2)$$n_1=4$$H_1=3$$n_2=4$$H_2$

n1 <- 4
n2 <- 4
H1 <- 3
d <- seq(0, 1, length = 500)

get_f <- function(H2) sapply(d, fd, n1, H1, n2, H2)
dat <- sapply(0:n2, get_f)

matplot(d, dat, type = "l", ylab = "Density",
        main = "f(d | 4, 3, 4, H2)")
legend("topright", legend = paste("H2 =", 0:n2),
       col = 1:(n2 + 1), pch = "-")

Puoi calcolare la probabilità diessere al di sopra di un valore di . Ricorda che la doppia applicazione dell'integrale numerico comporta un errore numerico. Ad esempio, dovrebbe sempre essere uguale a poiché assume sempre un valore compreso tra e . Ma il risultato spesso si discosta leggermente.$|p_1-p_2|$$d$integrate(fd, d, 1, n1, H1, n2, H2)integrate(fd, 0, 1, n1, H1, n2, H2)$1$$d$$0$$1$

Ho fatto una simulazione numerica con R, probabilmente stai cercando una risposta analitica, ma ho pensato che potesse essere interessante da condividere.

set.seed(123)
# coin 1
N1 = 20
theta1 = 0.7

toss1 <- rbinom(n = N1, size = 1, prob = theta1)

# coin 2
N2 = 25
theta2 = 0.5

toss2 <- rbinom(n = N2, size = 1, prob = theta2)

# frequency
sum(toss1)/N1 # [1] 0.65
sum(toss2)/N2 # [1] 0.52

In questo primo codice, simulo semplicemente il lancio di due monete. Qui puoi vedere ovviamente che theta1 > theta2, quindi ovviamente la frequenza di H1sarà maggiore di H2. Si noti la diversa N1, N2le dimensioni.

Vediamo cosa possiamo fare con diversi thetas. Si noti che il codice non è ottimale. Affatto.

simulation <- function(N1, N2, theta1, theta2, nsim = 100) {
  count1 <- count2 <- 0

  for (i in 1:nsim) {
    toss1 <- rbinom(n = N1, size = 1, prob = theta1)
    toss2 <- rbinom(n = N2, size = 1, prob = theta2)

    if (sum(toss1)/N1 > sum(toss2)/N2) {count1 = count1 + 1} 
    #if (sum(toss1)/N1 < sum(toss2)/N2) {count2 = count2 + 1} 
  }

  count1/nsim

}
set.seed(123)
simulation(20, 25, 0.7, 0.5, 100)
#[1] 0.93

Quindi 0.93 è la frequenza dei tempi (su 100) in cui la prima moneta aveva più teste. Questo sembra ok, guardando theta1e theta2usato.

Vediamo con due vettori di thetas.

theta1_v <- seq(from = 0.1, to = 0.9, by = 0.1)
theta2_v <- seq(from = 0.9, to = 0.1, by = -0.1)

res_v <- c()
for (i in 1:length(theta1_v)) {

  res <- simulation(1000, 1500, theta1_v[i], theta2_v[i], 100)
  res_v[i] <- res

}

plot(theta1_v, res_v, type = "l")

Ricorda che res_vsono le frequenze in cui H1 > H2, su 100 simulazioni.

Quindi, theta1all'aumentare, aumenta anche la probabilità di H1essere più alti.

Ho fatto alcune altre simulazioni e sembra che le dimensioni N1, N2sono meno importanti.

Se hai familiarità con Rquesto codice, puoi utilizzare questo codice per far luce sul problema. Sono consapevole che questa non è un'analisi completa e può essere migliorata.