In che modo la distribuzione di Poisson è diversa dalla distribuzione normale?

Ho generato un vettore che ha una distribuzione di Poisson, come segue:

x = rpois(1000,10)

Se faccio un istogramma usando hist(x), la distribuzione appare come una normale distribuzione a forma di campana. Tuttavia, un test di Kolmogorov-Smirnoff che utilizza ks.test(x, 'pnorm',10,3)afferma che la distribuzione è significativamente diversa da una distribuzione normale, a causa del pvalore molto piccolo .

Quindi la mia domanda è: in che modo la distribuzione di Poisson differisce da una distribuzione normale, quando l'istogramma sembra così simile a una distribuzione normale?

1. Una distribuzione di Poisson è discreta mentre una distribuzione normale è continua e una variabile casuale di Poisson è sempre> = 0. Pertanto, un test di Kolgomorov-Smirnov sarà spesso in grado di dire la differenza.

2. Quando la media di una distribuzione di Poisson è grande, diventa simile a una distribuzione normale. Tuttavia, rpois(1000, 10)non ha nemmeno guardare che simile a una distribuzione normale (si ferma breve a 0 e la coda destra è troppo lungo).

3. Perché lo stai confrontando con ks.test(..., 'pnorm', 10, 3)piuttosto che ks.test(..., 'pnorm', 10, sqrt(10))? La differenza tra 3 e è piccolo ma farà di per sé una differenza nel confronto delle distribuzioni. Anche se la distribuzione fosse davvero normale, si otterrebbe una distribuzione di valore p anti-conservativo:$\sqrt{10}$

   set.seed(1)
   
   hist(replicate(10000, ks.test(rnorm(1000, 10, sqrt(10)), 'pnorm', 10, 3)$p.value))
   

Ecco un modo molto più semplice per capirlo:

Puoi vedere la distribuzione binomiale come la "madre" della maggior parte delle distribuzioni. La distribuzione normale è solo un'approssimazione della distribuzione binomiale quando n diventa abbastanza grande. In effetti, Abraham de Moivre ha scoperto essenzialmente la distribuzione normale mentre cercava di approssimare la distribuzione binomiale perché va rapidamente fuori controllo per calcolare la distribuzione binomiale man mano che cresce, specialmente quando non si hanno computer ( riferimento ).

La distribuzione di Poisson è anche solo un'altra approssimazione della distribuzione binomiale ma tiene molto meglio della distribuzione normale quando n è grande e p è piccola, o più precisamente quando la media è approssimativamente uguale alla varianza (ricordate che per la distribuzione binomiale, media = np e var = np (1-p)) ( riferimento ). Perché questa situazione particolare è così importante? Apparentemente emerge molto nel mondo reale ed è per questo che abbiamo questa approssimazione "speciale". L'esempio seguente mostra scenari in cui l'approssimazione di Poisson funziona davvero alla grande.

Esempio

Abbiamo un datacenter di 100.000 computer. La probabilità che un determinato computer si guasti oggi è 0,001. Quindi in media np = 100 computer falliscono nel data center. Qual è la probabilità che oggi falliscano solo 50 computer?

Binomial: 1.208E-8
Poisson: 1.223E-8
Normal: 1.469E-7

In effetti, la qualità dell'approssimazione per la distribuzione normale scende mentre si procede nella coda della distribuzione, ma Poisson continua a tenere molto bene. Nell'esempio sopra, consideriamo qual è la probabilità che oggi solo 5 computer falliscano?

Binomial: 2.96E-36 
Poisson: 3.1E-36
Normal: 9.6E-22

Speriamo che questo ti dia una migliore comprensione intuitiva di queste 3 distribuzioni.

$\lambda$$n$$p_n$$p_n = \lambda / n$

Uno sviluppo piuttosto lungo può essere trovato su questo blog .

$X_n \sim \mathrm{Binomial}(n,\lambda/n)$ $k$

$$\begin{align} \mathbb P(X_n = k) &= \frac{n!}{k!(n-k)!} \left(\frac{\lambda}{n}\right)^k \left(1-\frac{\lambda}{n}\right)^{n-k} \\ &= \underbrace{\frac{n! n^{-k}}{(n-k)!}}_{\to 1} \frac{\lambda^k}{k!}\underbrace{(1-\lambda/n)^n}_{\to e^{-\lambda}} \cdot \underbrace{(1-\lambda/n)^{-k}}_{\to 1} \>. \end{align}$$

$n \to \infty$$k$

$$\mathbb P(X_n = k) \to \frac{e^{-\lambda} \lambda^k}{k!} \,,$$ $n \to \infty$$(1-\lambda/n)^n \to e^{-\lambda}$

$n$$p$$\approxeq^d \mathcal N(np, np(1-p))$$n \rightarrow \infty$$p$$p_n = \lambda / n \rightarrow 0$$\lambda$$n$