Qual è la normale approssimazione della distribuzione multinomiale?

Se ci sono più approssimazioni possibili, sto cercando quella più semplice.

È possibile approssimarlo con la distribuzione normale multivariata allo stesso modo in cui la distribuzione binomiale è approssimata dalla distribuzione normale univariata. Controlla gli elementi della teoria della distribuzione e della distribuzione multinomiale pagine 15-16-17.

Lascia che sia il vettore delle tue probabilità. Quindi il vettore medio della distribuzione normale multivariata è . La matrice di covarianza è una matrice simmetrica . Gli elementi diagonali sono in realtà la varianza di ; cioè , . L'elemento off-diagonale nella riga con la riga e jth è , dove non è uguale a .n p = ( n p 1 , n p 2 , . . . , N p k ) k × k X i n p i ( 1 - p i ) i = 1 , 2 ... , k Cov ( X i , X $P=(p_1,...,p_k)$$np=(np_1,np_2,...,np_k)$$k \times k$$X_i$$np_i(1-p_i)$$i=1,2...,k$$\text{Cov}(X_i,X_j)=-np_ip_j$$i$$j$

La densità data in questa risposta è degenerata, e quindi ho usato quanto segue per calcolare la densità che risulta dall'approssimazione normale:

C'è un teorema che dice dato una variabile casuale $X = [X_1, \ldots, X_m]^T \sim \text{Multinom}(n, p)$ , per un $m$ -dimensionale vettore $p$ con $\sum_i p_i = 1$ e $\sum_i X_i = n$ , quello;

$$X \xrightarrow{d} \sqrt{n} \, \text{diag}(u) \, Q \begin{bmatrix} Z_1 \\ \vdots \\ Z_{m-1} \\ 0 \end{bmatrix} + \begin{bmatrix} n p_1 \\ \vdots \\ n p_m \end{bmatrix},$$

per $n$ grande , dato;

• un vettore $u$ con $u_i = \sqrt{p_i}$ ;
• variabili casuali $Z_i \sim N(0,1)$ per $i = 1, \ldots, m-1$ e;
• una matrice ortogonale $Q$ con colonna finale $u$ .

Vale a dire, con qualche riarrangiamento, possiamo elaborare una distribuzione normale multivariata $m-1$ per i primi componenti $m-1$ di $X$ (che sono gli unici componenti interessanti perché $X_m$ è la somma degli altri).

Un valore adatto della matrice $Q$ è $I - 2 v v^T$ con $v_i = (\delta_{im} - u_i) / \sqrt{2(1 - u_m)}$ - ovvero una particolare trasformazione della famiglia.

Se limitiamo il lato sinistro della prima $m-1$ righe e limitare $Q$ al suo primo $m-1$ righe e $m-1$ colonne (denotare questi X e Q rispettivamente) allora:$\hat{X}$$\hat{Q}$

$$\hat{X} \xrightarrow{d} \sqrt{n} \text{diag}(\hat{u}) \hat{Q} \begin{bmatrix} Z_1 \\ \vdots \\ Z_{m-1} \end{bmatrix} + \begin{bmatrix} n p_1 \\ \vdots \\ n p_{m-1} \end{bmatrix} \sim \mathcal{N} \left( \mu, n \Sigma \right),$$

per $n$ grande , dove;

• $\hat{u}$ denota il primo$m-1$termini di$u$;
• la media è $\mu = [ n p_1, \ldots, n p_{m-1}]^T$ , e;
• la matrice di covarianza $n \Sigma = n A A^T$ con $A = \text{diag}( \hat{u} ) \hat{Q}$ .

Il lato destro dell'equazione finale è la densità non degenerata utilizzata nel calcolo.

Come previsto, quando si collega tutto, si ottiene la seguente matrice di covarianza:

$$(n\Sigma)_{ij} = n \sqrt{p_i p_j} (\delta_{ij} - \sqrt{p_i p_j})$$

per $i,j = 1, \ldots, m-1$ , che è esattamente la matrice di covarianza nella risposta originale limitata alle sue prime $m-1$ righe e $m-1$ colonne.

Questo post sul blog è stato il mio punto di partenza.