Errore di approssimazione dell'intervallo di confidenza per la media quando

Sia $\{X_i\}_{i=1}^n$ una famiglia di variabili casuali iid che assume valori in $[0,1]$ , con una media $\mu$ e varianza $\sigma^2$ . Un semplice intervallo di confidenza per la media, usando $\sigma$ ogni volta che è noto, è dato da

$$P( | \bar X - \mu| > \varepsilon) \le \frac{\sigma^2}{n\varepsilon^2} \le\frac{1}{n \varepsilon^2} \qquad (1).$$

Inoltre, perché $\frac{\bar X- \mu}{\sigma/\sqrt{n}}$ viene distribuito asintoticamente come una normale variabile casuale standard, la distribuzione normale viene talvolta utilizzata per "costruire" un intervallo di confidenza approssimativo.

---

Negli esami di statistica delle risposte a scelta multipla, ho dovuto usare questa approssimazione anziché $(1)$ ogni volta che $n \geq 30$ . Mi sono sempre sentito molto a disagio con questo (più di quanto tu possa immaginare), poiché l'errore di approssimazione non è quantificato.

---

• Perché usare l'approssimazione normale anziché $(1)$ ?

• Non voglio mai più applicare ciecamente la regola . Ci sono buone referenze che possono supportarmi nel rifiuto di farlo e fornire alternative appropriate? ( ( 1 ) è un esempio di quella che considero un'alternativa appropriata.)$n \geq 30$$(1)$

Qui, mentre ed E [ | X | 3 ] sono sconosciuti, sono facilmente delimitati.$\sigma$$E[ |X|^3]$

Si noti che la mia domanda è una richiesta di riferimento, in particolare per quanto riguarda gli intervalli di confidenza, e pertanto è diversa dalle differenze che sono state suggerite come duplicati parziali qui e qui . Non c'è risposta lì.

Perché usare l'approssimazione normale?

È semplice come dire che è sempre meglio usare più informazioni che meno. L'equazione (1) usa il teorema di Chebyshev . Nota come non utilizza alcuna informazione sulla forma della tua distribuzione, vale a dire che funziona per qualsiasi distribuzione con una data varianza. Quindi, se usi alcune informazioni sulla forma della tua distribuzione, devi ottenere una migliore approssimazione. Se sapevi che la tua distribuzione è gaussiana, usando questa conoscenza otterrai una stima migliore.

Dato che stai già applicando il teorema del limite centrale, perché non usare l'approssimazione gaussiana dei limiti? Saranno migliori, in realtà, più stretti (o più nitidi) perché queste stime si basano sulla conoscenza della forma che è un'informazione aggiuntiva.

La regola empirica 30 è un mito, che beneficia del pregiudizio di conferma . Continua a essere copiato da un libro all'altro. Una volta ho trovato un riferimento che suggerisce questa regola in un documento negli anni '50. Non è stato alcun tipo di prova solida, come ricordo. Era una specie di studio empirico. Fondamentalmente, l'unica ragione per cui è usato è perché funziona in qualche modo. Non vedi spesso violato violentemente.

AGGIORNAMENTO Cerca il documento di Zachary R. Smith e Craig S. Wells " Teorema del limite centrale e dimensioni del campione ". Presentano uno studio empirico sulla convergenza al CLT per diversi tipi di distribuzioni. Il numero magico 30 non funziona in molti casi, ovviamente.

Il problema con l'uso della disuguaglianza di Chebyshev per ottenere un intervallo per il valore reale, è che ti dà solo un limite inferiore per la probabilità, che a volte è banale, o, per non essere banale, può dare un intervallo di confidenza. abbiamo

$$P( | \bar X - \mu| > \varepsilon) = 1 - P(\bar X-\varepsilon \leq \mu \leq \bar X+\varepsilon)$$

$$\implies P(\bar X-\varepsilon \leq \mu \leq \bar X+\varepsilon) \geq 1- \frac{1}{n \varepsilon^2}$$

Vediamo che, a seconda anche della dimensione del campione, se diminuiamo "troppo" otterremo la banale risposta "la probabilità è maggiore di zero".$\varepsilon$

A parte questo, ciò che otteniamo da questo approccio è una conclusione della forma "" la probabilità che cada in [ ˉ X ± ε ] è uguale o maggiore di ... "$\mu$$[\bar X \pm \varepsilon]$

Ma supponiamo che stiamo bene con questo, e denotano la probabilità minima con la quale ci sono confortevoli. Quindi vogliamo$p_{min}$

$$1- \frac{1}{n \varepsilon^2} = p_{min} \implies \varepsilon = \sqrt {\frac {1}{(1-p_{min})n}}$$

Con campioni di piccole dimensioni e alta probabilità minima desiderata, ciò può fornire un intervallo di confidenza non sufficientemente ampio. Ad esempio per e n = 100 otterremo ε ≈ .316 , che, ad esempio per la variabile trattata dall'OP che è limitato in [ 0 , 1 ] sembra essere troppo grande per essere utile.$p_{min} =0.9$$n=100$$\varepsilon \approx .316$$[0,1]$

Ma l'approccio è valido e privo di distribuzione e quindi potrebbero esserci casi in cui può essere utile.

Si potrebbe voler verificare anche la disuguaglianza di Vysochanskij – Petunin menzionata in un'altra risposta, che vale per continue distribuzioni unimodali e raffina la disuguaglianza di Chebyshev.

The short answer is that it can go pretty badly, but only if one or both tails of the sampling distribution is really fat.

Questo codice R genera un milione di insiemi di 30 variabili con distribuzione gamma e assume la loro media; può essere usato per avere un'idea di come appare la distribuzione campionaria della media. Se l'approssimazione normale funziona come previsto, i risultati dovrebbero essere approssimativamente normali con media 1 e varianza 1/(30 * shape).

f = function(shape){replicate(1E6, mean(rgamma(30, shape, shape)))}

Quando shapeè 1.0, la distribuzione gamma diventa una distribuzione esponenziale , il che è abbastanza non normale. Tuttavia, le parti non gaussiane sono per lo più fuori media e quindi l'approssimazione gaussiana non è poi così male:

C'è chiaramente qualche pregiudizio, e sarebbe bene evitarlo quando possibile. Ma onestamente, quel livello di distorsione probabilmente non sarà il problema più grande di fronte a uno studio tipico.

Detto questo, le cose possono andare molto peggio. Con f(0.01), l'istogramma è simile al seguente:

La trasformazione dei log dei 30 punti dati campionati prima della media aiuta molto, tuttavia:

In generale, le distribuzioni con code lunghe (su uno o entrambi i lati della distribuzione) richiederanno il maggior numero di campioni prima che l'approssimazione gaussiana inizi a diventare affidabile. Ci sono anche casi patologici in cui non ci saranno letteralmente mai abbastanza dati per far funzionare l'approssimazione gaussiana, ma probabilmente avrai problemi più gravi in ​​quel caso (perché la distribuzione del campionamento non ha una media o varianza ben definita per iniziare con).

Problema con l'intervallo di confidenza di Chebyshev

Come detto da Carlo, abbiamo $\sigma^2 \le \frac{1}{4}$. Questo segue da$\text{Var}(X) \le \mu(1-\mu)$. Pertanto un intervallo di confidenza per$\mu$ è dato da

$$P(|\bar{X}-\mu| \geq \varepsilon) \le \frac{1}{4n\varepsilon^2}.$$ The problem is that the inequality is, in a certain sense, quite loose when $n$ gets large. An improvement is given by Hoeffding's bound and shown below. However, we can also demonstrate how bad it can get using the Berry-Esseen theorem, pointed out by Yves. Let $X_i$ have a variance $\tfrac{1}{4}$, the worst possible case. The theorem implies that $P(|\bar X - \mu| \geq \tfrac{\varepsilon}{2\sqrt{n}}) \le 2\, \text{SF}(\varepsilon) + \tfrac{8}{\sqrt{n}},$ where $\text{SF}$ is the survival function of the standard normal distribution. In particular, with $\varepsilon = 16$, we get $\text{SF}(16) \approx e^{-58}$ (according to Scipy), so that essentially $$P(|\bar X - \mu| \geq \tfrac{8}{\sqrt{n}}) \le \tfrac{8}{\sqrt{n}} + 0, \qquad (*)$$ whereas the Chebyshev inequality implies $$P(|\bar X - \mu| \geq \tfrac{8}{\sqrt{n}}) \le \tfrac{1}{256}.$$ Note that I did not try to optimize the bound given in $(*)$, the result here is only of conceptual interest.

---

Comparing the lengths of the confidence intervals

Consider the $(1-\alpha)$-level confidence interval lengths $\ell_Z(\alpha, n)$ and $\ell_C(\alpha, n)$ obtained using the normal approximation ($\sigma = \tfrac{1}{2}$) and the Chebyshev inequality, repectively. It turns out that $\ell_C(\alpha, n)$ is a constant times bigger than $\ell_Z(\alpha, n)$, independently of $n$. Precisely, for all $n$,

$$\ell_C(\alpha, n) = \kappa(\alpha) \ell_Z(\alpha, n), \quad \kappa(\alpha) = \left(\text{ISF}\left(\tfrac{\alpha}{2}\right) \sqrt{\alpha}\right)^{-1},$$ where $\text{ISF}$ is the inverse survival function of the standard normal distribution. I plot below the multiplicative constant.

$\hskip 1in$

In particular, the $95\%$ level confidence interval obtained using the Chebyshev inequality is about $2.3$ times bigger than the same level confidence interval obtained using the normal approximation.

---

Using Hoeffding's bound

Hoeffding's bound gives

$$P(|\bar X - \mu| \geq \varepsilon) \leq 2e^{-2n \varepsilon^2}.$$ Thus an $(1-\alpha)$-level confidence interval for $\mu$ is $$(\bar X - \varepsilon, \bar X + \varepsilon), \quad \varepsilon = \sqrt{\frac{-\ln \tfrac{\alpha}{2}}{2n}},$$ of length $\ell_H (\alpha, n) = 2\varepsilon$. I plot below the lengths of the different confidence intervals (Chebyshev inequality: $\ell_C$; normal approximation ($\sigma = 1/2$): $\ell_Z$; Hoeffding's inequality: $\ell_H$) per $\alpha = 0.05$.

$\hskip 0.5in$

cominciamo con il numero 30: è, come si dirà chiunque, una regola empirica. ma come possiamo trovare un numero che si adatti meglio ai nostri dati? In realtà è soprattutto una questione di asimmetria: anche la distribuzione più strana converge rapidamente alla normalità se sono simmetrici e continui, i dati obliqui saranno molto più lenti. Ricordo di aver appreso che una distribuzione binomiale può essere correttamente approssimata alla normalità quando la sua varianza è maggiore di 9; per questo esempio si deve considerare che la distribuzione discreta ha anche il problema che hanno bisogno di grandi numeri per simulare la continuità, ma pensate a questo: una distribuzione binomiale simmetrica raggiungerà quella varianza con n = 36, se invece p = 0.1, n deve andare fino a 100 (la trasformazione variabile, tuttavia, sarebbe di grande aiuto)!

Se invece vuoi solo usare la varianza, lasciando cadere l'approssimazione gaussiana, considera la disuguaglianza di Vysochanskij – Petunin rispetto a quella di Chebichev, ha bisogno di assumere una distribuzione unimodale della media, ma questa è molto sicura con qualsiasi dimensione del campione, direi, maggiore di 2.