Teorema del limite centrale per radici quadrate di somme di variabili casuali iid

Incuriosito da una domanda su math.stackexchange e indagando empiricamente, mi chiedo la seguente affermazione sulla radice quadrata delle somme di variabili casuali iid.

Supponiamo che $X_1, X_2, \ldots, X_n$ siano variabili casuali iid con media nulla diversa da zero $\mu$ e varianza $\sigma^2$ e $\displaystyle Y=\sum_{i=1}^n X_i$ . Il teorema del limite centrale dice $\displaystyle \dfrac{Y - n\mu}{\sqrt{n\sigma^2}} \ \xrightarrow{d}\ N(0,1)$ come $n$ aumenta.

Se $Z=\sqrt{|Y|}$ , posso anche dire qualcosa come $\displaystyle \dfrac{Z - \sqrt{n |\mu|-\tfrac{\sigma^2}{4|\mu|}}}{\sqrt{\tfrac{\sigma^2}{4|\mu|}}}\ \xrightarrow{d}\ N(0,1)$ come $n$ aumenta?

Ad esempio, supponiamo che $X_i$ siano Bernoulli con media $p$ e varianza $p(1-p)$ , quindi $Y$ è binomiale e posso simularlo in R, diciamo con $p=\frac13$ :

set.seed(1)
cases <- 100000
n <- 1000
p <- 1/3
Y <- rbinom(cases, size=n, prob=p)
Z <- sqrt(abs(Y))

che fornisce approssimativamente la media e la varianza sperate per $Z$

> c(mean(Z), sqrt(n*p - (1-p)/4))
[1] 18.25229 18.25285
> c(var(Z), (1-p)/4)
[1] 0.1680012 0.1666667

e un diagramma QQ che sembra vicino a gaussiano

qqnorm(Z)

normal-distribution central-limit-theorem sum

— Henry
fonte

@MichaelM: Grazie per quei commenti. Avevo iniziato con

non negativo, ma pensavo che il comportamento intuitivo asintotico che descrivessi consentisse una generalizzazione a più distribuzioni. Le mie sorprese furono (a) la varianza della radice quadrata della somma apparentemente tendente a una costante non dipendente da

e (b) l'apparizione di una distribuzione che sembra molto vicina a Gaussiana. Un contro-esempio sarebbe il benvenuto, ma quando ho provato altri casi che inizialmente sembravano non gaussiani, l'aumento di

sembrava ulteriormente riportare la distribuzione a un risultato di tipo CLT.

X_{i}

$X_i$

n

$n$

n

$n$

— Henry,

Un corollario di questo è il quadrato radice-media (o media quadratica) delle variabili casuali iid opportunamente ridimensionate (moltiplicate per

come con una media aritmetica) converge anche in una distribuzione gaussiana a condizione che il

° momento della distribuzione sottostante sia finito.

\sqrt{n}

$\sqrt{n}$

4

$4$

— Henry,

Solo un breve commento: l'affermazione è un caso speciale del metodo Delta, vedi Teorema 5.5.24 nel libro "Inferenza statistica" di Casella & Berger.

— Michael M,

@Michael: Forse vedi qualcosa che non sono in questo momento, ma non penso che questo particolare problema si adatti alle ipotesi del metodo Delta classico (ad esempio, come affermato nel teorema a cui fai riferimento). Si noti che

non converge nella distribuzione (non banalmente su

) e quindi "applicando il metodo Delta con

Y

$Y$

R

$\mathbb R$

"non soddisfa i requisiti richiesti. Tuttavia, come dimostra la risposta di S. Catterall, fornisce un'euristica utile che porta alla risposta corretta.

g (y) = \sqrt{| y |}

$g(y) = \sqrt{|y|}$

— Cardinale

(Credo che potresti adattare la prova del metodo Delta a casi simili a quelli sopra descritti al fine di rendere pienamente rigoroso l'euristico sopra menzionato.)

— Cardinale

La convergenza con un gaussiano è davvero un fenomeno generale.

Supponiamo che sono variabili casuali IID con media e varianza e definiscono le somme . Risolvi un numero $X_1,X_2,X_3,...$ $\mu\gt 0$ $\sigma^2$ $Y_n=\sum_{i=1}^n X_i$ $\alpha$ . Il solito teorema del limite centrale ci dice che come, doveè il cdf normale standard. Tuttavia, la continuità del cdf limitante implica che abbiamo anche $P(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha)\to\Phi(\alpha)$ $n\to\infty$ $\Phi$ perché il termine aggiuntivo sul lato destro della disuguaglianza tende a zero. Riorganizzare questa espressione porta a

P (\frac{Y_{n} - n μ}{σ \sqrt{n}} \leq α + \frac{α^{2} σ^{2}}{4 μ σ \sqrt{n}}) \to Φ (α)

$P\Big(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha+\frac{\alpha^2 \sigma^2}{4\mu\sigma\sqrt n}\Big)\to\Phi(\alpha)$

P (Y_{n} \leq (\frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ})^{2}) \to Φ (α)

$P\Big(Y_n\leq (\frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu})^2\Big)\to\Phi(\alpha)$

Prendendo le radici quadrate e notando che implica che , otteniamo $\mu\gt 0$ $P(Y_n\lt 0)\to 0$ In altre parole,

P (\sqrt{| Y_{n} |} \leq \frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ}) \to Φ (α)

$P\Big(\sqrt{|Y_n|}\leq \frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu}\Big)\to\Phi(\alpha)$

. Questo risultato dimostra la convergenza con un gaussiano nel limite come

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

n \to \infty

$n\to\infty$

Questo significa che è una buona approssimazione di $\sqrt{n\mu}$ pergrande? Bene, possiamo fare di meglio. Come osserva @Henry, supponendo che tutto sia positivo, possiamo usare $E[\sqrt{|Y_n|}]$ $n$ , insieme ae l'approssimazione $E[\sqrt{Y_n}]=\sqrt{E[Y_n]-\text{Var}(\sqrt{Y_n})}$ $E[Y_n]=n\mu$ $\text{Var}(\sqrt{Y_n})\approx \frac{\sigma^2}{4\mu}$ $E[\sqrt{|Y_n|}]\approx\sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - \frac{σ^{2}}{4 μ}}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-\frac{\sigma^2}{4\mu}}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

\sqrt{n μ - \frac{σ^{2}}{4 μ}} - \sqrt{n μ} \to 0

$\sqrt{n\mu-\frac{\sigma^2}{4\mu}}-\sqrt{n\mu}\to 0$

n \to \infty

$n\to\infty$ .

— S. Catterall Ripristina Monica
fonte

\sqrt{n μ} - \sqrt{n μ - \frac{σ^{2}}{4 μ}} \to 0

$\sqrt{n \mu}-\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}} \to 0$

n \to \infty

${n \to \infty}$

\sqrt{n μ}

$\sqrt{n\mu}$

\sqrt{n μ - k}

$\sqrt{n\mu-k}$

k

$k$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - k}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-k}}{\sigma/{2\sqrt\mu}}$

N (0, 1)

$N(0,1)$

n

$n$

\sqrt{n μ - \frac{σ^{2}}{4 μ}}

$\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}}$

Var (Z) = E [Z^{2}] - (E [Z])^{2}

$\text{Var}(Z)=E[Z^2]-(E[Z])^2$

E [Z] = \sqrt{E [Z^{2}] - Var (Z)}

$E[Z]=\sqrt{E[Z^2]-\text{Var}(Z)}$

E [Z^{2}] = E [Y] = n μ

$E[Z^2]=E[Y]=n\mu$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}$

Var (Z) \approx \frac{σ^{2}}{4 μ}

$\text{Var}(Z) \approx \dfrac{\sigma^2}{4\mu}$

E [Z] \approx \sqrt{n μ - \frac{σ^{2}}{4 μ}}

$E[Z] \approx \sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

Ok, grazie, ho provato a coprire questo nella mia risposta ora.

— S. Catterall Ripristina Monica il