Perché stiamo usando una formula di deviazione standard distorta e fuorviante per di una distribuzione normale?

Mi è sembrato un po 'scioccante la prima volta che ho fatto una normale simulazione Monte Carlo di distribuzione e ho scoperto che la media di deviazioni standard da campioni, tutti con una dimensione del campione di solo , si è rivelata molto inferiore rispetto alla media di volte, il utilizzato per generare la popolazione. Tuttavia, questo è ben noto, se raramente ricordato, e in qualche modo lo sapevo, o non avrei fatto una simulazione. Ecco una simulazione.$100$$100$$n=2$$\sqrt{\frac{2}{\pi }}$$\sigma$

Ecco un esempio per prevedere gli intervalli di confidenza al 95% di usando 100, , stime di e .$N(0,1)$$n=2$$\text{SD}$$\text{E}(s_{n=2})=\sqrt\frac{\pi}{2}\text{SD}$

 RAND()   RAND()    Calc    Calc    
 N(0,1)   N(0,1)    SD      E(s)    
-1.1171  -0.0627    0.7455  0.9344  
 1.7278  -0.8016    1.7886  2.2417  
 1.3705  -1.3710    1.9385  2.4295  
 1.5648  -0.7156    1.6125  2.0209  
 1.2379   0.4896    0.5291  0.6632  
-1.8354   1.0531    2.0425  2.5599  
 1.0320  -0.3531    0.9794  1.2275  
 1.2021  -0.3631    1.1067  1.3871  
 1.3201  -1.1058    1.7154  2.1499  
-0.4946  -1.1428    0.4583  0.5744  
 0.9504  -1.0300    1.4003  1.7551  
-1.6001   0.5811    1.5423  1.9330  
-0.5153   0.8008    0.9306  1.1663  
-0.7106  -0.5577    0.1081  0.1354  
 0.1864   0.2581    0.0507  0.0635  
-0.8702  -0.1520    0.5078  0.6365  
-0.3862   0.4528    0.5933  0.7436  
-0.8531   0.1371    0.7002  0.8775  
-0.8786   0.2086    0.7687  0.9635  
 0.6431   0.7323    0.0631  0.0791  
 1.0368   0.3354    0.4959  0.6216  
-1.0619  -1.2663    0.1445  0.1811  
 0.0600  -0.2569    0.2241  0.2808  
-0.6840  -0.4787    0.1452  0.1820  
 0.2507   0.6593    0.2889  0.3620  
 0.1328  -0.1339    0.1886  0.2364  
-0.2118  -0.0100    0.1427  0.1788  
-0.7496  -1.1437    0.2786  0.3492  
 0.9017   0.0022    0.6361  0.7972  
 0.5560   0.8943    0.2393  0.2999  
-0.1483  -1.1324    0.6959  0.8721  
-1.3194  -0.3915    0.6562  0.8224  
-0.8098  -2.0478    0.8754  1.0971  
-0.3052  -1.1937    0.6282  0.7873  
 0.5170  -0.6323    0.8127  1.0186  
 0.6333  -1.3720    1.4180  1.7772  
-1.5503   0.7194    1.6049  2.0115  
 1.8986  -0.7427    1.8677  2.3408  
 2.3656  -0.3820    1.9428  2.4350  
-1.4987   0.4368    1.3686  1.7153  
-0.5064   1.3950    1.3444  1.6850  
 1.2508   0.6081    0.4545  0.5696  
-0.1696  -0.5459    0.2661  0.3335  
-0.3834  -0.8872    0.3562  0.4465  
 0.0300  -0.8531    0.6244  0.7826  
 0.4210   0.3356    0.0604  0.0757  
 0.0165   2.0690    1.4514  1.8190  
-0.2689   1.5595    1.2929  1.6204  
 1.3385   0.5087    0.5868  0.7354  
 1.1067   0.3987    0.5006  0.6275  
 2.0015  -0.6360    1.8650  2.3374  
-0.4504   0.6166    0.7545  0.9456  
 0.3197  -0.6227    0.6664  0.8352  
-1.2794  -0.9927    0.2027  0.2541  
 1.6603  -0.0543    1.2124  1.5195  
 0.9649  -1.2625    1.5750  1.9739  
-0.3380  -0.2459    0.0652  0.0817  
-0.8612   2.1456    2.1261  2.6647  
 0.4976  -1.0538    1.0970  1.3749  
-0.2007  -1.3870    0.8388  1.0513  
-0.9597   0.6327    1.1260  1.4112  
-2.6118  -0.1505    1.7404  2.1813  
 0.7155  -0.1909    0.6409  0.8033  
 0.0548  -0.2159    0.1914  0.2399  
-0.2775   0.4864    0.5402  0.6770  
-1.2364  -0.0736    0.8222  1.0305  
-0.8868  -0.6960    0.1349  0.1691  
 1.2804  -0.2276    1.0664  1.3365  
 0.5560  -0.9552    1.0686  1.3393  
 0.4643  -0.6173    0.7648  0.9585  
 0.4884  -0.6474    0.8031  1.0066  
 1.3860   0.5479    0.5926  0.7427  
-0.9313   0.5375    1.0386  1.3018  
-0.3466  -0.3809    0.0243  0.0304  
 0.7211  -0.1546    0.6192  0.7760  
-1.4551  -0.1350    0.9334  1.1699  
 0.0673   0.4291    0.2559  0.3207  
 0.3190  -0.1510    0.3323  0.4165  
-1.6514  -0.3824    0.8973  1.1246  
-1.0128  -1.5745    0.3972  0.4978  
-1.2337  -0.7164    0.3658  0.4585  
-1.7677  -1.9776    0.1484  0.1860  
-0.9519  -0.1155    0.5914  0.7412  
 1.1165  -0.6071    1.2188  1.5275  
-1.7772   0.7592    1.7935  2.2478  
 0.1343  -0.0458    0.1273  0.1596  
 0.2270   0.9698    0.5253  0.6583  
-0.1697  -0.5589    0.2752  0.3450  
 2.1011   0.2483    1.3101  1.6420  
-0.0374   0.2988    0.2377  0.2980  
-0.4209   0.5742    0.7037  0.8819  
 1.6728  -0.2046    1.3275  1.6638  
 1.4985  -1.6225    2.2069  2.7659  
 0.5342  -0.5074    0.7365  0.9231  
 0.7119   0.8128    0.0713  0.0894  
 1.0165  -1.2300    1.5885  1.9909  
-0.2646  -0.5301    0.1878  0.2353  
-1.1488  -0.2888    0.6081  0.7621  
-0.4225   0.8703    0.9141  1.1457  
 0.7990  -1.1515    1.3792  1.7286  

 0.0344  -0.1892    0.8188  1.0263  mean E(.)
                    SD pred E(s) pred   
-1.9600  -1.9600   -1.6049 -2.0114    2.5%  theor, est
 1.9600   1.9600    1.6049  2.0114   97.5%  theor, est
                    0.3551 -0.0515    2.5% err
                   -0.3551  0.0515   97.5% err

Trascina il cursore verso il basso per vedere i totali generali. Ora, ho usato lo stimatore SD ordinario per calcolare gli intervalli di confidenza del 95% attorno a una media di zero e sono disattivati ​​di 0,3551 unità di deviazione standard. Lo stimatore E (s) è disattivato di solo 0,0515 unità di deviazione standard. Se si stima una deviazione standard, un errore standard della media o una statistica t, potrebbe esserci un problema.

Il mio ragionamento era il seguente, la media della popolazione, , di due valori può essere ovunque rispetto a un e sicuramente non si trova in , che quest'ultimo costituisce una somma minima possibile assoluta al quadrato in modo da sottovalutare sostanzialmente , come seguex 1 x 1 + x $\mu$$x_1$$\frac{x_1+x_2}{2}$$\sigma$

wlog let , quindi è , il risultato il meno possibile.Σ n i = 1 ( x i - ˉ x ) 2 2 ( $x_2-x_1=d$$\Sigma_{i=1}^{n}(x_i-\bar{x})^2$$2 (\frac{d}{2})^2=\frac{d^2}{2}$

Ciò significa che la deviazione standard calcolata come

$\text{SD}=\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{n-1}}$ ,

è uno stimatore distorto della deviazione standard della popolazione ( ). Nota, in quella formula diminuiamo i gradi di libertà di per 1 e dividiamo per , cioè facciamo una correzione, ma è solo asintoticamente corretta, e sarebbe una regola empirica migliore . Per il nostro esempio la formula ci darebbe , un valore minimo statisticamente non plausibile come , dove un valore / atteso / i migliore / sarebbe$\sigma$$n$$n-1$x 2 - x 1 = d SD S D = $n-3/2$$x_2-x_1=d$$\text{SD}$μ≠ˉxsE(s)=$SD=\frac{d}{\sqrt 2}\approx 0.707d$$\mu\neq \bar{x}$$s$n<10DSσn25n<25n=$E(s)=\sqrt{\frac{\pi }{2}}\frac{d}{\sqrt 2}=\frac{\sqrt\pi }{2}d\approx0.886d$. Per il solito calcolo, per , soffre di una sottostima molto significativa chiamata distorsione da piccolo numero , che si avvicina all'1% di sottostima di quando è circa . Poiché molti esperimenti biologici hanno , questo è davvero un problema. Per , l'errore è di circa 25 parti su 100.000. In generale, la correzione della distorsione di piccolo numero implica che lo stimatore imparziale della deviazione standard della popolazione di una distribuzione normale è$n<10$$\text{SD}$$\sigma$$n$$25$$n<25$$n=1000$

$\text{E}(s)\,=\,\,\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{2}}>\text{SD}=\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{n-1}}\; .$

Da Wikipedia sotto licenza Creative Commons si ha una trama di sottostima SD di$\sigma$

Poiché SD è uno stimatore distorto della deviazione standard della popolazione, non può essere lo stimatore imparziale varianza minima MVUE della deviazione standard della popolazione a meno che non siamo contenti di dire che è MVUE come , che io, per uno, non lo sono.$n\rightarrow \infty$

Per quanto riguarda le distribuzioni non normali e le approssimativamente imparziali, leggi questo .$SD$

Ora arriva la domanda Q1

Si può dimostrare che sopra è MVUE per di una distribuzione normale di dimensione del campione , dove è un numero intero positivo maggiore di uno?σ n $\text{E}(s)$$\sigma$$n$$n$

Suggerimento: (ma non la risposta) vedere Come posso trovare la deviazione standard della deviazione standard del campione da una distribuzione normale? .

Prossima domanda, Q2

Qualcuno potrebbe spiegarmi perché stiamo usando in quanto è chiaramente distorto e fuorviante? Cioè, perché non usare per quasi tutto? E ( s $\text{SD}$$\text{E}(s)$Supplementare, è diventato chiaro nelle risposte sotto che la varianza è imparziale, ma la sua radice quadrata è distorta. Chiederei che le risposte rispondano alla domanda su quando usare la deviazione standard imparziale.

A quanto pare, una risposta parziale è che per evitare distorsioni nella simulazione sopra, le varianze avrebbero potuto essere mediate piuttosto che i valori SD. Per vedere l'effetto di questo, se quadriamo la colonna SD sopra, e in media quei valori otteniamo 0.9994, la cui radice quadrata è una stima della deviazione standard 0.9996915 e l'errore per il quale è solo 0.0006 per la coda del 2,5% e -0.0006 per la coda del 95%. Si noti che ciò è dovuto al fatto che le varianze sono additive, quindi la media delle stesse è una procedura a basso errore. Tuttavia, le deviazioni standard sono distorte e in quei casi in cui non abbiamo il lusso di usare le varianze come intermediario, abbiamo ancora bisogno di piccole correzioni numeriche. Anche se possiamo usare la varianza come intermediario, in questo caso per$n=100$, la piccola correzione del campione suggerisce di moltiplicare la radice quadrata della varianza imparziale 0,9996915 per 1,002528401 per fornire 1,002219148 come stima imparziale della deviazione standard. Quindi, sì, possiamo ritardare l'uso della correzione di piccoli numeri, ma dovremmo quindi ignorarla del tutto?

La domanda qui è quando dovremmo usare la correzione di piccoli numeri, invece di ignorarne l'uso e, soprattutto, abbiamo evitato il suo uso.

Ecco un altro esempio, il numero minimo di punti nello spazio per stabilire una tendenza lineare che presenta un errore è tre. Se adattiamo questi punti con minimi quadrati ordinari, il risultato per molti di questi adattamenti è un modello residuo normale piegato se c'è non linearità e mezzo normale se c'è linearità. Nel caso semi-normale la nostra media di distribuzione richiede una piccola correzione numerica. Se proviamo lo stesso trucco con 4 o più punti, la distribuzione non sarà generalmente normale o facile da caratterizzare. Possiamo usare la varianza per combinare in qualche modo quei risultati a 3 punti? Forse, forse no. Tuttavia, è più facile concepire problemi in termini di distanze e vettori.

Per la domanda più riservata

Perché viene generalmente utilizzata una formula di deviazione standard distorta?

la semplice risposta

Perché lo stimatore di varianza associato è imparziale. Non esiste una vera giustificazione matematica / statistica.

può essere accurato in molti casi.

Tuttavia, non è sempre necessariamente così. Ci sono almeno due aspetti importanti di questi problemi che dovrebbero essere compresi.

Innanzitutto, la varianza del campione non è solo imparziale per le variabili casuali gaussiane. È imparziale per qualsiasi distribuzione con varianza finita (come discusso di seguito, nella mia risposta originale). La domanda nota che non è imparziale per e suggerisce un'alternativa che è imparziale per una variabile casuale gaussiana. Tuttavia è importante notare che a differenza della varianza, per la deviazione standard è non possibile avere un "libero distribuzione" stimatore (* vedi nota sotto).σ 2 s $s^2$$\sigma^2$$s$$\sigma$

In secondo luogo, come menzionato nel commento di Whuber, il fatto che sia di parte non influisce sul "test t" standard. In primo luogo, per una variabile gaussiana , se stimiamo i punteggi z da un campione come quindi questi saranno distorti.x { x i } z i = x i - $s$$x$$\{x_i\}$

$$z_i=\frac{x_i-\mu}{\sigma}\approx\frac{x_i-\bar{x}}{s}$$

Tuttavia, la statistica t viene generalmente utilizzata nel contesto della distribuzione campionaria di . In questo caso il punteggio z sarebbe sebbene non possiamo calcolare né né , poiché non conosciamo . Tuttavia, se la statistica sarebbe normale, allora la statistica seguirà una distribuzione Student-t . Questa non è una larga approssimazione. L'unico presupposto è che i campioni siano i gaussiani. z ˉ x = ˉ x -$\bar{x}$ztμz ˉ x tn

$$z_{\bar{x}}=\frac{\bar{x}-\mu}{\sigma_{\bar{x}}}\approx\frac{\bar{x}-\mu}{s/\sqrt{n}}=t$$ $z$$t$$\mu$$z_{\bar{x}}$$t$$n$$x$

(Comunemente il test t viene applicato in modo più ampio per possibili non gaussiani . Questo si basa su large- , che dal teorema del limite centrale assicura che sarà ancora gaussiano.)n ˉ $x$$n$$\bar{x}$

---

* Chiarimento su "stimatore imparziale privo di distribuzione"

Per "distribuzione gratuita", intendo che lo stimatore non può dipendere da alcuna informazione sulla popolazione parte il campione . Per "imparziale" intendo che l'errore previsto è uniformemente zero, indipendentemente dalla dimensione del campione . (A differenza di uno stimatore che è semplicemente asintoticamente imparziale, noto anche come " coerente ", per il quale la distorsione svanisce come .){ x 1 , ... , x n } E [ θ n ] - θ n n → $x$$\{x_1,\ldots,x_n\}$$\mathbb{E}[\hat{\theta}_n]-\theta$$n$$n\to\infty$

Nei commenti questo è stato fornito come un possibile esempio di "stimatore imparziale privo di distribuzione". Riassumendo un po ', questo stimatore ha la forma , dove è la curtosi in eccesso di . Questo stimatore non è "privo di distribuzione", poiché dipende dalla distribuzione di . Si dice che lo stimatore soddisfi , dove è la varianza di . Quindi lo stimatore è coerente, ma non (assolutamente) "imparziale", comeκxxκxxE[ σ ]-σx=O[$\hat{\sigma}=f[s,n,\kappa_x]$$\kappa_x$$x$$\kappa_x$$x$σ 2 x xO[$\mathbb{E}[\hat{\sigma}]-\sigma_x=\mathrm{O}[\frac{1}{n}]$$\sigma_x^2$$x$$\mathrm{O}[\frac{1}{n}]$può essere arbitrariamente grande per i piccoli .$n$

---

Nota: di seguito è la mia "risposta" originale. Da qui in poi, i commenti riguardano la media e la varianza standard del "campione", che sono stimatori imparziali "liberi dalla distribuzione" (cioè la popolazione non è considerata gaussiana).

Questa non è una risposta completa, ma piuttosto un chiarimento sul perché la formula di varianza del campione è comunemente usata.

Dato un campione casuale , purché le variabili abbiano una media comune, lo stimatore sarà imparziale , cioè ˉ x = $\{x_1,\ldots,x_n\}$E[xi]=$\bar{x}=\frac{1}{n}\sum_ix_i$

$$\mathbb{E}[x_i]=\mu \implies \mathbb{E}[\bar{x}]=\mu$$

Se anche le variabili hanno una varianza finita comune e non sono correlate , anche lo stimatore sarà anche imparziale, ie Nota che l'imparzialità di questi stimatori dipende solo dai presupposti di cui sopra (e dalla linearità delle aspettative; la dimostrazione è solo algebra). Il risultato non dipende da alcuna distribuzione particolare, come quella gaussiana. Le variabili non non avere una distribuzione comune, e non hanno nemmeno bisogno di essereE[xixj]-μ2={ σ 2 i = j 0 i ≠ $s^2=\frac{1}{n-1}\sum_i(x_i-\bar{x})^2$x

$$\mathbb{E}[x_ix_j]-\mu^2=\begin{cases}\sigma^2&i=j\\0&i\neq{j}\end{cases} \implies \mathbb{E}[s^2]=\sigma^2$$ $x_i$indipendente (cioè il campione non deve essere iid ).

La "deviazione standard del campione" è non uno stimatore, , ma ciò nonostante è comunemente usato. La mia ipotesi è che questo è semplicemente perché è la radice quadrata della varianza del campione imparziale. (Senza giustificazioni più sofisticate.)s ≠ $s$$\mathbb{s}\neq\sigma$

Nel caso di un campione gaussiano iid, le stime di massima verosimiglianza (MLE) dei parametri sono e , ovvero la varianza si divide per anziché per . Inoltre, nel caso iid gaussiano, la deviazione standard MLE è solo la radice quadrata della varianza MLE. Tuttavia, queste formule, così come quella accennata nella tua domanda, dipendono dal presupposto dell'Io gaussiano. ( σ 2)MLE=n-$\hat{\mu}_\mathrm{MLE}=\bar{x}$nn$(\hat{\sigma}^2)_\mathrm{MLE}=\frac{n-1}{n}s^2$$n$$n^2$

---

Aggiornamento: chiarimenti aggiuntivi su "parziale" rispetto a "imparziale".

Prendi in considerazione un campione element come sopra, , con somma-deviazione quadrata Dati i presupposti delineati nella prima parte sopra, abbiamo necessariamente quindi lo stimatore MLE (gaussiano) è distorto mentre lo stimatore "varianza campione" è imparziale X = { x 1 , … , x n } δ 2 n = ∑ i ( x i - ˉ x ) 2 E [ δ 2 n ] = ( n - 1 ) σ 2 ^ σ 2 n = $n$$X=\{x_1,\ldots,x_n\}$

$$\delta^2_n=\sum_i(x_i-\bar{x})^2$$ $$\mathbb{E}[\delta^2_n]=(n-1)\sigma^2$$ s 2 n = $$\widehat{\sigma^2_n}=\tfrac{1}{n}\delta^2_n \implies \mathbb{E}[\widehat{\sigma^2_n}]=\tfrac{n-1}{n}\sigma^2$$ $$s^2_n=\tfrac{1}{n-1}\delta^2_n \implies \mathbb{E}[s^2_n]=\sigma^2$$

Ora è vero che diventa meno distorto all'aumentare della dimensione del campione . Tuttavia ha zero bias, indipendentemente dalla dimensione del campione (purché ). Per entrambi gli stimatori, la varianza della loro distribuzione campionaria sarà diversa da zero e dipenderà da . ns 2 n n>1$\widehat{\sigma^2_n}$$n$$s^2_n$$n>1$$n$

Ad esempio, il codice Matlab di seguito considera un esperimento con campioni da una popolazione normale normale . Per stimare le distribuzioni di campionamento per , l'esperimento viene ripetuto volte. (Puoi tagliare e incollare il codice qui per provarlo tu stesso.)z ˉ x , ^ σ 2 , s 2 N = 10 $n=2$$z$$\bar{x},\widehat{\sigma^2},s^2$$N=10^6$

% n=sample size, N=number of samples
n=2; N=1e6;
% generate standard-normal random #'s
z=randn(n,N); % i.e. mu=0, sigma=1
% compute sample stats (Gaussian MLE)
zbar=sum(z)/n; zvar_mle=sum((z-zbar).^2)/n;
% compute ensemble stats (sampling-pdf means)
zbar_avg=sum(zbar)/N, zvar_mle_avg=sum(zvar_mle)/N
% compute unbiased variance
zvar_avg=zvar_mle_avg*n/(n-1)

L'output tipico è simile

zbar_avg     =  1.4442e-04
zvar_mle_avg =  0.49988
zvar_avg     =  0.99977

confermando che

$$\begin{align} \mathbb{E}[\bar{z}]&\approx\overline{(\bar{z})}\approx\mu=0 \\ \mathbb{E}[s^2]&\approx\overline{(s^2)}\approx\sigma^2=1 \\ \mathbb{E}[\widehat{\sigma^2}]&\approx\overline{(\widehat{\sigma^2})}\approx\frac{n-1}{n}\sigma^2=\frac{1}{2} \end{align}$$

---

Aggiornamento 2: Nota sulla natura fondamentalmente "algebrica" ​​dell'imparzialità.

Nella dimostrazione numerica sopra, il codice approssima la vera aspettativa usando una media ensemble con repliche dell'esperimento (ovvero ognuna è un campione di dimensione ). Anche con questo numero elevato, i risultati tipici citati sopra sono tutt'altro che esatti.$\mathbb{E}[\,]$$N=10^6$$n=2$

Per dimostrare numericamente che gli stimatori sono veramente imparziali, possiamo usare un semplice trucco per approssimare il caso : aggiungi semplicemente la seguente riga al codice$N\to\infty$

% optional: "whiten" data (ensure exact ensemble stats)
[U,S,V]=svd(z-mean(z,2),'econ'); z=sqrt(N)*U*V';

(posizionando dopo "genera # casuali normali normali" e prima di "calcola statistiche campione")

Con questa semplice modifica, anche eseguendo il codice con ottengono risultati simili$N=10$

zbar_avg     =  1.1102e-17
zvar_mle_avg =  0.50000
zvar_avg     =  1.00000

$S=\sqrt{\frac{\sum (X - \bar{X})^2}{n-1}}$$\sigma$$\sigma^k$

$$\frac{(n-1)^\frac{k}{2}}{2^\frac{k}{2}} \cdot \frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n+k-1}{2}\right)} \cdot S^k = \frac{S^k}{c_k}$$

$\sigma$$\sigma^k$

$$\tilde{\sigma}^k_j= \left(\frac{S^j}{c_j}\right)^\frac{k}{j}$$

$j=k$

$$\operatorname{E}\tilde{\sigma}^k_j - \sigma^k =\left( \frac{c_k}{c_j^\frac{k}{j}} -1 \right) \sigma^k$$

e la sua varianza di

$$\operatorname{Var}\tilde{\sigma}^{k}_j=\operatorname{E}\tilde{\sigma}^{2k}_j - \left(\operatorname{E}\tilde{\sigma}^k_j\right)^2=\frac{c_{2k}-c_k^2}{c_j^\frac{2k}{j}} \sigma^{2k}$$

$\sigma$$\tilde{\sigma}^1_1=\frac{S}{c_1}$$\tilde{\sigma}^1_2=S$$\tilde{\sigma}_1$$\tilde{\sigma}_2$

$$\begin{align} \operatorname{E}\tilde{\sigma}_1 - \sigma &= 0 \\ \operatorname{E}\tilde{\sigma}_2 - \sigma &=(c_1 -1) \sigma \\ \operatorname{Var}\tilde{\sigma}_1 =\operatorname{E}\tilde{\sigma}^{2}_1 - \left(\operatorname{E}\tilde{\sigma}^1_1\right)^2 &=\frac{c_{2}-c_1^2}{c_1^2} \sigma^{2} = \left(\frac{1}{c_1^2}-1\right) \sigma^2 \\ \operatorname{Var}\tilde{\sigma}_2 =\operatorname{E}\tilde{\sigma}^{2}_1 - \left(\operatorname{E}\tilde{\sigma}_2\right)^2 &=\frac{c_{2}-c_1^2}{c_2} \sigma^{2}=(1-c_1^2)\sigma^2 \end{align}$$ $c_2=1$$S^2$$\sigma^2$

$a_k S^k$$\sigma^2$

$$\begin{align} (\operatorname{E} a_k S^k - \sigma^k)^2 + \operatorname{E} (a_k S^k)^2 - (\operatorname{E} a_k S^k)^2 &= [ (a_k c_k -1)^2 + a_k^2 c_{2k} - a_k^2 c_k^2 ] \sigma^{2k}\\ &= ( a_k^2 c_{2k} -2 a_k c_k + 1 ) \sigma^{2k} \end{align}$$

e quindi minimizzato quando

$$a_k = \frac{c_k}{c_{2k}}$$

, consentendo la definizione di un'altra serie di stimatori di potenziale interesse:

$$\hat{\sigma}^k_j= \left(\frac{c_j S^j}{c_{2j}}\right)^\frac{k}{j}$$

$\hat{\sigma}^1_1=c_1S$$S$$S$$\sigma^k$$\left(\frac{9}{5}\right)^k$

$\tilde{\sigma}^k_j$$\hat{\sigma}^k_j$ $\sqrt{\frac{n-1}{n}}S$$\sqrt{\frac{n-1}{\chi^2_{n-1}(0.5)}}S$$\mathrm{e}^\sigma$$n=2$$\sqrt{\frac{(n-1)s^2}{\chi^2_{n-1}(\alpha)}}$$\sqrt{\frac{(n-1)s^2}{\chi^2_{n-1}(1-\alpha)}}$$1-\alpha$

$(0.45s,31.9s)$.) Non ha senso essere pignoli sulle proprietà di uno stimatore di punti a meno che non si sia preparati a essere abbastanza espliciti su ciò per cui si desidera utilizzarlo, in modo più esplicito è possibile definire una funzione di perdita personalizzata per una particolare applicazione. Un motivo per cui potresti preferire uno stimatore esattamente (o quasi) imparziale è che lo userai nei calcoli successivi durante i quali non vuoi accumulare errori: la tua illustrazione delle stime distorte della media della deviazione standard è un semplice esempio di tale (un esempio più complesso potrebbe usarli come risposta in una regressione lineare). In linea di principio un modello onnicomprensivo dovrebbe ovviare alla necessità di stime imparziali come passaggio intermedio, ma potrebbe essere notevolmente più difficile da specificare e adattare.

$\sigma$

Q2: Qualcuno potrebbe spiegarmi perché stiamo usando SD comunque in quanto è chiaramente distorto e fuorviante?

Questo è emerso a parte nei commenti, ma penso che valga la pena ripetere perché è il punto cruciale della risposta:

La formula della varianza del campione è imparziale e le varianze sono additive . Quindi, se ti aspetti di fare qualsiasi trasformazione (affine), questo è un serio motivo statistico per cui dovresti insistere su uno stimatore di varianza "piacevole" su uno stimatore SD "piacevole".

In un mondo ideale, sarebbero equivalenti. Ma questo non è vero in questo universo. Devi sceglierne uno, quindi potresti anche scegliere quello che ti consente di combinare le informazioni lungo la strada.

Confronto tra due campioni significa? La varianza della loro differenza è la somma delle loro varianze.
Fare un contrasto lineare con diversi termini? Ottieni la sua varianza prendendo una combinazione lineare delle loro varianze.
Guardando la linea di regressione si adatta? Ottieni la loro varianza usando la matrice varianza-covarianza dei tuoi coefficienti beta stimati.
Usando i test F, i test t o gli intervalli di confidenza basati su t? Il test F richiede variazioni direttamente; e il test t è esattamente equivalente alla radice quadrata di un test F.

In ciascuno di questi scenari comuni, se inizi con varianze imparziali, rimarrai sempre imparziale (a meno che il tuo passaggio finale non si converta in SD per il reporting).
Nel frattempo, se avessi iniziato con SD imparziali, né i tuoi passaggi intermedi né il risultato finale sarebbero comunque imparziali .

Questo post è in forma di contorno.

(1) Prendere una radice quadrata non è una trasformazione affine (Credit @Scortchi.)

${\rm var}(s) = {\rm E} (s^2) - {\rm E}(s)^2$${\rm E}(s) = \sqrt{{\rm E}(s^2) -{\rm var}(s)}\neq{\sqrt{\rm var(s)}}$

${\rm var}(s)=\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{n-1}$$\text{E}(s)\,=\,\,\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{2}}$$\neq\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{n-1}}={\sqrt{\rm var(s)}}$

${\sqrt{\rm var(s)}}$$\text{E}(s)$$n$

${\rm var}(s)$$\text{E}(s)$

$\bar{x}$$\alpha$$\rightarrow$$t$$df=1$$t$$1\leq df\leq2$$\text{var}(s)$$\sqrt{\text{var}(s)}$$\hat\sigma = \sqrt{ \frac{1}{n - 1.5 - \tfrac14 \gamma_2} \sum_{i=1}^n (x_i - \bar{x})^2 }$

$\gamma_2$$df=1$

Per il normale caso di distribuzione:

${\rm var}(s)$$\text{E}(s)$

$n\leq 25$$\text{E}(s)$$t$$\frac{ \bar X - \mu} {\sqrt{\text{var}(n)/n}}$$t$$n-1$$\sigma$$n$$\text{E}(s)-\sqrt{\text{var}(n)}$$\text{E}(s)$

Voglio aggiungere la risposta bayesiana a questa discussione. Solo perché il tuo presupposto è che i dati sono generati secondo una media normale con varianza e varianza sconosciute, ciò non significa che dovresti riassumere i tuoi dati usando una media e una varianza. L'intero problema può essere evitato se si disegna il modello, che avrà una previsione posteriore che è una distribuzione T di uno studente in scala non centrale a tre parametri. I tre parametri sono il totale dei campioni, il totale dei campioni quadrati e il numero di campioni. (O qualsiasi mappa biiettiva di questi.)

Per inciso, mi piace la risposta di Civilstat perché evidenzia il nostro desiderio di combinare informazioni. Le tre statistiche sufficienti sopra sono persino migliori delle due fornite nella domanda (o dalla risposta di Civilstat). Due serie di queste statistiche possono essere facilmente combinate e forniscono la migliore previsione posteriore data l'assunzione della normalità.