Valore che aumenta la deviazione standard

12

Sono perplesso dalla seguente affermazione:

"Per aumentare la deviazione standard di un insieme di numeri, è necessario aggiungere un valore che è più di una deviazione standard dalla media"

Qual è la prova di ciò? So ovviamente come definiamo la deviazione standard ma quella parte mi sembra che manchi in qualche modo. Qualche commento?

standard-deviation

— Jöhnk
fonte

1

Hai provato a capire l'algebra coinvolta?

— Alecos Papadopoulos,

Sì. Ho sottratto la varianza del campione di n valori dalla varianza di n + 1 valori e ho richiesto che la differenza sia maggiore di zero. Eppure non riesco a capirlo.

— JohnK,

3

Uno dei modi più semplici è quello di differenziare l'algoritmo di Welford rispetto al nuovo valore e quindi integrarlo per mostrare che se l'introduzione di aumenta la varianza, allora dove è la media dei primi valori e è la loro stima della varianza.

x_{n}

$x_n$

x_{n}

$x_n$

(x_{n} - {\bar{x}}_{n - 1})^{2} \geq \frac{n}{n - 1} v_{n - 1}

$(x_n-\bar{x}_{n-1})^2 \ge \frac{n}{n-1}v_{n-1}$

{\bar{x}}_{n - 1}

$\bar{x}_{n-1}$

n - 1

$n-1$

v_{n - 1}

$v_{n-1}$

— whuber

Va bene, ma può forse essere mostrato con una semplice algebra? La mia conoscenza delle statistiche non è così avanzata.

— JohnK,

@JohnK, puoi per favore condividere la fonte del preventivo?

— Pe Dro

20

Per qualsiasi numero con mean , la varianza è data da Applicando al dato set di numeri che consideriamo per comodità in esposizione avere media , abbiamo quello $N$ $y_1,y_2, \ldots, y_N$ $\displaystyle \bar{y} = \frac{1}{N}\sum_{i=1}^N y_i$

\begin{aligned} σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i} - \bar{y})^{2} \\ = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - 2 y_{i} \bar{y} + {\bar{y}}^{2}) \\ = \frac{1}{N - 1} [(\sum_{i = 1}^{N} y_{i}^{2}) - 2 N (\bar{y})^{2} + N (\bar{y})^{2}] \\ (1) & σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - (\bar{y})^{2}) \end{aligned}

$\begin{align} \sigma^2 &= \frac{1}{N-1}\sum_{i=1}^N (y_i-\bar{y})^2\\ &= \frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - 2y_i\bar{y} + \bar{y}^2\right)\\ &= \frac{1}{N-1}\left[\left(\sum_{i=1}^Ny_i^2\right) - 2N(\bar{y})^2 + N(\bar{y})^2 \right] \\ \sigma^2 &=\frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - (\bar{y})^2\right) \tag{1} \end{align}$

(1)

$(1)$

n

$n$

x_{1}, x_{2}, \dots x_{n}

$x_1, x_2, \ldots x_n$

\bar{x} = 0

$\bar{x} = 0$

σ^{2} = \frac{1}{n - 1} \sum_{i = 1}^{n} (x_{i}^{2} - (\bar{x})^{2}) = \frac{1}{n - 1} \sum_{i = 1}^{n} x_{i}^{2}

$\sigma^2 = \frac{1}{n-1}\sum_{i=1}^n \left(x_i^2-(\bar{x})^2\right) = \frac{1}{n-1}\sum_{i=1}^n x_i^2$ Se ora aggiungiamo una nuova osservazione a questo set di dati, la nuova media del set di dati è mentre la nuova varianza è Quindideve essere più grande di

x_{n + 1}

$x_{n+1}$

\frac{1}{n + 1} \sum_{i = 1}^{n + 1} x_{i} = \frac{n \bar{x} + x_{n + 1}}{n + 1} = \frac{x_{n + 1}}{n + 1}

$\frac{1}{n+1}\sum_{i=1}^{n+1}x_i = \frac{n\bar{x} + x_{n+1}}{n+1} = \frac{x_{n+1}}{n+1}$

\begin{aligned} {\hat{σ}}^{2} & = \frac{1}{n} \sum_{i = 1}^{n + 1} (x_{i}^{2} - \frac{x_{n + 1}^{2}}{(n + 1)^{2}}) \\ = \frac{1}{n} [((n - 1) σ^{2} + x_{n + 1}^{2}) - \frac{x_{n + 1}^{2}}{n + 1}] \\ = \frac{1}{n} [(n - 1) σ^{2} + \frac{n}{n + 1} x_{n + 1}^{2}] \\ > σ^{2} only if x_{n + 1}^{2} > \frac{n + 1}{n} σ^{2} . \end{aligned}

$\begin{align} \hat{\sigma}^2 &= \frac{1}{n}\sum_{i=1}^{n+1} \left(x_i^2-\frac{x_{n+1}^2}{(n+1)^2}\right)\\ &= \frac{1}{n}\left[\left((n-1)\sigma^2 + x_{n+1}^2\right) - \frac{x_{n+1}^2}{n+1}\right]\\ &= \left.\left.\frac{1}{n}\right[(n-1)\sigma^2 + \frac{n}{n+1}x_{n+1}^2\right]\\ &> \sigma^2 ~ \text{only if}~ x_{n+1}^2 > \frac{n+1}{n}\sigma^2. \end{align}$

| x_{n + 1} |

$|x_{n+1}|$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$ o, più in generale, deve differire dalla media del set di dati originale di più di , affinché il set di dati aumentati abbia una varianza maggiore rispetto al set di dati originale. Vedi anche la risposta di Ray Koopman che sottolinea che la nuova varianza è maggiore, uguale o minore di, la varianza originale secondo differisce dalla media di più di, esattamente o meno di .

x_{n + 1}

$x_{n+1}$

\bar{x}

$\bar{x}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

x_{n + 1}

$x_{n+1}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

— Dilip Sarwate
fonte

5

+1 Finalmente qualcuno ha capito bene ... ;-) L'affermazione da dimostrare è corretta; non è stretto. Per inciso, puoi anche scegliere le tue unità di misura per fare , il che semplifica ulteriormente il calcolo, riducendolo a circa due righe.

σ^{2} = 1

$\sigma^2=1$

— whuber

Ti suggerisco di usare S invece di sigma nella prima serie di equazioni e grazie per la derivazione. È stato bello saperlo :)

— Theoden,

3

La dichiarazione sconcertante fornisce una condizione necessaria ma insufficiente per aumentare la deviazione standard. Se la vecchia dimensione del campione è , la vecchia media è , la vecchia deviazione standard è e un nuovo punto viene aggiunto ai dati, quindi la nuova deviazione standard sarà inferiore, uguale o maggiore di secondo comeè minore di, uguale a o maggiore di . $n$ $m$ $s$ $x$ $s$ $|x-m|$ $s\sqrt{1+1/n}$

— Ray Koopman
fonte

1

Hai una prova a portata di mano?

— JohnK,

2

Lasciando da parte l'algebra (che funziona anche) pensaci in questo modo: la deviazione standard è la radice quadrata della varianza. La varianza è la media delle distanze al quadrato dalla media. Se aggiungiamo un valore più vicino alla media di questo, la varianza diminuirà. Se aggiungiamo un valore più lontano dalla media di questo, crescerà.

Questo vale per qualsiasi media di valori non negativi. Se si aggiunge un valore superiore alla media, la media aumenta. Se aggiungi un valore inferiore, diminuisce.

— Peter Flom - Ripristina Monica
fonte

Mi piacerebbe vedere anche una prova rigorosa. Mentre capisco il principio, sono perplesso dal fatto che il valore deve essere almeno 1 deviazione dalla media. Perché precisamente 1?

— JohnK,

Non vedo cosa sia confuso. La varianza è la media. Se aggiungi qualcosa di più grande della media (cioè più di 1 sd) aumenta. Ma non sono uno per le prove formali

— Peter Flom - Ripristina Monica

Potrebbe essere maggiore della media di 0,2 deviazioni standard. Perché non dovrebbe aumentare allora?

— JohnK,

No, non maggiore della media dei dati, maggiore della varianza, che è la media delle distanze al quadrato.

— Peter Flom - Ripristina Monica

4

È confuso perché l'inclusione di un nuovo valore cambia la media, quindi cambiano tutti i residui. È ipotizzabile che anche quando il nuovo valore è lontano dalla vecchia media, il suo contributo alla DS potrebbe essere compensato riducendo la somma dei quadrati dei residui degli altri valori. Questo è uno dei tanti motivi per cui sono utili prove rigorose: forniscono non solo sicurezza nella propria conoscenza, ma intuizione (e persino nuove informazioni). Ad esempio, la dimostrazione mostrerà che è necessario aggiungere un nuovo valore che sia strettamente superiore a una SD dalla media per aumentare la SD.

— whuber

2

Ti inizierò sull'algebra, ma non la prenderò del tutto. Innanzitutto, standardizza i dati sottraendo la media e dividendo per la deviazione standard:Si noti che se trova all'interno di una deviazione standard della media, è compreso tra -1 e 1. Z sarebbe 1 se fosse esattamente a una distanza dalla media. Quindi guarda la tua equazione per la deviazione standard: Cosa succede a se è compreso tra -1 e 1?

Z = \frac{x - μ}{σ} .

$Z = \frac{x-\mu}{\sigma} .$

x

$x$

Z

$Z$

x

$x$

σ = \sqrt{\frac{\sum_{i = 1}^{N} Z_{i}^{2}}{N - 1}}

$\sigma = \sqrt{\frac{\sum_{i=1}^{N}Z_i^2}{N-1}}$

σ

$\sigma$

Z_{N}

$Z_N$

— wcampbell
fonte

Un numero il cui valore assoluto è inferiore a 1, quando al quadrato sarà anche inferiore a 1 in abs. valore. Ciò che non capisco è che anche se Z_N rientri in quella categoria, stiamo aggiungendo un valore positivo a σ, quindi non dovrebbe aumentare?

— JohnK,

Sì, stai aggiungendo un valore positivo, ma sarà inferiore alla tua deviazione media dalla media e quindi riduci il sigma. Forse avrebbe più senso considerare il valore come .

Z_{N + 1}

$Z_{N+1}$

— wcampbell,

1

1) Non dimenticare che quando aggiungi quel valore, aumenti anche di 1. 2) Non aggiungi quel valore a , lo aggiungi a .

N

$N$

σ

$\sigma$

\sum Z_{i}^{2}

$\sum Z_i^2$

— jbowman,

Esattamente quello che stavo cercando di esprimere!

— wcampbell,

Non è così semplice: in questa risposta hai calcolato la SD come se il nuovo valore fosse già parte del set di dati. Invece, deve essere standardizzato rispetto alla SD e alla media dei primi valori , non tutti.

Z_{i}

$Z_i$

N - 1

$N-1$

— whuber