Valore massimo del coefficiente di variazione per il set di dati limitato

17

Nella discussione a seguito di una recente domanda sul fatto che la deviazione standard possa eccedere la media, è stata sollevata brevemente una domanda, ma alla quale non è mai stata data una risposta completa. Quindi lo sto chiedendo qui.

Si consideri un insieme di $n$ numeri non negativi $x_i$ dove $0 \leq x_i \leq c$ per $1 \leq i \leq n$ . Non è necessario che il $x_i$ essere distinti, cioè l'insieme potrebbe essere un multiset. La media e la varianza dell'insieme sono definite come

x ¯ = 1 n \sum i = 1 n x i, σ 2 x = 1 n \sum i = 1 n (x i - x ¯) 2 = (1 n \sum i = 1 n x 2 i) - x ¯ 2

$\bar{x} = \frac{1}{n}\sum_{i=1}^n x_i, ~~ \sigma_x^2 = \frac{1}{n}\sum_{i=1}^n (x_i - \bar{x})^2 = \left(\frac{1}{n}\sum_{i=1}^n x_i^2\right) - \bar{x}^2$ e la deviazione standard è

σx $\sigma_x$ . Si noti che l'insieme di numerinonèun campione di una popolazione e non stiamo stimando una media della popolazione o una varianza della popolazione. La domanda quindi è:

Qual è il valore massimo di $\dfrac{\sigma_x}{\bar{x}}$ , il coefficiente di variazione, su tutte le scelte di $x_i$ nell'intervallo $[0,c]$ ?

Il valore massimo che posso trovare per $\frac{\sigma_x}{\bar{x}}$ è $\sqrt{n-1}$ che si ottiene quando $n-1$ di $x_i$ valore $0$ e il rimanente (anomalo) $x_i$ ha valore $c$ , dando

x ¯ = c n, 1 n \sum x 2 i = c 2 n \Rightarrow σ x = c 2 n - c 2 n 2 - - - - - - - \sqrt = c n n - 1 - - - - - \sqrt .

$\bar{x} = \frac{c}{n},~~ \frac{1}{n}\sum x_i^2 = \frac{c^2}{n} \Rightarrow \sigma_x = \sqrt{\frac{c^2}{n} - \frac{c^2}{n^2}} = \frac{c}{n}\sqrt{n-1}.$ Ma questo non dipende affatto da

c $c$ , e mi chiedo sepossano essere raggiuntivalori più grandi, possibilmente dipendenti sia da

n $n$ che da

c $c$ .

Qualche idea? Sono sicuro che questa domanda sia stata precedentemente studiata nella letteratura statistica e quindi i riferimenti, se non i risultati effettivi, sarebbero molto apprezzati.

— Dilip Sarwate
fonte

Penso che tu abbia ragione sul fatto che sia il valore più grande possibile, e sono anche sorpreso che

c $c$ non abbia importanza. Freddo.

— Peter Flom - Ripristina Monica

7

c $c$ non dovrebbe influenzare il risultato come

σxx¯ $\frac{\sigma_x}{\bar{x}}$ non cambia se tutti i valori sono moltiplicati per qualsiasi costante positiva

k $k$ .

— Henry,

15

La geometria fornisce intuizioni e le disuguaglianze classiche consentono un facile accesso al rigore.

Soluzione geometrica

Sappiamo, dalla geometria dei minimi quadrati , che è la proiezione ortogonale del vettore dei dati su il sottospazio lineare generato dal vettore costante e che $\mathbf{\bar{x}} = (\bar{x}, \bar{x}, \ldots, \bar{x})$ $\mathbf{x}=(x_1, x_2, \ldots, x_n)$ $(1,1,\ldots,1)$ $\sigma_x$ è direttamente proporzionale alla (euclidea) distanza tra e I vincoli di non negatività sono lineari e la distanza è una funzione convessa, da cui gli estremi della distanza devono essere raggiunti ai bordi del cono determinati dai vincoli. Questo cono è l'ortante positivo in e i suoi bordi sono gli assi delle coordinate, da cui segue immediatamente che tutti tranne uno di devono essere zero alle distanze massime. Per un tale insieme di dati, un calcolo diretto (semplice) mostra $\mathbf{x}$ $\mathbf{\bar{x}}.$ $\mathbb{R}^n$ $x_i$ $\sigma_x/\bar{x}=\sqrt{n}.$

Soluzione che sfrutta le disuguaglianze classiche

$\sigma_x/\bar{x}$ is optimized simultaneously with any monotonic transformation thereof. In light of this, let's maximize

x 2 1 + x 2 2 + \dots + x 2 n ( x 1 + x 2 + \dots + x n ) 2 = 1 n (n - 1 n (σ x x ¯) 2 + 1) = f (σ x x ¯) .

$\frac{x_1^2+x_2^2+\ldots+x_n^2}{(x_1+x_2+\ldots+x_n)^2} = \frac{1}{n}\left(\frac{n-1}{n}\left(\frac{\sigma_x}{\bar{x}}\right)^2+1\right) = f\left(\frac{\sigma_x}{\bar{x}}\right).$

(The formula for $f$ may look mysterious until you realize it just records the steps one would take in algebraically manipulating $\sigma_x/\bar{x}$ to get it into a simple looking form, which is the left hand side.)

An easy way begins with Holder's Inequality,

x 21 + x 22 + \dots + x 2 n \leq (x 1 + x 2 + \dots + x n) max ({x i}) .

$x_1^2+x_2^2+\ldots+x_n^2 \le \left(x_1+x_2+\ldots+x_n\right)\max(\{x_i\}).$

(This needs no special proof in this simple context: merely replace one factor of each term $x_i^2 = x_i \times x_i$ by the maximum component $\max(\{x_i\})$ : obviously the sum of squares will not decrease. Factoring out the common term $\max(\{x_i\})$ yields the right hand side of the inequality.)

Because the $x_i$ are not all $0$ (that would leave $\sigma_x/\bar{x}$ undefined), division by the square of their sum is valid and gives the equivalent inequality

x 2 1 + x 2 2 + \dots + x 2 n ( x 1 + x 2 + \dots + x n ) 2 \leq max ( { x i } ) x 1 + x 2 + \dots + x n .

$\frac{x_1^2+x_2^2+\ldots+x_n^2}{(x_1+x_2+\ldots+x_n)^2} \le \frac{\max(\{x_i\})}{x_1+x_2+\ldots+x_n}.$

Because the denominator cannot be less than the numerator (which itself is just one of the terms in the denominator), the right hand side is dominated by the value $1$ , which is achieved only when all but one of the $x_i$ equal $0$ . Whence

σ x x ¯ \leq f - 1 (1) = (1 \times (n - 1)) n n - 1 - - - - - - - - - - - - - - - \sqrt = n - - \sqrt .

$\frac{\sigma_x}{\bar{x}} \le f^{-1}\left(1\right) = \sqrt{\left(1 \times (n - 1)\right)\frac{n}{n-1}}=\sqrt{n}.$

Alternative approach

Because the $x_i$ are nonnegative and cannot sum to $0$ , the values $p(i) = x_i/(x_1+x_2+\ldots+x_n)$ determine a probability distribution $F$ on $\{1,2,\ldots,n\}$ . Writing $s$ for the sum of the $x_i$ , we recognize

x 2 1 + x 2 2 + \dots + x 2 n ( x 1 + x 2 + \dots + x n ) 2 = x 2 1 + x 2 2 + \dots + x 2 n s 2 = (x 1 s) (x 1 s) + (x 2 s) (x 2 s) + \dots + (x n s) (x n s) = p 1 p 1 + p 2 p 2 + \dots + p n p n = E F [p] .

$\eqalign{ \frac{x_1^2+x_2^2+\ldots+x_n^2}{(x_1+x_2+\ldots+x_n)^2} &= \frac{x_1^2+x_2^2+\ldots+x_n^2}{s^2} \\ &= \left(\frac{x_1}{s}\right)\left(\frac{x_1}{s}\right)+\left(\frac{x_2}{s}\right)\left(\frac{x_2}{s}\right) + \ldots + \left(\frac{x_n}{s}\right)\left(\frac{x_n}{s}\right)\\ &= p_1 p_1 + p_2 p_2 + \ldots + p_n p_n\\ &= \mathbb{E}_F[p]. }$

The axiomatic fact that no probability can exceed $1$ implies this expectation cannot exceed $1$ , either, but it's easy to make it equal to $1$ by setting all but one of the $p_i$ equal to $0$ and therefore exactly one of the $x_i$ is nonzero. Compute the coefficient of variation as in the last line of the geometric solution above.

— whuber
fonte

Thanks for a detailed answer from which I have learned a lot! I assume that the difference between the

n−−√ $\sqrt{n}$ in your answer and the

n−1−−−−−√ $\sqrt{n-1}$ that I obtained (and Henry confirmed) is due to the fact that you are using

σ x = 1 n - 1 \sum i = 1 n (x i - x ¯) 2 - - - - - - - - - - - - - - - \sqrt

$\sigma_x = \sqrt{\frac{1}{n-1}\sum_{i=1}^n(x_i-\bar{x})^2}$ as the definition of

σx $\sigma_x$ while I used

σ x = 1 n \sum i = 1 n (x i - x ¯) 2 - - - - - - - - - - - - \sqrt ?

$\sigma_x = \sqrt{\frac{1}{n}\sum_{i=1}^n(x_i-\bar{x})^2}?$

— Dilip Sarwate

1

Yes Dilip, that's right. Sorry about the discrepancy with the question; I should have checked first and I should have defined

σx $\sigma_x$ (which I intended to do but forgot).

— whuber

10

Some references, as small candles on the cakes of others:

Katsnelson and Kotz (1957) proved that so long as all $x_i \ge 0$ , then the coeﬃcient of variation cannot exceed $\sqrt{n − 1}$ . This result was mentioned earlier by Longley (1952). Cramér (1946, p.357) proved a less sharp result, and Kirby (1974) proved a less general result.

Cramér, H. 1946. Mathematical methods of statistics. Princeton, NJ: Princeton University Press.

Katsnelson, J., and S. Kotz. 1957. On the upper limits of some measures of variability. Archiv für Meteorologie, Geophysik und Bioklimatologie, Series B 8: 103–107.

Kirby, W. 1974. Algebraic boundedness of sample statistics. Water Resources Research 10: 220–222.

Longley, R. W. 1952. Measures of the variability of precipitation. Monthly Weather Review 80: 111–117.

I came across these papers in working on

Cox, N.J. 2010. The limits of sample skewness and kurtosis. Stata Journal 10: 482-495.

which discusses broadly similar bounds on moment-based skewness and kurtosis.

— Nick Cox
fonte

8

With two numbers $x_i \ge x_j$ , some $\delta \gt 0$ and any $\mu$ :

(x i + δ - μ) 2 + (x j - δ - μ) 2 - (x i - μ) 2 - (x j - μ) 2 = 2 δ (x i - x j + δ) > 0.

$(x_i+\delta - \mu)^2 + (x_j - \delta - \mu)^2 - (x_i - \mu)^2 - (x_j - \mu)^2 = 2\delta(x_i - x_j +\delta) \gt 0.$

Applying this to $n$ non-negative datapoints, this means that unless all but one of the $n$ numbers are zero and so cannot be reduced further, it is possible to increase the variance and standard deviation by widening the gap between any pair of the data points while retaining the same mean, thus increasing the coefficient of variation. So the maximum coefficient of variation for the data set is as you suggest: $\sqrt{n-1}$ .

$c$ should not affect the result as $\frac{\sigma_x}{\bar{x}}$ does not change if all the values are multiplied by any positive constant $k$ (as I said in my comment).

— Henry
fonte