Esiste una versione di esempio della disuguaglianza di Chebyshev unilaterale?

Sono interessato alla seguente versione unilaterale di Cantelli della disuguaglianza di Chebyshev :

P (X - E (X) \geq t) \leq \frac{V a r (X)}{V a r (X) + t^{2}} .

$\mathbb P(X - \mathbb E (X) \geq t) \leq \frac{\mathrm{Var}(X)}{\mathrm{Var}(X) + t^2} \,.$

Fondamentalmente, se conosci la media e la varianza della popolazione, puoi calcolare il limite superiore sulla probabilità di osservare un certo valore. (Questa era la mia comprensione almeno.)

Tuttavia, vorrei utilizzare la media e la varianza del campione anziché la media e la varianza effettive della popolazione.

Immagino che dal momento che ciò introdurrebbe maggiore incertezza, il limite superiore aumenterebbe.

Esiste una disuguaglianza analoga a quanto sopra, ma che utilizza la media e la varianza del campione?

Modifica : l'analogo "campione" della disuguaglianza di Chebyshev (non un lato), è stato elaborato. La pagina di Wikipedia ha alcuni dettagli. Tuttavia, non sono sicuro di come si tradurrebbe nel caso unilaterale che ho sopra.

— casandra
fonte

Grazie Glen_b. È un problema piuttosto interessante. Ho sempre pensato che la disuguaglianza di Chebyshev fosse potente (dal momento che ti permette di fare inferenza statistica senza richiedere una distribuzione di probabilità); quindi essere in grado di usarlo con la media del campione e la varianza sarebbe piuttosto fantastico.

— Casandra,

Risposte:

Sì, possiamo ottenere un risultato analogo usando la media del campione e la varianza, con forse un paio di piccole sorprese emergenti nel processo.

Innanzitutto, dobbiamo perfezionare un po 'l'affermazione della domanda e formulare alcune ipotesi. È importante sottolineare che dovrebbe essere chiaro che non possiamo sperare di sostituire la varianza della popolazione con la varianza del campione sul lato destro poiché quest'ultima è casuale ! Quindi, focalizziamo nuovamente la nostra attenzione sulla disuguaglianza equivalente Nel caso in cui non sia chiaro che siano equivalenti, si noti che abbiamo semplicemente sostituito con nella disuguaglianza originale senza alcuna perdita di generalità.

P (X - E X \geq t σ) \leq \frac{1}{1 + t^{2}} .

$\mathbb P\left( X - \mathbb E X \geq t \sigma \right) \leq \frac{1}{1+t^2} \>.$

t

$t$

t σ

$t \sigma$

In secondo luogo, supponiamo di avere un campione casuale e siamo interessati a un limite superiore per la quantità analoga , dove è il campione media e è la deviazione standard del campione. $X_1,\ldots,X_n$ $\mathbb P(X_1 - \bar X \geq t S)$ $\bar X$ $S$

Un mezzo passo avanti

Nota che già applicando la disuguaglianza di Chebyshev unilaterale originale a , otteniamo che dove , che è più piccolo del lato destro della versione originale. Questo ha senso! Qualsiasi realizzazione particolare di una variabile casuale da un campione tenderà ad essere (leggermente) più vicina alla media del campione a cui contribuisce rispetto alla media della popolazione. Come vedremo di seguito, sostituiremo con con ipotesi ancora più generali. $X_1 - \bar X$

P (X_{1} - \bar{X} \geq t σ) \leq \frac{1}{1 + \frac{n}{n - 1} t^{2}}

$\mathbb P( X_1 - \bar X \geq t\sigma ) \leq \frac{1}{1 + \frac{n}{n-1}t^2}$

σ^{2} = V a r (X_{1})

$\sigma^2 = \mathrm{Var}(X_1)$

σ

$\sigma$

S

$S$

Una versione di esempio di Chebyshev unilaterale

Reclamo : Siano un campione casuale tale che . Quindi,In particolare, la versione di esempio del limite è più stretta della versione originale della popolazione. $X_1,\ldots,X_n$ $\mathbb P(S = 0) = 0$
$P (X_{1} - \bar{X} \geq t S) \leq \frac{1}{1 + \frac{n}{n - 1} t^{2}} .$ $\mathbb P(X_1 - \bar X \geq t S) \leq \frac{1}{1 + \frac{n}{n-1} t^2}\>.$

Nota : non assumiamo che abbia una media o una varianza finite! $X_i$

Prova . L'idea è di adattare la prova della disuguaglianza originale di Chebyshev unilaterale e impiegare la simmetria nel processo. Innanzitutto, impostare per comodità notazionale. Quindi, osserva che $Y_i = X_i - \bar X$

P (Y_{1} \geq t S) = \frac{1}{n} \sum_{i = 1}^{n} P (Y_{i} \geq t S) = E \frac{1}{n} \sum_{i = 1}^{n} 1_{(Y_{i} \geq t S)} .

$\mathbb P( Y_1 \geq t S ) = \frac{1}{n} \sum_{i=1}^n \mathbb P( Y_i \geq t S ) = \mathbb E \frac{1}{n} \sum_{i=1}^n \mathbf 1_{(Y_i \geq t S)} \>.$

Ora, per qualsiasi , su , $c > 0$ $\{S > 0\}$

1_{(Y_{i} \geq t S)} = 1_{(Y_{i} + t c S \geq t S (1 + c))} \leq 1_{((Y_{i} + t c S)^{2} \geq t^{2} (1 + c)^{2} S^{2})} \leq \frac{(Y_{i} + t c S)^{2}}{t^{2} (1 + c)^{2} S^{2}} .

$\newcommand{I}[1]{\mathbf{1}_{(#1)}} \I{Y_i \geq t S} = \I{Y_i + t c S \geq t S (1+c)} \leq \I{(Y_i + t c S)^2 \geq t^2 (1+c)^2 S^2} \leq \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2}\>.$

Quindi, poiché e .

\frac{1}{n} \sum_{i} 1_{(Y_{i} \geq t S)} \leq \frac{1}{n} \sum_{i} \frac{(Y_{i} + t c S)^{2}}{t^{2} (1 + c)^{2} S^{2}} = \frac{(n - 1) S^{2} + n t^{2} c^{2} S^{2}}{n t^{2} (1 + c)^{2} S^{2}} = \frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}},

$\frac{1}{n} \sum_i \I{Y_i \geq t S} \leq \frac{1}{n} \sum_i \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2} = \frac{(n-1)S^2 + n t^2 c^2 S^2}{n t^2 (1+c)^2 S^2} = \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>,$

\bar{Y} = 0

$\bar Y = 0$

\sum_{i} Y_{i}^{2} = (n - 1) S^{2}

$\sum_i Y_i^2 = (n-1)S^2$

Il lato destro è una costante ( ! ), Quindi prendendo le aspettative da entrambi i lati si ottiene, Infine, minimizzando su , si ottiene , che dopo una piccola algebra stabilisce il risultato.

P (X_{1} - \bar{X} \geq t S) \leq \frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}} .

$\mathbb P(X_1 - \bar X \geq t S) \leq \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>.$

c

$c$

c = \frac{n - 1}{n t^{2}}

$c = \frac{n-1}{n t^2}$

Quella fastidiosa condizione tecnica

Si noti che abbiamo dovuto assumere per poter dividere per nell'analisi. Questo non è un problema per le distribuzioni assolutamente continue, ma rappresenta un inconveniente per quelle discrete. Per una distribuzione discreta, c'è una certa probabilità che tutte le osservazioni siano uguali, nel qual caso per tutte e . $\mathbb P(S = 0) = 0$ $S^2$ $0 = Y_i = t S = 0$ $i$ $t > 0$

Possiamo spostarci uscendo impostando . Quindi, un'attenta contabilità dell'argomento mostra che tutto passa praticamente invariato e otteniamo $q = \mathbb P(S = 0)$

Corollario 1 . Nel caso , abbiamo $q = \mathbb P(S = 0) > 0$
$P (X_{1} - \bar{X} \geq t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} + q .$ $\mathbb P(X_1 - \bar X \geq t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} + q \>.$

Prova . Dividi sugli eventi e . La prova precedente viene eseguita per e il caso è banale. $\{S > 0\}$ $\{S = 0\}$ $\{S > 0\}$ $\{S = 0\}$

Una disuguaglianza leggermente più pulita risulta se sostituiamo la disuguaglianza non rigorosa nella dichiarazione di probabilità con una versione rigorosa.

Corollario 2 . Sia (possibilmente zero). Quindi, $q = \mathbb P(S = 0)$
$P (X_{1} - \bar{X} > t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} .$ $\mathbb P(X_1 - \bar X > t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} \>.$

Osservazione finale : La versione di esempio di disuguaglianza necessaria alcuna ipotesi su (a parte che non sia quasi certamente costante nel caso nonstrict disuguaglianza, che la versione originale anche tacitamente assume), in sostanza, in quanto il campione medio e campione varianza esiste sempre indipendentemente dal fatto che i loro analoghi di popolazione lo facciano o meno. $X$

— cardinale
fonte

Questo è solo un complemento alla geniale risposta di @cardinal. Samuelson Inequality , afferma che, per un campione di dimensione , quando abbiamo almeno tre valori distinti degli realizzati , sostiene che dove viene calcolato senza la correzione del bias, . $n$ $x_i$

x_{i} - \bar{x} < s \sqrt{n - 1}, i = 1, . . . n

$x_i-\bar x < s\sqrt{n-1},\;\; i=1,...n$

s

$s$

s = {(\frac{1}{n} \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2})}^{1 / 2}

$s= \left (\frac 1n\sum_{i=1}^n(x_i-\bar x)^2\right)^{1/2}$

Quindi, usando la notazione della risposta del Cardinale possiamo affermarlo

P (X_{1} - \bar{X} \geq S \sqrt{n - 1}) = 0 a . s . [1]

$\mathbb P\left(X_1-\bar X \ge S\sqrt{n-1}\right) =0 \;\;a.s. \qquad [1]$

Poiché abbiamo bisogno di tre valori distinti, avremo per ipotesi. Quindi impostando in Cardinal's Inequality (la versione iniziale) otteniamo $S\neq 0$ $t=\sqrt{n-1}$

P (X_{1} - \bar{X} \geq S \sqrt{n - 1}) \leq \frac{1}{1 + n}, [2]

$\mathbb P\left (X_1 - \bar X \geq S\sqrt{n-1}\right) \leq \frac{1}{1 + n}, \;\; \qquad [2]$

Eq. è ovviamente compatibile con l'eq. . La combinazione dei due ci dice che la disuguaglianza del cardinale è utile come affermazione probabilistica per . $[2]$ $[1]$ $0< t < \sqrt{n-1}$

Se la disuguaglianza del Cardinale richiede che sia calcolato con correzione di bias (chiama questa ), allora le equazioni diventano $S$ $\tilde S$

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) = 0 a . s . [1 a]

$\mathbb P\left(X_1-\bar X \ge \tilde S\frac{n-1}{\sqrt{n}}\right) =0 \;\;a.s. \qquad [1a]$

e scegliamo da ottenere attraverso la disuguaglianza del Cardinale $t= \frac{n-1}{\sqrt{n}}$

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) \leq \frac{1}{n}, [2 a]

$\mathbb P\left (X_1 - \bar X \geq \tilde S\frac{n-1}{\sqrt{n}}\right) \leq \frac{1}{ n}, \;\; \qquad [2a]$ e l'intervallo probabilisticamente significativo per è

t

$t$

0 < t < \frac{n - 1}{\sqrt{n}} .

$0< t < \frac{n-1}{\sqrt{n}}.$

— Alecos Papadopoulos
fonte

(+1) Per inciso, mentre stavo considerando questo problema per la prima volta, il fatto che era in realtà l'indizio iniziale che la disuguaglianza del campione dovesse essere più stretta dell'originale. Volevo inserirlo nel mio post, ma non sono riuscito a trovare un posto (comodo) per questo. Sono contento di vederti menzionarlo (in realtà un leggero miglioramento) insieme alla tua molto bella elaborazione aggiuntiva. Saluti.

max_{i} | X_{i} - \bar{X} | \leq S \sqrt{n - 1}

$\max_i |X_i - \bar X| \leq S\sqrt{n-1}$

— cardinale il

Saluti @Cardinal, ottima risposta, basta chiarirmi, importa per la vostra disuguaglianza come si definisce la varianza del campione (corretta o no)?

— Alecos Papadopoulos,

Solo così leggermente. Ho usato la varianza del campione corretta da bias. Se usi invece di per normalizzare, finirai con invece di che significa che il termine nella disuguaglianza finale scomparirà. Pertanto, in questo caso otterrai lo stesso limite della disuguaglianza di Chebyshev unilaterale originale. (Supponendo di aver eseguito correttamente l'algebra.) :-)

n

$n$

n - 1

$n-1$

\frac{1 + t^{2} c^{2}}{t^{2} (1 + c)^{2}}

$\frac{1+t^2c^2}{t^2(1+c)^2}$

\frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}},

$\frac{(n-1) + n t^2c^2}{nt^2(1+c)^2} \,,$

n / (n - 1)

$n/(n-1)$

— Cardinale

@ Cardinale ... il che significa che le equazioni rilevanti nella mia risposta sono e , il che significa che la tua disuguaglianza ci dice che per scelto di attivare la disuguaglianza di Samuelson, la probabilità dell'evento che stiamo esaminando, non può essere maggiore di , cioè non superiore alla scelta casuale di qualsiasi valore realizzato dal campione ... che in qualche modo ha un certo senso intuitivo nebuloso: ciò che è certamente impossibile in termini deterministici, quando avvicinato probabilisticamente il suo limite di probabilità non supera l'equipaggiamento ... non chiaro nella mia mente ancora.

1 a

$1a$

2 a

$2a$

t

$t$

1 / n

$1/n$

— Alecos Papadopoulos,