Come possiamo limitare la probabilità che una variabile casuale sia massima?

$\newcommand{\P}{\mathbb{P}}$ Supponiamo di avere variabili casuali indipendenti , , con mezzi finiti e varianze , , . Sto cercando limiti senza distribuzione sulla probabilità che qualsiasi sia più grande di tutti gli altri , . $N$ $X_1$ $\ldots$ $X_n$ $\mu_1 \leq \ldots \leq \mu_N$ $\sigma_1^2$ $\ldots$ $\sigma_N^2$ $X_i \neq X_N$ $X_j$ $j \neq i$

In altre parole, se per semplicità assumiamo che le distribuzioni di $X_i$ siano continue (tale che $\P(X_i = X_j) = 0$ ), sto cercando limiti su:

P (X_{i} = max_{j} X_{j}) .

$\P( X_i = \max_j X_j ) \enspace.$ Se

N = 2

$N=2$ , possiamo usare la disuguaglianza di Chebyshev per ottenere:

P (X_{1} = max_{j} X_{j}) = P (X_{1} > X_{2}) \leq \frac{σ_{1}^{2} + σ_{2}^{2}}{σ_{1}^{2} + σ_{2}^{2} + (μ_{1} - μ_{2})^{2}} .

$\P(X_1 = \max_j X_j) = \P(X_1 > X_2) \leq \frac{\sigma_1^2 + \sigma_2^2}{\sigma_1^2 + \sigma_2^2 + (\mu_1 - \mu_2)^2} \enspace.$ Vorrei trovare alcuni limiti semplici (non necessariamente stretti) per

generale

N

$N$ , ma non sono stato in grado di trovare (esteticamente) risultati piacevoli per

generale

N

$N$ .

Si noti che non si presume che le variabili siano iid. Eventuali suggerimenti o riferimenti a lavori correlati sono i benvenuti.

Aggiornamento: ricorda che per ipotesi, $\mu_j \geq \mu_i$ . Possiamo quindi usare il limite sopra per arrivare a:

P (X_{i} = max_{j} X_{j}) \leq min_{j > i} \frac{σ_{i}^{2} + σ_{j}^{2}}{σ_{i}^{2} + σ_{j}^{2} + (μ_{j} - μ_{i})^{2}} \leq \frac{σ_{i}^{2} + σ_{N}^{2}}{σ_{i}^{2} + σ_{N}^{2} + (μ_{N} - μ_{i})^{2}} .

$\P(X_i = \max_j X_j) \leq \min_{j > i} \frac{\sigma_i^2 + \sigma_j^2}{\sigma_i^2 + \sigma_j^2 + (\mu_j - \mu_i)^2} \leq \frac{\sigma_i^2 + \sigma_N^2}{\sigma_i^2 + \sigma_N^2 + (\mu_N - \mu_i)^2} \enspace.$ Ciò implica:

(μ_{N} - μ_{i}) P (X_{i} = max_{j} X_{j}) \leq (μ_{N} - μ_{i}) \frac{σ_{i}^{2} + σ_{N}^{2}}{σ_{i}^{2} + σ_{N}^{2} + (μ_{N} - μ_{i})^{2}} \leq \frac{1}{2} \sqrt{σ_{i}^{2} + σ_{N}^{2}} .

$( \mu_N - \mu_i ) \P( X_i = \max_j X_j ) \leq (\mu_N - \mu_i) \frac{\sigma_i^2 + \sigma_N^2}{\sigma_i^2 + \sigma_N^2 + (\mu_N - \mu_i)^2} \leq \frac{1}{2} \sqrt{ \sigma_i^2 + \sigma_N^2 } \enspace.$ Questo, a sua volta, implica:

\sum_{i = 1}^{N} μ_{i} P (X_{i} = max_{j} X_{j}) \geq μ_{N} - \frac{N}{2} \sqrt{\sum_{i = 1}^{N - 1} (σ_{i}^{2} + σ_{N}^{2})} .

$\sum_{i=1}^N \mu_i \P( X_i = \max_j X_j ) \geq \mu_N - \frac{N}{2} \sqrt{ \sum_{i=1}^{N-1} (\sigma_i^2 + \sigma_N^2) } \enspace.$ Ora sto chiedendo se questo legato può essere migliorata a qualcosa che non dipende linearmente

N

$N$ . Ad esempio,

quanto segue:

\sum_{i = 1}^{N} μ_{i} P (X_{i} = max_{j} X_{j}) \geq μ_{N} - \sqrt{\sum_{i = 1}^{N} σ_{i}^{2}} ?

$\sum_{i=1}^N \mu_i \P( X_i = \max_j X_j ) \geq \mu_N - \sqrt{ \sum_{i=1}^N \sigma_i^2 } \enspace?$ E se no, quale potrebbe essere un controesempio?

probability bounds maximum

— MLS
fonte

Questo limite può essere più stretto se si utilizza l'indice che ti dà la più piccola limite superiore al posto di . Si noti che questo valore dipende sia dalla media che dalla varianza.

j

$j$

N

$N$

@MichaelChernick: non credo sia corretto. Supponiamo ad esempio di avere tre distribuzioni uniformi su . Quindi, se non sbaglio, , mentre . Non so se intendevi scrivere , ma lo stesso esempio mostra che non è ancora valido.

[0, 1]

$[0,1]$

P (X_{1} < max_{j} X_{j}) = 2 / 3

$P( X_1 < \max_j X_j ) = 2/3$

P (X_{1} < X_{2}) = P (X_{1} < X_{3}) = 1 / 2

$P(X_1 < X_2) = P(X_1 < X_3) = 1/2$

P (X_{i} > max_{j} X_{j})

$P( X_i > \max_j X_j )$

— MLS,

@Michael: Purtroppo non è ancora vero. Gli eventi per fissi non sono indipendenti.

A_{j} = {X_{i} > X_{j}}

$A_j = \{X_i > X_j\}$

i

$i$

— cardinale il

@cardinal: tra le altre cose, è legato ai banditi multi-armati. Se scegli un braccio in base alle ricompense precedenti, quanto è grande la probabilità che tu abbia scelto il braccio migliore (che sarebbe nella notazione sopra), e possiamo limitare la perdita attesa per scegliere un sub braccio ottimale?

P (X_{N} = max_{j} X_{j})

$P(X_N = \max_j X_j)$

— MLS,

Crossposted to MathOverflow: mathoverflow.net/questions/99313

— cardinale

Risposte:

Puoi usare la disuguaglianza multivariata di Chebyshev.

Caso di due variabili

Per una singola situazione, vs , arrivo alla stessa situazione del commento di Jochen del 4 novembre 2016 $X_1$ $X_2$

1) Se allora $\mu_1 < \mu_2$ $P(X_1>X_2) \leq (\sigma_1^2 + \sigma_2^2)/(\mu_1-\mu_2)^2$

(e mi chiedo anche della tua derivazione)

Derivazione dell'equazione 1

usando la nuova variabile $X_1-X_2$
trasformandolo in modo tale che abbia la media a zero
prendendo il valore assoluto
applicare la disuguaglianza di Chebyshev

\begin{matrix} P (X_{1} > X_{2}) & = P (X_{1} - X_{2} > 0) \\ = P (X_{1} - X_{2} - (μ_{1} - μ_{2}) > - (μ_{1} - μ_{2})) \\ \leq P (| X_{1} - X_{2} - (μ_{1} - μ_{2}) | > μ_{2} - μ_{1}) \\ \leq \frac{σ_{(X_{1} - X_{2} - (μ_{1} - μ_{2}))}^{2}}{(μ_{2} - μ_{1})^{2}} = \frac{σ_{X_{1}}^{2} + σ_{X_{2}}^{2}}{(μ_{2} - μ_{1})^{2}} \end{matrix}

$\begin{array} \\ P \left( X_1 > X_2 \right) &= P \left( X_1 - X_2 > 0 \right)\\ &= P\left( X_1 - X_2 - (\mu_1 - \mu_2) > - (\mu_1 - \mu_2)\right) \\ &\leq P\left( \vert X_1 - X_2 - (\mu_1 - \mu_2) \vert > \mu_2 - \mu_1\right) \\ &\leq \frac{\sigma_{(X_1-X_2- (\mu_1 - \mu_2))}^2}{(\mu_2 - \mu_1)^2} = \frac{\sigma_{X_1}^2+\sigma_{X_2}^2}{(\mu_2 - \mu_1)^2}\\ \end{array}$

Caso multivariato

La disuguaglianza nell'equazione (1) può essere cambiata in un caso multivariato applicandolo a più variabili trasformate per ogni (si noti che sono correlati). $(X_n-X_i)$ $i<n$

Una soluzione a questo problema (multivariata e correlata) è stata descritta da I. Olkin e JW Pratt. "Una disuguaglianza multivariata di Tchebycheff" negli Annali delle statistiche matematiche, volume 29 pagine 226-234 http://projecteuclid.org/euclid.aoms/1177706720

Nota teorema 2.3

$P(\vert y_i \vert \geq k_i \sigma_i \text{ for some } i) = P(\vert x_i \vert \geq 1 \text{ for some } i) \leq \frac{(\sqrt{u} + \sqrt{(pt-u)(p-1)})^2}{p^2}$

in cui il numero di variabili, e . $p$ $t=\sum k_i^{-2}$ $u=\sum \rho_{ij}/(k_ik_j)$

Il teorema 3.6 fornisce un limite più stretto, ma è meno facile da calcolare.

modificare

Un limite più netto può essere trovato usando la disuguaglianza multivariata di Cantelli . Tale disuguaglianza è il tipo che hai usato prima e ti ha fornito il limite che è più nitido di $(\sigma_1^2 + \sigma_2^2)/(\sigma_1^2 + \sigma_2^2 + (\mu_1-\mu_2)^2)$ . $(\sigma_1^2 + \sigma_2^2)/(\mu_1-\mu_2)^2$

Non ho avuto il tempo di studiare l'intero articolo, ma comunque, puoi trovare una soluzione qui:

AW Marshall e I. Olkin "Una disparità unilaterale del tipo Chebyshev" nel volume Annali di statistiche matematiche 31 pagg. 488-491 https://projecteuclid.org/euclid.aoms/1177705913

(nota successiva: questa disuguaglianza è per uguali correlazioni e non un aiuto sufficiente. Ma comunque il tuo problema, per trovare il limite più netto, è uguale alla, più generale, disuguaglianza multivariata di Cantelli. Sarei sorpreso se la soluzione non esistesse)

— Sesto Empirico
fonte

Potresti fornire una chiara dichiarazione della disuguaglianza multivariata di Chebyshev?

— whuber

Ho modificato la soluzione fornendo l'intero teorema.

— Sesto Empirico

-1

Ho trovato un teorema che potrebbe aiutarti e proverò ad adattarlo alle tue esigenze. Supponiamo di avere:

e x p (t \cdot E (\underset{1 \leq i \leq n}{m a x} X_{i}))

$exp(t \cdot \mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i}))$

Quindi dalla disuguaglianza di Jensen (poiché exp (.) È una funzione convessa), otteniamo:

e x p (t \cdot E (\underset{1 \leq i \leq n}{m a x} X_{i})) \leq E (e x p (t \cdot \underset{1 \leq i \leq n}{m a x} X_{i})) = E (\underset{1 \leq i \leq n}{m a x} e x p (t \cdot X_{i})) \leq \sum_{i = 1}^{n} E (e x p (t \cdot X_{i})

$exp(t \cdot \mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i})) \leq \mathbf{E}(exp( t \cdot \underset{1 \leq i \leq n}{max}X_{i})) = \mathbf{E}( \underset{1 \leq i \leq n}{max} \text{ }exp( t \cdot X_{i})) \leq \sum_{i=1}^{n} \mathbf{E} (exp(t \cdot X_{i})$

$exp(t \cdot X_{i}$ you have to plug in whatever the moment generating function of your random variable $X_{i}$ is (since it is just the definition of the mgf). Then, after doing so (and potentially simplifying your term), you take this term and take the log and divide by it by t so that you get a statement about the term $\mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i})$ . Then you can choose t with some arbitrary value (best so that the term is small so that the bound is tight).

Then, you have a statement about the expected value of the maximum over n rvs. To get now the a statement about the probabilty that the maximum of those rv's deviates from this expected value, you can just use Markov's inequality (assuming that your rv is non-negative) or another, more specific rv, applying to your particular rv.

— Fabian Falck
fonte