Comprensione delle disparità di concentrazione delle misure

Nello spirito di questa domanda Comprendere la prova di un lemma usato nella disuguaglianza di Hoeffding , sto cercando di capire i passi che portano alla disuguaglianza di Hoeffding.

Ciò che ha più mistero per me nella dimostrazione è la parte in cui vengono calcolati i momenti esponenziali per la somma delle variabili iid, dopo di che viene applicata la disuguaglianza di Markov.

Il mio obiettivo è capire: perché questa tecnica offre una forte disuguaglianza, ed è la più stretta che possiamo raggiungere? Una spiegazione tipica si riferisce al momento che genera le proprietà dell'esponente. Tuttavia, lo trovo troppo vago.

Un post nel blog di Tao, http://terrytao.wordpress.com/2010/01/03/254a-notes-1-concentration-of-measure/#hoeff , potrebbe contenere alcune risposte.

Con questo obiettivo in mente, la mia domanda riguarda tre punti nel post di Tao, a cui sono bloccato e che spero di poter dare un'idea una volta spiegata.

1. Tao deriva la seguente disuguaglianza usando il k-esimo momento Se questo è vero per qualsiasi k, conclude un limite esponenziale. Questo è dove mi sono perso.

   $$\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq 2 (\frac{\sqrt{ek/2}}{\lambda})^k. \ \ \ \ \ (7)$$ $$\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq C \exp( - c \lambda^2 ) \ \ \ \ \ (8)$$

2. Viene presentato il lemma di Hoeffding: Lemma 1 (il lemma di Hoeffding) Sia una variabile scalare che assume valori in un intervallo . Quindi per qualsiasi , In particolare La dimostrazione di Lemma 1 inizia prendendo in considerazione l'espansione di Taylor Perché l'espansione può essere limitata da quel termine quadratico? E come segue l'equazione 10?${X}$${[a,b]}$${t>0}$

   $$\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} (1 + O( t^2 {\bf Var}(X) \exp( O( t (b-a) ) ) ). \ \ \ \ \ (9)$$ $$\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} \exp( O( t^2 (b-a)^2 ) ). \ \ \ \ \ (10)$$ $\displaystyle e^{tX} = 1 + tX + O( t^2 X^2 \exp( O(t) ) )$

3. Infine, viene dato un esercizio:
   Esercizio 1 Mostra che il fattore in (10) può essere sostituito con e che questo è forte. Ciò fornirebbe una prova molto più breve di quella in Comprensione della prova di un lemma usato nella disuguaglianza di Hoeffding , ma non so come risolverlo.${O(t^2(b-a)^2)}$${t^2 (b-a)^2/8}$

Altre intuizioni / spiegazioni circa la prova della disuguaglianza o il motivo per cui non possiamo derivare un limite più stretto sono sicuramente ben accetti.

L'uso di momenti esponenziali è un passaggio comune nel processo di prova della concentrazione delle disuguaglianze di misura. La mia comprensione è la seguente 1) Usando anziché , si catturano tutti i momenti di , piuttosto che solo il primo momento. Quindi, è sempre vantaggioso vincolare , piuttosto che vincolare$\mathbb{E}e^X$$\mathbb{E} X$$X$$\mathbb{E} e^X$$\mathbb{E}X$$\mathbb{E} e^X$$\mathbb{E} e^X$$e^{X}=1+X+\frac{X^2}{2}+\frac{X^3}{6}+\ldots$$X$$\mathbb{E}X$$X$