Il principio Minimax di Yao sugli algoritmi di Monte Carlo

$P$ $\mathcal{X}$ $\mathcal{A}$ $P$ $\mathcal{D}$ $\mathcal{R}$ $\mathcal{A}$

min_{A \in A} E c o s t (A, D) \leq max_{x \in X} E c o s t (R, x) for all D and R .

$\min_{A\in\mathcal{A}}\quad\mathbb{E} cost(A,\mathcal{D}) \leq \max_{x\in\mathcal{X}}\quad\mathbb{E} cost(\mathcal{R},x) \quad\quad\text{for all $\mathcal{D}$ and $\mathcal{R}$}.$

Principalmente il principio di Yao riguarda solo gli algoritmi di Las Vegas , ma può essere generalizzato agli algoritmi di Monte Carlo come segue. dove indica il costo degli algoritmi Monte Carlo che errano al massimo .

\frac{1}{2} min_{A \in A} E c o s t_{2 ϵ} (A, D) \leq max_{x \in X} E c o s t_{ϵ} (R, x) for all D, R and ϵ \in [0, 1 / 2]

$\frac12 \min_{A\in\mathcal{A}}\quad\mathbb{E} cost_{2\epsilon}(A,\mathcal{D}) \leq \max_{x\in\mathcal{X}}\quad\mathbb{E} cost_{\epsilon}(\mathcal{R},x)\quad\quad\text{for all $\mathcal{D}$, $\mathcal{R}$ and $\epsilon\in [0,1/2]$}$

c o s t_{ϵ} (\cdot, \cdot)

$cost_\epsilon(\cdot,\cdot)$

ϵ

$\epsilon$

Nel documento originale di Yao , la relazione per gli algoritmi Monte Carlo è fornita in Teorema 3 senza prove. Qualche suggerimento per provarlo?

randomized-algorithms

— Federico Magallanez
fonte

Questo è solo un lungo commento sulla risposta di Marcos, usando la sua notazione. Non sono in grado di seguire i dettagli del suo argomento, e quello che segue è piuttosto breve e facile.

\sum_{A} q (A) \sum_{x} d (x) ϵ (A, x) = \sum_{x} d (x) \sum_{A} q (A) ϵ (A, x) \leq λ .

$\sum_A{q(A)\sum_x{d(x)\epsilon(A, x)}} = \sum_x{d(x)\sum_A{q(A)\epsilon(A, x)}} \leq \lambda.$

Il fatto sopra e la disuguaglianza di Markov implicano . $\sum_{A \in \beta(2\lambda)}{q(A)} \geq 1/2$

Quindi otteniamo:

\begin{aligned} max_{x} \sum_{A} q (A) r (A, x) & \geq \sum_{x} d (x) \sum_{A} q (A) r (A, x) \\ = \sum_{A} q (A) \sum_{x} d (x) r (A, x) \\ \geq \sum_{A \in β (2 λ)} q (A) \sum_{x} d (x) r (A, x) \\ \geq (\sum_{A \in β (2 λ)} q (A)) min_{A \in β (2 λ)} \sum_{x} d (x) r (A, x) \\ \geq \frac{1}{2} min_{A \in β (2 λ)} \sum_{x} d (x) r (A, x) \end{aligned}

$\begin{align*} \max_x \sum_A{q(A)r(A,x)} &\geq \sum_x{d(x)\sum_A{q(A)r(A, x)}}\\ &= \sum_A{q(A)\sum_x{d(x)r(A, x)}}\\ &\geq \sum_{A \in \beta(2\lambda)}{q(A)\sum_x{d(x)r(A, x)}}\\ &\geq \left(\sum_{A \in \beta(2\lambda)}{q(A)}\right) \min_{A \in \beta(2\lambda)}{\sum_x{d(x)r(A, x)}}\\ &\geq \frac{1}{2}\min_{A \in \beta(2\lambda)}{\sum_x{d(x)r(A, x)}} \end{align*}$

— Sasho Nikolov
fonte

Ci proverò su questo. Userò la notazione originale di Yao. In questo modo sarà più facile contrastare con la sua carta e le sue definizioni.

Permettetemi essere un insieme finito di ingressi, e lasciate un insieme finito di algoritmi deterministici che può riuscire a dare una risposta corretta per alcuni input. Consenti anche se fornisce la risposta corretta per , e altrimenti. Indica anche con il numero di query fatte da sull'input , o equivalentemente, la profondità dell'albero decisionale di $\mathcal{I}$ $\mathcal{A}_0$ $\epsilon(A,x)=0$ $A$ $x$ $\epsilon(A,x)=1$ $r(A,x)$ $A$ $x$ $A$

Costo medio: data una distribuzione di probabilità su , il costo medio di un algoritmo è . $d$ $\mathcal{I}$ $A\in \mathcal{A}_0$ $C(A,d)=\sum_{x\in\mathcal{I}} d(x)\cdot r(A,x)$

Complessità distributiva: Let . Per qualsiasi distribuzione sugli input, sia il sottoinsieme di dato da . La complessità distributiva con errore per un problema computazionale è definita come . $\lambda\in[0,1]$ $d$ $\beta(\lambda)$ $\mathcal{A}_0$ $\beta(\lambda)=\{A : A\in \mathcal{A}_0, \sum_{x\in\mathcal{I}} d(x)\cdot \epsilon(A,x)\leq \lambda\}$ $\lambda$ $P$ $F_{1,\lambda}(P)=\max_{d} \min_{A\in \beta(\lambda)} C(A,d)$

$\lambda$ -tolerance: una distribuzione sulla famiglia è -tolerant if . $q$ $\mathcal{A}_0$ $\lambda$ $\max_{x\in \mathcal{I}} \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x)\leq \lambda$

Costo previsto: per un algoritmo randomizzato , sia una distribuzione di probabilità che è -tollerante su . Il costo atteso di per un dato input è . $R$ $q$ $\lambda$ $\mathcal{A}_0$ $R$ $x$ $E(R,x)=\sum_{A\in \mathcal{A}_0} q(A)\cdot r(A,x)$

Complessità casuale: Let . La complessità randomizzata con errore è . $\lambda\in[0,1]$ $\lambda$ $F_{2,\lambda}=\min_R \max_{x\in\mathcal{I}} E(R,x)$

Ora siamo pronti per entrare in affari. Ciò che vogliamo dimostrare è una distribuzione sugli input e un algoritmo randomizzato (cioè una distribuzione su ) $d$ $R$ $q$ $\mathcal{A}_0$

Il principio Minimax di Yao per gli algoritmi di Montecarlo per .
$max_{x \in I} E (R, x) \geq \frac{1}{2} min_{A \in β (2 λ)} C (A, d)$ $\begin{equation}\max_{x\in\mathcal{I}} E(R,x)\geq \frac{1}{2}\min_{A\in \beta(2\lambda)} C(A,d) \end{equation}$ $\lambda\in[0,1/2]$

Seguirò un approccio dato da Fich, Meyer auf der Heide, Ragde e Wigderson (vedi Lemma 4). Il loro approccio non produce una caratterizzazione per gli algoritmi di Las Vegas (solo il limite inferiore), ma è sufficiente per i nostri scopi. Dalla loro prova, è facile vedere che per qualsiasi e $\mathcal{A}_0$ $\mathcal{I}$

Rivendicazione 1. . $\max_{x\in \mathcal{I}} E(R,x)\geq \min_{A\in \mathcal{A}_0} C(A,d)$

Per ottenere i numeri corretti lì, faremo qualcosa di simile. Dato che la distribuzione di probabilità data dall'algoritmo randomizzato è -tollerante su abbiamo che Se sostituiamo la famiglia con $q$ $R$ $\lambda$ $\mathcal{A}_0$

\begin{aligned} λ & \geq max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \\ \geq \sum_{x \in I} d (x) \sum_{A \in A_{0}} q (a) \cdot ϵ (A, x) \\ = \sum_{A \in A_{0}} q (a) \sum_{x \in I} d (x) \cdot ϵ (A, x) \\ \geq min_{A \in A_{0}} {\sum_{x \in I} d (x) \cdot ϵ (A, x)} . \end{aligned}

$\begin{align*} \lambda &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \sum_{x\in\mathcal{I}} d(x) \sum_{A\in \mathcal{A}_0} q(a)\cdot \epsilon(A,x)\\ &= \sum_{A\in \mathcal{A}_0} q(a)\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x)\\ &\geq \min_{A\in \mathcal{A}_0}\left\{ \sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}. \end{align*}$

A_{0}

$\mathcal{A}_0$

β (2 λ)

$\beta(2\lambda)$ Lo vediamo

\begin{aligned} λ & \geq max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \\ \geq max_{x \in I} {\sum_{A \in β (2 λ)} q (A) \cdot ϵ (A, x)} \\ \geq \sum_{x \in I} d (x) \sum_{A \in β (2 λ)} q (a) \cdot ϵ (A, x) \\ = \sum_{A \in β (2 λ)} q (a) \sum_{x \in I} d (x) \cdot ϵ (A, x) \\ \geq min_{A \in β (2 λ)} {\frac{1}{2} \sum_{x \in I} d (x) \cdot ϵ (A, x)}, \end{aligned}

$\begin{align*} \lambda &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\beta(2\lambda)} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \sum_{x\in\mathcal{I}} d(x) \sum_{A\in \beta(2\lambda)} q(a)\cdot \epsilon(A,x)\\ &= \sum_{A\in \beta(2\lambda)} q(a)\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x)\\ &\geq \min_{A\in \beta(2\lambda)}\left\{ \frac{1}{2}\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}, \end{align*}$

dove segue la seconda disuguaglianza perché e l'ultima disuguaglianza è data dalla definizione di dove la somma divisa per 2 non può essere maggiore di . Quindi, $\beta(2\lambda) \subseteq \mathcal{A}_0$ $\beta(2\lambda)$ $\lambda$

max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \geq \frac{1}{2} min_{A \in β (2 λ)} {\sum_{x \in I} d (x) \cdot ϵ (A, x)} .

$\begin{equation}\max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\geq\frac{1}{2} \min_{A\in \beta(2\lambda)}\left\{ \sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}. \end{equation}$

Notando che mappato su e mappato su e la rivendicazione 1 sopra, ora possiamo tranquillamente sostituire la funzione nella disuguaglianza sopra con per ottenere la disuguaglianza desiderata. $\epsilon$ $\{0,1\}$ $r$ $\mathbb{N}$ $\epsilon$ $r(A,x)$

— Marcos Villagra
fonte

C'è una breve spiegazione per la provenienza del fattore 2?

— Robin Kothari,

in breve, deriva dalla definizione di . La somma nella definizione divisa per 2 è al massimo .

β (2 λ)

$\beta(2\lambda)$

λ

$\lambda$

— Marcos Villagra,

qualcosa mi sembra strano. per definizione, quindi perché il min?

max_{A \in β (2 λ))} {\frac{1}{2} \sum_{x \in I} d (x), ϵ (A, x)} \leq λ

$\max_{A \in \beta(2\lambda))} \left\{\frac{1}{2} \sum_{x \in \mathcal{I}}{d(x), \epsilon(A,x)}\right\} \leq \lambda$

— Sasho Nikolov,

e non capisco l'ultima frase. come hai fatto un intero argomento su e poi lo hai sostituito con ?

ϵ

$\epsilon$

r

$r$

— Sasho Nikolov,

per quanto riguarda la tua prima domanda, ho aggiunto ulteriori dettagli.

— Marcos Villagra,