Come scorrere i vettori in ordine di probabilità in spazi ristretti

12

Considera un vettore dimensionale dove . Per ogni sappiamo e supponiamo il sono indipendenti. Utilizzando queste probabilità, esiste un modo efficace per scorrere su vettori binari di dimensioni dimensionali in modo da molto probabilmente a meno probabile (con scelte arbitrarie per i legami) usando lo spazio sublineare nella dimensione dell'output? $n$ $v$ $v_i \in \{0,1\}$ $i$ $p_i = P(v_i = 1)$ $v_i$ $n$

Prendiamo ad esempio . Il vettore più probabile è e il meno probabile è . $p = \{0.8, 0.3, 0.6\}$ $(1,0,1)$ $\{0,1,0\}$

Per molto piccoli potremmo etichettare ciascuno dei vettori con la sua probabilità e semplicemente ordinare, ma questo ovviamente non userebbe ancora lo spazio sublineare. $n$ $2^n$

Una variante stretta di questa domanda era stata precedentemente posta su /cs/24123/how-to-iterate-over-vectors-in-order-of-probability .

ds.algorithms space-bounded

— Lembik
fonte

C'è qualche motivo per cui non hai posto la domanda di follow-up anche lì? Il problema principale qui è quello di farlo nello spazio sublineare?

— Suresh Venkat,

@SureshVenkat Sì, il problema riguarda interamente lo spazio sublineare (nella dimensione dell'output). L'ho chiesto qui perché penso che la domanda possa essere molto difficile.

— Lembik,

Risolvere questo in

spazio e tempo sembra richiedere tecniche simili a SUBSET-SUM (sapendo rapidamente quali somme di sottoinsiemi quasi annullano diverse somme). Pertanto, è improbabile che abbia una soluzione rapida.

poly (n)

$\textrm{poly}(n)$

— Geoffrey Irving,

@GeoffreyIrving Pensi che questa intuizione possa essere resa più formale?

— Lembik,

9

Di seguito viene fornito un algoritmo che utilizza circa tempo e spazio. $2^n$ $2^{n/2}$

Innanzitutto, esaminiamo il problema dell'ordinamento delle somme di tutti i sottoinsiemi di articoli. $n$

Considera questo sottoproblema: hai due elenchi ordinati di lunghezza e desideri creare un elenco ordinato delle somme a coppie dei numeri negli elenchi. Ti piacerebbe farlo in circa tempo (la dimensione di output), ma lo spazio sublineare. Siamo in grado di raggiungere lo spazio . Manteniamo una coda di priorità ed estraiamo le somme dalla coda di priorità in ordine crescente. $m$ $O(m^2)$ $O(m)$

Lasciate che le liste siano e , ordinati in ordine crescente. Prendiamo le somme , e le mettiamo in una coda prioritaria. $a_1 \ldots a_m$ $b_1 \ldots b_m$ $m$ $a_i + b_1$ $i = 1 \ldots m$

Ora, quando estraiamo la somma rimanente più piccola dalla coda di priorità, se inseriamo quindi la somma nella coda di priorità. Lo spazio è dominato dalla coda di priorità, che contiene sempre al massimo somme. E il tempo è , poiché utilizziamo per ogni operazione di coda prioritaria. Questo dimostra che possiamo fare il sottoproblema in $a_i + b_j$ $j < m$ $a_i + b_{j+1}$ $m$ $O(m^2 \log m)$ $O(\log m)$ tempo e spazio. $O(m^2 \log m)$ $O(m)$

Ora, per ordinare le somme di tutti i sottoinsiemi di numeri, utilizziamo semplicemente questa subroutine in cui l'elenco è l'insieme di somme di sottoinsiemi della prima metà degli elementi e l'elenco è l'insieme di somme di sottoinsiemi della seconda metà degli articoli. Possiamo trovare questi elenchi in modo ricorsivo con lo stesso algoritmo. $n$ $a_i$ $b_i$

Considereremo ora il problema originale. Sia l'insieme di coordinate che sono e sia l'insieme di coordinate che sono . Quindi $S_0$ $0$ $S_1$ $1$

\begin{array}{rcl} \prod_{i \in S_{0}} p (v_{i} = 0) \prod_{i \in S_{1}} p (v_{i} = 1) & = & \prod_{1 \leq i \leq n} p (v_{i} = 0) \prod_{i \in S_{1}} \frac{p (v_{i} = 1)}{p (v_{i} = 0)} \\ = & \prod_{1 \leq i \leq n} p (v_{i} = 0) \exp (\sum_{i \in S_{1}} \log \frac{p (v_{i} = 1)}{p (v_{i} = 0)}) . \end{array}

$\begin{eqnarray*}\prod_{i \in S_0} p(v_i=0) \prod_{i \in S_1} p(v_i=1) &=& \prod_{1\leq i \leq n} p(v_i=0) \prod_{i \in S_1} \frac{p(v_i=1)}{p(v_i=0)} \\ &=& \prod_{1\leq i \leq n} p(v_i=0) \exp\,\left(\sum_{i \in S_1} \log \frac{p(v_i=1)}{p(v_i = 0)}\right).\end{eqnarray*}$

L'ordinamento di questi numeri è lo stesso dell'ordinamento dei numeri , quindi abbiamo ridotto il problema all'ordinamento delle somme di sottoinsiemi di elementi. $\sum_{i\in S_1}\log p(v_i=1) - \log p(v_i=0)$ $n$

— Peter Shor
fonte

C'è forse una riduzione che renderebbe non plausibile una soluzione poli tempo / spazio?

— Lembik,

2^{n}

$2^n$

n 2^{n}

$n\, 2^n$

Grazie. Ovviamente non intendevo il poli tempo, ma piuttosto qualcosa di lineare nelle dimensioni dell'output e nello spazio polifunzionale.

— Lembik,

4

$O(n)$

$x \in \{0,1\}^n$ $O(n)$ $r(x)$ $x$ $x'$ $p(x') > p(x)$ $x'\in \{0,1\}^n$ $x'$ $p(x') > p(x)$ $r(x)$ $x$
$k$ $x$ $r(x) = k$ $O(n)$ $x \in \{0,1\}^n$ $x$ $r(x)$ $x$ $r(x) = k$
$k$ $0$ $2^n-1$ $k$ $x$ $r(x) =k$

(Dovremmo anche occuparci dei possibili legami, ma questo non è difficile.)

— Yury
fonte

Grazie. È comunque un algoritmo piuttosto lento :)

— Lembik,

0

Modifica: questa risposta non è corretta. Vedi i commenti per i dettagli. ~ gandaliter

$O(2^n)$ $O(n)$

$(i, p_i)$ $\left|0.5 - p_i\right|$
$v$ $v_i$ $1$ $p_i > 0.5$ $0$ $v$ $v_i$ $v$
Chiamare questa funzione ricorsiva nell'elenco ordinato e un vettore vuoto.

$0$ $1$ $0.5$

$O(2^n)$ $O(n)$ $n$ $O(2^n)$ $O(n)$ $O(2^n)$ passi del tempo. Pertanto questo algoritmo è la complessità nel caso peggiore ottimale.

— gandaliter
fonte

Θ (2^{n})

$\Theta(2^n)$

Grazie. Chiaramente non l'ho letto abbastanza attentamente! Ho modificato la mia risposta.

— gandaliter,

3

v_{1} = 1

$v_1=1$

2^{n - 1}

$2^{n-1}$

v_{1} = 1

$v_1=1$

p_{i} = 0.5

$p_i=0.5$

Hai ragione, questo non funziona. Scusate!

— gandaliter,