Versione di ottimizzazione dei problemi decisionali

È noto che ogni problema di ottimizzazione / ricerca ha un problema decisionale equivalente. Ad esempio il problema del percorso più breve

versione di ottimizzazione / ricerca: dato un grafico non ponderato non orientato e due vertici , trova un percorso più breve tra e . $G = (V, E)$ $v,u\in V$ $v$ $u$

versione di decisione: dato un grafico non ponderato non orientato , due vertici e un numero intero non negativo , c'è un percorso in tra e cui lunghezza è al massimo ? $G = (V, E)$ $v,u\in V$ $k$ $G$ $u$ $v$ $k$

In generale, "Trova st !" diventa "Esiste st ?". $x^*\in X$ $f(x^*) = \min\{f(x)\mid x\in X\}$ $x\in X$ $f(x) \leq k$

Ma è vero anche il contrario, ovvero esiste un problema di ottimizzazione equivalente per ogni problema decisionale? In caso contrario, qual è un esempio di problema decisionale che non ha un problema di ottimizzazione equivalente?

— Luke Miles
fonte

Questo bit è uguale a zero?

— JeffE,

Devi spiegare "equivalente" in modo più dettagliato, ad es. Intendi che uno può essere risolto usando l'altro come oracolo / blackbox in tempo polinomiale (o nello spazio logaritmico)? Ti interessa tutti i problemi o solo i problemi all'interno di

N P

$\sf{NP}$ ?

— Kaveh,

A seconda del tuo punto di vista, la domanda è o banale (prendi qualsiasi problema di decisione che non ha una " ") o non risponde (come dimostrare che "nessun problema di opt. Equivalente"?).

k

$k$

— Raffaello

Come già affermato nei commenti, dipende dalle definizioni, come al solito. Il mio tentativo di rispondere a questo richiede alcune definizioni, quindi questo sarà un altro esempio della mia incapacità di dare risposte concise.

Definizione: un problema di ottimizzazione è una tupla con $(X,F,Z,\odot)$

$X$ l'insieme di istanze o input opportunamente codificati (stringhe) .
$F$ è una funzione che associa ciascuna istanza a un insieme di soluzioni realizzabili di . $x\in X$ $F(x)$ $x$
$Z$ è la funzione oggettiva che mappa ogni coppia , dove e , su un numero reale chiamato il valore di . $(x, y)$ $x \in X$ $y\in F(x)$ $Z(x, y)$ $y$
$\odot$ è la direzione di ottimizzazione , o . $\min$ $\max$

Definizione: Una soluzione ottimale di un'istanza di un problema di ottimizzazione è una soluzione praticabile per cui . Il valore di una soluzione ottimale è indicato con e chiamato ottimale . $x\in X$ $P_O$ $y\in F(x)$ $Z(x, y)=\odot\{Z(x, y')\mid y'\in F(x)\}$ $Opt(x)$

Definizione: il problema di valutazione , indicato con , corrispondente al problema di ottimizzazione è il seguente: data un'istanza , calcolare se ha una soluzione ottimale e produrre "nessuna soluzione ottimale" in caso contrario. $P_E$ $P_O$ $x\in X$ $Opt(x)$ $x$

Si noti che questo richiede solo il valore della soluzione ottimale non l'intera soluzione stessa con tutti i suoi dettagli.

Definizione: il problema decisionale , indicato con corrispondente al problema di ottimizzazione è il seguente: Data una coppia , dove e , decide se ha una soluzione fattibile tale che if e tale che if . $P_D$ $P_O$ $(x, k)$ $x\in X$ $k\in\mathbb{Q}$ $x$ $y$ $Z(x, y)\le k$ $\odot=\min$ $Z(x, y)\ge k$ $\odot=\max$

Una prima osservazione è ora che . La prova non è difficile e omessa qui. $P_O\in \mathrm{NPO} \Rightarrow P_D\in \mathrm{NP}$

Ora intuitivamente e corrispondenti a non sono più difficili di stesso. Per esprimere formalmente questo sentimento (definendo in tal modo ciò che dovrebbe significare equivalente ) utilizzeremo le riduzioni. $P_E$ $P_D$ $P_O$ $P_O$

Ricordiamo che una lingua è tempo polinomiale riducibile ad un'altra lingua se esiste una funzione , calcolabile in tempo polinomiale, tale che per tutte le parole , . Questo tipo di riducibilità è noto come Karp o riducibilità molti-a-uno , e se è riducibile a in questo modo, lo esprimiamo scrivendo . Questo è un concetto centrale nella definizione di completezza NP. $L_1$ $L_2$ $f$ $x$ $x\in L_1\Leftrightarrow f(x)\in L_2$ $L_1$ $L_2$ $L_1\le_m L_2$

Sfortunatamente, le riduzioni multiple vanno da una lingua all'altra e non è chiaro come utilizzarle nel contesto di problemi di ottimizzazione. Pertanto, dobbiamo considerare un diverso tipo di riducibilità, la riducibilità di Turing . Per prima cosa abbiamo bisogno di questo:

Definizione: un oracolo per un problema è una subroutine (ipotetica) che può risolvere istanze di in tempo costante. $P$ $P$

Definizione: un problema è Turing riducibile al tempo polinomiale a un problema , scritto , se le istanze di possono essere risolte in tempo polinomiale da un algoritmo con accesso a un oracolo per . $P_1$ $P_2$ $P_1\le_T P_2$ $P_1$ $P_2$

Informalmente, proprio come con , la relazione esprime che non è più difficile di . È anche facile vedere che se può essere risolto in un tempo polinomiale, anche . Ancora una volta è una relazione transitiva. Il seguente fatto è ovvio: $\le_m$ $P_1\le_T P_2$ $P_1$ $P_2$ $P_2$ $P_1$ $\le_T$

Lascia , quindi . $P_O\in \mathrm{NPO}$ $P_D\le_T P_E\le_T P_O$

Perché data la soluzione completa, calcolare il suo valore e decidere se soddisfa il limite è semplice. $k$

Definizione: se per due problemi e entrambe le relazioni , trattengono, scriviamo ; la nostra nozione di equivalenza . $P_1$ $P_2$ $P_1\le_T P_2$ $P_2\le P_1$ $P_1\equiv_T P_2$

Ora siamo pronti a che dato che il corrispondente problema di ottimizzazione è e valore intero. Dobbiamo dimostrare che regge. Siamo in grado di determinare con una ricerca binaria utilizzando l'orco per . La definizione di assicura che per alcuni polinomi , quindi il numero di passaggi nella ricerca binaria è polinomiale in. $P_D\equiv_T P_E$ $P_O\in \mathrm{NPO}$ $Z$ $P_E \le_T P_D$ $\odot\{Z(x,y)\mid y\in F(x)\}$ $P_D$ $\mathrm{NPO}$ $|Z(x, y)|\le 2^{q(|x|)}$ $q$ $|x|$ $\Box$

Per un problema di ottimizzazione la relazione con è meno chiara. In molti casi concreti, si può dimostrare direttamente che . Per dimostrare che ciò vale generalmente nel quadro qui indicato, è necessario un presupposto aggiuntivo. $P_O$ $P_E$ $P_D\equiv_T P_E \equiv_T P_O$

Per prima cosa dobbiamo estendere da coppie di lingue a coppie dei corrispondenti problemi di decisione. Quindi è facile vedere che è più generale di . $\le_m$ $\le_T$ $\le_m$

Che e siano problemi di decisione; quindi . Ciò vale perché una riduzione molti-a-uno può essere interpretata come l'uso di un oracolo in un modo molto limitato: l'oracolo viene chiamato una volta, alla fine, e il suo risultato viene anche restituito come risultato complessivo. $P$ $P'$ $P\le_m P' \Rightarrow P\le_T P'$ $\Box$

Ora siamo pronti per il finale:

Sia e supponiamo che abbia un valore intero e che sia NP-completo, quindiCon le osservazioni precedenti resta da mostrare . Per fare ciò un problema tale che . Quindi abbiamoIl secondo e il terzo causa dell'equivalenza della decisione e della versione di valutazione precedentemente dimostrate. Il terzo deriva dalla completezza NP di e dai due fatti menzionati prima, vale a dire $P_O\in \mathrm{NPO}$ $Z$ $P_D$

P_{D} \equiv_{T} P_{E} \equiv_{T} P_{O} .

$P_D\equiv_T P_E \equiv_T P_O.$

P_{O} \leq_{T} P_{E}

$P_O\le_T P_E$

P_{O}^{'} \in N P O

$P_O'\in \mathrm{NPO}$

P_{O} \leq_{T} P_{E}^{'}

$P_O\le_T P_E'$

P_{O} \leq_{T} P_{E}^{'} \leq_{T} P_{D}^{'} \leq_{T} P_{D} \leq_{T} P_{E} .

$P_O\le_T P_E' \le_T P_D'\le_T P_D\le_T P_E.$

\leq_{T}

$\le_T$

\leq_{T}

$\le_T$

P_{D}

$P_D$

P_{O} \in N P O \Rightarrow P_{D} \in N P

$P_O\in \mathrm{NPO} \Rightarrow P_D\in \mathrm{NP}$ e .

P \leq_{m} P_{O}^{'} \Rightarrow P \leq_{T} P_{O}^{'}

$P\le_m P_O' \Rightarrow P\le_T P_O'$

Ora i dettagli: supponiamo che le soluzioni fattibili di siano codificate usando un alfabeto dotato di un ordine totale. Sia le parole di elencate in ordine di lunghezza non decrescente e ordine lessicografico all'interno dei blocchi di parole di lunghezza comune. (Quindi è la parola vuota.) Per tutti let denota l'intero intero tale che . Sia che possono essere calcolati in tempo polinomiale. Sia un polinomio tale che per tutti $P_O$ $\Sigma$ $w_0, w_1, \ldots$ $\Sigma^*$ $w_0$ $y\in\Sigma^*$ $\sigma(y)$ $i$ $y=w_i$ $\sigma$ $\sigma^{-1}$ $q$ $x\in X$ e tutti abbiamo . $y\in F(x)$ $\sigma(y)<2^{q(|x|)}$

Ora il problema è identico a eccezione di una funzione obiettivo modificata . Per e prendiamo . è calcolabile in tempo polinomiale, quindi . $P_O'$ $P_O$ $Z'$ $x\in X$ $y\in F(x)$ $Z'(x, y)=2^{q(|x|)}\cdot Z(x,y)+\sigma(y)$ $Z'$ $P_O'\in \mathrm{NPO}$

Per mostrare che osserviamo che è fattibile per se e solo se è fattibile per . Possiamo supporre che sia così, dal momento che il caso opposto è banale da gestire. $P_O\le_T P_E'$ $x$ $P_O$ $P_E'$

La sostituzione di per è monotona, nel senso che per tutti , se allora . Ciò implica che ogni soluzione ottimale per in è una soluzione ottimale di in . Pertanto il nostro compito si riduce al calcolo di una soluzione ottimale di in . $Z'$ $Z$ $y_1, y_2\in F(x)$ $Z(x, y_1)<Z(x, y_2)$ $Z'(x, y_1)<Z'(x, y_2)$ $x$ $P_O'$ $x$ $P_O$ $y$ $x$ $P_O'$

Interrogando l'oracolo per possiamo ottenere il valore di . Formando il resto di questo numero modulo produce da cui può essere calcolato in tempo polinomiale. $P_E'$ $Z'(x,y)=2^{q(|x|)}\cdot Z(x,y)+\sigma(y)$ $2^{q(|x|)}$ $\sigma(y)$ $y$

— uli
fonte

"Un oracolo per un problema P è una subroutine (ipotetica) che può risolvere istanze di P in tempo costante." Un oracolo deve impiegare solo tempo costante?

— Tim

@Tim Naturalmente ci sono libri, ne ho elencati alcuni nei commenti di un'altra risposta

— uli

@ Tim Per quanto riguarda l'oracolo: Se hai trovato / concepito una riduzione tra due problemi e si è ridotto il problema di trovare un algoritmo efficiente per di trovare un algoritmo efficiente per . O in altre parole la riduzione ti dice che per risolvere è possibile utilizzare . E 'come usare una subroutine per la in un algoritmo per . Tuttavia, i problemi e

A \leq_{T} B

$A\le_T B$

A

$A$

B

$B$

A

$A$

B

$B$

A

$A$

B

$B$

B

$B$

A

$A$

A

$A$

B

$B$ sono spesso problemi in cui non conosciamo soluzioni efficienti. E nel caso della riducibilità di Turing, la usiamo anche nei casi in cui i problemi coinvolti non sono affatto decidibili.

— uli

@Tim Quindi è una subroutine sconosciuta. E 'diventata una consuetudine in teoria della complessità di chiamare l'ipotetico algoritmo per derivato dalla riduzione come un algoritmo con Oracle . Richiamo del sottoprogramma sconosciuta per un oracolo solo esprime che non possiamo sperare di trovare un algoritmo efficiente per così come non possiamo sperare di ottenere un oracolo per . Questa scelta è alquanto sfortunata, in quanto connota un'abilità magica. Il costo per l'oracolo dovrebbe esserecome una subroutine deve almeno leggere l'input .

B

$B$

A

$A$ $B$

B

$B$

B

$B$

B

$B$

| x |

$|x|$

x

$x$

— uli

Un'ottima risposta a tutto tondo; l'unica cosa che aggiungerei (giungendo ora ad un'altra domanda) è che la "direzione dell'ottimizzazione" è un inutile po 'di complessità e per concretezza possiamo sempre presumere che la funzione obiettivo debba essere massimizzata; se l'intenzione è minimizzare, allora possiamo semplicemente definire una nuova funzione oggettiva e riscrivere tutta la minimizzazione di come massimizzazione di .

Z

$Z$

Z^{'} = - Z

$Z'=-Z$

Z

$Z$

Z^{'}

$Z'$

— Steven Stadnicki,

Come dicono i commenti, la risposta dipende dalle definizioni esatte. Permettetemi di interpretare la domanda in un modo molto semplice (anche ingenuo).

Sia una relazione, ovvero . $S$ $S \subseteq \{ (a,b) \mid a,b \in \Sigma^*\}$

Ora definiamo un problema di ricerca per : $S$

Dato , trovare un tale che . $a$ $b$ $(a,b) \in S$

e un problema decisionale per : $S$

Dato la risposta o meno . $(a,b)$ $(a,b) \in S$

_{(per esempio, nell'esempio citato nell'interrogazione, terrà tutte le coppie tale che esiste un percorso tra e che è più breve di .) $S$ $(u,v,k)$ $u$ $v$ $k$}

Si noti che questi due problemi sono ben definiti . Per questa definizione , possiamo chiederci se i due problemi sono "equivalenti" per qualsiasi . In "equivalente" intendo che se uno di essi è calcolabile (cioè esiste un algoritmo che lo risolve) rispetto all'altro è anche calcolabile. In generale, non lo sono. $S$

Rivendicazione 1 : la decisione implica la ricerca .

Dimostrazione: Sia essere l'algoritmo che risolve il problema della decisione di . Dato un input , possiamo eseguire per qualsiasi , uno dopo l'altro o in parallelo. Se esiste tale che , alla fine lo troveremo. In caso contrario, l'algoritmo potrebbe non arrestarsi . $D_S$ $S$ $a$ $D_S(a,x)$ $x\in \Sigma^*$ $b$ $(a,b)\in S$ $^\dagger$

Rivendicazione 2 : Ricerca non non implica decisione .

Il motivo è che l'algoritmo di ricerca potrebbe restituire una diversa da quella di cui abbiamo bisogno. Cioè, per ogni c'è qualche che è molto facile da trovare, ma altri che non lo sono. Ad esempio, sia un linguaggio indecidibile, quindi definire Per ogni l'algoritmo di ricerca può restituire . Ma nessun algoritmo decisionale può rispondere correttamente se , per tutte le coppie . Se potesse, avrebbe deciso un problema indecidibile, che è impossibile. $b$ $a$ $b$ $b'$ $L$

S = {(x, 0) ∣ x \in Σ^{*}} \cup {(x, 1) ∣ x \in L} .

$S = \{ (x,0) \mid x\in \Sigma^*\} \cup \{ (x,1) \mid x \in L\}.$

x

$x$

0

$0$

(x, 1) \in S

$(x,1) \in S$

(x, 1)

$(x,1)$

$^\dagger$ Questo dipende . Se, ad esempio, è limitato, potrebbe esistere un algoritmo che si ferma. $S$ $S$

— Suonò.
fonte

Il problema decisione giusta è l'esistenza di st .

b

$b$

⟨ a, b ⟩ \in S

$\langle a,b \rangle \in S$

— Kaveh,

Se la decisione è definita come l'esistenza di , la ricerca implica una decisione.

b

$b$

— Ran G.

In un senso debole, la calcolabilità di iewrt ma non la complessità è un problema più delicato.

— Kaveh,