Richiesta di riferimento: minimizzazione sottomodulare e funzioni booleane monotone

Background: nell'apprendimento automatico, spesso lavoriamo con modelli grafici per rappresentare funzioni di densità di probabilità ad alta dimensione. Se scartiamo il vincolo che una densità integra (sommando) a 1, otteniamo una funzione energetica strutturata con grafi non normalizzata .

Supponiamo di avere una tale funzione energetica, , definita su un grafico G = ( V , E ) . C'è una variabile x per ciascun vertice del grafico e ci sono funzioni unarie e a coppie a valori reali, θ i ( x i ) : i ∈ V e θ i j ( x i , x j ) : i j ∈ E , rispettivamente. Tutta l'energia è allora$E$$G = (\mathcal{V}, \mathcal{E})$$x$$\theta_i(x_i) : i \in \mathcal{V}$$\theta_{ij}(x_i, x_j) : ij \in \mathcal{E}$

$$E(\mathbf{x}) = \sum_{i \in \mathcal{V}} \theta_i(x_i) + \sum_{ij \in \mathcal{E}} \theta_{ij}(x_i, x_j)$$

Se tutte le sono binarie, possiamo pensare a una x come a indicare l'appartenenza impostata e con solo un piccolo abuso di terminologia si parla di sottomodularità. In questo caso, una funzione energetica è sottomodulare se θ i j ( 0 , 0 ) + θ i j ( 1 , 1 ) ≤ θ i j ( 0 , 1 ) + θ i j ( 1 , 0 $x \in \mathbf{x}$$x$$\theta_{ij}(0, 0) + \theta_{ij}(1, 1) \le \theta_{ij}(0, 1) + \theta_{ij}(1, 0)$. In genere siamo interessati a trovare la configurazione che minimizza l'energia, .$\mathbf{x}^* = \arg \min_{\mathbf{x}} E(\mathbf{x})$

Sembra esserci una connessione tra minimizzare una funzione di energia sottomodulare e funzioni booleane monotone: se abbassiamo l'energia di alcuni per qualsiasi x i (cioè, aumentiamo la sua preferenza per essere "vero"), allora l'assegnazione ottimale di qualsiasi variabile x ∗ i ∈ x ∗ può cambiare solo da 0 a 1 (da "falso" a "vero"). Se tutto θ i è limitato a 0 o 1, allora abbiamo | V | funzioni booleane monotone:$\theta_i(x_i=1)$$x_i$$x_i^* \in \mathbf{x}^*$$\theta_i$$|\mathcal{V}|$

$$f_i(\mathbf{\theta}) = x_i^*$$

dove come sopra, .$\mathbf{x^*} = \arg \min_{\mathbf{x}} E(\mathbf{x})$

Domanda: possiamo rappresentare tutte le funzioni booleane monotone usando questa configurazione variando i termini a coppie, ? E se permettessimo ad E di essere una funzione di energia sottomodulare arbitraria? Al contrario, possiamo rappresentare tutti i problemi di minimizzazione sottomodulare come un insieme di | V | funzioni booleane monotone?$\theta_{ij}$$E$$|\mathcal{V}|$

Puoi suggerire riferimenti che mi aiuteranno a comprendere meglio queste connessioni? Non sono un informatico teorico, ma sto cercando di capire se ci sono intuizioni sulle funzioni booleane monotone che non vengono catturate pensando nei termini di minimizzazione sottomodulare.

Per quanto ho capito, il caso di minimizzazione sottomodulare cattura tutto ciò che c'è da dire sul caso booleano monotono e le funzioni booleane sottomodulari binarie possono esprimere tutte le funzioni booleane sottomodulari. Tuttavia, se il dominio non è booleano, le funzioni sottomodulari binarie non sono sufficienti per esprimere tutte le funzioni sottomodulari, anche se è possibile introdurre variabili nascoste. (Mi scuso se ho perso una sottigliezza nel tuo preciso formulazione del problema.)

Lo stato dell'arte è discusso in questo bel documento che ha molti collegamenti a lavori correlati e che rende anche espliciti i collegamenti alla visione artificiale:

• Stanislav Živný, David A. Cohen, Peter G. Jeavons, Il potere espressivo delle funzioni sottomodulari binarie , DAM 157 3347–3358, 2009. doi: 10.1016 / j.dam.2009.07.001 ( prestampa )

Nel caso in cui la tua prossima domanda riguardi l'approssimazione, questo recente documento esamina la versione di approssimazione:

• Dorit S. Hochbaum, Problemi sottomodulari - approssimazioni e algoritmi , arXiv: 1010.1945

Modifica: collegamento fisso.