Tecniche avanzate per la determinazione di limiti inferiori di complessità

Alcuni di voi potrebbero aver seguito questa domanda , che è stata chiusa a causa del mancato livello di ricerca. Quindi, sto estraendo la parte della domanda che è a livello di ricerca.

Al di là delle tecniche "più semplici", come la riduzione all'ordinamento o un problema completo EXPTIME, quali tecniche sono state utilizzate per dimostrare limiti inferiori per la complessità temporale di un problema?

In particolare:

• Quali sono le tecniche "all'avanguardia" che sono state sviluppate nell'ultimo decennio?
• È possibile applicare tecniche di Algebra astratta, Teoria delle categorie o altri rami della matematica tipicamente "pura"? (Ad esempio, sento spesso parlare della "struttura algebrica" ​​dell'ordinamento, senza alcuna vera spiegazione di cosa significhi.)
• Quali sono i risultati significativi ma meno noti per la complessità di livello inferiore?

Limiti inferiori per i circuiti algebrici

Nell'impostazione dei circuiti algebrici, dove un limite inferiore sulla dimensione del circuito è analogo a un limite inferiore nel tempo, sono noti molti risultati, ma ci sono solo alcune tecniche di base nei risultati più moderni. So che hai chiesto limiti inferiori nel tempo, ma penso che in molti casi la speranza sia che i limiti inferiori algebrici un giorno porteranno a limiti inferiori della macchina booleana / turing. Questi risultati usano spesso tecniche più profonde della "matematica pura", come dici tu.

I. Il grado legato.

Strassen ha mostrato che il registro del grado di una certa varietà algebrica associato a una (serie di) funzioni è un limite inferiore sulla dimensione del circuito algebrico di calcolare tali funzioni.

II. Componenti connesse (o più in generale la dimensione di qualsiasi gruppo di omologia superiore).

Ben-Or ha mostrato che la dimensione di un albero decisionale algebrico reale che decide l'appartenenza a un set (semi-algebrico) è almeno il dove C è il numero di componenti collegati di quel set. Ben-Or lo ha usato per dimostrare un limite inferiore di Ω ( n log n ) allo smistamento (bene, la distinzione degli elementi, ma la distinzione degli elementi si riduce allo smistamento) nel modello dell'albero delle decisioni algebrico reale. Yao ha esteso questo dai componenti collegati alla somma dei numeri di Betti e ha dimostrato limiti inferiori ottimali per altri problemi (come k -equals)). In un altro documento Yao lo ha esteso agli alberi delle decisioni algebrici sugli interi.$\log C$$C$$\Omega(n \log n)$$k$

III. Derivati ​​parziali.

Questo è stato il cavallo di battaglia di molti dei limiti inferiori del moderno circuito algebrico. Credo che i derivati ​​parziali siano stati inizialmente utilizzati per dimostrare un limite inferiore da Baur-Strassen, dove hanno dimostrato che il calcolo di tutti i primi parziali di può essere eseguito nella dimensione 5 s dove s è la dimensione necessaria per calcolare f . In combinazione con il limite di grado di Strassen, ciò ha dato limiti di dimensione Ω ( n log n ) su varie funzioni, che sono ancora i limiti inferiori più forti sulla dimensione dei circuiti aritmetici senza restrizioni per una funzione esplicita.$f$$5s$$s$$f$$\Omega(n \log n)$

L'uso più recente di derivati ​​parziali sembra derivare da un documento di Nisan in cui ha dimostrato limiti inferiori sui circuiti non commutativi considerando la dimensione dello spazio di tutti i derivati ​​parziali. Questo è stato usato per dimostrare limiti inferiori su tipi ristretti di circuiti di profondità 3 di Nisan-Wigderson, e idee simili sono state usate per dimostrare limiti inferiori sulla dimensione della formula multilineare di Raz (e modelli correlati di Raz e collaboratori). I limiti inferiori di profondità 4 e profondità 3 molto recenti di Gupta, Kayal, Kamath e Saptharishi usano una generalizzazione di questa idea, per contare la dimensione dello spazio di "derivate parziali spostate" - dove è possibile prendere derivate parziali e quindi moltiplicare per eventuali monomi di un determinato grado. ) potrebbe "semplicemente" essere una questione di comprensione dell'ideale generato dai minori permanenti (vedere la congettura alla fine del loro articolo).$\mathrm{VP} \neq \mathrm{VNP}$

IV. Definizione di equazioni per varietà.

L'idea qui è quella di associare a "funzioni facili" una certa varietà algebrica, trovare equazioni che svaniscono su questa varietà e mostrare che queste equazioni non svaniscono sulla tua "funzione difficile". (Quindi dimostrando che la tua funzione difficile non è nella varietà di funzioni facili, quindi è effettivamente dura.) Particolarmente utile nei limiti inferiori sulla moltiplicazione della matrice. Vedi Landsberg - Ottaviani su arXiv per l'ultimo, e riferimenti a limiti inferiori precedenti.

(In effetti, I, II e III sopra possono tutti essere visti come casi speciali di ricerca di equazioni definitive per alcune varietà, anche se le prove che usano I, II, III non sono essenzialmente mai formulate in quel modo, poiché non c'era davvero un bisogno di.)

V. Teoria della rappresentazione, esp. come nella teoria della complessità geometrica.

In realtà, anche usato da Landsberg - Ottaviani per trovare alcune equazioni per una certa varietà. Utilizzato anche da Burgisser-Ikenmeyer per ottenere una dimostrazione "puramente" teorica della rappresentazione di un limite inferiore leggermente più debole sulla moltiplicazione della matrice. Congegnato da Mulmuley e Sohoni (cfr. "Teoria della complessità geometrica I e II") per essere utile per risolvere vs V N P e, in definitiva, N P vs. P / p o l y .$\mathrm{VP}$$\mathrm{VNP}$$\mathrm{NP}$$\mathrm{P/poly}$

Kaveh ha gentilmente suggerito nella sua risposta che avrei dovuto dire qualcosa. Non ho molto altro da contribuire a questo elenco di risposte ben comprensibile. Posso aggiungere alcune parole generiche su come i limiti inferiori di "complessità strutturale" si siano evoluti negli ultimi dieci anni circa. (Uso il nome "complessità strutturale" semplicemente per distinguere da algebrico, complessità comunicativa, ecc.)

Gli approcci attuali sono ancora in gran parte basati sulla diagonalizzazione, e in particolare sul seguente paradigma di base: iniziare assumendo l'opposto del limite inferiore. Questo ti dà un buon algoritmo per qualche problema. Prova a usare quell'algoritmo per contraddire un teorema della gerarchia basato sulla diagonalizzazione, come la gerarchia temporale o la gerarchia spaziale. Poiché gli argomenti di diagonalizzazione da soli non sono sufficienti per dimostrare nuovi limiti inferiori, altri ingredienti vengono aggiunti al mix per ottenere la ricetta contraddittoria.

Dovrei dire che molti argomenti degli anni '70 e '80 si possono dire anche seguendo il modello sopra; la differenza principale al giorno d'oggi sono gli "altri ingredienti": ci sono molti ingredienti tra cui scegliere e i modi in cui gli ingredienti possono essere applicati sembrano essere limitati solo dalla tua creatività. A volte, quando non sai come mescolare determinati ingredienti per ottenere una ricetta migliore, ma capisci molto bene come possono mescolarsi, aiuta a codificare un programma per computer che suggerisce nuove ricette per te.

Sarebbe molto interessante ottenere nuove prove dei recenti limiti inferiori che non seguono definitivamente questo paradigma. Ad esempio, essere provato senza alcun riferimento a un argomento di diagonalizzazione? Per cominciare, si può provare senza invocare il teorema della gerarchia temporale non deterministico? (Ad esempio, si potrebbe usare la "gerarchia delle dimensioni del circuito"?)$NEXP \not\subset ACC$

Le tecniche dipendono dal modello e dal tipo di risorsa su cui vogliamo ottenere un limite inferiore. Si noti che per dimostrare un limite inferiore alla complessità di un problema dobbiamo prima correggere un modello matematico di calcolo: un limite inferiore per un problema indica che nessun algoritmo che utilizza una certa quantità di risorse può risolvere il problema, cioè stiamo quantificando universalmente sopra gli algoritmi. Dobbiamo avere una definizione matematica del dominio di quantificazione. (Questo è generalmente vero per i risultati di impossibilità.) Pertanto, i risultati con limite inferiore valgono solo per un particolare modello di calcolo. Ad esempio, $\Omega(n \log n)$il limite inferiore per l'ordinamento funziona solo con algoritmi di ordinamento basati sul confronto, senza questa limitazione e in modelli di calcolo più generali potrebbe essere possibile risolvere l'ordinamento in modo più rapido, anche lineare. (Vedi il commento di Josh qui sotto.)

Ecco alcuni metodi diretti di base per dimostrare limiti inferiori nella teoria della complessità computazionale per i modelli più generali di calcolo (macchine e circuiti di Turing).

I. Conteggio:

Idea: mostriamo che ci sono più funzioni che algoritmi.

Es: ci sono funzioni che richiedono circuiti esponenzialmente grandi.

Il problema con questo metodo è che si tratta di un argomento esistenziale e non fornisce alcuna funzione esplicita o alcun limite superiore alla complessità del problema dimostrato difficile.

II. Combinatoria / algebrico:

Idea: analizziamo i circuiti e mostriamo che hanno una proprietà particolare, ad esempio le funzioni calcolate da loro possono essere approssimate da una bella classe di oggetti matematici, mentre la funzione bersaglio non ha quella proprietà.

$\mathsf{AC^0}$$\mathsf{AC^0}[p]$

Il problema con questo metodo è che in pratica ha funzionato solo per classi piccole e relativamente facili da analizzare. Esiste anche la barriera Natural Proofs di Razborov-Rudich che in un certo senso formalizza il motivo per cui è improbabile che le proprietà semplici da sole siano sufficienti per dimostrare limiti inferiori del circuito più generali.

L'articolo di Razborov " Sul metodo di approssimazione " sostiene che il metodo di approssimazione è completo per dimostrare i limiti inferiori in un certo senso.

III. diagonalizzazione:

Idea. Diagonalizziamo rispetto alle funzioni della classe più piccola. L'idea risale a Gödel (e persino a Cantor).

Ex. Teoremi della gerarchia temporale , teorema della gerarchia spaziale , ecc.

$\mathsf{P}$$\mathsf{PSpace}$$\mathsf{P}$$\mathsf{PSpace}$

Abbiamo anche la barriera di relativizzazione (che risale al Baker, Gill e Solovay) e la barriera di algebraizzazione (di Aaronson e Wigderson) che affermano che particolari tipi di argomenti di diagonalizzazione si trasferiranno ad altre impostazioni in cui il risultato è dimostrabilmente falso.

Si noti che queste barriere non si applicano ad argomenti di diagonalizzazione più generali. In effetti, dall'articolo di Dexter Kozen " Indicizzazione delle classi sub-corsive ", la diagonalizzazione è completa per dimostrare limiti inferiori.

Come probabilmente avrai notato, esiste una forte relazione tra la ricerca di buoni simulatori universali per una classe di complessità e la separazione di quella classe di complessità da classi più grandi (per una dichiarazione formale vedi l'articolo di Kozen).

Lavori recenti

Per i recenti progressi, consulta i documenti recenti di Ryan Williams . Non ne discuto in questa risposta poiché spero che lo stesso Ryan scriverà una risposta.

Alberi decisionali algebrici

Questa non è una tecnica recente, ma piuttosto potente per alcuni problemi.

$n$$d$

• $v$$q_v(x_1, \dots, x_n)$$d$$x_i-x_j$$i$$j$

• $-1$$0$$+1$

• $\{1,2,\dots,n\}$

$\vec{x}\in\mathbb{R}^n$

$\Omega(n^d)$

$\ell$$R(\ell) \subseteq \mathbb{R}^n$$\ell$$R(\ell)$$\mathbb{R}^n$$t = \text{depth}(\ell)$$d$$d$$(dt)^{O(n)}$

$W\subseteq\mathbb{R}^n$$d$$t$$W$$3^t (dt)^{O(n)}$$t = \Omega(\log \#W - n\log d)$

$n$$W$$n!$$n$$\Omega(n\log n)$

$\Omega(n\log n)$

$R(\ell)$$(dt)^{O(n)}$

$n^{O(n)}$$n\log n$

$\Omega(n^2)$$O(n^4\log n)$$2^{O(n)}$$\mathbb{R}^n$$n^4\log n$$k$$k$$k$$k$$O(n^{k/2})$$O(n^4\log n)$polinomi di query; questo tempo di costruzione è gratuito nel modello con limite inferiore.

Evviva risultati doppi negativi!

Manindra Agrawal ha un bel documento "Dimostrare limiti inferiori tramite generatori casuali". Questo potrebbe essere considerato un "cavallo oscuro" in corsa per dimostrare limiti inferiori, ma il documento è interessante.

questo è un sondaggio a 32p che è appena apparso sul soggetto focalizzato sull'angolo inferiore dei limiti del circuito (c'è una forte sovrapposizione nel contenuto con altre risposte qui).

• Algorithms vs. Circuit Lower Bounds di Oliveira

Diverse tecniche sono state usate per dimostrare diversi teoremi di transfert della forma "algoritmi non banali per un circuito di classe C che cedono i limiti inferiori del circuito contro C". In questo sondaggio rivisitiamo molti di questi risultati. Discutiamo di come ottenere limiti inferiori del circuito da algoritmi di derandomizzazione, compressione, apprendimento e soddisfacibilità. Copriamo anche la connessione tra i limiti inferiori del circuito e le proprietà utili, una nozione che risulta essere fondamentale nel contesto di questi teoremi di transfert. Lungo la strada, otteniamo alcuni nuovi risultati, semplificiamo diverse prove e mostriamo connessioni che coinvolgono diversi framework. Speriamo che la nostra presentazione serva da introduzione autonoma per coloro che sono interessati a proseguire la ricerca in questo settore.