Rigore che porta all'intuizione

Su MathOverflow, Timothy Gowers ha posto una domanda intitolata " Dimostrare che il rigore è importante ". La maggior parte della discussione riguardava casi che mostravano l'importanza della prova, di cui probabilmente le persone su CSTheory non devono essere convinte. Nella mia esperienza, le prove devono essere più rigorose nell'informatica teorica che in molte parti della matematica continua, perché la nostra intuizione si rivela così spesso sbagliata per strutture discrete e perché la spinta a creare implementazioni incoraggia argomenti più dettagliati. Un matematico può accontentarsi di una prova dell'esistenza, ma un teorico informatico di solito cerca di trovare una prova costruttiva. Il Lemma locale Lovász è un bell'esempio [1].

Vorrei quindi sapere

ci sono esempi specifici di informatica teorica in cui una prova rigorosa di una dichiarazione ritenuta vera ha portato a nuove intuizioni sulla natura del problema di fondo?

Un esempio recente che non proviene direttamente dagli algoritmi e dalla teoria della complessità è la sintesi teorica delle prove , la derivazione automatica di algoritmi corretti ed efficienti dalle condizioni pre e post [2].

• [1] Robin A. Moser e Gábor Tardos, una prova costruttiva del generale Lovász Local Lemma , JACM 57 , articolo 11, 2010. http://doi.acm.org/10.1145/1667053.1667060
• [2] Saurabh Srivastava, Sumit Gulwani e Jeffrey S. Foster, dalla verifica del programma alla sintesi del programma , comunicazioni ACM SIGPLAN 45 , 313–326, 2010. http://doi.acm.org/10.1145/1707801.1706337

Modificare:Il tipo di risposta che avevo in mente è come quelle di Scott e Matus. Come suggerito da Kaveh, questa è una tripla di qualcosa che la gente voleva dimostrare (ma che non era necessariamente inaspettato da "fisica", "discussione manuale" o argomenti "intuitivi"), una prova e conseguenze per il "problema di fondo" che seguito da quella prova che non era prevista (forse la creazione di una prova richiedeva nuove idee inaspettate, o porta naturalmente a un algoritmo o ha cambiato il modo in cui pensiamo all'area). Le tecniche sviluppate durante lo sviluppo delle prove sono i mattoni della scienza teorica dell'informatica, quindi per mantenere il valore di questa domanda in qualche modo soggettiva, varrebbe la pena concentrarsi sull'esperienza personale, come quella fornita da Scott, o su un argomento supportato da riferimenti, come ha fatto matus. Inoltre, io ' sto cercando di evitare discussioni sul fatto che qualcosa si qualifichi o no; purtroppo la natura della domanda può essere intrinsecamente problematica.

Abbiamo già una domanda sui risultati "sorprendenti" della complessità: risultati sorprendenti nella complessità (non nell'elenco dei blog sulla complessità), quindi idealmente sto cercando risposte che si concentrano sul valore di una prova rigorosa , non necessariamente sulla dimensione della svolta.

András, come probabilmente saprai, ci sono così tanti esempi di ciò di cui stai parlando che è quasi impossibile sapere da dove cominciare! Tuttavia, penso che questa domanda possa effettivamente essere una buona domanda, se le persone forniscono esempi della propria esperienza in cui la prova di una congettura ampiamente creduta nella loro sottozona ha portato a nuove intuizioni.

Quando ero studente, il primo vero problema TCS che ho affrontato è stato questo: qual è l'algoritmo quantistico più veloce per valutare un OR di √n ANDs di √n variabili booleane ciascuno? Era dolorosamente ovvio per me e per tutti gli altri con cui ho parlato che il meglio che potevi fare sarebbe applicare l'algoritmo di Grover in modo ricorsivo, sia per gli OR che per gli AND. Ciò ha dato un limite superiore O (√n log (n)). (In realtà è possibile eliminare il fattore registro, ma per ora ignoriamolo.)

Con mia enorme frustrazione, tuttavia, non ero in grado di dimostrare un limite inferiore migliore del banale Ω (n ^1/4 ). "Andare fisico" e "handwaving the answer" non sono mai stati così attraenti! :-D

Ma poi, pochi mesi dopo, Andris Ambainis uscì con il suo metodo quantistico avversario , la cui applicazione principale inizialmente era un limite inferiore di Ω (√n) per gli OR-of-AND. Per provare questo risultato, Andris ha immaginato di alimentare un algoritmo quantico una sovrapposizione di input diversi; ha quindi studiato come aumentava l'entanglement tra gli input e l'algoritmo ad ogni query dell'algoritmo. Ha mostrato in che modo questo approccio consente di ridurre la complessità della query quantistica anche per problemi "disordinati" e non simmetrici, utilizzando solo proprietà combinatorie molto generali della funzione f che l'algoritmo quantistico stava cercando di calcolare.

Lungi dal confermare che la complessità della query quantistica di un fastidioso problema era ciò che tutti si aspettavano che fosse, queste tecniche si sono rivelate uno dei più grandi progressi nella teoria dell'informatica quantistica dagli algoritmi di Shor e Grover. Da allora sono stati usati per dimostrare dozzine di altri limiti inferiori quantici e sono stati persino riproposti per ottenere nuovi limiti inferiori classici .

Naturalmente, questo è "solo un altro giorno nel meraviglioso mondo della matematica e del TCS". Anche se tutti "già sanno" X è vero, per dimostrare che X richiede spesso di inventare nuove tecniche che vengono poi applicate ben oltre X, e in particolare ai problemi per i quali la risposta giusta era molto meno ovvia a priori .

La ripetizione parallela è un bell'esempio della mia zona:

$L$$x$$q_1$$q_2$$a_1$$a_2$$a_1$$a_2$$q_1,q_2$$x\in L$$x\not\in L$$s$

$s$$1$$s = 10^{-15}$$k$$q_1^{(1)},\ldots,q_1^{(k)}$$q_2^{(1)},\ldots,q_2^{(k)}$$a_1^{(1)},\ldots,a_1^{(k)}$$a_1^{(1)},\ldots,a_1^{(k)}$$k$

$s^{k}$$k$$s^{\Omega(k/\log|\Sigma|)}$$\Sigma$

$\Sigma$$k$

Quindi, ci sono le estensioni che sono diventate possibili: Anup Rao è stato in grado di adattare l'analisi per mostrare che quando il sistema di prove originale è un {\ em pro game game}, cioè la risposta del primo proverte determina al massimo una risposta accettabile di il secondo prover non ha alcuna dipendenza dall'alfabeto e la costante nell'esponente può essere migliorata. Questo è importante perché la maggior parte dei risultati di approssimazione si basano su giochi di proiezione e giochi unici sono un caso speciale di giochi di proiezione. Ci sono anche miglioramenti quantitativi nei giochi sugli espansori (di Ricky Rosen e Ran Raz) e altro ancora.

Quindi, ci sono conseguenze di vasta portata. Solo alcuni esempi: un lemma teorico dell'informazione tratto dall'articolo di Raz è stato usato in molti altri contesti (in crittografia, in equivalenza di campionamento e ricerca, ecc.). La tecnica del "campionamento correlato" che Holenstein usò fu applicata in molte altre opere (nella complessità della comunicazione, nel PCP, ecc.).

Un altro buon esempio di rigore (e nuove tecniche) è necessario per dimostrare le affermazioni ritenute vere: analisi smussata. Due casi in questione:

• L'algoritmo simplex
• L'algoritmo k-mean

$k$$O(n^{c \cdot kd})$$n$

Penso che il seguente esempio abbia generato molte ricerche che hanno prodotto risultati del tipo che stai cercando, almeno se seguo lo spirito del tuo esempio LLL.

Robert E. Schapire. La forza della debole apprendibilità. Apprendimento automatico, 5 (2): 197-227, 1990.

$\epsilon>0, \delta>0$$1-\delta$$\epsilon$$\epsilon$$\delta$$\delta$$\delta$$\gamma$

Comunque, le cose sono diventate molto interessanti dopo il documento di Schapire. La sua soluzione ha prodotto una maggioranza della maggioranza rispetto alle ipotesi nella classe originale. Poi venne:

Yoav Freund. Promuovere a maggioranza un algoritmo di apprendimento debole. Informazione e calcolo, 121 (2): 256--285, 1995.

Questo documento aveva una "riproposizione" del risultato di Schapire, ma ora l'ipotesi costruita utilizzava solo una maggioranza. Lungo queste linee, i due hanno quindi prodotto un altro rimprovero, chiamato AdaBoost:

Yoav Freund e Robert E. Schapire. Una generalizzazione decisionale teorica dell'apprendimento on-line e un'applicazione per il potenziamento. Journal of Computer and System Sciences, 55 (1): 119-139, 1997.

La domanda di apprendimento debole / forte è nata principalmente come una preoccupazione teorica, ma questa sequenza di "rimproveri" ha prodotto un bellissimo algoritmo, uno dei risultati più influenti nell'apprendimento automatico. Potrei andare avanti su ogni sorta di tangenti qui, ma mi limiterò. Nel contesto del TCS, questi risultati respirano molta vita nel contesto di (1) algoritmi di peso moltiplicativo e (2) risultati fissi. A proposito di (1), vorrei solo chiarire che AdaBoost può essere visto come un'istanza del lavoro moltiplicativo pesi / winnow di Warmuth / Littlestone (Freund era uno studente Warmuth), ma ci sono molte nuove intuizioni nel potenziamento risultati. A proposito di (2), I '

Per precisione storica, dovrei anche dire che le date delle mie citazioni potrebbero non essere quelle che alcuni si aspetterebbero, dal momento che per alcune di queste c'erano versioni precedenti della conferenza.

Torna alla natura della tua domanda. Il valore chiave del 'rigore' qui era nel fornire la classe di ipotesi su cui si impara (maggioranze ponderate rispetto alla classe di ipotesi originale) e algoritmi efficienti per trovarli.

Questo esempio è sulla falsariga delle risposte di Dana e Scott.

$n$$d$$d$$2^{n-1}$$d$$2$$n^{1/(d-1)}$$2^{n^{1/(d-1)}}$$1$$n^{1/(d-1)}$$d-1$$2^{n^{1/(d-1)}}$$2^{n^{1/(d-1)}}$$d$$2^{O(n^{1/(d-1)})}$

$d$$AC^0$

L'articolo di Rasborov e Rudich "Prove naturali" offre una prova rigorosa di (una formalizzazione di) l'affermazione dolorosamente ovvia "È davvero difficile provare che P ≠ NP".

L'idea che alcuni problemi algoritmici richiedano un numero esponenziale di passaggi o una ricerca esaustiva su tutte le possibilità, è stata sollevata dagli anni '50 e forse prima. (Ovviamente, l'idea ingenua in competizione secondo cui i computer possono fare tutto era anche comune.) Il grande passo avanti di Cook e Levin è stato quello di mettere questa idea su basi rigorose. Questo, ovviamente, ha cambiato tutto.

Aggiornamento: mi sono appena reso conto che la mia risposta, come la bella risposta del Turkistany, si rivolge al titolo della domanda "rigore che porta all'intuizione", ma forse non alla formulazione specifica che parlava di "prova rigorosa di un teorema".

Alan Turing ha formalizzato la nozione di algoritmo (calcolabilità effettiva) usando le macchine Turing. Ha usato questo nuovo formalismo per dimostrare che il problema di Halting è indecidibile (vale a dire che il problema di Halting non può essere risolto da nessun algoritmo). Ciò ha portato a un lungo programma di ricerca che ha dimostrato l'impossibilità del decimo problema di Hilbert. Matiyasevich nel 1970 ha dimostrato che non esiste un algoritmo in grado di decidere se un'equazione diofantina intera ha una soluzione intera.