Quando abbiamo trovato limiti migliori per gli algoritmi noti?

16

Ci sono esempi interessanti di algoritmi che sono stati pubblicati con limiti comprovati e dove sono stati successivamente pubblicati limiti strettamente migliori? Algoritmi non migliori con limiti migliori - ovviamente è successo! Ma una migliore analisi porta ad un migliore vincolo su un algoritmo esistente

Pensavo che la moltiplicazione delle matrici fosse un esempio di questo, ma ne ho discusso (forse in modo errato!) Dopo aver cercato di capire meglio Coppersmith – Winograd e i suoi amici.

ho.history-overview analysis-of-algorithms

— Rob Simmons
fonte

Un esempio ideale è la moltiplicazione di matrici. I recenti miglioramenti sono in effetti tutti una migliore analisi (Le Gall, Williams, ecc.).

— Lwins,

Lwins - Sospettavo che potesse essere il caso, ma sfogliare alcuni dei documenti mi ha fatto pensare che stessero variando leggermente sia l'algoritmo che l'analisi. Potrei aver bisogno di guardare più in profondità.

— Rob Simmons,

Questa è una mezza risposta, dato che è sentito dire di seconda mano: quando si lavora sulla determinazione di Buechi automata ( dl.acm.org/citation.cfm?id=1398627 ), Safra inizialmente ha analizzato la sua costruzione per avere un esponente quadratico. Quindi, dopo aver scritto la costruzione e, a causa di un malinteso, ha finito con il migliore (ottimale)

esponente.

n \log n

$n\log n$

— Shaull

Suggerirei di esaminare i problemi di pianificazione del movimento - mi sembra che ci siano stati diversi casi lì. Inoltre, IIRC la precisa complessità dell'algoritmo simplex (s?) È stata una questione di studio per un bel po '.

— Steven Stadnicki,

1

Leggermente diverso, ma la prova dell'esistenza di un input che soddisfaceva

delle clausole in un'istanza 3SAT è stata migliorata in un algoritmo esplicito mediante un'analisi più attenta.

7 m / 8

$7m/8$

— Stella Biderman,

23

L' algoritmo Union-Find, che Tarjan ^{1 ha} mostrato aveva complessità $n \alpha(n)$ , dove $\alpha(n)$ è la funzione inversa di Ackermann, era stato analizzato in precedenza da diverse persone. Secondo Wikipedia, è stato inventato da Galler e Fischer ² , ma questo sembra essere errato, in quanto non avevano tutti i componenti dell'algoritmo necessari per farlo funzionare così rapidamente.

Sulla base di brevi scansioni dei documenti, sembra che l'algoritmo sia stato inventato da Hopcroft e Ullman ³ , che ha dato un (errato) tempo $O(n)$ . Fischer ^{4 ha} quindi trovato l'errore nella dimostrazione e ha assegnato un tempo $O(n \log\log n)$ . Successivamente, Hopcroft e Ullman ^{5 hanno} dato un limite di tempo $O(n \log ^*n)$ , dopo di che Tarjan ^{1 ha} trovato il limite di tempo (ottimale) $O(n \alpha(n))$ .

¹ RE Tarjan, "Efficienza di un algoritmo di unione di insieme buono ma non lineare" (1975).
² BS Galler e MJ Fischer, "Un algoritmo di equivalenza migliorato" (1964).
³ JE Hopcroft e JD Ullman, "Un algoritmo di fusione di elenchi lineari" (1971).
⁴ MJ Fischer, "Efficienza degli algoritmi di equivalenza" (1972).
⁵ JE Hopcroft e JD Ullman, "Set-fusione algoritmi" (1973).

— Peter Shor
fonte

2

La storia di questa struttura di dati non è chiara per me e sarebbe bello indagarla. Ho sfogliato l'articolo di Galler e Fischer e sembra descrivere la struttura dei dati Disjoint Sets Forest (DSF), ma senza l'euristica di compressione del percorso cruciale (PC) e unione ponderata (WU). Hopcroft e Ullman attribuiscono DSF con PC e senza WU a Tritter, citando Knuth. Non sono sicuro che DSF sia con PC che con WU sia stato proposto in un articolo pubblicato prima di Hopcroft e dell'articolo di Ullman, anche se non sarei sorpreso se lo fosse.

— Sasho Nikolov,

1

@Sasho: tutto dovrebbe essere verificato, poiché si basa su brevi scansioni dei documenti. Tarjan attribuisce DSF sia con PC che con WU a Michael Fischer, in "Efficiency of equivalence algoritms" (1972), che fornisce un tempo di esecuzione

. Scansionando il documento di Fischer, sembra attribuire l'algoritmo a Hopcroft e Ullman in "Un algoritmo di fusione di una lista lineare", ma danno un

O (n \log \log n)

$O(n \log\log n)$

tempo di esecuzione di

, la cui dimostrazione di Fischer è errata. Tarjan afferma che Hopcroft e Ullman, in "algoritmi di fusione dei set", si riscattano dando unlimite

.

Θ (n)

$\Theta(n)$

O (n \log^{*} n)

$O(n \log^* n)$

— Peter Shor,

12

L'algoritmo di Paturi, Pudlák, Saks e Zane (PPSZ) per $k\text{-} \mathrm{SAT}$ era noto per avere un tempo di esecuzione di $O(1.364^n)$ per $3\text{-}\mathrm{SAT}$ , con un limite migliore di $O(1.308^n)$ per le formule garantite per avere un compito soddisfacente unico. Successivamente Hertli ha fornito un'analisi migliorata dimostrando che questo limite di runtime migliorato vale anche per il caso generale, mostrando così che PPSZ è l'algoritmo migliore per $3\text{-}\mathrm{SAT}$ conosciuto al momento.

— Jan Johannsen
fonte

Questa è una risposta davvero soddisfacente! Penso che e l'Unione Trova esempi siano i migliori esempi di ciò che speravo.

— Rob Simmons,

8

L' attacco logjam menziona che l'analisi del setaccio campo numero generale (applicato al calcolo di logaritmi discreti sopra $\mathbb{F}_p$ ) fase di discesa era tightend, vedere in alto a sinistra della terza pagina. Poiché questo è l'unico passaggio che non può essere pre-calcolato (se $\mathbb{F}_p$ è risolto), la sua efficienza è stata strumentale al loro attacco.

L'analisi iniziale sembra essere in Gordon 92 , in cui discesa fu servivano analogamente a precomputation, a $L_p(1/3, 3^{2/3})$ . L'analisi stretto sembra essere da tesi di Barbulescu , dove discesa è servivano a $L_p(1/3, 1.232)$ , dove:

L_{p} (v, c) = \exp ((c + o (1)) (\log p)^{v} (\log \log p)^{1 - v})

$L_p(v, c) = \exp((c+o(1))(\log p)^v (\log \log p)^{1-v})$ Vale la pena ricordare che questo è tecnicamente un costo previsto e non un limite superiore. Questo mi sembra ancora nello spirito della domanda, ma lo rimuoverò se non è quello che stai cercando.

— marchio
fonte

1

Molto nello spirito, grazie!

— Rob Simmons,

6

$k$ $O(n^{k+o(1)})$ $O(n^{2k-2})$ $O(n^{1.98k+O(1)})$

$\Omega(n^k)$

Nota: un discorso di Jason Li (e le diapositive corrispondenti) è disponibile sul sito Web TCS + .

$k$

— Clemente C.
fonte

4

$k$ $(2k-1)$ $k$

— Chandra Chekuri
fonte

4

$3$ fornire un'analisi più raffinata (contando i sottoproblemi / le sottostrutture) che porta a migliori recidive e quindi migliori tempi di esecuzione. Penso che ci siano un certo numero di esempi simili nella letteratura sulla complessità parametrizzata, in cui l'aggiunta di un'altra variabile all'analisi può portare a tempi di esecuzione migliori, ma ormai sono fuori dal gioco da diversi anni e non riesco a pensare a specifici il momento. Esistono numerosi articoli nelle aree FPT e PTAS che emergono quando si cerca "un'analisi migliorata" nei titoli dei documenti.

Se specificare le scelte conta come lo stesso algoritmo (come l'euristica del grado di profondità di union-find), allora l'algoritmo Edmonds-Karp è una "analisi migliorata" di Ford-Fulkerson, e immagino che ci siano molti altri problemi che hanno algoritmi che hanno visto miglioramenti di runtime da nuove regole di scelta.

Poi ci sono un sacco di analisi ammortizzate di algoritmi esistenti (penso che union-find si adatti a questa descrizione, eccone un altro https://link.springer.com/article/10.1007/s00453-004-1145-7 )

— JimN
fonte

Fare nuove scelte sembra vicino a quello che stavo cercando, ma non è del tutto lì - in un certo senso, un algoritmo più specificato è un "algoritmo diverso" - ma questi sono ancora esempi molto interessanti!

— Rob Simmons,