Intuizione algoritmica per complessità logaritmica

Credo di avere una ragionevole comprensione di complessità come , Θ ( n ) e Θ ( n 2 ) .$\mathcal{O}(1)$$\Theta(n)$$\Theta(n^2)$

In termini di un elenco, è una ricerca costante, quindi sta solo diventando il capo dell'elenco. Θ ( n ) è dove avrei camminato sull'intero elenco, e Θ ( n 2 ) sta camminando sull'elenco una volta per ogni elemento dell'elenco.$\mathcal{O}(1)$$\Theta(n)$$\Theta(n^2)$

Esiste un modo intuitivo simile per cogliere oltre a sapere che si trova da qualche parte tra O ( 1 ) e Θ ( n ) ?$\Theta(\log n)$$\mathcal{O}(1)$$\Theta(n)$

Il la complessità è solitamente collegato con suddivisione. Quando usi elenchi come esempio, immagina un elenco i cui elementi sono ordinati. È possibile cercare in questo elenco in O ( log n ) time - in realtà non è necessario guardare ogni elemento a causa della natura ordinata dell'elenco.$\Theta(\log n)$$\mathcal{O}(\log n)$

Se si guarda l'elemento al centro dell'elenco e lo si confronta con l'elemento che si cerca, si può immediatamente dire se si trova nella metà sinistra o destra dell'array. Quindi puoi semplicemente prendere questa metà e ripetere la procedura fino a quando non la trovi o raggiungi un elenco con 1 elemento che banalmente confronti.

Puoi vedere che l'elenco dimezza efficacemente ogni passaggio. Ciò significa che se si ottiene un elenco di lunghezza , il numero massimo di passaggi necessari per raggiungere l'elenco di un elemento è 5 . Se hai un elenco di 128 = 2 7 elementi, hai bisogno solo di 7 passaggi, per un elenco di 1024 = 2 10 hai bisogno solo di 10 passaggi ecc.$32$$5$$128 = 2^7$$7$$1024 = 2^{10}$$10$

Come puoi vedere, l'esponente in 2 n mostra sempre il numero di passaggi necessari. Il logaritmo viene utilizzato per "estrarre" esattamente questo numero di esponente, ad esempio log 2 2 10 = 10 . Si generalizza anche per elencare lunghezze che non sono potenze di due lunghi.$n$$2^n$$\log_2 2^{10} = 10$

In termini di alberi (bilanciati) (diciamo, albero binario, quindi tutti i sono di base 2):$\log$

• sta ottenendo la radice dell'albero$\Theta(1)$
• è una passeggiata dalla radice alla foglia$\Theta(\log n)$
• sta attraversando tutti i nodi dell'albero$\Theta(n)$
• sono le azioni su tutti i sottoinsiemi di due nodi nella struttura, ad esempio il numero di percorsi diversi tra due nodi qualsiasi.$\Theta(n^2)$
• - generalizzazione di quanto sopra per qualsiasi sottoinsieme di k nodi (per una costante k )$\Theta(n^k)$$k$$k$
• sono le azioni su tutti i possibili sottoinsiemi di nodi (sottoinsiemi di tutte le dimensioni possibili, ovvero k = 1 , 2 , … , n .). Ad esempio, il numero di diversisottoalberidell'albero.$\Theta(2^n)$$k=1,2, \ldots, n$

Affinché sia possibile, è necessario essere in grado di ridurre le dimensioni del problema in modo proporzionale di una quantità arbitraria rispetto a n con un'operazione a tempo costante.$O(\log n)$$n$

Ad esempio, nel caso della ricerca binaria, è possibile ridurre della metà la dimensione del problema ad ogni operazione di confronto.

Ora, devi dimezzare la dimensione del problema, in realtà no. Un algoritmo è anche se può ridurre lo spazio di ricerca del problema dello 0,0001%, finché la percentuale e l'operazione che utilizza per ridurre la dimensione del problema rimangono costanti, è un algoritmo O ( log n ) , non sarà un algoritmo veloce, ma è comunque O ( log n ) con una costante molto grande. (Supponendo che stiamo parlando del registro n con un registro di base 2)$O(\log n)$$O(\log n)$$O(\log n)$$\log n$

$n$

while n != 0:
   print n%2, 
   n = n/2

while$\log(n)$

$\log(n)$$1$$n$$1$$n$$\log(n)$

$100$$2^{100}$$2^{100}$$2$$100$$100$$2^{100}$$2^{100}$$2^{100}$

$100$$2^{100}$$100$$2^{100}$$2$$100$$2^{100}$$100$$2^{100}$$\log(n)$$n$

Da dove vengono esponenti e logaritmi? Perché sono così interessanti per l'informatica? Potresti non accorgertene, ma l'esponente è ovunque. Hai pagato interessi sulla carta di credito? Hai appena pagato un universo per la tua casa (non così male, ma la curva si adatta). Mi piace pensare che l'espiazione provenga dalla regola del prodotto, ma altri sono invitati a fare più esempi. Qual è la regola del prodotto, potresti chiedere; E io risponderò.

$A$$B$$C$$B$$C$$A$$C$$D$$C$$A$$D$$2\cdot 3\cdot 4$$24$$2^{10}$$1024$$2^{10}$$10$$10$$2^{10}$$10$$1024$

$\log_2(n)$$n$$n$$2^n$$2$$\log_b(n)$$b$$b$$n$$\log(n)$$n$$n$

$\log(n)$$n$

$O(\log n)$$x$

È ancora basato sulla dimensione dell'elenco, ma devi visitare solo una parte degli elementi.

$\Theta(\lg^k n)$$\Theta(\lg^{k+1} n)$

$\Theta(1)$$\lg n$

L' algoritmo di ricerca binaria è l'esempio classico.

L'intuizione è quante volte puoi dimezzare un numero, diciamo n, prima che sia ridotto a 1 è O (lg n).

Per la visualizzazione, prova a disegnarlo come un albero binario e conta il numero di livelli risolvendo questa progressione geometrica.

2^0+2^1+...+2^h = n