Come si collegano O e Ω al caso peggiore e migliore?

Oggi abbiamo discusso in una lezione un algoritmo molto semplice per trovare un elemento in un array ordinato usando la ricerca binaria . Ci è stato chiesto di determinare la sua complessità asintotica per una serie di $n$ elementi.

La mia idea era, che è obvisously $O(\log n)$ , o $O(\log_2 n)$ per essere più precisi, perché $\log_2 n$ è il numero di operazioni nel caso peggiore. Ma posso fare di meglio, ad esempio se colpisco l'elemento cercato per la prima volta, allora il limite inferiore è $\Omega(1)$ .

Il docente ha presentato la soluzione come $\Theta(\log n)$ poiché di solito consideriamo solo gli input peggiori per gli algoritmi.

Ma considerando solo i casi peggiori, qual è il punto di avere la notazione $O$ e $\Omega$ quando tutti i casi peggiori di un dato problema hanno la stessa complessità ( $\Theta$ sarebbe tutto ciò di cui abbiamo bisogno, giusto?).

Cosa mi sto perdendo qui?

La notazione di Landau indica limiti asintotici sulle funzioni . Vedi qui per una spiegazione delle differenze tra , Ω e Θ .$O$$\Omega$$\Theta$

I tempi peggiori, migliori, medi o nominali descrivono funzioni di runtime distinte: una per la sequenza di runtime più alta di qualsiasi dato , una per quella del più basso, e così via.$n$

Di per sé, i due non hanno nulla a che fare l'uno con l'altro. Le definizioni sono indipendenti. Ora possiamo andare avanti e formulare limiti asintotici sulle funzioni di runtime: superiore ( ), inferiore ( Ω ) o entrambi ( Θ ). Possiamo fare sia nel caso peggiore, migliore o in qualsiasi altro caso.$O$$\Omega$$\Theta$

Ad esempio, nella ricerca binaria si ottiene un asintotico di runtime nel caso migliore di e un asintotico nel caso peggiore di Θ ( log n ) .$\Theta(1)$$\Theta(\log n)$

Considera il seguente algoritmo (o procedura, o pezzo di codice, o altro):

Contrive(n)
1. if n = 0 then do something Theta(n^3)
2. else if n is even then
3.    flip a coin
4.    if heads, do something Theta(n)
5.    else if tails, do something Theta(n^2)
6. else if n is odd then
7.    flip a coin
8.    if heads, do something Theta(n^4)
9.    else if tails, do something Theta(n^5)

Qual è il comportamento asintotico di questa funzione?

$n$$\Omega(n)$$O(n^2)$$\Theta$

$n$$\Omega(n^4)$$O(n^5)$$\Theta$

$n = 0$$\Theta(n^3)$

$\Theta$

Non necessariamente. In questo caso, vale a dire la ricerca binaria su un array ordinato, puoi vedere che: (a) la ricerca binaria richiede al massimo passaggi; (b) ci sono input che effettivamente costringono questo molti passaggi. Quindi, se è il tempo di esecuzione di un input nel caso peggiore per la ricerca binaria, puoi dire che .$[\log n + 1]$$T(n)$$T(n) = \Theta(\log n)$

D'altra parte, per altri algoritmi, potresti non essere in grado di elaborare esattamente , nel qual caso potresti avere uno spazio tra i limiti superiore e inferiore per il tempo di esecuzione su un input nel caso peggiore.$T(n)$

Ora, per la ricerca di una matrice ordinata, qualcosa di più è vero, ovvero che qualsiasi algoritmo per la ricerca di una matrice ordinata deve ispezionare . Per questo tipo di limite inferiore, tuttavia, è necessario analizzare il problema stesso. (Ecco l'idea: in qualsiasi momento, un algoritmo di ricerca non ha escluso alcuni insiemi di posizioni in cui può essere l'elemento che sta cercando. Un input accuratamente elaborato può quindi garantire che sia ridotto al massimo di un fattore ).$[\log n + 1]$$S\subset [n]$$|S|$$2$

Hai ragione, molte persone usano sciatto quando dovrebbero usare . Ad esempio, un analista algoritmo può finire con una funzione temporale e concludere immediatamente che , che è tecnicamente giusto , ma un'affermazione più nitida sarebbe . Attribuisco questo comportamento ignaro a due ragioni. Primo, molti vedono come più popolare e accettabile, forse a causa della sua lunga storia. Ricordiamo che è stato introdotto più di un secolo fa, mentre (e ) sono stati introdotti solo nel 1976 (da Donald Knuth). In secondo luogo, potrebbe essere perché$O$$\Theta$$% T(n)=n^{2}+n+2$$T(n)=O(n^{2})$$T(n)=\Theta (n^{2})$$O$$\Theta$$% \Omega$$O$è prontamente disponibile sulla tastiera, mentre non lo è!$\Theta$

Da un punto di vista tecnico, tuttavia, il motivo principale per cui gli analisti attenti preferiscono usare over è che il primo copre "un territorio maggiore" rispetto al secondo. Se prendiamo il tuo esempio di ricerca binaria e vogliamo usare , dovremo fare due affermazioni: \ una per il caso migliore, ovvero e un'altra per il caso peggiore, vale a dire . Con , facciamo una sola affermazione, vale a dire . Matematicamente, anche le funzioni coperte da sono coperte da , mentre il contrario non è necessariamente vero.$O$$\Theta$$\Theta$$\Theta (1)$$% \Theta (\log n)$$O$$O(\log n)$$\Theta$$O$