Cosa non va nelle somme dei termini di Landau?

scrissi

$\qquad \displaystyle \sum\limits_{i=1}^n \frac{1}{i} = \sum\limits_{i=1}^n \cal{O}(1) = \cal{O}(n)$

ma il mio amico dice che questo è sbagliato. Dal cheat sheet TCS so che la somma è anche chiamata che ha una crescita logaritmica in . Quindi il mio limite non è molto nitido, ma è sufficiente per l'analisi di cui avevo bisogno.$H_n$$n$

Che cosa ho fatto di sbagliato?

Modifica : il mio amico dice che con lo stesso ragionamento, possiamo dimostrarlo

$\qquad \displaystyle \sum\limits_{i=1}^n i = \sum\limits_{i=1}^n \cal{O}(1) = \cal{O}(n)$

Ora questo è ovviamente sbagliato! Cosa sta succedendo qui?

Quello che stai facendo è un abuso di notazione molto conveniente.

Alcuni pedanti diranno che ciò che scrivi non ha senso, poiché indica un insieme e non puoi fare operazioni aritmetiche su di loro nel modo in cui stai facendo.$\mathcal{O}(f)$

Ma è una buona idea ignorare quei pedanti e supporre che rappresenti un membro del set. Quindi quando diciamo f ( n ) = g ( n ) + O ( n ) , cosa intendiamo realmente se f ( n ) - g ( n ) ∈ O ( n ) . (Nota: alcuni pedanti potrebbero rabbrividire anche a questa affermazione, sostenendo che f ( n ) è un numero e $\mathcal{O}(f)$$f(n) = g(n) + \mathcal{O}(n)$$f(n) - g(n) \in \mathcal{O}(n)$$f(n)$$f$ è la funzione!)

Questo rende molto conveniente scrivere espressioni come

$$n \le \sum_{k=1}^n k^{1/k} \le n + \mathcal{O}(n^{1/3})$$

Ciò significa che c'è qualche in modo tale che$f \in \mathcal{O}(n^{1/3})$

$$n \le \sum_{k=1}^n k^{1/k} \le n + f(n)$$

Nel tuo caso di

$$\sum_{k=1}^{n} \frac{1}{k} = \sum_{k=1}^{n} \mathcal{O}(1) = \mathcal{O}(n)$$

lo stai abusando ancora di più e devi stare attento.

Ci sono due possibili interpretazioni qui: riferimento a una funzione di n , o una funzione di k ?$\mathcal{O}(1)$$n$$k$

Credo che la giusta interpretazione sia interpretarla come una funzione di .$k$

Se provi a pensarla come una funzione di , ritenuta non errata, potrebbe portare a potenziali errori, come pensare che k sia O ( 1 ) e provare a scrivere ∑ n k = 1 k = ∑ n k = 1 O ( 1 $n$$k$$\mathcal{O}(1)$$\sum_{k=1}^{n} k = \sum_{k=1}^{n} \mathcal{O}(1)$

Se provi a pensarlo come una funzione di , allora è vero che, se f = O ( g ) (poiché l'argomento va a ∞ ) e g non è mai 0 , quello$k$$f = \mathcal{O}(g)$$\infty$$g$$0$

$$S(n) = \sum_{k=1}^{n} f(k) = \sum_{k=1}^{n} \mathcal{O}(g(k)) = \mathcal{O}(\sum_{k=1}^{n} |g(k)|)$$

Si noti che nel mezzo abbiamo usato l'abuso conveniente della notazione per indicare che per alcune funzioni h ∈ O ( g ) la somma è ∑ n k = 1 h ( k ) . Si noti che la funzione finale all'interno di O si riferisce a una funzione di n . La prova non è così difficile, ma devi fare attenzione al fatto che hai a che fare con un limite superiore asintotico (cioè per argomenti sufficientemente grandi), ma la somma inizia proprio da 1 .$\mathcal{O}(g(k))$$h \in \mathcal{O}(g)$$\sum_{k=1}^{n} h(k)$$\mathcal{O}$$n$$1$

Se provi a pensarlo come una funzione di , allora è anche vero che se f = O ( g ) (poiché l'argomento va a ∞ ), allora$n$$f = \mathcal{O}(g)$$\infty$

$$S(n) = \sum_{k=1}^{n} f(k) = \sum_{k=1}^{n} \mathcal{O}(g(n)) = \mathcal{O}(n g(n))$$

Quindi la tua prova è essenzialmente corretta, in entrambe le interpretazioni.

Quello che hai scritto è perfettamente corretto. Il -esimo numero armonico è infatti nel set O ( n ) .$n$$O(n)$

Prova: $\sum_{i=1}^n \frac{1}{i} \le \ln n + 1 \le 2n = O(n)$. $\square$

The upper bound $O(n)$ isn't tight, but it's correct.

For the second example, you can't claim that

$$i = O(1)$$

since $i$ varies with $n$. After few steps it will be the case that $i>n/2$. A more appropriate way is to say that $i = O(n)$ since indeed, throughout the summation $i$ never exceeds $1\cdot n$. By this reasoning,

$$\sum_{i=1}^n i = \sum_{i=1}^n O(n)= nO(n) = O(n^2)$$

However the right thing to do is actually use the big-O notation only at the end. Upper bound your summation as tight as you can, and only when your done use the asymptotic notations to avoid these pitfalls.