Qual è la definizione "giusta" dei limiti superiore e inferiore?

19

Sia $f(n)$ il peggior tempo di esecuzione di un problema sull'input di dimensione $n$ . Facciamo un po 'strano il problema fissando $f(n) = n^2$ per $n=2k$ ma $f(n) = n$ per $n=2k+1$ .

Quindi, qual è il limite inferiore del problema? Il modo in cui l'ho capito è solo il limite inferiore di $f(n)$ . Ma sappiamo che $f(n) = \Omega(n^2)$ implica che esiste una costante $k$ , $n_0$ tale che per tutti $n > n_0$ , $f(n) > kn^2$ , il che non è vero. Quindi sembra che possiamo solo dire $f(n) = \Omega(n)$ . Ma di solito, chiameremo il problema ha un limite inferiore di $\Omega(n^2)$ , giusto?
Supponendo che $g(n) = \Omega(n^2)$ , ciò significa che esiste una costante $k$ , $n_0$ tale che per tutto $n > n_0$ , $g(n) > kn^2$ . Supponiamo anche che un problema abbia il tempo di esecuzione $g(n)$ . Se possiamo ridurre questo problema per tutti i numeri primi $n$ a un altro problema (con le stesse dimensioni di input), possiamo dire che il tempo di esecuzione dell'altro problema ha un limite inferiore di $\Omega(n^2)$ ?

cc.complexity-theory time-complexity

— Wei Yu
fonte

12

Questo è il motivo per cui i matematici usano lim sup e lim inf.

— Peter Shor,

1

Quindi penso di capire la differenza. Penso che le persone in post capiranno Omega come infinitamente spesso. Ma nel caso in cui volessi fare una distinzione esplicita, ci sono delle notazioni che posso usare oltre a espanderlo?

— Wei Yu,

3

@Wei Yu: lim sup e lim inf. Tu dici

per qualche costante

se si vuole dire che

infinitamente spesso e

lim sup \frac{g (n)}{n^{2}} \geq k

$\limsup \frac{g(n)}{n^2} \geq k$

k

$k$

g (n) \geq k n^{2}

$g(n) \geq k n^2$

se si desidera dire

per tutti sufficientemente grandi

. Soprattutto se stai parlando con i matematici.

lim inf \frac{g (n)}{n^{2}} \geq k

$\liminf \frac{g(n)}{n^2} \geq k$

g (n) \geq k n^{2}

$g(n) \geq k n^2$

n

$n$

$\$

— Peter Shor,

12

@Wei: per la maggior parte dei teorici della complessità (vedi Lance di seguito), la tua funzione è θ (n ^ 2); per la maggior parte degli algoritmi (vedi Knuth o CLRS), la tua funzione è Ο (n ^ 2) e Ω (n). Entrambe le notazioni sono quasi, ma non completamente, standard nelle loro sottocomunità; a peggiorare le cose, queste due sottocomunità si sovrappongono pesantemente! Quindi, se importa quale notazione usi, devi dire esplicitamente quale notazione stai usando. (Fortunatamente, raramente importa.)

— Jeffε

2

@Jeffe. Credo che dovresti pubblicare il tuo commento come risposta.

— Chazisop,

13

La giusta definizione di è che esiste qualche tale che per infinitamente molti , . La definizione infinitamente frequente di limiti inferiori gestisce i tuoi problemi ed è il modo in cui li utilizziamo nella pratica. $f(n)=\Omega(n^2)$ $k>0$ $n$ $f(n)\geq kn^2$

Ho pubblicato un post su questo nel 2005.

Alcuni libri di testo ottengono questa definizione, altri no.

— Lance Fortnow
fonte

14

Knuth non è d'accordo con te: portal.acm.org/citation.cfm?id=1008329

— Jeffε

4

Anche CLRS e Wikipedia non sono d'accordo con te. La definizione infinitamente frequente è un'alternativa degna di nota, ma sembra essere meno utilizzata.

— Anonimo

penso che tutte queste definizioni concordino quando l'insieme delle eccezioni è la misura 0.

— Carter Tazio Schonwald

2

Il problema con le definizioni "infinitamente spesso" è che di solito non escludono "infinitamente spesso no". Quindi abbiamo l'orribile conseguenza che con questa definizione

ma anche

f (n) = Ω (n^{2})

$f(n)=\Omega(n^2)$

, dove

e

f (n) = o (n + 1)

$f(n)=o(n+1)$

Ω

$\Omega$

o

$o$ sono intesi come ordini rigorosi in un certo senso. Non mi piace molto. Almeno il suggerimento di @ Carter sulle eccezioni della misura 0 è un po 'meno orribile, pur consentendo un ordine più fine del solito.

— András Salamon,

2

@Jukka: No, sto abusando

qui. Come suggerisci, devo correggere la mia tesi per usare

invece di

. Permettetemi quindi ribadire l'obiezione reale senza utilizzare

o

. Con "infinitamente spesso", si ha l'anomalia che

,

, eppure

. Quindi

non costituisce nemmeno un preordine.

o

$o$

O

$O$

o

$o$

o

$o$

O

$O$

n = Ω (f (n))

$n = \Omega(f(n))$

f (n) = Ω (n^{2})

$f(n) = \Omega(n^2)$

n \neq Ω (n^{2})

$n \ne \Omega(n^2)$

Ω

$\Omega$

— András Salamon,

4

Con la definizione di Knuth puoi affermare solo . Come notate , questo non è intuitivo e accade per le funzioni che Vitányi e Meertens definiscono "selvagge". Propongono di definire $f(n)\in\Omega(n)$

Ω (f (n)) = {g ∣ \exists δ > 0 : \forall n_{0} > 0 : \exists n > n_{0} : g (n) \geq δ f (n)} .

$\Omega(f(n))=\{ g \mid \exists \delta>0:\forall n_0>0:\exists n>n_0: g(n)\geq \delta f(n)\}\textrm{.}$

(È uguale alla definizione di Lance.) Con questa definizione . $f(n)\in\Omega(n^2)$

— Marcus Ritt
fonte

2

Non conosco il più ampiamente usato, ma credo di sapere dell'uso più antico (comunque per l'informatica).

Nel documento del 1965 di Hartmanis & Stearns "Sulla complessità computazionale degli algoritmi", Corollary 2.1 è:

Se e sono funzioni temporali tali che $U$ $T$ quindi $\inf_{n \rightarrow \infty} \frac{T(n)}{U(n)} \geq 0$ $S_{U} \subseteq S_{T}$

dove è la classe di complessità di tutti i problemi calcolabili in . T (n) deve obbedire a per alcuni interi e tutti e $S_{K}$ $O( K(n) )$ $T(n) \geq n/k$ $k$ $n$ $T(n) \leq T(n+1)$ , ma non deve essere costruibile nel tempo.

La tua funzione obbedisce alla prima regola per $k = 1$ ma non obbedisce alla seconda regola.

Corollary 2.2 è il destinatario di quanto sopra e utilizza limit supremum, ma ha ancora questi requisiti. Immagino che con il passare degli anni gli algoritmi siano diventati più complessi, è possibile che i requisiti siano stati ridotti.

— chazisop
fonte

2

Penso che dovremmo distinguere tra due cose:

un limite inferiore per una funzione
un limite inferiore per un problema (algoritmo)

Per le funzioni, quando fissiamo un ordine, ne deriva la definizione di lowerbound / upperbound . Se la relazione d'ordine è la majorization asintotica (ignorando i fattori costanti)

f ⪯ g : \exists c, n \forall m > n . f (x) \leq c g (x)

$f \preceq g : \exists c,n \forall m>n. \ f(x) \leq c g(x)$

quindi la definizione è la solita definizione di e . Entrambi sono ampiamente utilizzati in altre aree come la combinatoria. $O$ $\Omega$

Ma quando parliamo di un limite inferiore per un problema (un algoritmo) ciò che vogliamo davvero dire è che il problema richiede una certa quantità di risorse (per eseguire l'algoritmo per risolvere il problema). Spesso le classi di complessità sono parametrizzate da funzioni come , e diciamo semplicemente che il problema è limitato da una funzione, ma funziona solo per funzioni piacevoli (ad es. Il tempo di esecuzione dell'algoritmo è monotono, ecc.). Quello che vogliamo dire in questi casi è che abbiamo bisogno di tempo di esecuzione per risolvere il problema, cioè meno di $\mathbf{Time}(t(n))$ $n^2$ $n^2$ $o(t(n))$

— Kaveh
fonte