Prova che un albero di ricerca binario costruito casualmente ha un'altezza logaritmica

Come si dimostra che l'altezza prevista di un albero di ricerca binario creato casualmente con nodi è ? C'è una prova in CLRS Introduzione agli algoritmi (capitolo 12.4), ma non lo capisco. $n$ $O(\log n)$

— user1675999
fonte

Quale domanda? Quale esempio? Modifica e fornisci tutti i dettagli.

— Ran G.

Si prega di evitare l'uso di abbreviazioni (come BST) e presumere che la maggior parte di noi non abbia il libro CLRS. Se potessi copiare qui il teorema e spiegare cosa non capisci, otterrai più risposte.

— Ran G.

Questo dipenderà da come viene costruito l'albero di ricerca binario. (Anche se il risultato non lo è, la prova lo farà.) Alcuni ulteriori dettagli sarebbero utili.

— Peter Shor,

Pensiamo prima a questo in modo intuitivo. Nel migliore dei casi, l'albero è perfettamente bilanciato; nello scenario peggiore, l'albero è completamente sbilanciato:

Albero di ricerca binario bilanciato in altezza Albero di ricerca binario nel caso peggiore

A partire dal nodo radice , questo albero a sinistra ha il doppio del numero di nodi a ciascuna profondità successiva, in modo tale che l'albero abbia nodi e un'altezza (che è in questo caso 3). Con un po 'di matematica, $p$ $n=\sum_{i=0}^{h}2^i =2^{h+1}-1$ $h$ , ovveroaltezza . Per l'albero completamente sbilanciato, l'altezza dell'albero è semplicemente . Quindi abbiamo i nostri limiti. $n\le2^{h+1}-1\rightarrow h\le\lceil\log_2(n+1)-1\rceil\le\lfloor log_2 n\rfloor$ $O(\log n)$ $n-1\rightarrow O(n)$

Se stessimo costruendo un albero bilanciato da un elenco ordinato , sceglieremmo l'elemento centrale come nodo radice. Se invece stiamo costruendo casualmente un albero, è probabile che uno qualsiasi dei nodi sia raccolto e l'altezza del nostro albero sia: $\{ 1,2,\dots,n\}$ $n$ Sappiamo che in un albero di ricerca binario, la sottostruttura sinistra deve contenere solo chiavi inferiori al nodo radice. Pertanto, se scegliamo casualmente l'elemento , la sottostruttura sinistra haelementi e la sottostruttura destra haelementi, quindi in modo più compatto:

h e io g h t_{t r e e} = 1 + max (h e io g h t_{l e f t S u B t r e e}, h e io g h t_{r io g h t S u B t r e e})

$height_{tree}=1+\max (height_{left\space subtree}, height_{right\space subtree})$

i^{t h}

$i^{th}$

i - 1

$i-1$

n - i

$n-i$

. Da lì, ha senso che se ogni elemento ha la stessa probabilità di essere raccolto, il valore atteso è solo la media di tutti i casi (piuttosto che una media ponderata). Quindi:

h_{n} = 1 + max (h_{i - 1}, h_{n - i})

$h_n=1+\max (h_{i-1},h_{n-i})$

E [h_{n}] = \frac{1}{n} \sum_{i = 1}^{n} [1 + max (h_{i - 1}, h_{n - i})]

$\operatorname{E}[h_n]=\frac{1}{n}\sum_{i=1}^{n}[1+\max (h_{i-1},h_{n-i})]$

Come sono certo che hai notato, mi sono leggermente discostato dal modo in cui CLRS lo dimostra, perché CLRS utilizza due tecniche di prova relativamente comuni che sono sconcertanti per i non iniziati. Il primo è usare esponenti (o logaritmi) di ciò che vogliamo trovare (in questo caso altezza), il che rende la matematica un po 'più chiara; il secondo è usare le funzioni dell'indicatore (che sto per ignorare qui). CLRS definisce l' altezza esponenziale come , quindi la ricorrenza analoga è $Y_n=2^{h_n}$ $Y_n=2\times\max (Y_{i-1},Y_{n-i})$ .

Supponendo che l'indipendenza (che ogni disegno di un elemento (tra gli elementi disponibili) sia la radice di una sottostruttura sia indipendente da tutti i disegni precedenti), abbiamo ancora la relazione: per i quali ho eseguito due passaggi: (1) spostando

E [Y_{n}] = Σ_{io = 1}^{n} \frac{1}{n} E [2 \times max (Y_{io - 1}, Y_{n - io})] = \frac{2}{n} Σ_{io = 1}^{n} E [max (Y_{io - 1}, Y_{n - io})]

$\operatorname{E}[Y_n]=\sum_{i=1}^{n}\frac{1}{n}\operatorname{E}[2\times\max (Y_{i-1},Y_{n-i})]=\frac{2}{n}\sum_{i=1}^{n}\operatorname{E}[\max (Y_{i-1},Y_{n-i})]$

esterno perché è una costante e una delle proprietà delle sommazioni è che

e (2) spostando il 2 esterno perché è anche una costante e una delle proprietà dei valori previsti è

. Ora sostituiremo lafunzione

con qualcosa di più grande perché altrimenti semplificare è difficile. Se sosteniamo

non negativo,

\frac{1}{n}

$\frac{1}{n}$

\sum_{i} c i = c \sum_{i} i

$\sum_i ci=c\sum_i i$

E [a x] = a E [x]

$\operatorname{E}[ax]=a\operatorname{E}[x]$

max

$\max$

X

$X$

Y

$Y$

, quindi:

E [max (X, Y)] \leq E [max (X, Y) + min (X, Y)] = E [X] + E [Y]

$\operatorname{E}[\max(X,Y)]\le\operatorname{E}[\max(X,Y)+\min(X,Y)]=\operatorname{E}[X]+\operatorname{E}[Y]$

tale che l'ultimo passaggio segue dall'osservazione che per

e andando tutto modo per

E [Y_{n}] \leq \frac{2}{n} Σ_{io = 1}^{n} (E [Y_{io - 1}] + E [Y_{n - io}]) = \frac{2}{n} Σ_{io = 0}^{n - 1} 2 E [Y_{io}]

$\operatorname{E}[Y_n]\le\frac{2}{n}\sum_{i=1}^{n}(\operatorname{E}[Y_{i-1}]+\operatorname{E}[Y_{n-i}])=\frac{2}{n}\sum_{i=0}^{n-1}2\operatorname{E}[Y_{i}]$

i = 1

$i=1$

Y_{i - 1} = Y_{0}

$Y_{i-1}=Y_{0}$

Y_{n - i} = Y_{n - 1}

$Y_{n-i}=Y_{n-1}$

i = n

$i=n$

Y_{i - 1} = Y_{n - 1}

$Y_{i-1}=Y_{n-1}$

, quindi ogni termine da

Y_{n - i} = Y_{0}

$Y_{n-i}=Y_{0}$

appare due volte, quindi possiamo sostituire l'intera somma con una analoga. La buona notizia è che abbiamo una ricorrenza

Y_{0}

$Y_0$

Y_{n - 1}

$Y_{n-1}$

; la cattiva notizia è che non siamo molto più avanti di dove abbiamo iniziato.

E [Y_{n}] \leq \frac{4}{n} \sum_{i = 0}^{n - 1} E [Y_{i}]

$\operatorname{E}[Y_n]\le\frac{4}{n}\sum_{i=0}^{n-1}\operatorname{E}[Y_{i}]$

A questo punto, CLRS tira una prova di induzione dal loro ... repertorio di esperienza matematica, uno che include un'identità $\operatorname{E}[Y_n]\le\frac{1}{4}\binom{n+3}{3}$ $\sum_{i=0}^{n-1}\binom{i+3}{3}=\binom{n+3}{4}$ $n^3$ $Y_n=2^{h_n}$ $h_n=\log_2n^3=3\log_2n\rightarrow O(\log n)$ $n^k$ $k$

2^{E [X_{n}]} \leq E [Y_{n}] \leq \frac{4}{n} Σ_{io = 0}^{n - 1} E [Y_{io}] \leq \frac{1}{4} (\binom{n + 3}{3}) = \frac{(n + 3) (n + 2) (n + 1)}{24} \to E [h_{n}] = O (\log n)

$2^{\operatorname{E}[X_n]}\le \operatorname{E}[Y_n]\le \frac{4}{n}\sum_{i=0}^{n-1}\operatorname{E}[Y_i]\le\frac{1}{4}\binom{n+3}{3}=\frac{(n+3)(n+2)(n+1)}{24}\rightarrow \operatorname{E}[h_n]=O(\log n)$

— Merbs
fonte

WOW GRAZIE !!!! Anche se non conosco il valore atteso, questo tipo di senso ha senso. Non ho fatto un corso di matematica discreto prima di fare algoritmi. Pubblicherò altri commenti, se avessi qualche dubbio. Grazie Merbs.

— user1675999,

ma perché esattamente l'altezza esponenziale è inferiore o uguale al binomio scelto? Continuo a non capire perché non possiamo scegliere nessun altro binomio con un termine diverso e fare esattamente la stessa matematica ... probabilmente sono stupido ma non riesco proprio a capire perché ... e fino a questo punto la prova ha perfettamente senso, quindi hanno dovuto semplicemente estrarre qualcosa completamente dal nulla e senza alcuna spiegazione ci dicono che "prova" che hanno ragione ...

— Zeks,

@Zeks Quindi, possiamo scegliere altri binomi con termini più grandi. Se il termine è ancora polinomiale ( n^k), la conclusione è la stessa perché kviene rilasciata nella notazione big-O (il modo 3 è stato eliminato). Ma se sostituissimo con qualcosa di esponenziale ( e^n), sarebbe comunque un limite superiore corretto , ma non stretto . Sappiamo che l'altezza prevista è almeno logaritmica, quindi determinare che sia al massimo logaritmico la rende stretta.

— Merbs,

@DavidNathan Non capisco la tua preoccupazione - dubiti che 1 / n sia una costante o che possa essere spostato fuori dalla somma? Come la costante 2, viene in gran parte eliminato a scopo illustrativo, per semplificare la restante dimostrazione.

— Merbs,