Valori attesi della complessità di Kolmogorov in un campione casuale

La complessità di Kolmogorov di una stringa non è calcolabile. Tuttavia, in un sottoinsieme casuale di dimensioni di stringhe binarie di lunghezza , quante sono previste una complessità inferiore a un numero intero inferiore a (in funzione di , e )? $M$ $n$ $n_{0}$ $n$ $M$ $n$ $n_{0}$

cc.complexity-theory kolmogorov-complexity

— vs
fonte

Stai usando la complessità "standard" di Kolmogorov qui o la complessità del prefisso?

— Aubrey da Cunha,

In realtà stavo pensando solo alla complessità di Kolmogorov. Stavo indovinando il

legato che domotorp menzionato quando si considera l'universo di tutte le stringhe. Non ero chiaro se si potesse produrre un risultato "coerente" per un sottoinsieme casuale arbitrario di dimensione

Tuttavia, la complessità del prefisso ci porterebbe a un punto di vista diverso?

2^{n_{o}}

$2^{n_{o}}$

M

$M$

— vs

Certamente non cambierebbe l'ordine di grandezza, infatti penso che ora la mia risposta sia vincolata per entrambe le versioni.

— domotorp,

Per ogni

e ogni

, la probabilità che una stringa

-bit casuale

abbia una complessità di Kolmogorov

è maggiore di

n

$n$

c

$c$

n

$n$

x

$x$

K (x) \geq n - c

$K(x) \geq n-c$

(con

). Quindi, in una distribuzione casuale distringhe

, dovresti aspettarti

1 - \frac{1}{2^{c}}

$1 - \frac{1}{2^c}$

c = n - n_{0}

$c = n-n_0$

M

$M$

stringhe con

... intuitivamente, esiste una probabilità molto alta di scegliere una stringa con elevata complessità di Kolmogorov.

\frac{M}{2^{(} n - n_{0})}

$\frac{M}{2^(n-n_0)}$

K (x) < n_{0}

$K(x) \lt n_0$

— Marzio De Biasi,

Risposte:

La complessità di Kolmogorov è determinata solo da una costante additiva, quindi non è possibile dare una risposta esatta. Il limite che descrivo qui è ancora più debole.

Naturalmente il numero previsto può essere calcolato facilmente una volta che sappiamo quante delle stringhe hanno complessità inferiore a , quindi lasciami rispondere. Di solito è la prima affermazione sulla complessità di Kolmogorov che questo numero è al massimo - poiché ci sono solo queste molte stringhe di lunghezza inferiore. D'altra parte, se il tuo programma dice "di lunghezza , prendi il numero ", otterrai stringhe di complessità inferiori a , dove $2^n$ $n_0$ $2^{n_0}-1$ $n$ $x$ $2^{n_0-K(n)-C}$ $n_0$ è la versione senza prefisso di Kolmogorov complessità del (quindi al massimo ). Più in dettaglio, la stringa contiene prima la descrizione della macchina di Turing che ha preso l'input , dove p è la descrizione di un programma senza prefisso che emette , emette il numero di lunghezza , che è bit, quindi questo è seguito da . $K(n)$ $n$ $\log n+\log^* n + O(1)$ $px$ $n$ $x$ $n$ $O(1)$ $px$

Probabilmente è possibile migliorare questi limiti, ma dubito che tu possa ottenere una risposta esatta.

— domotorp
fonte

Potresti spiegare un po 'la frase' se il tuo programma dice "di lunghezza n, prendi il numero X" "?

— vs

Hai ragione, dovrebbe essere privo di prefissi lì, l'ho corretto.

— domotorp,

$n$ $n_0$ $2^{n_0 - K(n_0|n)}$ $2^{-K(n_0|n) + O(1)}$ $n_0$ $k$ $2^{k - K(k|n)}$ $k$ $n_0$

C (a, b) = K (a | C (a, b)) + C (b | a, C (a, b)) + O (1) .

$C(a,b) = K(a|C(a,b)) + C(b|a,C(a,b)) + O(1).$

K (\cdot)

$K(\cdot)$

a = n

$a = n$

n

$n$

b

$b$

k

$k$

k = C (b) = C (n, b) + O (1) = K (n | k) + C (b | n, k) + O (1) .

$k = C(b) = C(n,b) + O(1) = K(n|k) + C(b|n,k) + O(1).$

b

$b$

C (b | n, k) = k - K (n | k) + O (1)

$C(b|n,k) = k - K(n|k)+O(1)$

k^{'} = k - K (n | k)

$k' = k - K(n|k)$

O (2^{k^{'}})

$O(2^{k'})$

b

$b$

2^{k^{'}}

$2^{k'}$

n

$n$

C (b | n, k) \leq k^{'} + O (1)

$C(b|n,k) \le k' + O(1)$

Ω (2^{k^{'}})

$\Omega(2^{k'})$

C (b | n, k) = k^{'} + O (1)

$C(b|n,k) = k' + O(1)$

— Bruno Bauwens
fonte