Stavo leggendo la voce di Wikipedia su Kolmogorov Complexity ( grazie a questa domanda ), che afferma:
Si può dimostrare che la complessità di Kolmogorov di qualsiasi stringa non può essere maggiore di qualche byte in più della lunghezza della stringa stessa.
Perché mai avresti bisogno di qualcosa di più della stringa stessa per descriverlo?
Risposte:
Il valore esatto della complessità di Kolmogorov dipende dalla lingua scelta per rappresentare le stringhe. Questa lingua deve essere Turing completa, quindi rappresentare tutte le stringhe come esse stesse non è un'opzione.
Secondo il principio del buco del piccione, se c'è almeno una stringa di lunghezza al massimo cui rappresentazione è più corta di se stessa, allora c'è anche almeno una stringa di lunghezza al massimo n la cui rappresentazione è più lunga di se stessa. (La rappresentazione è un algoritmo di compressione.)
Puoi avere un linguaggio descrittivo in cui ogni stringa ha una rappresentazione che sia al massimo un po 'più lunga di se stessa: avvia ogni rappresentazione con un bit che indica "stampa letteralmente" o "interpreta". Tuttavia, non tutte le lingue descrittive sono così semplici.
La descrizione di una stringa considerata qui è un input per alcune macchine universali di Turing. Puoi pensarlo come un programma C. La stringa hello worldnon, di per sé, formano un programma C, ma la successiva fa: int main(int argc, char *argv[]) { printf("hello world"); }. Come puoi vedere, l'overhead è costante ma non zero.