Cosa intendeva Turing quando affermava che "le macchine non possono suscitare sorprese" è dovuto a un errore?

Ho incontrato di seguito la dichiarazione di Alan M. Turing qui :

"L'idea che le macchine non possano suscitare sorprese è, a mio avviso, dovuta a un errore a cui filosofi e matematici sono particolarmente soggetti. Questo è il presupposto che non appena un fatto viene presentato a una mente tutte le conseguenze di quel fatto nascono la mente contemporaneamente ad essa. È un'ipotesi molto utile in molte circostanze, ma si dimentica troppo facilmente che è falsa ".

Non sono un madrelingua inglese. Qualcuno potrebbe spiegarlo in un inglese semplice?

Matematici e filosofi spesso assumono che le macchine (e qui, probabilmente, significa "computer") non possono sorprenderci. Questo perché presumono che una volta appreso alcuni fatti, comprendiamo immediatamente ogni conseguenza di questo fatto. Questo è spesso un presupposto utile, ma è facile dimenticare che è falso.

Sta dicendo che i sistemi con descrizioni semplici e limitate (ad es. Macchine di Turing) possono mostrare comportamenti molto complicati e questo sorprende alcune persone. Possiamo facilmente comprendere il concetto di macchine di Turing ma poi ci rendiamo conto che hanno conseguenze complicate, come l'indecidibilità del problema di arresto e così via. Il termine tecnico qui è che "la conoscenza non è chiusa alla detrazione". Cioè, siamo in grado di conoscere qualche fatto  $A$ , ma non sappiamo  $B$ , anche se $A$ implica  $B$ .

Onestamente, però, non sono sicuro che l'argomento di Turing sia molto valido. Forse ho il vantaggio di scrivere quasi 70 anni dopo Turing, e la mia comprensione è che il tipico matematico sa molto di più sulla logica matematica di quanto non facessero ai tempi di Turing. Ma mi sembra che i matematici abbiano in gran parte abbastanza familiarità con l'idea di sistemi semplici con comportamenti complessi. Ad esempio, ogni matematico conosce la definizione di un gruppo , che consiste di soli quattro assiomi semplici. Ma nessuno - oggi o allora - penserebbe: "Ah. Conosco i quattro assiomi, quindi conosco ogni fatto sui gruppi". Allo stesso modo, gli assiomi di Peano forniscono una descrizione molto breve dei numeri naturali, ma nessuno che li legge pensa "Bene, ora conosco tutti i teoremi sui numeri naturali. Let '

Solo un esempio - date le regole degli scacchi, chiunque dovrebbe immediatamente capire la migliore strategia per giocare a scacchi.

Certo, non funziona. Persino le persone non sono uguali e i computer potrebbero sovraperformarci a causa delle loro migliori capacità di trarre conclusioni dai fatti.

Questa è l'idea dell'emergenza , che è quando il comportamento complesso risulta dall'interazione di regole relativamente semplici. Ci sono molti esempi di questo in natura, come sottolinea quel link. Colonie di insetti, stormi di uccelli, banchi di pesci e, naturalmente, coscienza. In uno stormo di uccelli o banchi di pesci, ogni individuo nello sciame prende solo decisioni in base agli altri che li circondano immediatamente, ma quando metti insieme un gruppo di quegli individui tutti seguendo queste regole, inizi a vedere un comportamento più coordinato rispetto a ti aspetteresti senza un piano di livello superiore. Se vai su Youtube e guardi dimostrazioni di sciami di robot, vedi che tutti evitano di picchiarsi l'un l'altro e lavorano all'unisono. Sorprendentemente ciò non deve essere realizzato facendo in modo che un singolo computer centrale coordini il comportamento di ogni singolo robot, ma può invece essere fatto usando la robotica di sciami dove, come gli insetti o gli uccelli o i pesci, ogni robot sta prendendo decisioni locali che portano al coordinamento emergente.

Un'altra interessante dimostrazione del comportamento emergente è Conway's Game of Life . Le regole del gioco sono estremamente semplici, ma possono portare a risultati molto affascinanti

Un argomento allettante contro la capacità dei computer di acquisire intelligenza umana è quello di dire che poiché possono solo fare esattamente ciò per cui sono programmati, devono solo mostrare l'intelligenza con cui li programmiamo. Se ciò fosse vero, allora non ci aspetteremmo che il comportamento relativamente semplice dei neuroni dia origine all'intelligenza umana. Tuttavia, per quanto ne sappiamo, questo è il caso e la coscienza è una proprietà emergente dell'elaborazione neurale. Sono sicuro che Turing avrebbe adorato vedere cosa è diventato possibile oggi con l'uso di reti neurali artificiali

La gente potrebbe presumere che se scrivo un programma e comprendo completamente l'algoritmo e non ci sono bug, dovrei sapere quale sarebbe l'output di quel programma e che non dovrebbe sorprendermi.

Turing afferma (e sono d'accordo) che non è così: l'output può essere sorprendente. La soluzione a un problema del venditore ambulante può essere sorprendente. Il modo migliore per costruire un sommatore completo può essere sorprendente. La mossa migliore in una partita a scacchi può essere sorprendente.