Quali sono alcune implicazioni dei teoremi di Gödel sulla ricerca dell'intelligenza artificiale?

Nota: la mia esperienza con il teorema di Gödel è piuttosto limitata: ho letto Gödel Escher Bach; scremato la prima metà di Introduzione al teorema di Godel (di Peter Smith); e alcune cose casuali qua e là su Internet. Cioè, ho solo una vaga comprensione di alto livello della teoria.

Secondo la mia modesta opinione, il teorema di incompletezza di Gödel (e i suoi numerosi teoremi correlati, come il problema di Halting e il teorema di Löbs) sono tra le scoperte teoriche più importanti.

Tuttavia è un po 'deludente osservare che non ci sono molte (almeno per quanto ne so) applicazioni teoriche dei teoremi, probabilmente in parte dovute a 1. la natura ottusa della prova 2. le forti implicazioni filosofiche che le persone non sono disposto a impegnarsi facilmente verso.

Nonostante ciò, ci sono ancora alcuni tentativi di applicare i teoremi in una filosofia della mente / contesto AI. In cima alla mia testa:

L'argomento di Lucas-Penrose : che sostiene che la mente non è implementata su un sistema formale (come nel computer). (Non è una prova molto rigida comunque)

Apparentemente parte della ricerca del MIRI utilizza Löbs Thereom, anche se l'unico esempio che conosco è la cooperazione degli agenti Löbian.

Sono davvero fantastici, ma ci sono altri esempi? Soprattutto quelli che sono in realtà considerati seriamente dalla comunità accademica.

(cfr. Quali sono le implicazioni filosofiche del primo teorema di incompletezza di Gödel su SE)

Sicuramente ci sono molte implicazioni per l'IA, tra cui:

1. L'inferenza con la logica del primo ordine è semi-decidibile. Questa è una grande delusione per tutte le persone che volevano usare la logica come strumento di intelligenza artificiale primario.

2. L'equivalenza di base di due affermazioni logiche del primo ordine è indecidibile, il che ha implicazioni per sistemi e database basati sulla conoscenza. Ad esempio, l'ottimizzazione delle query del database è un problema indecidibile a causa di ciò.

3. L'equivalenza di due grammatiche libere dal contesto è indecidibile, il che rappresenta un problema per l'approccio linguistico formale all'elaborazione linguistica

4. Quando si pianifica l'IA, la ricerca di un piano fattibile è indecidibile per alcuni linguaggi di pianificazione necessari nella pratica.

5. Quando eseguiamo la generazione automatica di programmi, ci troviamo di fronte a una serie di risultati di decidibilità, dal momento che qualsiasi linguaggio di programmazione ragionevole è potente come una macchina di Turing.

6. Infine, tutte le domande non banali su un paradigma di calcolo espressivo, come le reti o gli automi cellulari, sono indecidibili.

Ho scritto un ampio articolo su questo circa venti anni fa, che è stato pubblicato in Engineering Applications of Artificial Intelligence 12 (1999) 655-659 . È abbastanza tecnico e puoi leggerlo per intero sul mio sito web personale, ma ecco la conclusione:

In quanto sopra è stato dimostrato che ci sono infinite costruzioni di prove nel teorema di Gödel - in contrasto con quello usato finora nelle discussioni sull'intelligenza artificiale. Sebbene tutte le costruzioni che sono state effettivamente divulgate possano essere imitate da un computer, è evidente che ci sono costruzioni che non sono state ancora divulgate. La nostra analisi ha dimostrato che potrebbero esistere costruzioni che potrebbero essere scoperte solo da un essere umano. Questo è un piccolo "forse" indiscutibile che dipende dai limiti dell'immaginazione umana.

Quindi, le persone che sostengono l'equivalenza matematica di esseri umani e macchine alla fine devono fare affidamento sulla loro convinzione in una mente limitata, il che implica che la loro conclusione è contenuta nel loro presupposto. D'altra parte, le persone che sostengono la superiorità degli umani devono assumere questa superiorità nei loro argomenti matematici, in ultima analisi, derivando solo dalla conclusione che era già presente nel loro sistema di ragionamento fin dall'inizio.

Pertanto, non è possibile produrre argomentazioni (meta) matematicamente solide sulla relazione tra la mente umana e la Macchina di Turing senza fare un presupposto sulla mente umana che è allo stesso tempo la conclusione dell'argomento. Pertanto, la questione è indecidibile.

Disclaimer: da allora ho lasciato il mondo accademico, quindi non conosco il pensiero contemporaneo.

Ho trovato questo articolo del matematico e filosofo Solomon Feferman sulla conferenza di Gibbs di Gödel del 1951 su alcune conseguenze filosofiche dei teoremi di incompletezza , mentre leggevo il seguente articolo di Wikipedia

Filosofia dell'intelligenza artificiale ,

il cui abstract ci dà (come previsto) un'idea di alto livello di ciò che è discusso nello stesso:

Questa è un'analisi critica della prima parte della conferenza di Gibbs di Gödel del 1951 su alcune conseguenze filosofiche dei teoremi di incompletezza.

La discussione di Gödel è inquadrata in termini di distinzione tra matematica oggettiva e matematica soggettiva , in base alla quale la prima consiste delle verità della matematica in senso assoluto, e la seconda consiste di tutte le verità umanamente dimostrabili.

La domanda è se questi coincidano; se lo fanno, nessun sistema assiomatico formale (o macchina di Turing ) può comprendere le potenzialità matematizzanti del pensiero umano e, in caso contrario, ci sono problemi matematici assolutamente irrisolvibili della forma diottantina.

O ... la mente umana ... supera infinitamente i poteri di qualsiasi macchina finita, oppure esistono problemi di diottasia assolutamente irrisolvibili.

che può interessare, almeno filosoficamente, alla ricerca sull'intelligenza artificiale. Temo che questo documento possa essere simile all'articolo a cui ti stai collegando riguardo ai "tentativi" o argomenti filosofici di Lucas e Penrose.