Qual è la rilevanza di AIXI sull'attuale ricerca sull'intelligenza artificiale?

Da Wikipedia:

AIXI ['ai̯k͡siː] è un formalismo matematico teorico per l'intelligenza generale artificiale. Combina l'induzione di Solomonoff con la teoria delle decisioni sequenziale. AIXI è stato proposto per la prima volta da Marcus Hutter nel 2000 [1] e i risultati seguenti sono stati dimostrati nel libro di Intelligenza Artificiale Universale del 2005 del 2005 [2].

Sebbene non calcolabili, sono possibili approssimazioni, come AIXItl . Trovare approssimazioni ad AIXI potrebbe essere un modo oggettivo per risolvere l'IA.

AIXI è davvero un grosso problema nella ricerca di intelligenza generale artificiale ? Può essere pensato come un concetto centrale per il campo? Se è così, perché non abbiamo più pubblicazioni su questo argomento (o forse abbiamo e non ne sono consapevole)?

"L'attuale ricerca sull'intelligenza artificiale" è un campo piuttosto ampio. Da dove mi siedo, in un regno prevalentemente CS, le persone si concentrano su un'intelligenza ristretta che può fare un lavoro economicamente rilevante su compiti ristretti. (Cioè, prevedere quando i componenti falliranno, prevedere quali annunci un utente farà clic e così via.)

Per questo tipo di strumenti, la generalità di un formalismo come AIXI è un punto debole anziché un punto di forza. Non hai bisogno di prendere un'intelligenza artificiale che in teoria potrebbe calcolare qualsiasi cosa, quindi allenarla lentamente per concentrarti su ciò che desideri, quando potresti semplicemente modellare direttamente uno strumento che è il mirror del tuo compito.

Non ho familiarità con la stessa ricerca AGI, ma la mia impressione è che AIXI sia, in una certa misura, l'idea più semplice che potrebbe funzionare: prende tutto il difficile e lo spinge nel calcolo, quindi è 'solo una sfida ingegneristica .' (Questa è la parte del "trovare approssimazioni ad AIXI".) La domanda diventa allora: sta iniziando da AIXI e sta provando ad approssimare un percorso di ricerca più o meno fruttuoso che a partire da qualcosa di piccolo e funzionale, e cercando di costruire?

La mia impressione è che quest'ultima sia molto più comune, ma di nuovo vedo solo un piccolo angolo di questo spazio.

AIXI è davvero un grosso problema nella ricerca di intelligenza generale artificiale?

Sì, è un grande contributo teorico all'AGI. AFAIK, è il tentativo più serio di costruire un quadro teorico o una base per AGI. Opere simili sono le macchine Gödel di Schmidhuber e l' architettura SOAR .

AIXI è un framework astratto e non antropomorfo per AGI che si basa sul campo dell'apprendimento del rinforzo, senza alcune assunzioni solite (ad es. Senza Markov e ipotesi di ergodicità , che garantisce che l'agente possa facilmente recuperare da qualsiasi errore commesso il passato). Anche se alcune proprietà di ottimalità di AIXI sono state dimostrate, è (Turing) incomparabile (non può essere eseguito su un computer), quindi è di utilità pratica molto limitata. Tuttavia, nel libro di Hutter's Intelligenza artificiale universale: decisioni sequenziali basate sulla probabilità algoritmica(2005), dove diverse proprietà di AIXI sono rigorosamente provate, viene anche descritta una versione calcolabile ma intrattabile di AIXI, AIXItl. Inoltre, nel documento A Monte Carlo AIXI Approximation (2009), di Joel Veness et al., Viene introdotta un'approssimazione calcolabile e trattabile di AIXI. Quindi, ci sono stati alcuni tentativi di rendere AIXI praticamente utile.

L'articolo Che cos'è AIXI? - Un'introduzione al General Reinforcement Learning (2015), di Jan Leike, che è uno dei contributori allo sviluppo e all'evoluzione del framework AIXI, offre un'introduzione delicata all'agente AIXI. Vedi anche L'architettura AIXI alla Stanford Encyclopedia of Philosophy per un'introduzione forse più delicata ad AIXI.

Può essere pensato come un concetto centrale per il campo?

Sì, l'introduzione di AIXI e la ricerca correlata hanno contribuito all'evoluzione del campo AGI. Ci sono state diverse discussioni e articoli pubblicati, dopo la sua introduzione nel 2000 da parte di Hutter nel documento Una teoria dell'intelligenza artificiale universale basata sulla complessità algoritmica .

Vedi ad esempio la sezione 7, "Esempi di superintelligenze", dell'articolo Artificial General Intelligence e Human Mental Model (2012), di Roman V. Yampolskiy e Joshua Fox. Vedi anche https://wiki.lesswrong.com/wiki/AIXI che contiene una discussione su alcuni problemi relativi ad AIXI, che devono essere risolti o eventualmente evitati nei futuri quadri AGI. Inoltre, vedi anche questo e questo articolo.

Se è così, perché non abbiamo più pubblicazioni su questo argomento (o forse abbiamo e non ne sono consapevole)?

Sono state pubblicate diverse pubblicazioni, principalmente di Marcus Hutter e ricercatori associati. Puoi vedere le pubblicazioni di Marcus Hutter sulla seguente pagina web: http://www.hutter1.net/official/publ.htm .

Se sei interessato a contribuire a questa teoria, ci sono diversi modi. Se sei matematicamente ben istruito, puoi provare a risolvere alcuni dei problemi descritti qui (che sono anche menzionati nel libro di Hutter del 2005 menzionato sopra). Inoltre, puoi anche contribuire a nuove approssimazioni o miglioramenti delle approssimazioni esistenti dell'agente AIXI. Infine, puoi costruire il tuo nuovo framework AGI evitando i problemi associati al framework AIXI. Vedi anche i progetti promossi da Hutter . Potrebbe essere una buona idea tenere conto, ad esempio, delle macchine Gödel e del lavoro correlato, prima di tentare di introdurre un nuovo framework (a condizione che tu ne sia capace).

Penso che questa teoria non abbia attratto più persone probabilmente perché è altamente tecnica e matematica (quindi non è molto facile da capire se non si ha un background molto solido nell'apprendimento di rinforzo, teoria della probabilità, ecc.). Penso anche che la maggior parte delle persone (nella comunità AI) non siano interessate alle teorie, ma sono principalmente guidate da risultati pratici e utili.

AIXI è davvero un framework concettuale. Rimane ancora tutto il duro lavoro di compressione dell'ambiente.

Per discutere ulteriormente la domanda sollevata nella risposta di Matthew Graves: dato il nostro attuale livello limitato di capacità di rappresentare ambienti complessi, mi sembra che non faccia molta differenza pratica se inizi con AIXI come definizione del "top" di il sistema e il funzionamento (ad esempio tramite metodi di compressione apparentemente generalizzati) o iniziare dal basso e provare a risolvere i problemi in un singolo dominio tramite metodi specifici del dominio che (si spera) possono essere successivamente astratti per fornire la compressione tra domini.