Quali sono i componenti necessari per rendere auto-programmabile l'agente AI?

Spesso si pensa che un agente AI abbia "sensori", "memoria", "processori di apprendimento automatico" e componenti "reazione". Tuttavia, una macchina con queste non diventa necessariamente un agente AI autoprogrammante. Oltre alle parti sopra menzionate, ci sono altri elementi o dettagli necessari per rendere una macchina in grado di essere un agente AI autoprogrammante?

Ad esempio, un documento del 2011 ha dichiarato che la risoluzione del problema di ottimizzazione della massimizzazione dell'intelligence è una caratteristica indispensabile per il processo di autoprogrammazione, come riportato di seguito:

Si dice che un sistema esegua un'istanza di autoprogrammazione quando subisce l'apprendimento di alcuni elementi della sua "infrastruttura cognitiva", dove quest'ultimo è definito come l'insieme sfocato delle caratteristiche "critiche dell'intelligenza" del sistema; e la criticità dell'intelligence di una funzionalità di sistema è definita come la "qualità delle funzionalità", considerata dal punto di vista della risoluzione del problema di ottimizzazione della massimizzazione dell'intelligenza di un sistema multi-funzionalità.

Tuttavia, questa descrizione di "ottimizzazione dell'intelligence" è vaga. Qualcuno può fornire una definizione chiara o un riepilogo migliore dei componenti necessari per gli agenti di autoprogrammazione?

_{Questa domanda è della closed beta del 2014, con il richiedente che ha un UID di 23.}

Al livello più alto, tutto ciò che serve è che i vari sistemi già discussi incorporino oggetti di codice. Se è in grado di interpretare la sua architettura del codice sorgente / modello dagli oggetti di testo formattati su cui si basano, può "capirli" in termini di avere un utile modello ML e alterare il codice con la sua reazione, quindi può auto-programmare.

Cioè, il ciclo di base dietro un'intelligenza che migliora ricorsivamente è semplice. Esamina se stesso, scrive una nuova versione, quindi quella nuova esamina se stessa e scrive una nuova versione e così via.

Il componente difficile arriva a livelli più bassi. Non abbiamo bisogno di inventare un nuovo concetto come "sensore", ciò che dobbiamo fare è costruire sensori molto, molto sofisticati che siano uguali al compito di comprendere il codice abbastanza bene da rilevare e scrivere miglioramenti.