Una singolarità tecnologica può verificarsi solo con la superintelligenza?

Nel capitolo 26 del libro Intelligenza artificiale: un approccio moderno (terza edizione), il libro di testo discute della "singolarità tecnologica". Cita IJ Good, che scrisse nel 1965:

Lascia che una macchina ultra-intelligente sia definita come una macchina che può superare di gran lunga tutte le attività intellettuali di qualsiasi uomo per quanto intelligente. Poiché la progettazione di macchine è una di queste attività intellettuali, una macchina ultra-intelligente potrebbe progettare macchine ancora migliori; ci sarebbe quindi senza dubbio una "esplosione di intelligenza" e l'intelligenza dell'uomo sarebbe lasciata molto indietro. Quindi la prima macchina ultra-intelligente è l' ultima invenzione che l'uomo deve mai fare, a condizione che la macchina sia abbastanza docile da dirci come tenerla sotto controllo.

Più avanti nel libro di testo hai questa domanda:

26.7 - IJ Good afferma che l'intelligenza è la qualità più importante e che la costruzione di macchine ultra-intelligenti cambierà tutto. Un ghepardo senziente ribatte che "In realtà la velocità è più importante; se potessimo costruire macchine ultraveloci, ciò cambierebbe tutto" e un elefante senziente afferma "Sbagli entrambi; ciò di cui abbiamo bisogno sono macchine ultrastrong," Cosa ne pensi di queste argomenti?

Sembra che la questione del libro di testo sia un argomento implicito contro IJ Good. Il bene può essere considerare l'intelligenza come preziosa, semplicemente perché i punti di forza dell'uomo risiedono in quel tratto chiamato "intelligenza". Ma altri tratti potrebbero essere valutati allo stesso modo (velocità o forza) e gli esseri senzienti possono speculare selvaggiamente sul fatto che i loro tratti preferiti siano "massimizzati" da una macchina o da un'altra.

Questo mi chiedo se una singolarità potrebbe verificarsi se avessimo costruito macchine che non massimizzavano l'intelligenza, ma invece massimizzavano qualche altro tratto (una macchina che aumenta sempre la sua forza o una macchina che aumenta sempre la sua velocità). Questi tipi di macchine possono essere altrettanto trasformativi: le macchine ultraveloci possono risolvere rapidamente i problemi a causa della "forza bruta" e le macchine ultrastrongenti possono usare la sua potenza grezza per una varietà di compiti fisici. Forse una macchina ultra-X non può costruire un'altra macchina ultra-X (dato che IJ Good ha trattato il design delle macchine come un'attività intellettuale), ma una macchina in continuo miglioramento si lascerebbe comunque indietro i suoi creatori e costringerebbe i suoi creatori ad essere dipende da esso.

Le singolarità tecnologiche sono limitate alle ultra-intelligenze? O le singolarità tecnologiche possono essere causate da macchine che non sono "un'intelligenza artificiale forte" ma che sono ancora "ultra" ottimizzatori?

Sarebbe un no per la velocità o la forza, se hai un'entità super forte ma non può ricercare nuovi materiali, sarà rapidamente limitato, stessa cosa per la velocità, Fondamentalmente, hai bisogno di qualcosa fuori dal loro campo per migliorarli, il che rende un miglioramento in fuga impossibile.

Tuttavia, abbiamo già macchine super resistenti e super veloci, che sono automobili, camion, presse idrauliche, esoscheletri industriali ecc ... Ma, anche se possiamo costruirne di migliori attraverso l'uso di quelle vecchie, dobbiamo ancora cercare cose che non può essere migliorato da quelli vecchi.

Ciò di cui abbiamo bisogno per una singolarità è un campo in cui un suo miglioramento rende più facile l'ulteriore miglioramento. E non conosco un campo in cui ciò non implichi l'intelligenza. Se ce n'è uno, potrebbe essere possibile avere una singolarità guidata dall'intelligenza.

"Monte Carlo" sembra essere il miglior metodo attualmente per la creatività algoritmica. (cioè la macchina fa scelte casuali e vede se portano a qualcosa di utile.)

Mentre sembra ovvio che le connessioni creative formate dalla comprensione sono superiori a quelle casuali, se la macchina è abbastanza veloce, dovrebbe essere in grado di vincere con la pura "forza bruta".

cioè l'evoluzione, prima della guida umana, non è stata basata sull'intelligenza. * L'evoluzione è stata piuttosto basata su mutazioni casuali che sono benefiche o dannose.

* L'avvertenza è che si può dire che gli esseri umani che creano algoritmi e alterano i geni (sia in un laboratorio che attraverso l'allevamento e l'orticoltura) comprendono una nuova forma di evoluzione che è in realtà radicata nell'intelligenza e nel desiderio umani.

Questo potrebbe non essere quello che stavi cercando, ma tecnicamente sì. Anche se non per velocità e forza. Ma potresti indovinare casualmente nuove soluzioni matematiche / fisiche / chimiche per diventare più efficienti nell'ipotesi casuale (praticamente tutto ciò che consente alla macchina di calcolare più velocemente e forse simulare l'effetto di tali risultati) ottenendo così tecnicamente qualcosa di simile a una singolarità, senza avere avere qualsiasi Intelligenza in realtà (o solo a livello umano), dal momento che potresti semplicemente forzare tutto.

È efficiente? No, nemmeno vicino ad essere in alcun modo fattibile. Funziona? Tecnicamente sì.

Sarebbe una specie di singolarità, dal momento che si migliora continuamente, ma non avrebbe bisogno di migliorare la propria intelligenza.

Naturalmente, alcuni risultati potrebbero rendere possibile diventare più intelligenti, ma supponiamo che non applichi tali risultati a se stesso.