Ho sentito l'idea della singolarità tecnologica, che cos'è e come si collega all'intelligenza artificiale? È questo il punto teorico in cui le macchine di Intelligenza Artificiale sono progredite al punto in cui crescono e apprendono da sole oltre ciò che gli umani possono fare e la loro crescita decolla? Come potremmo sapere quando raggiungeremo questo punto?
Risposte:
La singolarità tecnologica è un momento teorico nel quale un'intelligenza artificiale artificiale auto-migliorante diventa in grado di comprendere e manipolare concetti al di fuori della portata del cervello umano, cioè il momento in cui può capire le cose che gli umani, secondo il disegno biologico, possono " t.
La confusione sulla singolarità deriva dal fatto che, dalla singolarità in poi, la storia è effettivamente imprevedibile. L'umanità non sarebbe in grado di prevedere eventi futuri o di spiegare eventi attuali, poiché la scienza stessa non è in grado di descrivere eventi innescati dalla macchina. In sostanza, le macchine ci penserebbero allo stesso modo in cui pensiamo alle formiche. Pertanto, non possiamo fare previsioni oltre la singolarità. Inoltre, come conseguenza logica, non saremmo in grado di definire il punto in cui la singolarità può verificarsi, o addirittura riconoscerla quando accade.
Tuttavia, affinché la singolarità abbia luogo, l'AGI deve essere sviluppata, e se ciò sia possibile è un dibattito piuttosto accesoproprio adesso. Inoltre, dovrebbe essere progettato un algoritmo che crea intelligenza sovrumana da bit e byte. Per definizione, un programmatore umano non sarebbe in grado di fare una cosa del genere, poiché il suo cervello dovrebbe essere in grado di comprendere concetti al di là della sua portata. C'è anche l'argomento che un'esplosione di intelligenza (il meccanismo attraverso il quale si formerebbe teoricamente una singolarità tecnologica) sarebbe impossibile a causa della difficoltà della sfida progettuale di rendersi più intelligente, ingrandirsi proporzionalmente alla sua intelligenza, e che la difficoltà del progetto stesso può superare l'intelligenza richiesta per risolvere detta sfida (ultimo punto merito a dio dei lama nei commenti).
Inoltre, ci sono teorie correlate che coinvolgono macchine che prendono il controllo dell'umanità e tutta quella narrativa di fantascienza. Tuttavia, è improbabile che ciò accada, se le leggi di Asimov sono seguite in modo appropriato. Anche se le leggi di Asimov non fossero sufficienti, sarebbe comunque necessaria una serie di vincoli per evitare l'uso improprio di AGI da parte di individui non intenzionati, e le leggi di Asimov sono le più vicine a ciò.
Il concetto di "singolarità" è quando le macchine superano in astuzia gli umani. Anche se l'opinione di Stephen Hawking è che questa situazione è inevitabile, ma penso che sarà molto difficile raggiungere quel punto, perché ogni algoritmo AI deve essere programmato dagli umani, quindi sarebbe sempre più limitato del suo creatore.
Probabilmente sapremmo quando quel punto in cui l'umanità perderà il controllo sull'intelligenza artificiale dove l'IA super-intelligente sarebbe in competizione con gli umani e forse si sarebbe verificata la creazione di esseri intelligenti più sofisticati, ma attualmente è più simile alla fantascienza (aka Terminator's Skynet ).
Il rischio potrebbe comportare l'uccisione di persone (come i droni di guerra a volo autonomo che prendono le proprie decisioni), la distruzione di paesi o persino dell'intero pianeta (come l'intelligenza artificiale collegata alle armi nucleari (aka film WarGames ), ma ciò non dimostra che il le macchine sarebbero più intelligenti degli umani.
La singolarità, nel contesto dell'IA, è un evento teorico in base al quale viene distribuito un sistema intelligente con i seguenti criteri.
Per induzione, la teoria prevede quindi che verrà generata una sequenza di eventi con un potenziale tasso di aumento dell'intelligenza che può superare di gran lunga il potenziale tasso di evoluzione del cervello.
Quanto sia obbligata questa entità che si auto-migliora o popolazione di entità procreate a preservare la vita umana e la libertà è indeterminata. L'idea che un tale obbligo possa far parte di un contratto software irrevocabile è ingenua alla luce della natura delle capacità legate ai criteri da (1) a (4) di cui sopra. Come con altre potenti tecnologie, i rischi sono numerosi e di vasta portata quanto i potenziali benefici.
I rischi per l'umanità non richiedono intelligenza. Esistono altri contesti per l'uso del termine singolarità, ma sono al di fuori dell'ambito di questo forum sull'intelligenza artificiale, ma può valere una breve menzione per chiarezza. Ingegneria genetica, ingegneria nucleare, globalizzazione e fondamento di un'economia internazionale su una fonte di energia finita consumata migliaia di volte più velocemente di quanto sorsero sulla terra - Questi sono altri esempi di tecnologie ad alto rischio e tendenze di massa che comportano rischi e benefici all'umanità.
Tornando all'intelligenza artificiale, il principale avvertimento nella teoria della singolarità è l'incapacità di incorporare la probabilità. Sebbene possa essere possibile sviluppare un'entità conforme ai criteri da (1) a (4) sopra, può essere abbastanza improbabile che il primo evento si verifichi molto tempo dopo che tutte le lingue attuali parlate sulla Terra sono morte.
Dall'altro estremo della distribuzione di probabilità, si potrebbe facilmente sostenere che esiste una probabilità diversa da zero che il primo evento si sia già verificato.
In tal senso, se una presenza più intelligente fosse già presente su Internet, quanto sarebbe probabile che trovasse nel suo interesse quello di rivelarsi agli esseri umani inferiori. Ci presentiamo a una larva di passaggio?
La "singolarità", vista in senso stretto, si riferisce a un punto in cui la crescita economica è così veloce che non possiamo fare previsioni utili su come sarà il futuro passato.
Viene spesso usato in modo intercambiabile con "esplosione dell'intelligence", che è quando otteniamo la cosiddetta AI forte, che è AI abbastanza intelligente da comprendere e migliorarsi. Sembra ragionevole aspettarsi che l'esplosione dell'intelligence porterebbe immediatamente a una singolarità economica, ma il contrario non è necessariamente vero.