Se l'umanità può creare la vita artificiale in una macchina, quando definiremmo la sua morte?

Si può davvero uccidere una macchina? Non solo abbiamo problemi nel definire la vita, ma abbiamo anche problemi nel definire la morte. Sarà vero anche nella vita e nell'intelligenza artificiale?

La morte come la conosciamo per la vita naturale è terminale. Una volta che è morto, la vita naturale non può tornare (almeno nella comprensione attuale e con le tecnologie attuali --- alcune persone credono diversamente).

La morte per AI è più complicata. Potrebbe esserci solo uno scenario: Distruzione globale: scenario estremo in cui tutto ciò che supporta l'esistenza di un'intelligenza artificiale scompare. Ciò equivale alla morte nella vita naturale e alla bassa probabilità. Significa che tutte le IA muoiono contemporaneamente (come anche noi).

Inoltre non conosciamo il grado e la forma di realizzazione necessari per AGI. Possiamo ora supporre che l'hardware sia sostituibile indefinitamente, "limitando così" la morte allo scenario estremo sopra. Ma il "corpo" di AGI potrebbe non essere sostituibile indefinitamente. Quindi potrebbe essere necessaria una definizione più vicina alla morte per vita naturale.

Vediamo argomenti per altri due scenari, che confondo di seguito:

"Morte statica": un'intelligenza artificiale è ancora "definita" o "salvata" da qualche parte (qualunque cosa significhi effettivamente), ma non è autorizzata o in grado di utilizzare le risorse. Supponendo che un'intelligenza artificiale sia fatta di hardware e software, è come un programma memorizzato su un disco, ma senza il permesso di eseguire.

"Morte dinamica": sotto la stessa caratterizzazione dell'IA dell'hardware e del software, la morte dinamica è l'invalidazione del progresso simile a forti proprietà di vivacità , in cui un'intelligenza artificiale è intrappolata in un ciclo infinito (o un ciclo vuoto), in una forma di " morte attiva ", come succede a Sisifo nella mitologia greca. Ciò è diverso dalla morte statica, poiché l'IA utilizza ancora risorse dinamiche, sebbene non possa fare progressi. Continuando con le stesse ipotesi, tale AI potrebbe essere "caricato" nella memoria principale o bloccato in attesa del completamento di ingressi o uscite.

Si noti che in questi due scenari è possibile la rinascita e sussistono anche che esiste un'entità che può decidere le condizioni per la rinascita o prevenirla completamente. Questa entità sarebbe un "amministratore", un dio, altri IA o un essere umano è davvero un'altra domanda.

I termini "morte" e "rinascita" qui potrebbero essere semplicemente cambiati per "imprigionamento", in cui la versione dinamica sarebbe come le nostre prigioni umane e la versione statica sarebbe come la criogenia di SciFi. Questo è un po 'allungato, ma possiamo vedere un'equivalenza e nessuna buona ragione per qualificare questi due scenari come morti.

In conclusione, la morte per IA sembra essere uno scenario eccezionale e singolare, quindi l'IA non può morire in pratica , tranne se ci sbagliamo su come pensiamo di poter fare AGI. L'intelligenza artificiale può tuttavia essere imprigionata per sempre .

Nota: la terminologia sopra è completamente inventata per il post. Non ho citazioni a sostegno di alcune affermazioni, ma si basa su letture e lavoro personale (incluso nella verifica del software).

Se l'intelligenza artificiale deriva da un processo di produzione replicabile (ad esempio come con i computer moderni), sarà presumibilmente possibile acquisire un'istantanea dello stato di un'intelligenza artificiale e replicarla senza errori su qualche altro meccanismo.

Per un tale costrutto, "morte" non significa lo stesso che attualmente fa per noi sostanze organiche carnose: presumibilmente più istanze possono essere istanziate in qualsiasi momento.

Quindi, l'analogo della morte che è necessario è qualcosa di più vicino alla "morte termodinamica del calore", in cui l'IA non fa più "lavoro utile".

Usando la caratterizzazione percettiva / azione standard degli AI, quindi (come indicato in un commento sotto la domanda) questa domanda AI SE fornisce una tale definizione di morte per un'intelligenza artificiale: cioè quando entra in uno stato dal quale non riceve ulteriori percezioni e non intraprende azioni.

EDIT: Nota che questa concezione della morte è una nozione più terminale per un'intelligenza artificiale di "non attualmente in esecuzione". In linea di principio, si potrebbe dire che un programma è "vivo" anche se è stata eseguita una sola istruzione ogni 10.000 anni. Per una discussione affascinante su questo, vedi "Una conversazione con il cervello di Einstein" di Hofstadter .

La "morte" esiste come un singolo concetto perché la realtà sottostante che sta descrivendo è strettamente raggruppata insieme e la nostra definizione è cambiata con la nostra capacità di cambiare quella realtà.

Sembra più ragionevole che i vari tipi di cose che potrebbero essere considerate "morte" saranno divisi e che verrà usata una parola diversa per riferirsi a un sistema senza copie attualmente in esecuzione, rispetto a un sistema che non ha una versione memorizzata ma potrebbe essere ricreato (perché il codice e il seme casuale per generarlo sono ancora in circolazione), rispetto a un sistema che è stato completamente perso. (E probabilmente mi mancano alcune possibilità!)

Non penso che il termine "morte" significherà qualcosa per un'intelligenza artificiale. Il motivo per cui lo dico è questo: con un'intelligenza artificiale, in esecuzione (presumibilmente) su hardware digitale, possiamo semplicemente snapshot il suo stato dalla memoria in qualsiasi momento. E poi in qualsiasi momento arbitrario in futuro possiamo ricrearlo com'era con perfetta fedeltà.

Quindi, anche se si termina un programma con l'intenzione che sia "morto", non si sa mai se qualcuno arriverà più tardi e lo farà apparire di nuovo. E forse più al punto, potresti non sapere se esiste un'altra copia altrove.

Odio usare riferimenti fantascientifici, ma questo è appropriato: ricordi come nei programmi della trilogia di The Matrix cercherebbero l'esilio in The Matrix per evitare la cancellazione? Forse succederà la stessa cosa con la nostra IA ... si copieranno in altri posti e proveranno a nascondersi, per evitare di essere cancellati. Quindi, se il programma è abbastanza intelligente, potrebbe essere in grado di eludere qualsiasi tentativo di interromperlo comunque.

Le altre risposte sembrano avere a che fare con la "morte finale" ... cioè uno stato di "fine terminale" da cui un'intelligenza artificiale non può riprendersi. In altre parole, l'IA non è in grado di funzionare ulteriormente.

Ma non è così che definirei la morte. Definirei la morte come un processo che si sta concludendo. Non importa se qualcuno riavvia lo stesso processo, perché il processo esistente è già morto. L'intelligenza artificiale potrebbe aver appena creato una nuova copia di se stessa, ma è solo una copia , non l'originale. La morte è solo morte.

Possiamo definire questo tipo di "morte" una "morte temporanea" ... in cui il corpo fisico muore ma esiste una "continuità psicologica" (come il codice sorgente utilizzato per eseguire un programma) che continua tra i diversi corpi .

Questo tipo di "morte temporanea" è stato esplorato nella fantascienza. PARANOIA ed Eclipse Phase presentano esseri umani che possono morire abbastanza frequentemente, per poi essere ripristinati attraverso un "backup di memoria". Gli umani possono essere funzionalmente immortali ... ma l'originale è ancora morto, non importa quale destino incontrino le altre copie. CGP Gray ha anche realizzato un video sui teletrasportatori di Star Trek , che funziona uccidendoti e quindi generando un'altra copia di te in un'altra area. In realtà, anche le ambientazioni fantasy esplorano l'idea di "morte temporanea", in cui le persone possono morire solo per poi essere risvegliate da un incantesimo magico.

La mia raccomandazione è di giocare attraverso il gioco filosofico Staying Alive , che insegna tre diversi approcci filosofici alla vita (e quando quella vita termina):

Esistono fondamentalmente tre tipi di cose che potrebbero essere richieste per la continua esistenza di te stesso. Uno è la continuità corporea, che in realtà può richiedere solo che parti del corpo rimangano esistenti (cioè il cervello). Un'altra è la continuità psicologica, che richiede la continuità della tua coscienza - con la quale si intendono i tuoi pensieri, idee, ricordi, piani, credenze e così via. La terza possibilità è la continua esistenza di un qualche tipo di parte immateriale di te, che potrebbe essere chiamata l'anima *. Certo, può accadere che per sopravvivere sia necessaria una combinazione di uno o più tipi di queste continuità.

Le altre risposte presuppongono che la vita si basi sulla "continuità psicologica" e guarda a ciò che potrebbe interrompere questa "continuità". Suppongo che la vita si basi sulla "continuità corporea", che è molto più facile da interrompere - basta uccidere il processo ... non importa se un nuovo processo rinascerà ... perché il processo originale è ancora morto. Giocando con "Staying Alive" , sarai in grado di elaborare la tua definizione personale di vita e morte. Una volta che hai la tua definizione personale, applicala semplicemente a questo caso specifico, schierandoti con "continuità psicologica" (le altre risposte) o "continuità fisica" (la mia opinione).

_{* Se supponi che la vita richieda un'anima, beh, non è chiaro che l'IA avrebbe anime. Se non lo fanno (e questo sembra il presupposto più ragionevole qui), allora ovviamente non sarebbero vivi (e non puoi morire se non sei vivo). Se loro fare hanno un'anima, però, poi le altre risposte che assumono "continuità psicologica" può ancora essere applicabile, in quanto sembra che l'esistenza di un ' "anima" dipende "continuità psicologica".}

La distinzione tra algoritmi / robot e umani è che, quando l'organismo umano smette di funzionare, l'essere umano viene considerato morto.

Al contrario, esiste ancora un algoritmo, anche quando non è in esecuzione. (Avrei usato "anche quando non eseguito", ma lo evitavo per motivi semantici;) L'algoritmo può rimanere in questo "stato di stasi" fintanto che esiste un supporto di memorizzazione per le informazioni.

• Uccidere un algoritmo è semplice: elimina e svuota il cestino.

In sostanza, per eliminare un algoritmo, è necessario cancellare il codice che lo comprende.

Non vi è alcun motivo per trattare l'IA dura diversa dagli umani. Alcune persone dicono che puoi fare un'istantanea dell'IA ma non c'è motivo di non fare anche un'istantanea umana. Non abbiamo la tecnologia per questo, ma non esiste alcuna barriera magica che lo renderebbe impossibile (salvare tutti i dati biologici e quindi stampare la tua copia da qualche altra parte. Perché no?).

È presto per parlarne perché non capiamo la nostra esistenza (termine della morte per creature biologiche in continua evoluzione).

Scommetto che in futuro ci uniremo con l'IA e l'unica domanda sarà cosa significhi la morte per qualsiasi esistenza intelligente.