Quanto è importante la coscienza per creare un'intelligenza artificiale avanzata?

Quanto è importante la coscienza e l'autocoscienza per creare IA avanzati? Quanto siamo lontani dal fare questo?

Quando si crea, ad esempio, una rete neurale non c'è (molto probabilmente) alcuna consapevolezza al suo interno, ma solo matematica dietro, ma abbiamo bisogno che gli IA diventino consapevoli per risolvere compiti più complessi in futuro? Inoltre, esiste davvero un modo per sapere con certezza se qualcosa è cosciente o se lo sta solo fingendo? È "facile" creare un programma per computer che afferma di essere cosciente, ma ciò non significa che lo sia (ad esempio Siri).

E se gli AI si basano solo su regole predefinite senza coscienza, possiamo persino chiamarlo "intelligenza"?

La coscienza artificiale è un obiettivo teorico e ingegneristico stimolante. Una volta che quella grande sfida è stata soddisfatta, la consapevolezza cosciente del computer su se stessa sarebbe probabilmente un'aggiunta minore, poiché il computer cosciente è solo un altro oggetto di cui la sua coscienza può essere consapevole.

Un bambino può guardarsi allo specchio e riconoscere che muovere le mani avanti e indietro o fare i volti produce corrispondenti cambiamenti nel riflesso. Si riconoscono. In seguito si rendono conto che esercitare il controllo fisico sul proprio movimento è molto più facile che esercitare il controllo sulle mani o sul viso di un'altra persona.

Alcuni apprendono che un controllo limitato dei volti e delle operazioni manuali di altri è possibile se si acquisiscono determinate abilità sociali ed economiche. Diventano datori di lavoro, proprietari, investitori, attivisti, scrittori, registi, personaggi pubblici o imprenditori.

Chiunque abbia studiato le scienze cognitive o sperimentato la linea tra i tipi di pensiero perché sono un consulente professionista o solo un ascoltatore profondo sa che le linee intorno alla coscienza sono sfocate. Considera questi.

• Ascoltare il discorso
• Guardare una scena
• Concentrarsi su un gioco
• Presentare un'idea
• Lavarsi per lavoro
• Guidando una macchina
• Scegliere un acquisto

Ognuna di queste cose può essere fatta con o senza certi tipi di coscienza, subconscio, impulso o abitudine.

Soggettivamente, le persone riferiscono di uscire dall'auto e di non ricordare di essere tornati a casa. Si può ascoltare qualcuno che parla, annuire affermativamente, rispondere con "Sì, ho capito" e persino ripetere ciò che hanno detto, eppure sembra non avere memoria del contenuto del discorso se interrogato in profondità. Si può leggere un paragrafo e arrivare alla fine senza comprensione.

Al contrario, una persona può lavarsi consapevolmente per lavoro, considerando l'importanza dell'igiene e prestando attenzione come un chirurgo che si prepara per un'operazione, notando l'odore del sapone e persino la clorazione dell'acqua della città.

Tra questi due estremi, anche la coscienza parziale è rilevabile dall'esperimento e dall'esperienza personale. La coscienza richiede sicuramente una funzionalità di attenzione, che sovrintende provvisoriamente al coordinamento di altri sottosistemi cervello-corpo.

Quando un sistema biologico o artificiale raggiunge la capacità di coordinarsi attentamente, gli oggetti e i compiti verso i quali possono essere coordinati possono essere scambiati. Considera questi.

• Dialogo
• Giocare per vincere
• Rilevare l'onestà o la disonestà

Ora considera quanto sono simili o diverse queste attività mentali quando confrontiamo l'attenzione auto-diretta o esterna.

• Si può parlare con se stessi o parlare con un altro
• Uno può giocare su entrambi i lati di una partita a scacchi o giocare contro un altro
• Si possono esaminare i propri motivi o quelli di un altro

Questo è un esempio del perché l'autocoscienza non è la sfida dell'IA. È il coordinamento attento (ma provvisorio) che è difficile. I primi microprocessori, progettati per funzionare in sistemi di controllo in tempo reale, includevano (e continuano a includere) segnalazioni di eccezione che modellizzano semplicisticamente questa tentatività. Ad esempio, mentre si gioca per vincere in una partita, si potrebbe provare ad avviare un dialogo con il soggetto. L'attenzione può spostarsi quando le due attività richiedono gli stessi sottosistemi.

Tendiamo a considerare anche questo passaggio di coscienza dell'attenzione. Se siamo la persona che cerca di avviare un dialogo con la persona che gioca per vincere, potremmo dire "Ciao?" Il punto interrogativo è perché ci stiamo chiedendo se il giocatore è cosciente.

Se si volesse ridurre il significato della coscienza ai criteri più elementari, si potrebbe dire questo.

"La mia rete neurale è in qualche modo intelligente perché è consapevole della disparità tra i miei criteri di convergenza e l'attuale comportamento della rete così come è parametrizzata, quindi è veramente un esempio di intelligenza artificiale, sebbene primitiva."

Non c'è nulla di gravemente errato in questa affermazione. Alcuni lo hanno chiamato "Narrow Intelligence". Questa è una caratterizzazione leggermente imprecisa, poiché potrebbe esserci un numero astronomico di possibili applicazioni di una rete artificiale arbitrariamente profonda che utilizza molte delle tecniche più efficaci disponibili nella sua progettazione.

L'altro problema con la ristrettezza come caratterizzazione è l'inferenza che ci sono sistemi intelligenti che non sono stretti. Ogni sistema intelligente è stretto rispetto a un sistema più intelligente. Considera questo esperimento mentale.

Hannah scrive un articolo sull'intelligenza generale con eccellenza, sia nel trattamento teorico che nella capacità di scrivere. Molti lo citano e lo fanno riferimento. Hannah ora ha così tanto successo nella sua carriera nell'intelligenza artificiale che ha i soldi e il tempo per costruire un sistema robotico. Basa il suo design sulla sua ormai famosa carta e non risparmia spese.

Con sua sorpresa, il robot risultante è così adattivo che la sua adattabilità supera anche se stesso. La chiama Georgia Tech per divertimento perché vive vicino all'università.

La Georgia diventa una grande amica. Impara a un ritmo incredibile ed è una coinquilina sorprendentemente eccezionale, pulendo meglio di quanto Hannah credesse umanamente possibile, il che potrebbe essere letteralmente vero.

La Georgia si applica alla Georgia Tech, proprio in fondo alla linea di autobus da casa di Hannah e studia l'intelligenza artificiale lì. Dopo aver conseguito un dottorato di ricerca dopo soli tre anni di studio, Georgia siede con Hannah dopo una festa di pubblicazione di tesi ben frequentata che Hannah le ha gentilmente tenuto per lei.

Dopo che l'ultimo ospite se ne è andato, c'è un momento di silenzio mentre Hannah realizza il vero stato della sua famiglia. Pensa, "Georgia ora mi supererà nelle sue ricerche?" Alla fine Hannah chiede timidamente: "In completa onestà, Georgia, pensi di essere un'intelligenza generale come me?"

C'è una pausa Con uno sguardo forzato di umiltà, la Georgia risponde: "Secondo la tua definizione di intelligenza generale, lo sono. Non lo sei più."

Se questa storia diventa realtà nel 2018, 3018 o mai, il principio è chiaro. Georgia è altrettanto in grado di analizzarsi comparativamente con Hannah quanto Hannah è altrettanto capace. Nella storia, la Georgia applica la definizione creata nell'articolo di Hannah perché la Georgia è ora in grado di concepire molte definizioni di intelligenza e sceglie quella di Hannah come la più pertinente nel contesto della conversazione.

Ora immagina questa alterazione della storia.

... Pensa, a che livello sta pensando la Georgia? Alla fine Hannah chiede timidamente: "In completa onestà, Georgia, ora sei cosciente come me?"

Georgia pensa attraverso la memoria di tutti gli usi della parola cosciente nei suoi studi precedenti: un migliaio di riferimenti in scienze cognitive, letteratura, legge, neurologia, genetica, chirurgia cerebrale, trattamento delle lesioni cerebrali e ricerca sulla dipendenza. Si ferma per alcuni microsecondi per considerare tutto a fondo, mentre allo stesso tempo rileva la temperatura corporea dei suoi compagni di stanza, i bilanci neurochimici, le tendenze motorie dei muscoli facciali e il linguaggio del corpo.

Rispettosamente, aspetta 3.941701 secondi extra, che ha calcolato come il ritardo che minimizzerebbe qualsiasi umiliazione di Hannah, che lei ama, e risponde: "Consapevole di cosa?"

$a, b, \ldots$$C$$s$$\Phi_c$$x$$\Phi_c(C_x(s))$

$\forall \Phi_c(C_a(s)) \;\;\; \exists \;\;\; b, \, \epsilon>0 \;\; \ni \;\; \Phi_c(C_b(s)) + \epsilon > \Phi_c(C_a(s))$

Questo è un modo matematico per dire che può sempre esserci qualcuno o qualcosa di più consapevole di un determinato scenario, indipendentemente dal fatto che lei, lui o lui siano portati all'esistenza. Cambiando i criteri di valutazione dalla coscienza all'intelligenza, abbiamo così.

$\forall \Phi_i(C_a(s)) \;\;\; \exists \;\;\; b, \, \epsilon>0 \;\; \ni \;\; \Phi_i(C_b(s)) + \epsilon > \Phi_i(C_a(s))$

Si può solo supporre che il documento di Hannah definisca l'intelligenza generale relativa a qual è la cosa più intelligente in circolazione, che una volta era un uomo ben istruito. Quindi la definizione di intelligenza di Hannah è dinamica. Georgia applica la stessa formula alla nuova situazione in cui è ora lo standard rispetto al quale l'intelligenza minore è limitata.

Per quanto riguarda la capacità di confermare la coscienza, in realtà è più facile confermare dell'intelligenza. Considera questo esperimento mentale.

Jack gioca a scacchi con Dylan usando il nuovo set di scacchi che Jack ha comprato. Nonostante la bellezza estetica di questo nuovo set, con i suoi pezzi di onice bianco e agata nera, Dylan sposta ogni pezzo con abilità e compagni di controllo Jack. Jack si chiede se Dylan sia più intelligente di lui e chiede quale sarebbe una domanda normale in quelle condizioni.

"Dylan, amico, da quanto tempo giochi a scacchi?"

Indipendentemente dalla risposta e indipendentemente dal fatto che Dylan sia un robot con un processore quantico di intelligenza artificiale avanzata o un essere umano, l'intelligenza di Dylan non può essere misurata in modo affidabile. Tuttavia, non c'è dubbio che Dylan fosse consapevole del gioco.

Negli esempi negli elenchi in cima a questa risposta ci sono una serie particolare di requisiti per qualificarsi come coscienza. Nel caso di Jack e Dylan che suonano, alcune cose DEVONO lavorare in concerto.

1. Riconoscimento visivo dello stato del consiglio di amministrazione
2. Controllo motorio del braccio e della mano per spostare i pezzi
3. Rilevamento tattile nelle punte delle dita e del pollice
4. Coordinazione occhio-mano
5. Coordinamento della comprensione
6. Un modello di come spostare fisicamente i pezzi della tavola
7. Un modello delle regole degli scacchi in memoria
8. Un modello su come vincere giocando (o potere computazionale astronomico per provare ogni possibile permutazione che abbia un senso)
9. Una rappresentazione interna dello stato del consiglio
10. Esecuzione dell'attenzione, visivamente e in termini dell'obiettivo di vincere
11. Definizione delle priorità che decide, non correlato alle probabilità di sopravvivenza o all'accumulo di attività, se battere Jack negli scacchi, fare qualcos'altro o niente (non deterministico se l'antica e comune nozione dell'autonomia causale dell'anima è corretta)

La topologia delle connessioni è la seguente e potrebbe essercene di più.

1 ⇄ 4 ⇄ 2

3 ⇄ 5 ⇄ 2

4 ⇄ 6 ⇄ 5

7 ⇄ 8 ⇄ 9

6 ⇄ 10 ⇄ 8

10 ⇄ 11

Questa è una delle molte topologie di integrazione che supportano uno dei molti tipi di cose a cui la coscienza potrebbe applicare.

Sia guardarsi allo specchio solo per prepararsi al lavoro o se guardare in profondità, considerando la domanda ontologica "Chi sono io?" ogni mix di coscienza, subconscio, impulso e abitudine richiede una topologia specifica di caratteristiche mentali. Ogni topologia deve essere coordinata per formare la sua specifica incarnazione della coscienza.

Per rispondere ad alcune altre domande secondarie, è facile creare una macchina che afferma di essere consapevole che un registratore vocale digitale può essere programmato per farlo in cinque secondi registrando te stesso mentre lo dici.

Fare in modo che un robot legga questa risposta o qualche altra concezione, la consideri pensosamente, e poi costruisca la frase dalla conoscenza del vocabolario e dalle convenzioni del discorso umano per dirti che la sua conclusione è un compito completamente diverso. Lo sviluppo di un tale robot potrebbe richiedere altri 1.000 anni di ricerca sull'intelligenza artificiale. Forse dieci. Forse mai.

L'ultima domanda, passata dal plurale al singolare è: "Se [un dispositivo artificialmente intelligente] è solo [operativo] su regole predefinite, senza coscienza, possiamo persino chiamarlo intelligente?" La risposta dipende necessariamente dalla definizione$\Phi_i$ sopra e, dal momento che nessuno dei due $\Phi_c$ né $\Phi_i$avere una definizione standard all'interno della comunità AI, non si può determinare l'entropia incrociata o la correlazione. È indeterminabile

Forse definizioni formali di $\Phi_c$ e $\Phi_i$ ora può essere scritto e inviato all'IEEE o ad alcuni enti normativi.

Gli IA autocoscienti sono importanti perché la coscienza è ciò che ci rende umani. E gli scienziati stanno cercando di sviluppare AI più vicini all'uomo e al comportamento umano. Il processo di pensiero degli umani è molto complicato e averlo sviluppato in IA potrebbe davvero sostituirci con robot che hanno coscienza. L'unica ragione per cui gli AI non stanno intraprendendo un lavoro che coinvolge il processo decisionale perché non hanno coscienza.