Dovrei usare un linguaggio antropomorfo quando parlo di AI?

La lingua inglese non è adatta a parlare dell'intelligenza artificiale, il che rende difficile per gli umani comunicare tra loro su ciò che un'IA sta effettivamente "facendo". Pertanto, potrebbe essere più sensato utilizzare termini "simili all'uomo" per descrivere le azioni dei macchinari, anche quando le proprietà interne dei macchinari non assomigliano alle proprietà interne dell'umanità.

Il linguaggio antropomorfo era stato usato molto nella tecnologia (vedi la definizione di antropomorfizzazione del Dizionario di hacker , che tenta di giustificare l'uso dei termini antromporici da parte dei programmatori di computer quando descrivono la tecnologia), ma poiché l'IA continua ad avanzare, può essere utile considerare i compromessi di usare un linguaggio antropomorfo per comunicare sia a un pubblico tecnico che a un pubblico non tecnico. Come possiamo avere una buona padronanza dell'IA se non riusciamo nemmeno a descrivere cosa stiamo facendo?

Supponiamo di voler sviluppare un algoritmo che mostri un elenco di articoli correlati. Esistono due modi in cui posso spiegare come l'algoritmo funziona a un laico:

1. Molto antropomorfo : l'algoritmo legge tutti gli articoli su un sito Web e visualizza gli articoli che sono molto simili all'articolo che stai guardando.
2. Molto tecnico : l'algoritmo converte ogni articolo in un "bag-of-words", quindi confronta il "bag-of-words" di ciascun articolo per determinare quali articoli condividono le parole più comuni. Gli articoli che condividono il maggior numero di parole nei sacchetti sono quelli che vengono visualizzati all'utente.

Ovviamente, il n. 2 potrebbe essere più "tecnicamente corretto" rispetto al n. 1. Descrivendo in dettaglio l'implementazione dell'algoritmo, è più facile per qualcuno capire come risolvere l'algoritmo se produce un output con cui non siamo fortemente d'accordo.

Ma il numero 1 è più leggibile, elegante e più facile da capire. Fornisce un senso generale di ciò che sta facendo l'algoritmo, invece di come lo sta facendo l'algoritmo. Estrarre i dettagli dell'implementazione di come un computer "legge" l'articolo, possiamo quindi concentrarci sull'uso dell'algoritmo in scenari del mondo reale.

Dovrei, quindi, preferire l'uso del linguaggio antropomorfo come sottolineato dall'istruzione n. 1? In caso contrario, perché no?

PS: Se la risposta dipende dal pubblico con cui sto parlando (un pubblico non tecnico potrebbe preferire il n. 1, mentre un pubblico tecnico potrebbe preferire il n. 2), allora fammi sapere anche quello.

Se la chiarezza è il tuo obiettivo, dovresti tentare di evitare il linguaggio antropomorfo, perché ciò corre il rischio di persino fuorviare te stesso sulle capacità del programma.

Questa è una trappola perniciosa nella ricerca sull'intelligenza artificiale, con numerosi casi in cui persino ricercatori esperti hanno attribuito a un programma un grado di comprensione maggiore di quanto non sia effettivamente meritato.

Douglas Hofstadter descrive a lungo la questione in un capitolo intitolato "L'inevitabile effetto Eliza e i suoi pericoli" e c'è anche un famoso articolo di Drew McDermot, intitolato "L'intelligenza artificiale incontra la stupidità naturale" .

Quindi, in generale, si dovrebbe compiere uno sforzo particolare per evitare l'antropomorfismo nell'intelligenza artificiale. Tuttavia, quando si parla a un pubblico non tecnico, le descrizioni "soundbite" sono accettabili (come in qualsiasi disciplina complessa) purché si faccia sapere al pubblico che stanno ottenendo la versione semplificata .

Il problema a cui ti riferisci non è solo un problema di IA ma un problema per campi altamente tecnici in generale. In caso di dubbi, consiglierei sempre di usare un linguaggio semplice .

Tuttavia, c'è un altro motivo per cui la comunità AI spesso eviterà le connotazioni antropomorfe per l'IA. Ad alcuni luminari dell'IA piace spesso avvertirci che un'intelligenza generale artificiale può comportarsi in modi alieni che sfidano le nostre aspettative umane, portando potenzialmente a un'apocalisse robotica.

Questa idea sulle AGI malvagie simili ad alieni, tuttavia, deriva da un diffuso malinteso nella comunità dell'IA che unisce due diverse nozioni di generalità:

• Generalità della macchina di Turing e
• generalità del dominio umano

Che cosa significano le persone normali quando dicono che la generalità è il dopo. Perfino la definizione ufficiale di AGI dipende da quel contesto umano-contingente:

... svolgere qualsiasi compito intellettuale che un essere umano possa fare.

Ma per quella definizione, generalizzare il comportamento non lo rende più alieno. Generalizzare è antropomorfizzare. Come diceva Nietzche,

"Dove vedi le cose ideali, io vedo ... umano, ahimè! Tutte cose troppo umane."

Penso che la risposta corretta sia la semplice ma inutile, "Dipende".

Anche quando parlo con altre persone tecniche, uso spesso linguaggio e metafore antropomorfe. Soprattutto all'inizio della conversazione. "Il computer deve capire ..." "Come possiamo evitare che il computer si confonda su ..." ecc. Certo, potremmo affermarlo in un modo tecnicamente più corretto. "Dobbiamo modificare l'algoritmo per ridurre il numero e la varietà di istanze di dati inadeguati che comportano un'impostazione imprecisa di ..." o alcuni di questi. Ma tra i tecnici, sappiamo cosa intendiamo ed è semplicemente più facile usare un linguaggio metaforico.

Quando provo a risolvere i problemi tecnici del computer, spesso inizio con un concetto vago e antropomorfo. "Dovremmo fare un elenco di tutte le parole nel testo e assegnare a ciascuna parola un peso in base alla frequenza con cui si verifica. Oh, ma dovremmo ignorare parole brevi e comuni come 'the' e 'it'. Quindi scegliamo alcune numero di parole, forse una decina, che hanno il peso maggiore ... "Tutto ciò è molto lontano da come il computer manipola effettivamente i dati. Ma spesso è molto più facile pensarci prima in termini "umani", e poi capire come farlo fare al computer.

Quando parlo con un pubblico non tecnico, penso che il problema sia che il linguaggio antropomorfo rende più facile la comprensione, ma spesso dà anche l'impressione che il computer sia molto più umano di quanto non sia in realtà. Hai solo bisogno di guardare film di fantascienza per vedere che apparentemente molte persone pensano che un computer o un robot pensi proprio come una persona, tranne che è molto preciso e non ha emozioni.