LEI che non dovremmo imparare dal film LEI

Se hai visto il film LEI , continua a leggere. In caso contrario, allarme spoiler.

Le persone si innamorano. È uno dei centri della vita. È roba da film. È questo film con una svolta. Lui (Theodore) e Lei (Samantha) si innamorano. Teodoro è una persona. Samantha è un sistema operativo. Ha una voce fantastica: calda, coinvolgente, riflessiva e seducente.

È possibile, ora o nel prossimo futuro, che le persone abbiano relazioni amorevoli con i sistemi di calcolo digitale?

Parte della risposta dipende da cosa sono effettivamente questi sistemi. I sistemi computazionali digitali AI (Artificial Intelligence) possono conoscere un'altra persona? Possono sapere qualcosa? Naturalmente in un certo senso questi sistemi "sanno" già molto. Sanno cosa compriamo, chi scriviamo, cosa scriviamo, cosa cerchiamo online, dove e quando guidiamo, quali chiamiamo, la nostra storia lavorativa, le nostre cartelle cliniche … la lista potrebbe continuare all'infinito. Ma possono conoscerci in un senso più profondo? E con ciò intendo, possono sapere come un'entità cosciente?

• Auto-consapevolezza e lingua: dire "Sì" a "No"
• Life on Furlough: può continuare la tua vita se non ti presenti?
• La Cina sta creando dei leader brillanti e tuttavia danneggiati?
• Le leggi di attaccamento
• Il motore del BA è spaventoso, ma i piloti seguono la procedura

Su questa domanda, in gran parte seguo la posizione di John Searle. Vale a dire, mentre in linea di principio non c'è motivo di credere che la coscienza non possa sorgere in altri mezzi oltre a un cervello biologico, non ci sono prove o ragione per credere che la coscienza possa o mai emergerà nel calcolo digitale. Per sostenere questa posizione, Searle (1990) stabilisce quello che chiama l'esperimento di pensiero della stanza cinese:

"Considera una lingua che non capisci. Nel mio caso, non capisco il cinese. Per me la scrittura cinese sembra così tanti scarabocchi senza senso. Supponiamo ora di essere collocato in una stanza contenente cesti pieni di simboli cinesi. Supponiamo anche che mi venga dato un libro delle regole in inglese per abbinare i simboli cinesi ad altri simboli cinesi. Le regole identificano i simboli interamente con le loro forme e non richiedono che io capisca nessuno di loro. Immagina che le persone fuori dalla stanza capiscano la mano cinese in piccoli mazzi di simboli e che in risposta manipoli i simboli secondo il libro delle regole e restituisca altri piccoli mazzi di simboli. Ora, il libro delle regole è il "programma per computer". Le persone che lo hanno scritto sono "programmatori" e io sono il "computer". I cesti pieni di simboli sono la "base dati" … Ora, si supponga che il libro delle regole sia scritto in modo tale che le mie "risposte" alle domande siano indistinguibili da quelle di un madrelingua cinese … .Tutto lo stesso, io sono totalmente ignorante del cinese. E non c'è modo che io possa arrivare a capire il cinese nel sistema come descritto, poiché non c'è modo che io possa apprendere i significati di nessuno dei simboli. Come un computer, manipolo simboli, ma non attribuisco alcun significato ai simboli. "(Pagina 26)

In altre parole, poiché i sistemi computazionali come Samantha hanno sintassi ma non semantica (significato), non possono mai "sapere" nulla. Il comportamento è lì, ma non il sapere. Quindi da questa posizione, Samantha è finta.

• La libertà di godere di un funzionamento sicuro
• Perché ci sono così poche donne nella scienza, continua
• Una moratoria elettronica: buona o cattiva idea per il tuo adolescente?
• Morire per dormire
• Accesso alla tua intelligenza creativa

Ma poi la domanda è se possiamo ottenere effetti psicologici simili dall'interazione con i sistemi di persone false. Penso che la risposta sia che possiamo ottenere alcuni degli effetti psicologici (e benefici). Fa parte della mia più ampia ricerca sulla natura tecnologica. Ma non possiamo ottenere tutti gli effetti psicologici. E non possiamo ottenere quelli veramente profondi, i più belli. Naturalmente questa è una domanda empirica. Potrei sbagliarmi. Quindi parte di ciò che ho cercato di portare avanti in alcuni dei miei scritti accademici e di ricerca è che teniamo alla tecnologa – e alla società in generale – quelli che io chiamo i "parametri di riferimento psicologici". Benchmark di, diciamo, reciprocità , autenticità, o dire la relazione I / Thou di Buber. Per conoscere e per essere conosciuto. Quanto è bello! È una base per l'amore. È una delle parti più profonde della vita umana. Se Samantha non ha realmente coscienza, non può in alcun modo conoscere Teodoro. Penso che HER illustri a un livello profondo che anche quando Theodore mostra così tanti comportamenti che sembrano indicare un profondo vero amore reciproco, in realtà non ce l'ha.

Cosa non dovremmo imparare dal film HER ? Quell'interazione con persone di calcolo finte soddisferà profondamente e nutrirà noi stessi.

Se ho ragione, molti di noi sentono il rapporto tra Teodoro e Samantha come vacuo e un po 'inquietante, quindi non sono sicuro di riconoscere quanto del nostro mondo si sia mosso in quel modo. Twitter Facebook Nation. Gamer Nation. Stiamo creando un mondo in cui le persone sono sempre più socialmente autistiche, se posso usare quella frase. E non sappiamo nemmeno che lo stiamo facendo.

Nell'ultimo capitolo del mio libro del 2011 Technological Nature: Adaptation and the Future of Human Life , guardo come ci siamo evoluti negli ultimi 50.000 anni, e poi speculgo su cosa è possibile in termini di adattamento a un sempre più tecnologico e computazionale mondo. Siamo incarnati in esseri biologici e, sebbene possiamo adattarci a un mondo sempre più tecnologico, non tutti i nostri adattamenti sono buoni per noi. Gli elefanti si adattano alle condizioni in uno zoo. Ma non prosperano come elefanti. Si battono i piedi per ore e ore nel comportamento nevrotico. E poi si appannano e diventano involucri in gran parte vuoti dei loro ex sé. Penso che dobbiamo prestare molta attenzione a ciò di cui abbiamo bisogno come esseri umani per prosperare come specie.

Abbiamo bisogno di interazioni reali, autentiche, reciproche con altri umani. Il film HER termina con un assaggio di quello sul tetto. Che sollievo! Lì assistiamo alla tenue intimità di un uomo biologico e di una donna biologica che respirano insieme per un minuto, connettendosi per davvero. Conoscere e farsi conoscere. Davvero. Qualunque cosa diavolo significhi, lo sappiamo.

Riferimenti:

Kahn, PH, Jr. (2011). Natura tecnologica: adattamento e futuro della vita umana. Cambridge, MA: MIT Press.

Kahn, PH, Jr., Ishiguro, H., Friedman, B., Kanda, T., Freier, NG, Severson, RL, e Miller, J. (2007). Cos'è un umano? – Verso parametri di riferimento psicologici nel campo dell'interazione uomo-robot. Studi di interazione: comportamento sociale e comunicazione nei sistemi biologici e artificiali, 8, 363-390.

Searle, JR (1990). La mente del cervello è un programma per computer? Scientific American, 262 (1), 26-31.