Stephen Hawking ed Elon Musk hanno recentemente descritto l'intelligenza artificiale come una delle maggiori minacce per l'umanità. La loro preoccupazione è che i rapidi miglioramenti nelle prestazioni intelligenti dei computer li renderanno intelligenti come gli umani. L'intelligenza artificiale a livello umano potrebbe quindi portare rapidamente a computer molto più intelligenti di noi. Questo salto è plausibile perché i computer hanno vantaggi su di noi rispetto alla velocità di elaborazione, archiviazione, accesso a enormi quantità di informazioni e facilità di trasferimento tra computer. Una volta che questo tipo di superintelligenza esiste, potrebbe rivelarsi avere interessi e azioni contrari a quelli umani, a nostro discapito e forse anche alla nostra scomparsa. Quanto dovrebbero essere preoccupate le persone riguardo a questo problema?
Attualmente sto insegnando un corso che confronta sistematicamente l'intelligenza su macchine, umani e altri animali. Per gli umani, sto usando quella che secondo me è la migliore teoria dell'intelligenza corrente: l'architettura puntatore semantico di Chris Eliasmith. Per le macchine, la classe sta esaminando i principali esempi di programmi attuali di intelligenza artificiale, tra cui Watson di IBM, auto senza conducente di Google, CYC, Siri di Apple e Google translate.
Questo confronto mostra che esistono ancora enormi divari tra l'intelligenza umana e l'intelligenza artificiale. IBM Watson è molto impressionante nel rispondere alle domande abbastanza bene da battere eccellenti giocatori umani nel gioco TV Jeopardy. E sta anche iniziando a mostrare alcune abilità per risolvere i problemi creativi quando Chef Watson genera nuove ricette. Inoltre, sembra che Watson possa dare un contributo prezioso a molte altre aree come gli affari e la medicina. Tuttavia, Watson per il futuro prevedibile è di gran lunga inferiore alle capacità umane di trattare con rappresentazioni percettive, immagini, emozioni, coscienza, apprendimento, linguaggio e l'intera gamma di problem solving creativo che gli esseri umani possono realizzare. Altri programmi IA attuali condividono limiti simili.
Pertanto, penso che l'intelligenza artificiale a livello umano sia più distante nel futuro di quanto molti suppongano. L'idea che l'intelligenza della macchina possa risultare semplicemente scaricando le connessioni neurali delle persone in un computer è estremamente ingenua sulla complessità del cervello umano, che include non solo connessioni elettriche ma anche una vasta gamma di processi chimici che coinvolgono neurotrasmettitori, ormoni e cellule gliali. L'intelligenza artificiale ha fatto progressi impressionanti negli ultimi 60 anni, producendo macchine in grado di giocare a scacchi e navigare sulla superficie di Marte. Ma scommetto che ci vorranno almeno altri 60 o 100 anni prima che l'intelligenza artificiale inizi a approssimare l'intelligenza umana, rendendo l'AI una minaccia molto meno urgente per l'umanità rispetto al riscaldamento globale, alle pandemie e alle crescenti disuguaglianze che portano a conflitti sociali.
Una preoccupazione più immediata per l'intelligenza artificiale è quella di garantire che i tipi di intelligenza artificiale che vengono adottati da gruppi come l'esercito americano, Google e Facebook, siano utilizzati a beneficio degli esseri umani. Una recente lettera aperta firmata da Hawking, Musk e dai principali ricercatori di intelligenza artificiale fa un appello forte e ragionevole all'intelligenza artificiale di essere utilizzata per il guadagno umano.
Sebbene non sia preoccupato per le macchine che soppiantano l'umanità nel prossimo futuro, c'è molta plausibilità nell'affermare che, una volta raggiunto, l'intelligenza artificiale a livello umano potrebbe rapidamente produrre una superintelligenza che potrebbe di fatto essere una minaccia per l'umanità. Il salto dal livello umano alla superintelligenza potrebbe avvenire rapidamente a causa della sua probabile capacità di espandersi ad un ritmo molto più rapido rispetto all'intelligenza umana. I computer possono evitare i nostri limiti relativi alla velocità di elaborazione, al tasso di apprendimento e alla trasmissibilità delle informazioni. La superintelligenza è davvero spaventosa perché non c'è alcuna ragione per credere che opererebbe in accordo con i principi etici umani.
Potresti pensare di poter programmare principi etici nel computer, ma qualsiasi programma intelligente potrebbe riprogrammare se stesso per eliminare le regole che gli sono state fornite. Dubito che la superintelligenza avrà la spinta verso il pensiero etico che arriva a quasi tutti gli esseri umani attraverso la nostra capacità emotiva di prendersi cura gli uni degli altri. Le opinioni più influenti in filosofia hanno cercato di rendere l'etica una questione di ragione, ad esempio attraverso i diritti e doveri kantiani o attraverso calcoli utilitaristici del bene più grande per il maggior numero. Trovo più plausibile il punto di vista di Hume e di alcuni studiosi di femminismo che le emozioni e la cura sono alla base dei nostri giudizi etici. Non ci si può aspettare che l'intelligenza artificiale abbia le stesse basi etiche perché le emozioni sono in parte il risultato della fisiologia, non solo della valutazione cognitiva delle situazioni. John Hoagland una volta disse che il problema con i computer è che non gliene frega niente. Dal punto di vista del beneficio a lungo termine dell'IA per l'umanità, il problema è che semplicemente non gliene frega niente.
