Il problema profondo di AI

Modellato sul cervello umano, l’apprendimento profondo è opaco

Fonte: archivio di dominio pubblico

L’intelligenza artificiale è modellata in una certa misura sul cervello umano; e c’è un problema profondo con questo approccio. L’apprendimento automatico è un sottogruppo di intelligenza artificiale (AI) in cui i programmi per computer apprendono automaticamente dai dati senza programmazione esplicita. Ispirato in parte dalla biologia umana, l’apprendimento profondo è un metodo di apprendimento automatico che schiera strati di neuroni artificiali, chiamati nodi, in un cervello artificiale chiamato rete neurale. I neuroscienziati e gli psicologi devono ancora comprendere appieno come funziona il cervello umano. Allo stesso modo, c’è un grosso problema con l’apprendimento profondo; gli scienziati non sanno esattamente in che modo l’apprendimento profondo raggiunga le sue decisioni. In entrambi i casi, la complessità è alla base della mancanza di trasparenza.

Il cervello umano è complesso; i ricercatori stimano un cervello umano maschio adulto ad avere in media 86 miliardi di neuroni [1]. I manuali di neuroanatomia umana misurano comunemente il numero per avvicinarsi a 100 miliardi di neuroni. Simile al cervello umano, l’apprendimento profondo consiste in neuroni o nodi di elaborazione densamente interconnessi, disposti in più strati. L’apprendimento approfondito non richiede una programmazione esplicita perché è progettato per imparare da una grande quantità di dati di input. Ad esempio, il programma di deep learning di Google ha imparato a riconoscere le immagini dei gatti dopo aver sfamato 10 milioni di miniature video di YouTube senza hard coding o etichettando le immagini [2].

• Girovita che si espande, cervello che si espande?
• Moderna forma di cervello legata a lobi e cervelletto parietali
• I cani di razze libere valutano la dimensione relativa del gruppo per la subitizzazione
• Anche le grandi aziende devono evolversi
• La scienza canina non è una scienza soft: i dati hard dog abbondano

Per capire perché l’apprendimento approfondito è straordinariamente complesso richiede una comprensione del processo funzionale stesso. Le reti neurali trovano modelli in grandi insiemi di dati e quindi sviluppano la capacità di concettualizzare e generalizzare. Grandi quantità di dati vengono immesse nelle reti neurali artificiali. Il primo strato di nodi elabora i dati e quindi passa ai livelli successivi di nodi fino a quando non viene raggiunto l’ultimo livello e viene eseguita una singola decisione. Nell’elaborazione, i pesi sono calcolati matematicamente per i nodi e per la forza della connessione tra i nodi, come le sinapsi del cervello. La rete neurale crea un modello con miliardi di miliardi, se non trilioni, di parametri basati su connessioni complesse tra i nodi. È questa complessità intrinseca del modello che rende impossibile determinare esattamente in che modo l’apprendimento profondo produce il suo output.

L’opacità dell’apprendimento approfondito diventa problematica in diverse aree dell’etica, del diritto e del controllo di qualità. Ad esempio, l’industria automobilistica si sta rapidamente spostando verso veicoli autonomi utilizzando la tecnologia di deep learning. In caso di incidente, non esiste un modo definitivo per comprendere il ragionamento alla base delle decisioni prese dalle reti neurali in un veicolo autonomo. Chi è in colpa in questi casi? La domanda pone un dilemma etico e legale per tutte le parti interessate, compresi i feriti, i passeggeri, le compagnie di assicurazione e le case automobilistiche. In che modo un consumatore valuta la qualità di un veicolo autonomo senza comprendere il processo decisionale del conducente?

Un altro esempio è il dispiegamento di deep learning per l’analisi delle immagini in assistenza sanitaria per alcuni tumori e retinopatia diabetica [6]. Ti fiderei della diagnosi della malattia di un modello di apprendimento profondo senza sapere perché è stato creato? Un medico umano può spiegare il suo ragionamento e la sua logica quando viene interrogato dal paziente. Questo non è il caso dell’apprendimento profondo.

• Sentirsi soli? Il tuo cervello potrebbe essere a rischio
• Autismo e cervello: cosa dice la ricerca?
• Le mani dei genitori scolpiscono il cervello dei bambini?
• The Amazing Power of the Upward Spiral
• Mindfulness Hacks per i genitori occupati

L’estensione del problema di trasparenza dell’IA è in aumento e diventerà più un problema in futuro con l’aumento dell’automazione. Il recente aumento delle scoperte commerciali e di ricerca nell’IA è stato in gran parte dovuto alla maggiore potenza di calcolo tramite acceleratori di GPU (Graphics Processing Unit) per ottenere un’elaborazione parallela massiccia, rispetto a un’unità di elaborazione centrale (CPU) che elabora le informazioni in serie e in sequenza [5]. Contribuiscono anche all’aumento dell’IA sono l’informatica basata su cloud decentralizzata e la disponibilità di grandi set di dati. L’apprendimento automatico viene utilizzato per il riconoscimento vocale, i veicoli autonomi, l’elaborazione delle immagini, il riconoscimento della grafia e altro ancora. Il livello di potenza e sofisticazione dell’IA è stato dimostrato quando il programma AlphaGo di Google DeepMind, un modello di apprendimento approfondito, ha sconfitto i migliori giocatori di Go umani al mondo [3]. Gli algoritmi di deep learning fanno parte della tecnologia di riconoscimento vocale di Apple, Microsoft, Amazon e Google [4]. L’IA viene distribuita in molteplici industrie a livello globale, sottolineando così l’importanza di affrontare la sua opacità.

Scienziati e ricercatori stanno attualmente lavorando per demistificare quella che viene spesso definita la scatola nera dell’IA; nessuno sa esattamente in che modo l’apprendimento profondo arriva alle sue decisioni. L’ironia è che l’intelligenza artificiale è modellata sul cervello, e così facendo eredita l’inconoscibile complessità della cognizione umana.

Riferimenti

1. Frederico Azevedo et al., “Un numero uguale di cellule neuronali e nonneuronali rendono il cervello umano un cervello di primati su scala isometrica.” Journal of Comparative Neurology . 10 aprile 2009.

2. Clark, Liat. “Il cervello artificiale di Google impara a trovare video di gatti”. Wired UK . 06.26.12.

3. Gibney, Elizabeth. “Quello che farà l’algoritmo Go vincente di Google.” Natura . 15 marzo 2016.

4. Parloff, Roger. “Perché l’Apprendimento Profondo sta cambiando improvvisamente la tua vita.” La fortuna . 28 settembre 2016.

5. NVIDIA. “Che cos’è GPU-Accelerated Computing?” Recuperata il 20 febbraio 2018 da http://www.nvidia.com/object/what-is-gpu-computing.html

6. Weidman Metis, Seth. “4 imprese di apprendimento approfondito dovrebbero capire le aziende leader”. VentureBeat . 23 gennaio 2018.