In un recente post, ho suggerito che le esperienze sessuali artificiali in futuro rivalorizzeranno o supereranno la realtà. La paura della schiavitù da parte di macchine intelligenti e la paura di macchine più intelligenti di noi sono un caposaldo della fantascienza seguendo la guida di Isaac Asimov. Ora uno scienziato delle celebrità, Stephen Hawking, è spaventato. Dovremmo essere il resto di noi?
Perché Hawking è fuori di testa
Il punto di partenza di Hawking è un nuovo film, Transcendence, con Johnny Depp. Il film coinvolge versioni robotiche di umani che esprimono l'intera gamma di emozioni umane con un potere analitico che supera l'intelligenza collettiva di tutti sulla terra in tutta la storia.
Ci aspettiamo che la fantascienza esageri, naturalmente, ma c'è un senso in cui i nostri peggiori timori sono già stati realizzati. Viviamo in un'epoca in cui i computer sono già migliori degli umani negli scacchi e persino a rischio di gioco. Le auto a guida automatica sono più sicure di quelle controllate da operatori umani. Gli aerei sono ora principalmente guidati da programmi per computer e la disposizione degli aerei nel cielo mentre aspettano le piste è una meraviglia della tecnologia digitale.
I computer leggono alcune scansioni mediche meglio dei medici e sono ancora più bravi a verificare le ipotesi scientifiche di quanto lo siano la maggior parte degli scienziati. I computer sono ancora tremanti nel giocare a sport tridimensionali come il calcio, ma stanno migliorando rapidamente, grazie in parte allo sviluppo di arti protesici intelligenti.
Più vicino a casa, Google sa cosa voglio cercare prima di completare la mia richiesta. I bot registrano i miei movimenti su internet e mi seguono in vari siti suggerendo prodotti da acquistare. Alcuni cercano di pattugliare internet in cerca di occasioni su misura per le mie esigenze.
La tecnologia è già molto più intelligente di chiunque altro. Se dobbiamo preoccuparci è in gran parte una questione di se i robot sono ben disposti nei confronti degli esseri umani, e se tale relazione è stabile. Questo problema è ben catturato dalla relazione tra Jeeves, il maggiordomo e Bertie Wooster, il datore di lavoro, nei romanzi di PG Wodehouse.
Confidando Jeeves
Bertie Wooster poteva sempre fidarsi di Jeeves e il loro rapporto era certamente prevedibile e stabile come il sistema di classe britannico su cui era basato. Anche se Jeeves fosse più intelligente di Wooster e fosse più bravo nel raccogliere informazioni rilevanti dall'ambiente, Wooster non dovette preoccuparsi di usurpare la sua posizione.
Avere un maggiordomo intelligente era un vantaggio, proprio come avere un giardiniere muscoloso, ma non era una minaccia perché Wooster affidava a Jeeves l'uso della sua intelligenza per il beneficio del padrone. Wooster non si preoccupava più di Jeeves che sovvertiva l'ordine sociale di quanto non si preoccupasse per il giardiniere che entrava dalle finestre per deporlo con il colpo di una pala sul lato della testa. Non ci sono rivoluzioni contadine a Wodehouse.
Non esiste un equivalente di un rigido sistema di classe per tenere sotto controllo i robot, sebbene Isaac Asimov suggerisse che i robot dovevano sempre essere programmati in modo da garantire che i loro sforzi fossero diretti a servire il bene dell'umanità. Ciò può diventare complicato, in particolare in un mondo futuro in cui i robot si stanno progettando da soli.
Hawking riconosce che le tecnologie future potrebbero aiutarci a sradicare i problemi umani di lunga data della guerra, delle malattie e della povertà. Tuttavia, è diffidente nei confronti di potenziali problemi:
"Si può immaginare una tale tecnologia che supera in astuzia i mercati finanziari, inventa i ricercatori umani e sviluppa armi che non riusciamo nemmeno a capire", ha detto Hawking.
In un'epoca di trading ad alta velocità, si potrebbe sostenere che uno di questi ostacoli è già stato superato e l'intelligenza artificiale è già molto brava a fare scienza. E chi capisce veramente cosa sta succedendo alle frontiere del nuovo sviluppo di armi.
Tuttavia, la domanda più basilare da porre sull'IA non è se sia potenzialmente pericoloso, ma se sia affidabile.
Perché dovremmo davvero preoccuparci
Molte distopie fantascientifiche concepiscono robot che si sollevano e strappano il controllo dai leader umani. Questa è probabilmente l'ultima cosa di cui dobbiamo preoccuparci a meno che i robot non siano controllati da un'intelligence umana maliziosa.
Ci sono molte ragioni per cui l'intelligenza artificiale può essere minacciosa, ma metterei incidenti di gran lunga superiori alla malizia. Alcuni futuristi temono che minuscole entità autoreplicanti possano avvolgere il mondo causando il collasso ecologico – un'apocalisse nanotecnologica conosciuta come "l'ipotesi della grigia goo".
Non è difficile immaginare come i virus informatici possano infettare molti sistemi di controllo in modo che i mercati finanziari si bloccassero, la rete elettrica diventasse nera e gli aerei si scontrassero a mezz'aria sugli aeroporti, mentre le auto a guida autonoma si riversavano nei muri. Non pensare nemmeno a un robot che esegue un intervento al cuore quando il suo software viene compromesso!
