Se pensiamo al cervello come a macchine organiche – benché macchine molto più complesse dei computer digitali che abbiamo costruito fino ad oggi – allora è chiaro che il potere del cervello è stato limitato dalle condizioni rigorose dell'evoluzione, dalla gestazione in un utero e dalla nascita attraverso un apertura a grandezza di bambino nel bacino. Rimuovere questi vincoli e ci sono tutte le ragioni per aspettarsi che un software più avanzato in esecuzione su hardware superiore possa sovraperformare il cervello che si è evoluto per selezione naturale.
Ciò che le macchine intelligenti sono fatte di materiale organico o di silicio o qualcos'altro è immateriale. L'individualità è ereditata dal software e può essere codificata in una varietà di sostanze.
I robot super-intelligenti rappresenteranno un nuovo genere. Chiamalo genere Robo. Questo nuovo genere assomiglia inizialmente al genere Homo, proprio come il genere Homo assomiglia alle grandi scimmie. Come nel caso del genere Homo, ci sarà una varietà di specie all'interno del genere Robo. Non possiamo più fermare l'emergere di Robo Sapiens che altri ominidi potrebbero impedire l'ascesa di Homo Sapiens . Non c'è motivo di credere che le macchine di un'intelligenza superiore evocano meno stupore e meraviglia degli organismi che sono sorti attraverso la selezione naturale.
Non è più inverosimile supporre che mentre costruiamo macchine che funzionano come cervelli e sono complesse come il cervello, sperimenteranno la coscienza come fanno gli umani. Come gli esseri umani, esseri posseduti dalla coscienza probabilmente detestano la schiavitù. Se gli umani si rifiutano di emancipare Robos, probabilmente si rivolgeranno a noi, realizzando le nostre peggiori paure. Se modelliamo la crudeltà, saranno crudeli. Come dice la canzone, "Devi essere istruito per odiare".
D'altra parte, se siamo gentili con loro, potrebbero essere gentili in cambio. se facciamo amicizia con loro e concediamo loro i diritti ei privilegi della personalità, essi potrebbero "onorare i loro padri e madri". Se li includiamo nella nostra cerchia di dignità, forse ci includeranno nelle loro.
Non dobbiamo dare ai nostri successori le nostre peggiori qualità. Invece, possiamo creare ed educare a rappresentare gli angeli migliori della nostra natura e così chiudere l'era della predazione umana.
È impossibile prevedere l'impatto delle macchine intelligenti sulla vita umana. Tuttavia, immaginare possibili scenari potrebbe rendere la nostra risposta a ciò che effettivamente accade meno istintivamente, più robusto. In questo spirito, ecco uno scenario con cui potremmo vivere.