E' semplice. In un prossimo futuro verrà sviluppata una nuova tecnologia: capace di migliorare se stessa. Senza intervento umano.
Si chiamano sistemi esperti: un particolare tipo di software capace di "imparare" dall'esperienza: non è fantascienza, li utilizzate tutti i giorni, per esempio nell'intelligenza artificiale dei videogiochi (mai capitato in un gioco di guida di colpire un'auto e poi in un giro successivo la stessa auto colpisce voi come se si ricordasse?), o nei filtri anti-spam, anti-virus, o anche negli algoritmi di Google.
Il prossimo salto in avanti potrebbe essere in programmi che possano riscrivere il loro codice per migliorarlo, e quindi riscriverlo e riscriverlo in un evoluzione che potrebbe essere molto veloce e impossibile da controllare. Questa si chiama singolarità tecnologica: potremmo avere computer che nessuno al mondo può capire non solo nel loro lavoro ma anche nelle loro finalità.
Questa può sembrare una prospettiva molto lontana, ma in realtà serve uno sviluppo abbastanza semplice: un programma che possa migliorare il suo codice automaticamente.
Nell'anno 2000 il Singularity Institute for Artificial Intelligence fu fondato per diffondere la consapevolezza di questo problema. Sono parte di questo istituto filosofi, medici, fisici, informatici e altri.
