L'uomo ha ancora dei vantaggi fondamentali sulla macchina: un bagaglio di esperienze formatosi in anni di continue iterazioni con il mondo, un sistema di apprendimento estremamente sofisticato basato su un cervello flessibile e plasmabile (l'addestramento e l'allenamento modificano strutturalmente e fisicamente il cervello, cambiando l'arrangiamento dei collegamenti tra i neuroni), un sistema di sensori estremamente sofisticato (la guida di culo ne è un esempio), ha un ottimo set di attuatori, ha un ottimo sistema di "trasmissione del pensiero" (cioè ha la capacita di trasmettere concetti sofisticati ad altri indivudui), ha un sistema di gestione dell'energia estremamente efficente.
Però ha anche dei limiti: è lento, è debole, spesso è troppo grande o troppo piccolo (a seconda dei casi), ha una memoria che sintetizza e che scarta molta informazione, semplifica e schematizza la sua percezione del mondo (le illusioni ottiche ne sono un esempio, la pareidolia un altro), ha quindi una capacità limitata di acquisire informazioni, pensa anche ad altro oltre a quello che sta facendo, non sempre usa tutte le sue risorse cognitive per fare le scelte che fa, ha molte cose di cui preoccuparsi, è opportunista, non è replicabile all'occorrenza.
Ma forse il suo limite principale è che si evolve molto, molto lentamente.
I sistemi artificiali riguardo i nostri limiti ci hanno già superato da un pezzo, riguardo i nostri vantaggi, spesso è solo questione di tempo e risorse.
Banalmente, già oggi ci sono molti sistemi che apprendono da soli ed evolvono il loro "modo di pensare", anche con meccanismi di feedback prova-errore, ma uno dei loro limiti (oltre a quelli oggettivamente tecnologici) è che non hanno mai il tempo di imparare che viene concesso ad un uomo (nessuno ritiene di investire in un sistema che per cominciare ad essere utile ha bisogno di apprendere come funziona il mondo e di studiare su argomenti specifici per 25 anni di seguito).
Inoltre i sistemi artificiali hanno dei vantaggi intrinseci rispetto all'uomo: possono essere miniaturizzati a livello quasi-atomico (il cervello dell'uomo ad esempio è miniaturizzato a livello di molecole molto complesse), possono essere focalizzati su uno specifico compito (l'uomo deve anche vivere da uomo), possono sfruttare le esperienze di molti uomini contemporaneamente (i loro costruttori).
Il dubbio che viene pensando al futuro è: quanto deve essere complesso un sistema per cominciare ad essere autocoscente di se e per cominciare a fare scelte opportunistiche come fanno gli individui umani?
Ecco, raggiunto quel livello di complessità (una moto che va in giro per il suo stesso piacere di andare in giro), personalmente comincerei a preoccuparmi
