Se la cinematografia e la letteratura sci-fi ci hanno insegnato qualcosa è questo: molto meglio che un tostapane non si chieda perché continuare ad abbrustolire pan carré, quando potrebbe darsi ad attività più stimolanti quali, ad esempio, il totale sterminio della razza umana. 2001 Odissea nello spazio, Terminator, Matrix,tutti film che si basano su di un solo, singolo concetto: nel caso una macchina dotata di intelligenza artificiale prenda piena autocoscienza, la risposta del genere umano (questo sprovveduto sempliciotto) si riduce al goffo tentativo di staccare la spina,iniziativa che, nel 99% dei casi, lo conduce a un doloroso sterminio. "Sì vabbé, lallero. Sono solo film". Avremo potuto accettare questa idiosincrasia risposta qualche anno fa ma ora…bé, vale la pena di indulgere a una piccola riflessione. Qualche mese fa, in occasione dell'uscita del film Trascendence (niente di speciale ma concettualmente stimolante), il quotidiano britannico The Indipendent pubblicò un'intervista fatta ad una simpatica combriccola formata dall'informatico Stuart Russell e dai fisici Max Tegmark, Frank Wilczek e –nientepopodimeno che – Stephen Hawking.
Nell'intervista il gruppetto afferma che “Il potenziale della ricerca nel campo delle intelligenze artificiali è senza dubbio incredibile. La creazione di una vera intelligenza artificiale sarebbe l'evento più significativo nella storia dell'umanità e, con buona probabilità, l'ultimo. Ameno che non si impari come evitare i rischi legati a questa tecnologia”. Contestualmente, proprio pochi giorni fa, il tecno-guru Elon Musk ha lanciato un monito via Twitter scrivendo: "Bisogna leggere Super-intelligence di Bostrom, dobbiamo fare attenzione con l’AI. Potenzialmente è più pericolosa delle armi nucleari – rincarando poi la dose con un secondo tweet – C'è d'augurarsi di non essere solamente il boot loader biologico di una super intelligenza digitale. Sfortunatamente, è sempre più probabile". Malgrado il tono allarmista del tweet (chissà se la fine del mondo verrà annunciata in 140 caratteri), il signor Musknon è certo un anti tecnologico censore, anche perché la sua ultima startup, Vicarious, ha come mission proprio la creazione di un'intelligenza artificiale "umana". La difficoltà nel ritenere una macchina programmata dall'uomo secondo canoni di matematica precisione in grado di fare “di testa sua” è ovviamente comprensibile, ma proviamo per un attimo a vagare in un universo mentale di immaginaria astrazione. Una "vera" intelligenza artificiale sarebbe una struttura pensante con una capacità di ragionamento paragonabile a quella umana. E fin qui ci siamo. La immaginiamo limitata da regole specifiche atte ad impedirle di agire contro l'uomo o sé stessa, proprio come l'A.I. di asimoviana memoria.
Ora immaginate un bambino piccolo, tra i 4 e i 6 anni diciamo. Probabilmente vede Dio ogni volta che sfiora la madre con lo sguardo e ne segue, in linea generale, le regole e gli insegnamenti.Arriva poi il momento in cui la sua volontà del momento prevarica il timore della punizione, e il nostro bambino s'infila tra le gote paffute una bella cucchiaiata di vinavil. La peculiarità di una“vera” intelligenza artificiale è proprio la spaventosa capacità di crescere e riprogrammarsi, scavalcando, potenzialmente, regole e limitazioni. Purtroppo le super intelligenze artificiali non sono ghiotte di vinavil, quindi crediamo che il timore di ben meno fauste conseguenze sia del tutto legittimo. Per rimanere sulla stessa linea di pensiero, riflettiamo su tutto quello che potrebbe andare male nel lungo periodo dell'età evolutiva (vogliamo essere gli antesignani della psichiatria artificiale).
Esattamente come da un bambino tranquillo può emergere il profilo di un violento sociopatico, non è detto che da una A.I. buona non emerga……a questo punto abbiamo paura a fare ipotesi, comunque vagonate di danni. Di nuovo la buona letteratura ci viene in soccorso sul piano esemplificativo. Prendiamo Uno, brillante spalla tecnologica del nostro buon vecchio vendicatore pennuto, Paperinik (Pk). Il suo gemello perfetto, il backup Due, è“cresciuto” in completa solitudine, lasciato fuori dal mondo a covare desiderio e coltivare odio. Due si è quindi "riprogrammato",evolvendosi da copia perfetta ad uno dei peggiori nemici del nostro beniamino mascherato. Spaventoso, non trovate? Narrativamente intrigante, senza dubbio, ma comunque spaventoso. Concludiamo con una botta di nostalgico citazionismo chiedendovi: ma secondo voi gli androidi sognano pecore elettriche?