“Le macchine 'intelligenti' possono svolgere i compiti loro assegnati con sempre maggiore efficienza, ma lo scopo e il significato delle loro operazioni continueranno a essere determinati o abilitati da esseri umani in possesso di un proprio universo di valori”. Questo punto mi è sembrato il nodo cruciale del messaggio di Papa Francesco per la 57.ma Giornata mondiale della Pace. Il riferimento implicito potrebbe essere a quella buona intuizione del filosofo statunitense John Searle il quale ha ideato un esperimento mentale per capire di che genere siano le risposte delle intelligenze artificiali.
Immaginiamo di entrare in una scatola chiusa che rappresenta una macchina in grado di parlare in cinese. Pur non conoscendo una parola di cinese, ci è stato dato un manuale che ci fa fare certe azioni per noi assolutamente incomprensibili, come ad esempio associare un certo simbolo in uscita dalla scatola in corrispondenza di altri simboli in input. Anche se dall'esterno la macchina mostra un comportamento intelligente, la persona che si trova dentro non capisce assolutamente niente del dialogo in corso. È il paradosso della
chinese box. In questo modo si vuole asserire che le AI possiedono e possederanno sempre soltanto un'intelligenza sintattica, un manuale (ovvero i famosi algoritmi informatici) in grado di restituire risposte (solo l'imitazione di una coerenza semantica), ma mancano e mancheranno sempre di una vera intelligenza semantica, relativa cioè alla comprensione dei significati. Qui sta il vero discrimine tra l'essere umano e le macchine. Il linguaggio umano non si basa su un “manuale” che ci induce a fare certe azioni verbali, non è autofondato, ripiegato sull'immanenza della realtà nella quale viviamo, ma prospetticamente “metafisico”, ovvero nasce e si sviluppa a partire da una profonda trascendenza che è la caratteristica assoluta della nostra specie. L'uomo evade di continuo il mondo con la parola, e qui Platone aveva visto giusto con il suo classico concetto di idea. Gli attuali studi scientifici sul linguaggio hanno confermato questo elemento seppur da impostazioni diverse e inconsapevolmente, anche se il paradigma dell'immanenza è ancora un caposaldo scientifico. L'errore rischia di essere riversato sul mondo delle AI, ed è ciò che Papa Francesco indica come enorme rischio per l'intera umanità in questo messaggio molto articolato. Lo si potrebbe considerare “conservatore” e pessimista per i continui elenchi di possibili rischi ai quali ci espongono le presunte macchine pensanti, in realtà algoritmi implementati da équipes informatiche per adempiere a certe finalità. Tutto questo, senza negare le immense positività che le macchine possono apportare. La ricerca scientifica, si dice nel documento in profonda coerenza con quanto affermato in relazione al funzionamento degli algoritmi, non è qualcosa di neutrale, ma sempre afferente alla cultura e alla dimensione valoriale umana. Se questa si appiattisce su una dimensione efficientista e materialista, com'è ormai la cultura postumana e transumana, addirittura inseguendo il mito prometeico della divinizzazione dell'umano e della sua potenziale immortalità, anche pagando monete dolorose e devastanti, allora le conseguenze possono essere serissime ed alienanti. Questo il passaggio più forte: “L’essere umano, infatti, mortale per definizione, pensando di travalicare ogni limite in virtù della tecnica, rischia, nell’ossessione di voler controllare tutto, di perdere il controllo su sé stesso; nella ricerca di una libertà assoluta, di cadere nella spirale di una dittatura tecnologica”. E qui si affacciano alla mente tante storie di fantascienza che Hollywood ci ha offerto in questi ultimi decenni, da
Terminator a
Matrix. Similmente ad altri contesti della sua vita, l'essere umano, sia come specie sia come singolarità irripetibili, è ora a un bivio reale della storia: scegliere di avere un “cuore artificiale” o un cuore di carne, quello di cui parlano i profeti biblici. Un bivio che, come sempre, lo pone dinanzi alla sua libertà.
