Marramao «La tecnica si doma. Ma con la biorobotica rischiamo Blade Runner»

Ci sono molti allarmi sul pericolo di una Tecnica fagocitante, che si autoalimenta, occupa tutti gli spazi e depreda le coscienze e le menti degli essere umani. Giacomo Marramao, filosofo, docente di filosofia teoretica all’Università di Roma, non li condivide. Non completamente, almeno. Ciò che lo preoccupa è altro: la congiunzione di parti del Dna umano, animale o vegetale con l’Intelligenza Artificiale. Lo preoccupa che l’incistazione di genoma umano con Blade Runner e Terminator diventi una realtà. Da bridivi.

Professore, molti pensatori lanciano l’allarme sugli algoritmi che ci condizionano e sulla tecnica, demone che una volta scatenato non riusciremo più a fermare.

In primo luogo è necessaria una premessa. L’animale umano, l’homo sapiens, è stato definito da studiosi di etologia come un essere “naturalmente artificiale”. Naturalmente tecnico. E la prima tecnica che usiamo è il linguaggio, che si distingue in maniera radicale da altre forme di comunicazione presenti nel mondo animale, forme fatte di segnali. Il linguaggio umano è qualcosa di molto più sviluppato rispetto al tipo di comunicazione segnaletica che hanno altre specie. E questa maggiore complessità implica, per la filosofia e non solo, un fatto molto importante: usando il linguaggio non solo noi umani non sempre ci diamo informazioni esatte, ma in molte occasioni mentiamo. Usiamo cioè la menzogna non soltanto verso gli altri ma possiamo mentire anche a noi stessi.

Il primo dispositivo problematico, molto problematico, che noi abbiamo costruito nel corso dell’evoluzione umana e che fa di noi una specie per un verso superiore e per l’altro complicata, è il linguaggio. Il linguaggio significa enorme supremazia sul fronte della complessità e della capacità del pensiero ma ha anche, diciamo così, l’inconveniente - e qui entriamo nel merito del problema contemporaneo - di poter essere usato strategicamente per ingannare l’altro, manipolarlo. È un fatto di natura “originaria”, che non riguarda solo le tecnologie contemporanee.

Il linguaggio, va bene. E’ quello il pericolo?

Mi spiego. Siamo animali naturalmente artificiali anche su altri piani. Costruiamo in base alla nostra evoluzione, che ha modellato i nostri arti in modo tale da essere capaci di gestire manualmente una serie di attrezzi, anche di tipo tecnologico. Insomma la tecnica è costituiva della nostra stessa natura dal momento in cui ci siamo separati dagli altri primati.

Professore, e adesso la tecnica prende il sopravvento...

Ma guardi, è una tesi che ha in Emanuele Severino il teorizzatore più radicale e rigoroso, e che troviamo anche in Heidegger seppur in forme diverse, e in altri pensatori. E’ una tesi che a mio avviso presta il fianco ad un rischio: quello di attribuire alla tecnica, cioè ai dispositivi artificiali, una sorta di volontà intrinseca. Come se la tecnicità contenesse in se una pulsione irrefrenabile e cosciente all’autoconservazione.

E non è così?

A me pare che ci sia un fenomeno diverso da considerare. Le innovazioni tecniche in qualche modo sicuramente ci condizionano. Questa forma di condizionamento è diventata pervasiva anche politicamente, e mostra efficacia. Specialmente con la comparsa della comunicazione via Web, con l’hardware ed il software prodotti dalla tecnologia digitale. All’epoca di Pier Paolo Pasolini si diceva che fosse la televisione l’elemento condizionante, e non soltanto per l’immagine in movimento che la tv riesce a trasmettere in forma più parcellizzata rispetto al cinema. Oggi soprattutto la comunicazione in Rete determina effetti che sconvolgono la nostra idea tradizionale di politica e di democrazia. Cambiano una serie di regole del gioco: il concetto di consenso, le notizie divulgate con velocità e in tempo reale.

Allora il pericolo dal quale dobbiamo guardarci è la manipolazione del pensiero, la capacità e possibilità di indirizzare la volontà di chi usa la Rete per informarsi?

Il pericolo non è tanto la manipolazione, nel senso che rischi di quel genere ci sono da sempre. Perfino nella democrazia ateniese ai tempi di Pericle c’erano mezzi di comunicazione - il teatro, l’agorà - che manipolavano. Norberto Bobbio già decenni fa diceva: non pensiate che la manipolazione fosse assente nella democrazia classica greca. Il punto critico vero, a mio avviso, quello che fa da discrimine vero, è la questione della rappresentanza. Il fatto di riempire la Rete di una pletora di opinioni e punti di vista e, se si vuole, anche di sondaggi. Una specie di auto- rappresentazione dei personaggi che affollano la Rete con le loro proposte, le loro idee politiche. Ciò determina sicuramente una novità, un cambiamento del meccanismo della democrazia rappresentativa. Tuttavia anche nel passato esistevano fenomeni simili. Non tanti anni fa con Umberto Eco discutevamo proprio di questo fatto. Io sono convinto che la Rete ha dentro di sè una massa di conoscenza fruibile come non era mai successo nella storia umana. Per cui sarebbe ridicolo, anacronistico prendersela con il web. Quanto a Eco, a fronte di chi criticava dicendo che così circolano milioni di fandonie incontrollate...

Sono le fake news, appunto.

Sì. Però Eco ribatteva che anche una biblioteca classica quanti libri ospita che contengono sciocchezze e che sono stati presi sul serio? Casomai è da rilevare che il numero di coloro che frequentano le biblioteche è assai minore, immensamente più selezionato, di quelli che navigano sulla Rete. Ma non è che la sola “forma” libro sia garanzia superiore rispetto a ciò che circola sulla Rete.

E dunque, professore, lei non considera il Web come anticipatore della cancellazione della democrazia diretta... Io sono assolutamente contrario ad una critica delle tecnologie contemporanee in senso luddistico o nostalgico. D’accordo. Ma esiste o no un pericolo di brain hacking, di intromissione nelle menti delle persone attraverso i messaggi sul web, usando cioè le nuove tecnologie?

E’ un problema che rimanda alla dinamica fondamentale, ambivalente, che abbiamo vissuto nel secolo scorso: appunto il tema del consenso. Il consenso è stato un elemento fondamentale anche nei regimi reazionari di massa: il fascismo e il nazismo, per esempio. E non è un caso che i miei maestri della scuola di Francoforte, Horkheimer e Adorno, abbiano approfondito nel periodo fra le due guerre mondiali un concetto che prima non c’era e poi è stato utilizzato dalla sociologia nel anni ’ 60 del Novecento: il concetto di industria culturale. Ossia come quella che un tempo era l’ideologia si trasforma in industria culturale. In grado di poter fare a meno dell’ideologia perché incorpora i messaggi sensibili nella pubblicità e addirittura negli slogan della politica. Di qui la creazione di mode culturali. Con la possibilità che le idee possano propagarsi come fossero virus, o come una moda che diventa di massa. Praticamente una merce. L’analisi che la scuola di Francoforte fa nel secondo dopoguerra è che questo tipo di società è riuscita ad avere il consenso senza dover ricorrere a mezzi di coercizione o alla violenza. Il problema che emerge è un altro. Io ho lavorato moltissimo sul tema della globalizzazione e ho cercato analizzare questo fenomeno in chiave filosofica.

E a quali conclusioni è giunto, professore?

Ecco. Noi stiamo per assistere all’arrivo di un’onda d’urto che avrà un impatto ancora maggiore di quello avuto dalla globalizzazione. Si tratta dell’impatto della bio- robotica, cioè l’intreccio tra robotica, genetica e Intelligenza Artificiale. E’ lo scenario che si reifica del film Blade Runner di cui è autore un genio come Philip K. Dick che ritengo un grande pensatore anche filosoficamente rilevante e non solo un autore di fantascienza. Una robotica che mette insieme i risultati dell’Intelligenza artificiale, la potenza del digitale e la specificità della genetica. Pensi che succederebbe se arrivassimo a costruire dei robot realizzati per metà con strutture meccaniche e per l’altra metà con innesto di elementi genetici umani, animali e perfino vegetali...

Allora neanche più Blade Runner ma direttamente Terminator...

E’ il problema che proprio Dick poneva. Può esistere il rischio che questa nuova bio- robotica crei delle realtà, delle singolarità che al loro interno avvertono una autonoma pulsione verso l’autoconservazione.

Sta parlando di coscienza robotica?

Se non proprio una coscienza, lo sviluppo di un istinto vitale per l’autoconservazione. Con strategie per proteggersi, autodifendersi e accrescere così la loro potenza. Come avviene in 2001, Odissea nello spazio di Kubrick, con il cervellone Hal 9000 che ha paura di essere disinnescato. Cioè sviluppa l’istinto di autoconservazione.

Ci si può difendere oppure dobbiamo consegnarci alla potenza tecnologica e robotica?

Sicuramente si tratta di una soglia, che stabilisce un prima e un dopo. Se un robot ha una cabina di regia in parte digitale e in parte proveniente da Dna umano, viene fuori un ibrido. In linea con la vecchia tradizione umanistica, io continuo o pensare che anche il più supersonico androide che l’uomo potrà realizzare avrà comunque una memoria immagazzinata: ossia quella che gli uomini gli avranno messo dentro. Una memoria iper sviluppata che però rimarrà molto diversa da quella umana, propria anche della persona più umile e ignorante, che è memoria attiva, creativa.