Intervista a Paolo Gallina autore del libro L’anima delle macchine. Tecnodestino, dipendenza tecnologia e uomo virtuale, edito da Dedalo Edizioni
SoloTablet segue con attenzione gli sviluppi e le innovazioni delle nuove tecnologie e dei loro effetti sulla vita individuale, personale, sociale e lavorativa delle persone. Una delle rivoluzioni tecnologiche più potenti è quella della robotica e della costruzione di macchine intelligenti umanoidi, capaci di erogare servizi ma anche di elaborare pensieri, di fare delle scelte e prendere decisioni, di provare sentimenti e domani forse di avere anche un’anima.
Sulla evoluzione delle macchine e sulla loro capacità di avere un’anima abbiamo intervistato Paolo Gallina, autore di un libro, L’anima delle macchine. Tecnodestino, dipendenza tecnologia e uomo virtuale, che si colloca all’interno di un dibattito crescente e sempre più animato sul ruolo delle macchine in rapporto alla natura e alla dimensione umana.
Buongiorno Professore. Il titolo del suo libro è volutamente provocatorio o nasce dalla convinzione che le macchine possano prima o poi avere un’anima? Molti oggi paventano il rischio di macchine-dio (il technium di Kevin Kelly) capaci di sostituirsi a noi e domani di determinare in modo autonomo con le loro scelte il destino umano. Altri come Ray Kurzweil parlano di singolarità tecnologica come possibile destinazione del destino umano, un destino che vedrà l’avvento di una intelligenza superiore a quella umana. Lei cosa ne pensa? Ci può illustrare le idee guida del suo libro?
Buongiorno. Parto dal titolo del libro, che non deve essere preso alla lettera. Vuole solo segnalare come il legame tra l'uomo e le macchine, che potrebbe sembrare esclusivamente razionale, in realtà si basa su emozioni e sentimenti. Senza addentrarci in gineprai filosofici, credo che l'anima che possiede una macchina sia quella che si è disposti a concederle. Mi spiego con un esempio. Paro è un robot che assomiglia a un cucciolo di foca. Non è altro che un robot molto avanzato progettato per innescare sentimenti di tenerezza. Viene impiegato per questo motivo nel trattamento di soggetti con deficit cognitivi. Tuttavia mi è capitato di vedere un'intervista di una coppia di anziani, giapponesi, perfettamente consapevoli del fatto che Paro era una macchina. Tuttavia lo trattavano come un animale domestico. L'avevano adottato! Gli avevano concesso l'anima.
Per quanto riguarda il pericolo della singolarità, credo sia una minaccia (mi riferisco alla profezia secondo cui i robot diventeranno più intelligenti dell'uomo e lo sottometteranno) così in là nel tempo che non ha la minima possibilità di saliere sul podio dei veri e concreti problemi dell'umanità.
Il tema delle macchine intelligenti, dei robot, dei cyborg non è mai stato tanto attuale. Mentre gli esseri umani sono sempre più immersi nel gioco tecnologico dei loro dispositivi, condizionati dalle tecnologie che usano e alla ricerca di esperienze di realtà virtuale, utile a fuggire dal mondo, le macchine si prendono la responsabilità di guardare il mondo al nostro posto e di farcene una rappresentazione, ma dal loro punto di vista. E’ come se, come ha scritto Naisbitt (High Tech High Touch) nel lontanissimo 1999, gli umani avessero delegato se stessi alla tecnologia, avessero deciso di affidarsi ciecamente ai suoi prodotti e avessero perso di vista il loro essere diversi dalle macchine perché umani e dotati di un cervello e di un’anima. Come valuta lei il rapporto che intercorre oggi con la tecnologia e quale ruolo gioca la volontà di potenza della tecnologia? Bisogna averne paura? E se non fossimo più capaci di spegnere il dispositivo tecnologico, mettere a riposo il robot casalingo? Non è forse già troppo tardi per farlo?
Sono convinto che per certi aspetti l'abbiamo già fatto. Ci sono segnali concreti che indicano come la dipendenza dell'uomo dalle macchine è forte.
Basti pensare alla "fossilizzazione cognitiva", ossia quel fenomeno secondo cui tendiamo progressivamente a delegare alle macchine funzioni cognitive della nostra mente. Un esempio è dato dalla calcolatrice: gli studenti di oggi rispetto a quelli del passato hanno meno dimestichezza con i conti a mente perché hanno delegato questa capacità.
Oppure basti pensare a un altro fenomeno interessante: la delega all'esterno della nostra forza di volontà. www.stickk.com è una piattaforma web dove un utente si iscrive, rende pubblico il proprio proponimento (come calare una decina di chili o smettere di fumare) e affida una cifra in denaro al sito. Solo se riuscirà nel suo proposito riceverà la cifra indietro.
Questi esempi ci suggeriscono che, al di là degli altisonanti robot umanoidi, tecnologia e processi sono già entrati nella nostra umanità.
Se le macchine avessero veramente un’anima forse, già oggi, si interrogherebbero sul loro ruolo nel creare una crescente disoccupazione che toglie lavoro, reddito e dignità a milioni di persone. Le macchine non stanno solo sostituendo gli esseri umani in attività manuali e ripetitive ma stanno sempre più interessando anche attività di tipo cognitivo e intellettuale, tute blu così come colletti bianchi. La sostituzione di posti di lavoro con macchine intelligenti e robot è per molti un’opportunità, per altri un grande pericolo portatore di nuove povertà e disuguaglianze. In passato l’automobile ha decimato i cavalli e la macchina tessile i posti di lavoro delle lavoratrici tessili inglesi. Siamo secondo lei in una nuova fase di estinzione e di affermazione delle machine come nuova specie del futuro?
Non credo. E non credo nemmeno che sia possibile tracciare scenari futuri con un certo grado di precisione.
Certo, le macchine cambiano il nostro rapporto con il lavoro, ma dove porre il limite tra ciò che è giusto e ciò che è eticamente inaccettabile, o semplicemente non auspicabile, è difficile. Se duecento anni fa avessero detto a una persona che per essere felice e guadagnarsi il pane avrebbe dovuto stare immobile per otto ore al giorno a fissare nella stessa direzione, muovendo semplicemente le dita, quel qualcuno avrebbe preferito la prigione.
Oggi è ritenuto del tutto normale un dipendente che rimane incollato allo schermo del PC per la maggior parte della giornata. Il fatto è che l'asticella si sta alzando.
E quando si fa i conti con il futuro si ragiona sempre con l'asticella fissata alla quota del presente.
Se ho capito bene, secondo lei le macchine tecnologiche sono potenti ma non essenziali. Lo dimostra il fatto che possono essere spente da una nostra decisione razionale. Eppure come lei sa, ad attivare il bottone dello spegnimento, in senso neppure tanto metaforico se si pensa all’astronauta abbandonato all’esterno del veicolo spaziale, nel film 2001 Odissea nello spazio è HAL, il computer di bordo dell’astronave che decide, su sua scelta, di prendere il comando e il sopravvento sugli abitanti umani in viaggio con lui nello spazio. Non crede che questo scenario possa avvenire nella realtà? Anche come conseguenza di quella che lei chiama fossilizzazione cognitiva derivante da un uso eccessivo di prodotti tecnologici e della crescente delega ad essi di compiti sempre più importanti?
Credo che questo scenario sia già qui. Difficilmente riusciremo a spegnere il bottone. Forse solo a causa (o per merito) della carenza di risorse energetiche.
Salvo rivoluzioni distruttrici capaci di riportare, come è già successo nella storia, le lancette all’indietro, la nostra evoluzione futura non può più prescindere da quella tecnologica. La rotta è segnata, anche se la destinazione non è ancora chiara perché non si capisce chi si stia arrogando il diritto di definirla, il motore tecnologico del mezzo di trasporto o il suo autista. Il viaggio potrebbe però essere pianificato da protagonisti sempre meno contrapposti ma ibridati da anni di contiguità, condivisione e collaborazione, da protesi assistive e componenti di intelligenza artificiale, da oggetti tecnologici intelligenti e indossabili dotati di mille sensori, da strumenti di realtà virtuale e parallela. E’ un’ipotesi di futuro che lascia aperta la strada a interpretazioni utopiche o distopiche. Qual è la sua idea in merito?
Le machine al lavoro, gli umani senza lavoro felici e contenti!
Nel mio saggio (e nelle successive interviste) mi sono sempre sforzato di rimanere neutrale nei giudizi sul problema riguardante la proliferazione della tecnologia. È pericoloso generalizzare. Ma, molto più importante, è impossibile fornire giudizi categorici. Sotto l'ombrella "tecnologia" vi sono miliardi di innovazioni che dovrebbero essere considerate singolarmente perché hanno ripercussioni sulla nostra esistenza profondamente diverse le une dalle altre.
Quel che è certo è che stiamo percorrendo un percorso tracciato.
Fa parte della nostra umanità trasformarci un qualcosa di ibridato con gli strumenti che abbiamo creato. La spinta, prima che economica, è evolutiva. La mente dell'uomo ha bisogno di creare e la mente dell'utilizzatore di macchine ha bisogno di nuovi stimoli. Perché? È il risultato dell'evoluzione. Centomila anni fa era un vantaggio avere nuove idee e non accontentarsi per sopravvivere in un ambiente ostile. Oggi l'uomo ha domato l'ambiente, ma l'istinto primordiale è rimasto. Forse, coi millenni l'uomo si riadatterà all'ambiente "retroevolvendosi"… ma è solo un'ipotesi bizzarra.
Ultima domanda. Il suo interrogativo sull’anima delle macchine non è capzioso ma fa riferimento alla volontà di potenza della tecnologia e alla sua evoluzione continua. A preoccupare molti, più che l’anima è però un cervello macchinico fatto di intelligenza artificiale in grado di apprendere e sostituirsi a quello umano. La preoccupazione è stata sollevata da numerosi scienziati come Stephen Hawking che alla BBC ha dichiarato come "The development of full artificial intelligence could spell the end of the human race." Secondo me più dell’intelligenza artificiale gli esseri umani dovrebbero temere un cervello alterato. Molte indicazioni emergenti dalla società attuale sembrano evidenziare lo sviluppo. E se la soluzione venisse fornita dalla tecnologia e dalla sua capacità di migliorare le nostre capacità e il nostro cervello fino a dar luogo a un cervello aumentato? E’ un interrogativo che si è posto lo psicanalista Miguel Benasayag nel tentativo di mettere in guardia verso il potere delle macchine e un ‘uomo diminuito’. Che risposta darebbe lei a questa domanda?
Mi trova un po' impreparato. Non ero a conoscenza che Stephen Hawking si occupasse di intelligenza artificiale e per quanto riguarda Miguel Benasayag, beh, devo confessare che non lo conoscevo proprio.
Tuttavia, credo che delegare alle macchine non significa necessariamente instupidirsi. La mente umana ha due caratteristiche fondamentali che possono essere utili per comprendere il fenomeno di cui stiamo parlando.
In primo luogo tende a minimizzare l'energia mentale. Ciò significa che tende a impiegare sequenze prefissate e ripetitive di ragionamento o di azione per minimizzare il "costo" di un pensiero. Ad esempio, quando guidiamo, molto spesso compiamo delle azioni in maniera automatica, proprio per quanto detto. Le macchine si inseriscono in questo contesto e si prestano ad essere automatismi che "economizzano" l'attività mentale.
In secondo luogo la mente non vuole annoiarsi. Il fatto che la mente deleghi alcuni sue attività non significa che non pensi. Semplicemente riserva per sé le attività cognitive più stimolanti e le astrazioni più complicate. È vero che ai giorni d'oggi le macchine fanno molto per noi, però è anche vero che l'uomo si è arricchito di concetti, astrazioni e sfide intellettuali e artistiche.