La Singolarità è una fake-news (dialogando con Francesco Morace)

“L’avvento delle macchine ci costringe a una nuova educazione, autoeducazione; ci impone di reagire, riscoprendo le nostre potenzialità, la nostra forza, il nostro coraggio, la nostra saggezza. Dovremo imparare a scegliere. Dovremo scoprire in noi il senso della misura, arrivare a saper dire di no, a saper mettere limite all’invasione delle macchine nelle nostre vite, nei nostri stessi corpi” – Francesco Varanini

Scrive Noah Harari che “quando la tecnologia ci permetterà di reingegnerizzare le menti umane, Homo sapiens scomparirà […] e un processo completamente nuovo avrà inizio”. La previsione può rivelarsi errata ma se si riflette sulla profondità dei cambiamenti in corso e il ruolo che la tecnologia sta avendo nel determinarli, si comprende che siamo in una fase di cambio di paradigma. Quando il nuovo emergerà noi potremmo non essere più umani. Cyborg, simbionti, semplici intelligenze artificiali più o meno ibridate, potenti, intelligenti e capaci di apprendere ma non più umane.

Se questa prospettiva è verosimile è più che mai necessaria una riflessione approfondita, puntuale e critica di quanto sta avvenendo. Paradigmatico per questa riflessione è il tema dell’intelligenza artificiale che, più di altri, suggerisce bene il rischio e la sfida che tutto il genere umano si trova di fronte. Un rischio da molti sottovalutato e una sfida da molti accettata forse con eccessiva superficialità. Un tema che comunque è di interesse generale e vale la pena approfondire. E la riflessione deve essere fatta da tecnici, esperti, fautori della IA, ma senza mai dimenticarsi di essere esseri umani.

SoloTablet ha deciso di farlo coinvolgendo persone che sull’intelligenza artificiale stanno lavorando, investendo, filosofeggiando e creando scenari futuri venturi.

 In questo articolo proponiamo l’intervista che Carlo Mazzucchelli  ha condotto con Francesco Morace sociologo, saggista e fondatore del Future Concept Lab.

Buongiorno, può raccontarci qualcosa di lei, della sua attività attuale, del suo interesse per l’intelligenza artificiale? Ritiene utile una riflessione sull'era tecnologica e dell'informazione che stiamo sperimentando? Su quali progetti, idee imprenditoriali sta lavorando? Con quali finalità e obiettivi? A chi sono rivolti e in che ambiti sono implementati? 

Sono un sociologo e mi occupo da sempre di cambiamento sociale e fenomeni di tendenza: a questo scopo ho fondato 30 anni fa il Future Concept Lab, un Istituto di Ricerca che combina la conoscenza sociologica con la consulenza al mondo dell’impresa, con l’obiettivo di produrre conoscenza per un migliore orientamento nella produzione, nella comunicazione, nella distribuzione, affinché diventino attività di business più consapevoli.

Negli ultimi anni la riflessione sull’era tecnologica e dell’informazione è diventata centrale per comprendere e approfondire i fenomeni in atto, e a questo scopo sto lavorando ad esempio con il tessuto delle piccole industrie italiane associate a Confindustria per sensibilizzare le imprese familiari al tema dell’Industria 4.0, all’uso dei Big data, alle potenzialità dell’Intelligenza Artificiale.

Nello stesso tempo lavoro a stretto contatto con le grandi multinazionali che hanno oggi il problema di gestire risorse umane che troppo spesso si sentono trattate come numeri da incasellare, piuttosto che come persone da valorizzare e motivare. In entrambi i casi si tratta di lavorare su Un Futuro + Umano (titolo di uno dei miei libri più recenti) che riesca a conciliare tecnologia e human touch. 

Oggi tutti parlano di Intelligenza Artificiale ma probabilmente lo fanno senza una adeguata comprensione di cosa sia, delle sue diverse implementazioni, implicazioni ed effetti. Anche i media non favoriscono informazione, comprensione e conoscenza. Si confondono IA semplicemente reattive (Arend Hintze) come Deep Blue o AlphaGo, IA specializzate (quelle delle Auto), IA generali (AGI o Strong AI) capaci di simulare la mente umana e di elaborare loro rappresentazioni del mondo e delle persone, IA superiori (Superintelligenze) capaci di avere una coscienza di sé stesse fino a determinare la singolarità tecnologica. Lei che definizione da dell’intelligenza artificiale, quale pensa sia il suo stato di evoluzione corrente e quali possono essere quelle future? Pensa che sia possibile in futuro una Superintelligenza capace di condurci alla Singolarità nell’accezione di Kurzweil?

Sarò franco e diretto: la Singolarità è una fake-news, e proprio per questo ha attirato l’enorme curiosità dei media. Kurzweil è uno dei tanti visionari che hanno torto.

La definizione Intelligenza Artificiale è fuorviante: l’Intelligenza Umana non è replicabile perché ancora non ne conosciamo i meandri. Più corretto utilizzare il termine pseudo-intelligenza per descrivere le AI reattive o specializzate, le uniche possibili.

Per affrontare con cognizione di causa questo grande tema e la sua crescente pervasività nella nostra esistenza quotidiana, è necessario definire con chiarezza il campo di gioco, e individuare la prossima sfida che coinvolgerà il mondo: ragionare sui tempi e le forme dell’umano e del dis-umano, in una partita a scacchi tra le distopie possibili e le risorse di umanità che la nostra esistenza ci dispensa.

Nel libro Futuro+Umano che ho dedicato a questo tema, ho provato a partire da un’equazione: (Tecnologia+Empatia) = (Umano²). E cioè: la tecnologia - raffinata espressione di creatività - quando incontra l’empatia, produce umanità alla seconda potenza. E’ da questa equazione che ho avviato l’analisi: la pseudo-intelligenza nel medio-lungo termine contribuirà a far emergere e maturare la vera potenza dell’umano che da sempre si muove tra capriccio e genialità. Il futuro sarà comunque più umano: la tecnologia più raffinata rappresenta infatti la scintilla dell’umano all’ennesima potenza.

Saremo noi a dover decidere in che termini e in quale direzione. Umana è la sperimentazione tecnologica che conduce alla pseudo-intelligenza, umana la ricerca di talenti e qualità che non siano riproducibili algoritmicamente. 

L’IA non è una novità, ha una storia datata anni ‘50. Mai però come in questi tempi si è sviluppata una reazione preoccupata a cosa essa possa determinare per il futuro del genere umano. Numerosi scienziati nel 2015 hanno sottoscritto un appello (per alcuni un modo ipocrita di lavarsi la coscienza) invitando a una regolamentazione dell’IA. Lei cosa ne pensa? È per lasciare libera ricerca e implementazione o per una regolamentazione della IA? Non crede che qualora le macchine intelligenti rubassero il comando agli esseri umani, per essi la vita avrebbe meno senso? A preoccupare dovrebbe essere la supremazia e la potenza delle macchine ma soprattutto l’irrilevanza della specie umana che potrebbe derivarne. O questa è semplicemente paura del futuro e delle ibridazioni che lo caratterizzeranno? Secondo il filosofo Benasayag le macchine sono fatte per funzionare bene, noi per funzionare (processi chimici, ecc.) ed esistere (vivere). Gli umani non possono essere ridotti a una raccolta di (Big) dati o al calcolo binario, hanno bisogno di complessità, di un corpo, di senso, di cultura, di esperienze, di sperimentare la negatività e il non sapere. Le macchine no e mai ne avranno necessità. O secondo lei si? Non crede che fare completo affidamento sulle macchine ci porti all’impotenza? 

Ancora una volta il tema non sussiste in questi termini. Gli esseri umani non potranno essere assoggettati dalle macchine ma solo da altri (pochi) esseri umani che le controllano.

Il rischio esiste ed è per questo che bisognerà regolamentare in modo trasparente l’uso della pseudo-intelligenza.

La scommessa risiede nella capacità dell’umano di attivare la sua intelligenza più profonda nutrendosi in modo sensato dei nuovi dati che avrà a disposizione e che non costituiscano un monopolio di pochi potenti, ma piuttosto il carburante per nuove forme di intelligenza, meno orientata al potere e al controllo e impegnata invece nella costruzione strategica di un mondo migliore, all’interno di un quadro equilibrato di diritti e doveri, su cui continua a fondarsi la convivenza umana.

CONSIGLIATO PER TE:

🍒🍒CHATGPT: SEDOTTI E ABBANDONATI?

Si tratterà di arginare i rischi e i vizi che si intravedono in una società orientata al cinismo, all’indifferenza e al narcisismo di ritorno: il rischio non risiede nelle macchine e nella loro pseudo-intelligenza (comunque per certi versi portentosa) ma nella capricciosa stupidità tutta umana, o peggio nell’ambizione e sete di potere di quei pochi in grado di controllarla, che potrebbe segnare irrimediabilmente il nostro tempo. 

Nel suo ultimo libro (Le cinque leggi bronzee dell’era digitale), Francesco Varanini rilegge a modo suo e in senso critico la storia dell’intelligenza artificiale. Lo fa attraverso la (ri)lettura di testi sulla IA di recente pubblicazione di autori come: Vinge, Tegmark, Kurzweil, Bostrom, Haraway, Yudkowsy, e altri. La critica è rivolta ai tecno-entusiasti che celebrando l’avvenire solare della IA si mettono, “con lo sguardo interessato del tecnico” dalla parte della macchina a spese dell’essere umano. È come se attraverso l’IA volessero innalzare l’uomo proprio mentre lo stanno sterilizzando rendendolo impotente, oltre che sottomesso e servile. Lei da che parte sta, del tecnico/esperto/tecnocrate o dell’essere umano o in una terra di mezzo? Non la preoccupa la potenza dell’IA, la sua crescita e diffusione (in Cina ad esempio con finalità di controllo e sorveglianza)? 

La mia ipotesi di lavoro è chiara e semplice: la categoria della pseudo-intelligenza - potente nella predizione ma assente nella “visione altra” che poi fonda la costruzione del futuro -, deve aiutare a mettere in risalto - come contraltare - l’intelletto umano e ciò che di imperscrutabile risiede in ogni intelligenza: intuizione, sensibilità, riconoscenza, speranza, ma anche distruttività, cinismo, efferata violenza.

Dovendosi misurare con il machine learning e l’apprendimento automatico, l’umano sarà costretto - suo malgrado – a comprendere lo straordinario mistero della sua unicità. Arrivando finalmente a individuare il segreto poetico della propria grandezza: l’affettività come nocciolo duro della propria esistenza, della propria soggettività. Non bisogna pre-occuparsi della potenza dell’IA ma occuparsi della sua corretta diffusione. 

Ai tempi del Coronavirus molti si stanno interrogando sulla sparizione del lavoro. Altri invece celebrano lo smartworking e le tecnologie che lo rendono possibile. Là dove lo smartworking non è possibile, fabbriche, impianti di produzione, ecc., si diffonde la robotica, l’automazione e l’IA. Il dibattito sulla sparizione del lavoro per colpa della tecnica (capacità di fare) / tecnologia (impiego della tecnica e della conoscenza per fare) non è nuovo, oggi si è fatto più urgente. Le IA non stanno sostituendo solo il lavoro manuale ma anche quello cognitivo. Le varie automazioni in corso stanno demolendo intere filiere produttive, modelli economici e organizzativi. Lei cosa ne pensa? L’IA, per come si sta manifestando oggi, creerà nuove opportunità di lavoro o sarà protagonista della distruzione di posti di lavoro più consistente della storia come molti paventano? Alcuni sostengono che il futuro sarà popolato di nuovi lavoratori, tecnici che danno forma a nuove macchine (software e hardware), le fanno funzionare e le curano, tecnici che formano altri tecnici e ad altre forme di lavoro associate al funzionamento delle macchine tecnologiche. Sarà veramente così? E se anche fosse non sarebbe per tutti o per molti! Si verrebbero a creare delle élite ma molti perderebbero comunque il lavoro, l’unica cosa che per un individuo serva a essere sé stesso. Nessuna preoccupazione o riflessione in merito? 

Per affrontare la sfida del lavoro futuro e vincere la scommessa, bisognerà puntare - almeno in Italia – su gusto, ingegno e qualità. 

In questa sfida bisognerà attivare - tutte insieme e contestualmente - curiosità, passione e cura. L’AI ha poco a che fare con tutto questo. Dal mercato impoverito dal digitale - impregnato di narcisismo, irrilevanza, impazienza – bisognerà tornare a elaborare il gusto, che implica sensibilità estetica, saper fare, discernimento.

L’AI non potrà mai produrre la bellezza incomparabile dei manufatti dei nostri artigiani: e neanche il gusto dei nostri prodotti alimentari. Dalla passività che spesso deriva da un eccesso di scelta, da una ubriacatura del troppo, da una condivisione superficiale del peggio, da una bassa risoluzione delle esperienze a cui spesso conduce il digitale massificato - attraverso la passione si dovrà risalire verso l’ingegno che si nutre di talento, interdisciplinarietà, versatilità. Dal caos - che a volte appare un inevitabile destino in preda alla labilità dell’informazione, al fake, alla mancanza di garanzie - bisognerà far riemergere la qualità, sostenuta dalla certificazione, dalla rifinitura, dalla sostenibilità. 

L’IA è anche un tema politico. Lo è sempre stato ma oggi lo è in modo specifico per il suo utilizzo in termini di sorveglianza e controllo. Se ne parla poco ma tutti possono vedere (guardare non basta) cosa sta succedendo in Cina. Non tanto per l’implementazione di sistemi di riconoscimento facciale ma per le strategie di utilizzo dell’IA per il futuro dominio del mondo. Altro aspetto da non sottovalutare, forse determinato dal controllo pervasivo reso possibile dal controllo di tutti i dati, è la complicità del cittadino, la sua partecipazione al progetto strategico nazionale rinunciando alla propria libertà. Un segnale di cosa potrebbe succedere domani anche da noi in termini di minori libertà e sparizione dei sistemi democratici che ci caratterizzano come occidentali? O un’esasperata reazione non motivata dal fatto che le IA possono comunque essere sviluppate e governate anche con finalità e scopi diversi? 

Ancora una volta il tema non mi sembra sia all’ordine del giorno: non siamo la Cina e mai lo saremo.

La nostra democrazia è solida e il tracciamento digitale non mi sembra facilmente realizzabile in una realtà come quella italiana che tende a sfuggire (anche troppo) ai controlli.

Il flop di Immuni lo dimostra. 

Siamo dentro l’era digitale. La viviamo da sonnambuli felici dotati di strumenti che nessuno prima di noi ha avuto la fortuna di usare. Viviamo dentro realtà parallele, percepite tutte come reali, accettiamo la mediazione tecnologica in ogni attività: cognitiva, relazionale, emotiva, sociale, economica e politica. L’accettazione diffusa di questa mediazione riflette una difficoltà crescente nella comprensione umana della realtà e del mondo (ci pensano le macchine!) e della crescente incertezza. In che modo le macchine, le intelligenze artificiali potrebbero oggi svolgere un ruolo diverso nel rimettere l’uomo al centro, nel soddisfare il suo bisogno di comunità e relazioni reali, e nel superare l’incertezza? 

Credo che la pseudo-intelligenza possa aiutarci a non perdere la qualità della vita, delle relazioni, e neanche l’alta definizione delle nostre esperienze, della musica che ascoltiamo, delle fotografie che osserviamo, del cibo che mangiamo. Non vogliamo perdere il gusto, l’ingegno, la qualità.

Ciò che è avvenuto in quarantena è chiaro: il digitale ci ha aiutato a rafforzare legami già forti, a vivere a contatto con i nostri cari, non il contrario. In questo passaggio risiede anche il futuro strategico dell’italian way, del nostro vivere e pensare, del made in Italy e del Terzo Rinascimento.

Con l’esperienza del gusto si tratta di sperimentare le occasioni, di connettere le generazioni, di ampliare la gamma possibile di esperienze eccellenti. Con la sfida dell’ingegno sarà necessario dimostrare il talento, espandere la qualità della vita, far evolvere la tradizione.

Nella dimensione della qualità, che significa qualità della vita, benessere ed “essere bene”, emergerà il rispetto per il territorio, la cura per i dettagli l’educazione dei clienti.

Riflettere su queste tre dimensioni ci aiuterà a comprendere i limiti dell’Intelligenza Artificiale e a definire con il suo aiuto l’obiettivo delle sfide future, da sviluppare con creatività e intelligenza tutta umana, partendo da ciò che le macchine non potranno mai garantire.