“"[...] stiamo entrando nello stadio ultimo della tecnologia, intesa non più come discorso sulla tecnica, ma in quanto termine che prende atto della sua facoltà di proferire verbo, proferire logos, al solo scopo però di garantire il vero. Questo potere costituisce la principale caratteristica di quella che viene definita intelligenza artificiale e che determina poi tutte le funzioni che le vengono attribuite. [...] la tecnologia riveste un potere ingiuntivo [...] l'umanità si sta rapidamente dotando di un organo che la spossessa di sè stessa, del suo diritto di decidere, con coscienza e responsabilità, le cose che lo riguardano ...l'intelligenza artificiale è la punta dell'iceberg di tutte le tecnologie.." - Éric Sadin
Scrive Noah Harari che “quando la tecnologia ci permetterà di reingegnerizzare le menti umane, Homo sapiens scomparirà […] e un processo completamente nuovo avrà inizio”. La previsione può rivelarsi errata ma se si riflette sulla profondità dei cambiamenti in corso e il ruolo che la tecnologia sta avendo nel determinarli, si comprende che siamo in una fase di cambio di paradigma. Quando il nuovo emergerà noi potremmo non essere più umani. Cyborg, simbionti, semplici intelligenze artificiali più o meno ibridate, potenti, intelligenti e capaci di apprendere ma non più umane.
Se questa prospettiva è verosimile è più che mai necessaria una riflessione approfondita, puntuale e critica di quanto sta avvenendo. Paradigmatico per questa riflessione è il tema dell’intelligenza artificiale che, più di altri, suggerisce bene il rischio e la sfida che tutto il genere umano si trova di fronte. Un rischio da molti sottovalutato e una sfida da molti accettata forse con eccessiva superficialità. Un tema che comunque è di interesse generale e vale la pena approfondire. E la riflessione deve essere fatta da tecnici, esperti, fautori della IA, ma senza mai dimenticarsi di essere esseri umani.
SoloTablet ha deciso di farlo coinvolgendo persone che sull’intelligenza artificiale stanno lavorando, investendo, filosofeggiando e creando scenari futuri venturi.
In questo articolo proponiamo l’intervista che Carlo Mazzucchelli ha condotto con Saul Imbrici, Direttore della Divisione Intelligenza Artificiale di ATG.
Laureato in Fisica è esperto in simulazioni numeriche e modelli matematici. Negli ultimi anni ha sviluppato il suo interesse per il mondo dell'Intelligenza Artificiale, dove ha sempre portato una visione olistica della simbiosi tra uomo e macchina. Gestisce inoltre programmi di formazione ed è membro del Comitato di Indirizzo del Corso di Laurea in Matematica dell'Università dell'Insubria. ATG AI è la nuova società del Gruppo Anzani specializzata nel campo innovativo dell'Intelligenza Artificiale, con già diversi progetti in corso in diversi mercati: Business, Finanziario, Industria 4.0, HR/Recruiting e sicurezza. Il Gruppo Anzani è attivo da venticinque anni nel mondo della business intelligence e dello sviluppo software.
Buongiorno, può raccontarci qualcosa di lei, della sua attività attuale, del suo interesse per l’intelligenza artificiale? Ritiene utile una riflessione sull'era tecnologica e dell'informazione che stiamo sperimentando? Su quali progetti, idee imprenditoriali sta lavorando? Con quali finalità e obiettivi? A chi sono rivolti e in che ambiti sono implementati?
Buongiorno!
Come molti, sono approdato al mondo dell’intelligenza artificiale dopo un percorso nel mondo del software “tradizionale” per lo più nell’ambito bancario/finanziario. L’incontro, per certi versi fortuito, con il mondo del machine learning è stato un amore a prima vista, che ha fatto leva sul fascino che da sempre hanno su di me le terre di frontiera della scienza, dove diverse discipline e modi di vedere lo stesso problema concorrono a creare ciò che fino a poco prima sembrava impossibile.
Le linee di sviluppo che attualmente stiamo perseguendo con ATG A.I. riguardano intelligent data processing, computer vision e natural language processing, con applicazioni che vanno dalla sicurezza di frontiere e territorio, alla conservazione documentale, al supporto ai processi di business.
Rivolte tanto a governi quanto a piccole/medie aziende, le soluzioni che studiamo hanno lo scopo primario di aiutare i nostri clienti a limitare gli sprechi e a far esprimere a pieno le potenzialità delle loro risorse umane, sollevandole da compiti a scarso valore aggiunto.
Sull’opportunità di una riflessione sui tempi correnti in ambito tecnologico, già classificati come “quarta rivoluzione industriale”, cito un mio professore dei tempi dell’università, il quale mi disse che i tempi che stiamo vivendo, un giorno saranno visti come il passaggio dalla preistoria alla storia, anche se ora, probabilmente, non ce ne rendiamo conto.
Ecco, sulla base di questo, la mia opinione è che sicuramente, dato che siamo in qualche modo chiamati a costruire la storia e soprattutto il futuro, sia assolutamente doveroso accompagnare la ricerca scientifica con una attenta speculazione sulla direzione che questa sta prendendo, onde, ad esempio, non incorrere in errori già accaduti nel passato e che hanno contribuito a creare e/o amplificare certe distanze e distopie della nostra società.
Oggi tutti parlano di Intelligenza Artificiale ma probabilmente lo fanno senza una adeguata comprensione di cosa sia, delle sue diverse implementazioni, implicazioni ed effetti. Anche i media non favoriscono informazione, comprensione e conoscenza. Si confondono IA semplicemente reattive (Arend Hintze) come Deep Blue o AlphaGo, IA specializzate (quelle delle Auto), IA generali (AGI o Strong AI) capaci di simulare la mente umana e di elaborare loro rappresentazioni del mondo e delle persone, IA superiori (Superintelligenze) capaci di avere una coscienza di sé stesse fino a determinare la singolarità tecnologica. Lei che definizione da dell’intelligenza artificiale, quale pensa sia il suo stato di evoluzione corrente e quali possono essere quelle future? Pensa che sia possibile in futuro una Superintelligenza capace di condurci alla Singolarità nell’accezione di Kurzweil?
L’idea che mi sono formato incontrando imprenditori e aziende è che tutti parlano di intelligenza artificiale, ma molto pochi lo fanno con cognizione di causa.
Si va dallo stupore più totale sulle potenzialità di questa tecnologia a pretese assurde, quasi fosse un oracolo in grado di dare risposte alle nostre domande senza altro conoscere se non la domanda stessa, con una certa preponderanza di quest’ultima visione.
Molto probabilmente queste reazioni sono dettate da una comunicazione non sempre cristallina, spesso aderente più al sensazionalismo della scoperta che non al rigore della ricerca scientifica.
Personalmente quando penso a cosa è un sistema di intelligenza artificiale, mi rifaccio alla definizione che Turing dà di “macchina intelligente” e che, in una versione tanto naïve quanto assolutamente comprensibile, recita più o meno che “una macchina è intelligente quando il suo output è sostanzialmente indistinguibile da quello di un essere umano cui si sia sottoposto il medesimo input”.
Attualmente, per quello che posso vedere, l’intelligenza artificiale è matura per entrare nei core business delle aziende e non più stare ai margini. Quello che effettivamente c’è da chiedersi è se le aziende (intese in senso lato, ovviamente) siano pronte ad accoglierla per quello che è: uno strumento, estremamente innovativo da certi punti di vista e in grado di affrontare con successo problemi anche complessi, ma non l’oracolo che può, con una magia, risollevare le sorti di una impresa, men che mai risolvere uno dei grandi problemi che affliggono il mondo moderno (fame, malattia, disuguaglianza).
Cosa ci riserva il futuro è difficile da prevedere: io stesso appartengo ancora alla generazione che ha felicemente vissuto almeno parte della sua vita senza smartphone, un oggetto assolutamente inimmaginabile negli anni 80 e 90, assolutamente comune oggi. La stessa intelligenza artificiale ha fortemente giovato, alla metà del decennio scorso, delle innovazioni tecnologiche nel campo delle GPU, originariamente pensate per i videogame.
È un cavallo che galoppa, certamente, ma la risposta alla sua domanda è che l’intelligenza artificiale andrà esattamente dove vogliamo che vada, né più e né meno.
Arrivare a un punto in cui il progresso tecnologico sfugga di mano e possa sfociare in uno scenario di sottomissione del genere umano alla macchina, posto che sia tecnologicamente possibile, sarà sempre e comunque una nostra scelta: l’intelligenza artificiale non raggiungerà la singolarità di Kurzweil, saremo noi a fargliela raggiungere.
D’altronde lo stesso Kurzweil teorizza il raggiungimento di questo stato sotto ipotesi di costanza delle capacità intellettive umane. In quest’ottica l’uso dell’intelligenza artificiale, così come di altri strumenti tecnologici, potrebbe addirittura generare un circolo virtuoso che allontana il momento della singolarità: l’uso di strumenti tecnologici liberare tempo e risorse da lavori per i quali le capacità umane sono sostanzialmente “inutili”, tempo e risorse che possono essere al progresso individuale e collettivo.
L’IA non è una novità, ha una storia datata anni ‘50. Mai però come in questi tempi si è sviluppata una reazione preoccupata a cosa essa possa determinare per il futuro del genere umano. Numerosi scienziati nel 2015 hanno sottoscritto un appello (per alcuni un modo ipocrita di lavarsi la coscienza) invitando a una regolamentazione dell’IA. Lei cosa ne pensa? È per lasciare libera ricerca e implementazione o per una regolamentazione della IA? Non crede che qualora le macchine intelligenti rubassero il comando agli esseri umani, per essi la vita avrebbe meno senso? A preoccupare dovrebbe essere la supremazia e la potenza delle macchine ma soprattutto l’irrilevanza della specie umana che potrebbe derivarne. O questa è semplicemente paura del futuro e delle ibridazioni che lo caratterizzeranno? Secondo il filosofo Benasayag le macchine sono fatte per funzionare bene, noi per funzionare (processi chimici, ecc.) ed esistere (vivere). Gli umani non possono essere ridotti a una raccolta di (Big) dati o al calcolo binario, hanno bisogno di complessità, di un corpo, di senso, di cultura, di esperienze, di sperimentare la negatività e il non sapere. Le macchine no e mai ne avranno necessità. O secondo lei si? Non crede che fare completo affidamento sulle macchine ci porti all’impotenza?
Lei pone la domanda in termini di “comando” e di significato che la specie umana assumerebbe qualora si verificasse uno scenario di supremazia delle macchine su di essa per quanto riguarda il “comando”, ma forse dovremmo fare un passo indietro e renderci conto che noi esseri umani ci illudiamo solo di comandare qualcosa: la pandemia che in questo periodo ci minaccia così da vicino è qui a ricordarci, tra le altre cose, anche questo.
Le machine al lavoro, gli umani senza lavoro felici e contenti!
Credo che la dipendenza dalle macchine ci porti alla pigrizia intellettuale, e non all’impotenza, se non utilizziamo le risorse liberate proprio grazie alle macchine per alzare l’asticella del progresso e della conoscenza, e questi restano dominio dell’essere umano, il quale non è solo un processo biologico, ma un insieme di caratteristiche uniche quali creatività, intuito, sensibilità ed emozione.
Ad esempio esistono sistemi di intelligenza artificiale in grado di comporre musica, e certamente lo fanno nel rispetto dei canoni armonici, melodici e orchestrali del pezzo, ma altrettanto certamente non saranno così commoventi come le composizioni di Beethoven, Mahler o Bosso.
La ragione è che se è relativamente facile istruire un algoritmo a espletare un compito basilare, come ad esempio riconoscere un oggetto in una foto, credo sia impossibile ricostruire l’estrema complessità dei processi mentali umani: non dimentichiamo che noi parliamo di intelligenza artificiale, al singolare, mentre è ben assodato che esistano diversi tipi di intelligenza – Gardner ne individua addirittura 9 – afferenti a diverse e separate aree funzionali del cervello, ma concorrenti a costruire quella macchina perfetta che è l’essere umano, dotato non solo di intelligenza, ma anche di emozione, sensibilità, empatia.
Siamo il risultato di decine di migliaia di anni di esperimenti, fallimenti, prove, raffinamenti, da parte della Natura, miliardi di eventi hanno dovuto allinearsi nell’esatto modo in cui sono avvenuti per far sì che lei potesse avere le capacità di farmi questa intervista e io di cercare di risponderle: dubito fortemente che sia possibile ripercorrere in breve tempo questa strada a favore delle macchine.
Quanto all’aspetto etico, mi fermo a una considerazione: si parla di etica dell’intelligenza artificiale, ma in realtà si tratta dell’etica degli umani che progettano e costruiscono sistemi di intelligenza artificiale. Esattamente come dicevamo poc’anzi, la strada che imboccherà l’intelligenza artificiale sarà semplicemente quella che decidiamo che sia. Per questo è necessario, più che un corpus di regole e limiti entro cui muoversi, un percorso di consapevolezza individuale e collettivo.
Nel suo ultimo libro (Le cinque leggi bronzee dell’era digitale), Francesco Varanini rilegge a modo suo e in senso critico la storia dell’intelligenza artificiale. Lo fa attraverso la (ri)lettura di testi sulla IA di recente pubblicazione di autori come: Vinge, Tegmark, Kurzweil, Bostrom, Haraway, Yudkowsy, e altri. La critica è rivolta ai tecno-entusiasti che celebrando l’avvenire solare della IA si mettono, “con lo sguardo interessato del tecnico” dalla parte della macchina a spese dell’essere umano. È come se attraverso l’IA volessero innalzare l’uomo proprio mentre lo stanno sterilizzando rendendolo impotente, oltre che sottomesso e servile. Lei da che parte sta, del tecnico/esperto/tecnocrate o dell’essere umano o in una terra di mezzo? Non la preoccupa la potenza dell’IA, la sua crescita e diffusione (in Cina ad esempio con finalità di controllo e sorveglianza)?
Mi preoccupano i regimi dittatoriali in genere, non gli strumenti che essi utilizzano.
A parte questo, tempo fa lessi in un libro questo scambio di battute: “Cosa ne pensi se un tizio con un oggetto tagliente in mano volesse aprirti dallo stomaco alla gola?” “Penso che voglia ammazzarmi, e anche in modo cruento: cercherei di scappare, di difendermi!” “E se fosse il chirurgo che ti opera per salvarti la vita?”.
La minaccia non è la tecnologia, ma l’uso che se ne fa.
In linea di principio aderisco molto all’idea di Ford del progresso: “C'è vero progresso solo quando i vantaggi di una nuova tecnologia diventano per tutti”, e per questo, nel mio piccolo, tutti i giorni mi impegno.
Un esempio di vita vissuta: uno dei primi progetti di intelligenza artificiale cui ho lavorato tempo fa era commissionato da una azienda farmaceutica e volto a studiare un sistema che fosse in grado di scoprire le imperfezioni nelle fiale di prodotto. Compito che veniva espletato, fino a quel momento, da donne e uomini che durante il turno di lavoro sedevano in una stanza buia, vedendosi scorrere davanti, attraverso un apposito macchinario, decine di migliaia di fialette, avendo a disposizione poche frazioni di secondo per decidere se una di esse fosse fallata e quindi da rigettare. Il livello di attenzione da mantenere era così alto – e di conseguenza la mansione era tanto stressante – da richiedere turni operativi di mezz’ora.
Non trovo sia disdicevole sviluppare un sistema che faccia la parte pesante del lavoro, lasciando queste a persone, che certamente hanno un grado di esperienza e di responsabilità non indifferenti, la comodità di esaminare approfonditamente solo poche decine di scarti, e magari, nel tempo risparmiato, studiare metodi per limitarli. Questo è un piccolo esempio in cui si può sollevare un lavoratore da mansioni gravose, senza rinunciare alla sua prestazione e anzi, valorizzandola ulteriormente.
Ai tempi del Coronavirus molti si stanno interrogando sulla sparizione del lavoro. Altri invece celebrano lo smartworking e le tecnologie che lo rendono possibile. Là dove lo smartworking non è possibile, fabbriche, impianti di produzione, ecc., si diffonde la robotica, l’automazione e l’IA. Il dibattito sulla sparizione del lavoro per colpa della tecnica (capacità di fare) / tecnologia (impiego della tecnica e della conoscenza per fare) non è nuovo, oggi si è fatto più urgente. Le IA non stanno sostituendo solo il lavoro manuale ma anche quello cognitivo. Le varie automazioni in corso stanno demolendo intere filiere produttive, modelli economici e organizzativi. Lei cosa ne pensa? L’IA, per come si sta manifestando oggi, creerà nuove opportunità di lavoro o sarà protagonista della distruzione di posti di lavoro più consistente della storia come molti paventano? Alcuni sostengono che il futuro sarà popolato di nuovi lavoratori, tecnici che danno forma a nuove macchine (software e hardware), le fanno funzionare e le curano, tecnici che formano altri tecnici e ad altre forme di lavoro associate al funzionamento delle macchine tecnologiche. Sarà veramente così? E se anche fosse non sarebbe per tutti o per molti! Si verrebbero a creare delle élite ma molti perderebbero comunque il lavoro, l’unica cosa che per un individuo serva a essere sé stesso. Nessuna preoccupazione o riflessione in merito?
Così come l’intelligenza artificiale risale ormai agli anni 50, non è nemmeno la prima volta che l’umanità si trova di fronte a questo dilemma: nel 1779 Ned Ludd distruggeva un telaio meccanico perché lo considerava minaccioso per l’occupazione, e quindi il benessere, degli operai.
A questo punto della storia umana dovremmo aver ben chiari entrambi i lati della medaglia, cioè da una parte il vantaggio che le nuove tecnologie portano e dall’altra gli impatti sociali che queste hanno: questo ci pone nella posizione vantaggiosa di poter prevenire le storture del passato.
Per questo, anche ai giorni presenti, in cui l’intelligenza artificiale ha preso il posto del telaio, dobbiamo tenere presente che noi stiamo sviluppando dei mezzi, e non degli scopi.
Lo scopo è quello di creare condizioni di lavoro globalmente migliori e più sicure, di maggior qualità e meglio retribuite. E questo per tutti.
Naturalmente ciò comporterà un cambiamento profondo nelle abitudini di lavoro, che richiederà tempo e sforzi, ma che non ha alcun senso rifiutare.
L’IA è anche un tema politico. Lo è sempre stato ma oggi lo è in modo specifico per il suo utilizzo in termini di sorveglianza e controllo. Se ne parla poco ma tutti possono vedere (guardare non basta) cosa sta succedendo in Cina. Non tanto per l’implementazione di sistemi di riconoscimento facciale ma per le strategie di utilizzo dell’IA per il futuro dominio del mondo. Altro aspetto da non sottovalutare, forse determinato dal controllo pervasivo reso possibile dal controllo di tutti i dati, è la complicità del cittadino, la sua partecipazione al progetto strategico nazionale rinunciando alla propria libertà. Un segnale di cosa potrebbe succedere domani anche da noi in termini di minori libertà e sparizione dei sistemi democratici che ci caratterizzano come occidentali? O un’esasperata reazione non motivata dal fatto che le IA possono comunque essere sviluppate e governate anche con finalità e scopi diversi?
Credo che il peggior errore che si possa fare è considerare “Politica” – con la “p” maiuscola – quello che avviene nei palazzi, diverso e alieno da quello che succede nelle nostre case, nelle strade, tra gente comune, insomma. E questo vale per qualunque ambito, non solo per l’intelligenza artificiale.
In realtà, in questo momento lei ed io stiamo facendo Politica: ci interessiamo di un argomento che riguarda la “pòlis” e cerchiamo di dare il nostro contributo.
In questo senso non dobbiamo mai dimenticare che, come cittadini, abbiamo a disposizione due armi potentissime per indirizzare la “politica” dei palazzi: il nostro voto e il modo in cui spendiamo i nostri soldi.
Inoltre abbiamo la libertà – e per certi versi il dovere – di poter esprimere e far circolare le nostre idee e di trasmettere ad altri ciò in cui crediamo, insomma, di fare “Politica”.
Detto ciò, l’intelligenza artificiale, come entità a sé stante e in grado di autodeterminarsi, non esiste. Esiste l’uso che ciascuno di noi può fare di questo strumento e l’uso che permettiamo che se ne faccia a livelli più macroscopici.
Ciò che succederà sarà sempre e comunque la conseguenza di una nostra scelta: se vorremo che l’AI sia limite alla nostra libertà, allora così sarà. Personalmente credo che ci convenga riappropriarci della dimensione “Politica”, intesa come dialettica tra parti, e con uno sforzo comune capire come integrare questo strumento nel tessuto sociale e farne una molla di progresso anche nel senso delle libertà civili. Ovviamente questo è un argomento che non può essere risolto solo a livello scientifico-tecnologico, ma deve essere affrontato in modo assolutamente olistico, anche dal punto di vista sociale, psicologico, storico, sociologico, economico, ecc. ecc., ma è proprio dal caos di questi “melting pot” che nasce la visione condivisa e vincente.
Siamo dentro l’era digitale. La viviamo da sonnambuli felici dotati di strumenti che nessuno prima di noi ha avuto la fortuna di usare. Viviamo dentro realtà parallele, percepite tutte come reali, accettiamo la mediazione tecnologica in ogni attività: cognitiva, relazionale, emotiva, sociale, economica e politica. L’accettazione diffusa di questa mediazione riflette una difficoltà crescente nella comprensione umana della realtà e del mondo (ci pensano le macchine!) e della crescente incertezza. In che modo le macchine, le intelligenze artificiali potrebbero oggi svolgere un ruolo diverso nel rimettere l’uomo al centro, nel soddisfare il suo bisogno di comunità e relazioni reali, e nel superare l’incertezza?
Ci troviamo in un momento assolutamente privilegiato non solo per gli strumenti di cui ci disponiamo, ma soprattutto perché abbiamo la possibilità di voltarci a guardare il percorso dell’umanità e renderci conto di cosa sia successo tutte le volte che, nella storia, ci si è trovati di fronte all’introduzione di tecnologie tali da segnare un “prima” e un “dopo”, e di valutare il loro impatto non solo economico, ma anche sociale.
In questo senso l’intelligenza artificiale – come la ruota, il telaio, l’elettricità, gli antibiotici, i computer e così via – può essere uno strumento prezioso che aiuta a sollevare sempre più l’essere umano da compiti che potremmo definire di “forza bruta” per valorizzare le sue doti di intelligenza, creatività e sensibilità e fargli riacquistare il tempo – che è l’unica, vera ricchezza – di metterle in pratica.
Vuole aggiungere altro per i lettori di SoloTablet, ad esempio qualche suggerimento di lettura sul tema AI? Vuole suggerire temi correlati da approfondire in attività future? Cosa suggerisce per condividere e far conoscere l'iniziativa nella quale anche lei è stato/a coinvolto/a?
Vi consiglio volentieri una lettura sul tema dell’AI.
Leggete qualunque cosa, di qualunque argomento.
Dei vostri autori preferiti e anche di quelli indigesti. Leggete di scienza, di poesia e di spiritualità. Leggete la Storia e le storie.
E poi prendete queste letture e andate oltre: formatevi la vostra idea, su qualunque argomento, e confrontatela con quella di altri.
Rivedetela e fatela progredire.
Perché l’intelligenza artificiale è nata in questo modo, e se non vogliamo farci sopraffare, dobbiamo stare sempre un po’ più avanti.