“Il termine cui sono sempre ricorso per criticare le tradizionali architetture informatiche è FRAGILE. Si spezzano anziché piegarsi. anche se l'errore riguarda un solo bit. ”Se cercate un'alternativa alla fragilità, guardate la vita. Considerrate come funziona l'evoluzione naturale. Talvolta i nostri geni somigliano un pò al software; capita che un'unica mutazione si riveli fatale." – Jerome Lanier
Scrive Noah Harari che “quando la tecnologia ci permetterà di reingegnerizzare le menti umane, Homo sapiens scomparirà […] e un processo completamente nuovo avrà inizio”. La previsione può rivelarsi errata ma se si riflette sulla profondità dei cambiamenti in corso e il ruolo che la tecnologia sta avendo nel determinarli, si comprende che siamo in una fase di cambio di paradigma. Quando il nuovo emergerà noi potremmo non essere più umani. Cyborg, simbionti, semplici intelligenze artificiali più o meno ibridate, potenti, intelligenti e capaci di apprendere ma non più umane.
Se questa prospettiva è verosimile è più che mai necessaria una riflessione approfondita, puntuale e critica di quanto sta avvenendo. Paradigmatico per questa riflessione è il tema dell’intelligenza artificiale che, più di altri, suggerisce bene il rischio e la sfida che tutto il genere umano si trova di fronte. Un rischio da molti sottovalutato e una sfida da molti accettata forse con eccessiva superficialità. Un tema che comunque è di interesse generale e vale la pena approfondire. E la riflessione deve essere fatta da tecnici, esperti, fautori della IA, ma senza mai dimenticarsi di essere esseri umani.
SoloTablet ha deciso di farlo coinvolgendo persone che sull’intelligenza artificiale stanno lavorando, investendo, filosofeggiando e creando scenari futuri venturi.
In questo articolo proponiamo l’intervista che Carlo Mazzucchelli ha condotto con Raffaella Iarrapino , responsabile marketing di un gruppo di imprese (Gruppo Readytec) fortemente introdotte nel mondo dell’Information Technology, Software e System Integration negli ultimi anni si dedica alle tecnologie legate all’Intelligenza Artificiale partecipando attivamente con i partner Readytec e Go2tec alla nascita di una nuova società di cui è CMO, Ready Go One Srl dedicata a servizi tecnologici a valore aggiunto, destinando il proprio tempo a diffondere conoscenza e cultura d’impresa sulle potenzialità add on dell’ Intelligenza artificiale applicata alle quotidiane attività lavorative in un’organizzazione.
Buongiorno, può raccontarci qualcosa di lei, della sua attività attuale, del suo interesse per l’intelligenza artificiale? Ritiene utile una riflessione sull'era tecnologica e dell'informazione che stiamo sperimentando? Su quali progetti, idee imprenditoriali sta lavorando? Con quali finalità e obiettivi? A chi sono rivolti e in che ambiti sono implementati?
La mia “passione” per la tecnologia è iniziata con un evento che ancora ricordo. Un rumore assordante, come un fischio, che chiunque della mia generazione ricorderà: l’emozione dei primi collegamenti a Internet attraverso la linea fax, il cui suono sembrava quello di un decollo, o della macchina del tempo di ritorno al futuro. Erano gli anni 90 e si preannunciava l’arrivo di Internet sulle scrivanie e nelle case degli italiani. La mia passione per la tecnologia è legata da sempre alla Comunicazione, la connessione al resto del mondo e tutto ciò che ha comportato in termini di cambio di paradigma nel modo di comunicare, nel linguaggio e nel modo di vivere, era iniziata con Arpanet, una parola che suonava magica al pari di Camelot e che avrebbe per sempre cambiato le nostre vite.
Da allora non ho mai smesso di sognare tecnologie abilitanti a nuove forme digitali di comunicazione. La stessa emozione mi ha acceso la speranza di aver trovato un nuovo mondo il giorno in cui ho assistito (tra pochi fortunati giornalisti e funzionari delle istituzioni, qualche ricercatore e qualche informatico) alla presentazione tenuta da Marco Landi e Ernesto di Iorio di Caterina, il primo assistente virtuale che abbia mai visto all’opera, un avatar in carne ed ossa, pardon… algoritmo e bit.
Era il 3 settembre 2019 e si stava tenendo la conferenza stampa di presentazione di Caterina, l’assistente virtuale del comune di Siena, presentata nella suggestiva cornice, del palazzo pubblico, questa città così antica, legata alle tradizioni stava dando i natali all’essere più moderno che sia stato concepito nel ventunesimo secolo.
Quindi per 20 anni ho seguito e inseguito tecnologie abilitanti al servizio delle attività dell’uomo per approdare superata la soglia dei 50 alla più inebriante delle creature tecnologiche. Non mi ritengo un’innamorata della tecnologia ma una persona che indaga sulle potenzialità, l’usabilità e i vantaggi che ne derivano.
Da due anni collaboro con il team che ha creato l’algoritmo proprietario che ha dato origine al motore di alimentazione di Caterina, (QuestIT Srl un’azienda generata da uno spin off dell’Università di Siena, con il SAILAB, laboratorio di Intelligenza Artificiale) con la nuova nata del Gruppo Readytec, Ready Go One, una newco la cui mission è la diffusione della cultura della tecnologia attraverso il l’introduzione e il potenziamento del digitale nelle imprese e nelle organizzazioni, per aggiungere valore alle tecnologie già presenti e farne un elemento differenziante sul mercato.
Oggi tutti parlano di Intelligenza Artificiale ma probabilmente lo fanno senza una adeguata comprensione di cosa sia, delle sue diverse implementazioni, implicazioni ed effetti. Anche i media non favoriscono informazione, comprensione e conoscenza. Si confondono IA semplicemente reattive (Arend Hintze) come Deep Blue o AlphaGo, IA specializzate (quelle delle Auto), IA generali (AGI o Strong AI) capaci di simulare la mente umana e di elaborare loro rappresentazioni del mondo e delle persone, IA superiori (Superintelligenze) capaci di avere una coscienza di sé stesse fino a determinare la singolarità tecnologica. Lei che definizione da dell’intelligenza artificiale, quale pensa sia il suo stato di evoluzione corrente e quali possono essere quelle future? Pensa che sia possibile in futuro una Superintelligenza capace di condurci alla Singolarità nell’accezione di Kurzweil?
Io credo che la tecnologia, qualunque essa sia, non abbia senso se non per lavorare in tandem con l’uomo, è giusto che si vada avanti nello sviluppo di intelligenze computazionali, additive, artificiali, comunque si vogliano definire, ma senza la nostra influenza e senza le nostre emozioni e il nostro governo non avrebbero alcun senso.
E per dire una cosa forte, qualora invece ciò dovesse accadere, noi non saremo più umanità, nel significato che diamo oggi alla nostra “specie”, perché la coscienza sarebbe una super-coscienza (altra coscienza) e surclasserebbe qualunque tipo di analisi del pensiero che il cervello umano possa concepire.
E’ un po' come lo scioglimento dei ghiacciai o la deforestazione, lo definirei una catastrofe naturale ad opera dell’uomo.
In questo senso una regolamentazione di diritto dell’Intelligenza Artificiale è fondamentale per evitare che, grazie alla “scarsa intelligenza predittiva” e alla “non lungimiranza” tipica dell’uomo, possiamo riuscire nell’intento di autodistruggerci.
Ma in tutto questo (altamente fantascientifico dato che siamo ancora ad un grado di Intelligenza Artificiale Debole, capace di fare azioni specializzate, di eccellere in alcuni campi, ma non dotata del completo corredo di intelligenza umana), io vedo una grande opportunità per lo sviluppo e il miglioramento delle tecnologie utilizzate oggi, grazie proprio alle competenze di assistenti virtuali sempre più sofisticati e in grado di riprodurre compiti e mansioni tipiche dei processi organizzativi.
L’IA non è una novità, ha una storia datata anni ‘50. Mai però come in questi tempi si è sviluppata una reazione preoccupata a cosa essa possa determinare per il futuro del genere umano. Numerosi scienziati nel 2015 hanno sottoscritto un appello (per alcuni un modo ipocrita di lavarsi la coscienza) invitando a una regolamentazione dell’IA. Lei cosa ne pensa? È per lasciare libera ricerca e implementazione o per una regolamentazione della IA? Non crede che qualora le macchine intelligenti rubassero il comando agli esseri umani, per essi la vita avrebbe meno senso? A preoccupare dovrebbe essere la supremazia e la potenza delle macchine ma soprattutto l’irrilevanza della specie umana che potrebbe derivarne. O questa è semplicemente paura del futuro e delle ibridazioni che lo caratterizzeranno? Secondo il filosofo Benasayag le macchine sono fatte per funzionare bene, noi per funzionare (processi chimici, ecc.) ed esistere (vivere). Gli umani non possono essere ridotti a una raccolta di (Big) dati o al calcolo binario, hanno bisogno di complessità, di un corpo, di senso, di cultura, di esperienze, di sperimentare la negatività e il non sapere. Le macchine no e mai ne avranno necessità. O secondo lei si? Non crede che fare completo affidamento sulle macchine ci porti all’impotenza?
E’ vero che se per 40 anni l’Intelligenza Artificiale se pur nota nei laboratori non è esplosa come kill app, il suo veloce sviluppo di questi ultimi 10 anni, dovuto anche al parallelo evolversi di altre tecnologie abilitanti come il cloud, data mining, robotica, porta ad una necessaria regolamentazione della materia.
Le machine al lavoro, gli umani senza lavoro felici e contenti!
Io credo che non si debba fare pieno affidamento alle macchine, trovo questa visione un po' troppo apocalittica, le macchine come un qualunque altro elemento di un sistema informativo sono esattamente questo: “uno strumento”, che se anche è basato su sofisticati algoritmi di NLP, resta pur sempre uno strumento. Non è forse possibile anche uccidere un uomo con un semplice attizzatoio? Eppure non stiamo parlando di tecnologia avanzata. La pericolosità non deriva dal grado tecnologico, ma da chi detiene il potere di utilizzo della tecnologia.
Proprio per questo (perché potrebbe finire in mani sbagliate), la scrittura di “leggi” come i principi di Asilomar, una sorta di carta dei diritti, legata alle tecnologie di intelligenza artificiale, è fondamentale per orientarsi tra tecnologie di intelligenza sempre più raffinate.
In questo senso il ruolo dell’Europa, di fronte ai grandi investimenti nella ricerca sull’AI da parte di Stati Uniti e Cina, attraverso la scrittura del Codice Etico e la realizzazione del “Libro Bianco sull’Intelligenza Artificiale - un approccio europeo all’eccellenza e alla fiducia”, stilato nei primi mesi del 2020, segna un punto a favore del “Vecchio Continente” che si ritaglia un ruolo importante nella regolamentazione e nello sviluppo dell’AI in termini di diritto.
Nel suo ultimo libro (Le cinque leggi bronzee dell’era digitale), Francesco Varanini rilegge a modo suo e in senso critico la storia dell’intelligenza artificiale. Lo fa attraverso la (ri)lettura di testi sulla IA di recente pubblicazione di autori come: Vinge, Tegmark, Kurzweil, Bostrom, Haraway, Yudkowsy, e altri. La critica è rivolta ai tecno-entusiasti che celebrando l’avvenire solare della IA si mettono, “con lo sguardo interessato del tecnico” dalla parte della macchina a spese dell’essere umano. È come se attraverso l’IA volessero innalzare l’uomo proprio mentre lo stanno sterilizzando rendendolo impotente, oltre che sottomesso e servile. Lei da che parte sta, del tecnico/esperto/tecnocrate o dell’essere umano o in una terra di mezzo? Non la preoccupa la potenza dell’IA, la sua crescita e diffusione (in Cina ad esempio con finalità di controllo e sorveglianza)?
A questa domanda rispondo sì, mi preoccupa l’uso sconsiderato dell’intelligenza artificiale, come mi preoccupa l’uso delle telecamere e degli strumenti di sorveglianza, l’uso sconsiderato delle armi, dei social, la gestione della sanità e l’utilizzo dei pesticidi in agricoltura intensiva, i maltrattamenti agli animali negli allevamenti… La soluzione è conoscere bene e utilizzare nel modo giusto le tecnologie per difendersi da chi potrebbe farne un uso a fini malvagi.
La storia ci insegna che tutte le tecnologie sono risultate anche potenti armi di offesa, per questo dobbiamo stare attenti e pensare a diffondere la cultura della tecnologia affiancata alla cultura dei diritti inviolabili dell’uomo, degli animali e dell’ambiente.
Ai tempi del Coronavirus molti si stanno interrogando sulla sparizione del lavoro. Altri invece celebrano lo smartworking e le tecnologie che lo rendono possibile. Là dove lo smartworking non è possibile, fabbriche, impianti di produzione, ecc., si diffonde la robotica, l’automazione e l’IA. Il dibattito sulla sparizione del lavoro per colpa della tecnica (capacità di fare) / tecnologia (impiego della tecnica e della conoscenza per fare) non è nuovo, oggi si è fatto più urgente. Le IA non stanno sostituendo solo il lavoro manuale ma anche quello cognitivo. Le varie automazioni in corso stanno demolendo intere filiere produttive, modelli economici e organizzativi. Lei cosa ne pensa? L’IA, per come si sta manifestando oggi, creerà nuove opportunità di lavoro o sarà protagonista della distruzione di posti di lavoro più consistente della storia come molti paventano? Alcuni sostengono che il futuro sarà popolato di nuovi lavoratori, tecnici che danno forma a nuove macchine (software e hardware), le fanno funzionare e le curano, tecnici che formano altri tecnici e ad altre forme di lavoro associate al funzionamento delle macchine tecnologiche. Sarà veramente così? E se anche fosse non sarebbe per tutti o per molti! Si verrebbero a creare delle élite ma molti perderebbero comunque il lavoro, l’unica cosa che per un individuo serva a essere sé stesso. Nessuna preoccupazione o riflessione in merito?
Anche in questo senso la sostituzione delle mansioni lavorative è un dato di fatto che si rileva in tutte le fasi di progresso (per es. con l’avvento delle auto, il lavoro del maniscalco sostituito dal meccanico, divenne sempre meno importante). Nell’era digitale è emersa una serie di nuove professioni e professionalità che dà lavoro a tantissimi giovani nel nostro pianeta. Cosa voglio dire? Che il cambiamento, pur uccidendone alcune, porta nuove professioni, come i cambiamenti nei gusti dei consumatori portano all’esigenza di realizzare nuovi prodotti/servizi. Chi non cavalca il cambiamento è destinato all’estinzione.
Non dimentichiamo inoltre che lo sviluppo di tecnologie di AI nel suo modello imitativo del comportamento e del linguaggio dell’uomo porta all’uso di competenze interdisciplinari, non solo quindi studi ingegneristici o informatici e matematici, ma tra le skills più richieste emerge la necessità di esperti in materie quali la psicologia, la semantica, la scrittura, il linguaggio, e che le materie umanistiche giocano un ruolo sempre più importante nella formazione della base di conoscenza di un avatar.
Io vedo un futuro di bravissimi artigiani, imprenditori, poeti e scienziati… digitalizzati!
L’IA è anche un tema politico. Lo è sempre stato ma oggi lo è in modo specifico per il suo utilizzo in termini di sorveglianza e controllo. Se ne parla poco ma tutti possono vedere (guardare non basta) cosa sta succedendo in Cina. Non tanto per l’implementazione di sistemi di riconoscimento facciale ma per le strategie di utilizzo dell’IA per il futuro dominio del mondo. Altro aspetto da non sottovalutare, forse determinato dal controllo pervasivo reso possibile dal controllo di tutti i dati, è la complicità del cittadino, la sua partecipazione al progetto strategico nazionale rinunciando alla propria libertà. Un segnale di cosa potrebbe succedere domani anche da noi in termini di minori libertà e sparizione dei sistemi democratici che ci caratterizzano come occidentali? O un’esasperata reazione non motivata dal fatto che le IA possono comunque essere sviluppate e governate anche con finalità e scopi diversi?
Siamo in un momento molto particolare, nel corso di una pandemia, e questo fa sì che i governi debbano agire in velocità e forse (ma non sta a me giudicarlo) non nel pieno rispetto degli iter che la democrazia impone, anche qui la storia ci insegna che le leggi d’emergenza possono essere pericolosissime. Penso sia necessario mantenere forte l’attaccamento ai principi cardine della democrazia, ed anche per questo, l’unica speranza è la piena conoscenza e il pieno governo delle tecnologie, per poterne fare l’uso secondo diritto e contrastare eventuali abusi autoritari.
Siamo dentro l’era digitale. La viviamo da sonnambuli felici dotati di strumenti che nessuno prima di noi ha avuto la fortuna di usare. Viviamo dentro realtà parallele, percepite tutte come reali, accettiamo la mediazione tecnologica in ogni attività: cognitiva, relazionale, emotiva, sociale, economica e politica. L’accettazione diffusa di questa mediazione riflette una difficoltà crescente nella comprensione umana della realtà e del mondo (ci pensano le macchine!) e della crescente incertezza. In che modo le macchine, le intelligenze artificiali potrebbero oggi svolgere un ruolo diverso nel rimettere l’uomo al centro, nel soddisfare il suo bisogno di comunità e relazioni reali, e nel superare l’incertezza?
La nostra esistenza è piena di intromissioni e senza dubbio, il nostro modo di vivere è molto cambiato, ma le passioni e i sentimenti, restano intatti, siamo forse più pigri e più deboli di una volta perché siamo abituati a farci sostituire dalla macchina nei lavori pesanti, ma il nostro animo è sempre grande, il nostro sentire, innamorarsi, ridere e piangere, è sempre più umano, il nostro pensiero fervido. Proprio nei giorni del Covid, in quelli più duri, in cui gli ammalati morivano soli senza poter tenere la mano dei propri cari, abbiamo capito quanto nulla nel nostro modo di amare (e soffrire) sia cambiato, e quanto le relazioni possano essere importanti, e in questo la tecnologia ci è venuta in aiuto, perché avevamo un obiettivo chiaro e l’abbiamo trasferito alla macchina perché venisse soddisfatto: aiutarci a comunicare, espandere le relazioni attraverso il digitale, e così abbiamo cantato, ballato, pregato e pianto e studiato e lavorato attraverso strumenti che un tempo sembravano inutili fredde interfacce digitali.
Questo ci deve insegnare che, se l’obiettivo è chiaro, la macchina è in grado di aiutarci a raggiungerlo, prima e meglio.
Vuole aggiungere altro per i lettori di SoloTablet, ad esempio qualche suggerimento di lettura sul tema AI? Vuole suggerire temi correlati da approfondire in attività future? Cosa suggerisce per condividere e far conoscere l'iniziativa nella quale anche lei è stato/a coinvolto/a?
Ci sono molti testi utili e interessanti per approfondire lo studio della materia. Per chi volesse conoscere a fondo tutta la cronistoria e le tecnologie, testo di riferimento resta il volume di Russel e Norvig, “Artificial Intelligence, a modern approach”, poi consiglio un paio di testi italiani di gradevole lettura: “Intelligenza artificiale dalla sperimentazione al vantaggio competitivo, di Alessandro Giaume edito da Franco Angeli e la “Guida per umani all’Intelligenza Artificiale” di Nicola Di Turi, Marco Gori e Marco Landi edito da Giunti.
Un suggerimento? Farei un’indagine tra i lettori. Raccontaci la tua esperienza con un assistente virtuale o con un chatbot o altra forma di AI, raccontaci com’è andata.
Concludo con una frase tratta da “Machines who think” in cui Pamela McCurdock lancia un incipit molto attraente: …Artificial Intelligence that audacious effort to duplicate in an artifact what we humans consider to be the most important, our identifying, property – our intelligence.
Una definizione di Intelligenza Artificiale che ci dice quanto sia scottante l’argomento per un essere umano, quanto ci riguardi da vicino lo stato dell’arte delle tecnologie di AI.