“L’avvento delle macchine ci costringe a una nuova educazione, autoeducazione; ci impone di reagire, riscoprendo le nostre potenzialità, la nostra forza, il nostro coraggio, la nostra saggezza. Dovremo imparare a scegliere. Dovremo scoprire in noi il senso della misura, arrivare a saper dire di no, a saper mettere limite all’invasione delle macchine nelle nostre vite, nei nostri stessi corpi” – Francesco Varanini
Scrive Noah Harari che “quando la tecnologia ci permetterà di reingegnerizzare le menti umane, Homo sapiens scomparirà […] e un processo completamente nuovo avrà inizio”. La previsione può rivelarsi errata ma se si riflette sulla profondità dei cambiamenti in corso e il ruolo che la tecnologia sta avendo nel determinarli, si comprende che siamo in una fase di cambio di paradigma. Quando il nuovo emergerà noi potremmo non essere più umani. Cyborg, simbionti, semplici intelligenze artificiali più o meno ibridate, potenti, intelligenti e capaci di apprendere ma non più umane.
Se questa prospettiva è verosimile è più che mai necessaria una riflessione approfondita, puntuale e critica di quanto sta avvenendo. Paradigmatico per questa riflessione è il tema dell’intelligenza artificiale che, più di altri, suggerisce bene il rischio e la sfida che tutto il genere umano si trova di fronte. Un rischio da molti sottovalutato e una sfida da molti accettata forse con eccessiva superficialità. Un tema che comunque è di interesse generale e vale la pena approfondire. E la riflessione deve essere fatta da tecnici, esperti, fautori della IA, ma senza mai dimenticarsi di essere esseri umani.
SoloTablet ha deciso di farlo coinvolgendo persone che sull’intelligenza artificiale stanno lavorando, investendo, filosofeggiando e creando scenari futuri venturi.
In questo articolo proponiamo l’intervista che Carlo Mazzucchelli ha condotto con Roberto Marmo, (www.robertomarmo.net) , laureato in informatica e dottore di ricerca in ingegneria dell’informazione, formatore e consulente nell’uso dell’intelligenza artificiale per analizzare dati, trasformarli in informazione ed estrarre valore e conoscenza. Autore di vari libri, tra cui “Algoritmi per l’intelligenza artificiale” con editore Hoepli, rivolto a chi vuole creare software con il linguaggio Python e vuole cominciare a muovere i primi passi e comprendere le basi di queste elaborazioni avanzate (https://www.algoritmiia.it/ ).
Buongiorno, può raccontarci qualcosa di lei, della sua attività attuale, del suo interesse per l’intelligenza artificiale?
Ho cominciato a leggere materiali sull’intelligenza artificiale alla fine degli anni ’80, da una enciclopedia chiamata “Il Mio Computer”, ho proseguito con i libri di Piero Angela sul funzionamento del cervello umano, con l’acquisto di VIC 20 e Commodore 64 e le scuole superiori in informatica ho cominciato a svolgere i primi esperimenti di programmazione in Basic e TurboPascal.
Durante l’Università ho studiato le reti neurali, nella creazione dei modelli e del software, e la filosofia della scienza, per comprendere come condurre un esperimento scientifico e come funziona la scienza cognitiva con cui studiare i processi cognitivi umani e artificiali. Mi sono laureato con una tesi sulle reti neurali per riconoscere oggetti nelle immagini di rocce, ho conseguito il dottorato di ricerca studiando visione artificiale per fare videosorveglianza e riconoscimento di oggetti nelle immagini riprese su strade e ferrovie.
Attualmente, svolgo attività come libero professionista nella creazione di software con IA e sono impegnato nella formazione in Università di Pavia, aziende, Master.
Ritiene utile una riflessione sull'era tecnologica e dell'informazione che stiamo sperimentando?
Si, c’è molto da riflettere su vari punti. Per evitare l’ennesimo inverno della IA, ovvero parlarne solo perché di moda, si creano tante aspettative che, però, vengono deluse, così gli investimenti si riducono, si dimentica tutto e si passa alla prossima parola di moda.
Bisogna riflettere anche sulla corretta formazione nella tecnologia, spesso si sentono concetti completamente sbagliati, che possono generare errori tecnici e paura nelle persone.
Soprattutto, non bisogna generare inutili allarmismi ed esagerati ottimismi, serve trovare un punto di equilibro.
Su quali progetti, idee imprenditoriali sta lavorando? Con quali finalità e obiettivi? A chi sono rivolti e in che ambiti sono implementati?
Sto affrontando vari ambiti. L’analisi dati per anti frode è un ambito importante, perché le frodi aumentano e molto spesso sono condotte da dipendenti all’interno dell’azienda, quindi difficili da trovare e con forti danni. Sto studiando l’agricoltura di precisione, per evitare di sprecare risorse preziose come l’acqua e il terreno, oltre a usare fertilizzanti solo dove serve senza distribuirli ovunque. Infine, sto creando nuove modalità di formazione per migliorare l’interazione con gli studenti e trasferire i concetti secondo il loro stile di studio.
Collaboro con le attività di ricerca accademica del Laboratorio di Visione Artificiale della Facoltà di Ingegneria presso l’Università di Pavia.
Oggi tutti parlano di Intelligenza Artificiale ma probabilmente lo fanno senza una adeguata comprensione di cosa sia, delle sue diverse implementazioni, implicazioni ed effetti. Anche i media non favoriscono informazione, comprensione e conoscenza. Si confondono IA semplicemente reattive (Arend Hintze) come Deep Blue o AlphaGo, IA specializzate (quelle delle Auto), IA generali (AGI o Strong AI) capaci di simulare la mente umana e di elaborare loro rappresentazioni del mondo e delle persone, IA superiori (Superintelligenze) capaci di avere una coscienza di sé stesse fino a determinare la singolarità tecnologica. Lei che definizione da dell’intelligenza artificiale, quale pensa sia il suo stato di evoluzione corrente e quali possono essere quelle future? Pensa che sia possibile in futuro una Superintelligenza capace di condurci alla Singolarità nell’accezione di Kurzweil?
Certamente c’è un po’ di confusione, succede sempre così con una nuova tecnologia, dovuta a persone che usano belle parole con tanto entusiasmo ma senza capirci niente, e tecnici che parlano solo nel loro linguaggio specialistico.
Non ho una definizione particolare di IA, concordo con quelle maggiormente condivise. Mi auguro, soprattutto, venga sempre più usata per migliorare la vita quotidiana delle persone, senza pensare troppo alla speculazione finanziaria a vantaggio di pochissimi.
Allo stato attuale della tecnologia, basata sui bit vero 1 / falso 0, non credo si possa arrivare alla Singolarità. Qualcosa potrà cambiare con il calcolo quantistico, se viene sviluppato non soltanto nella direzione della maggiore velocità di elaborazione, ci vuole un cambiamento radicale nel concetto di informazione e nel modo di elaborarla con più flessibilità e capacità di creare relazione tra dati anche, apparentemente, molto diversi.
Le machine al lavoro, gli umani senza lavoro felici e contenti!
L’IA non è una novità, ha una storia datata anni ‘50. Mai però come in questi tempi si è sviluppata una reazione preoccupata a cosa essa possa determinare per il futuro del genere umano. Numerosi scienziati nel 2015 hanno sottoscritto un appello (per alcuni un modo ipocrita di lavarsi la coscienza) invitando a una regolamentazione dell’IA. Lei cosa ne pensa? È per lasciare libera ricerca e implementazione o per una regolamentazione della IA? Non crede che qualora le macchine intelligenti rubassero il comando agli esseri umani, per essi la vita avrebbe meno senso? A preoccupare dovrebbe essere la supremazia e la potenza delle macchine ma soprattutto l’irrilevanza della specie umana che potrebbe derivarne. O questa è semplicemente paura del futuro e delle ibridazioni che lo caratterizzeranno? Secondo il filosofo Benasayag le macchine sono fatte per funzionare bene, noi per funzionare (processi chimici, ecc.) ed esistere (vivere). Gli umani non possono essere ridotti a una raccolta di (Big) dati o al calcolo binario, hanno bisogno di complessità, di un corpo, di senso, di cultura, di esperienze, di sperimentare la negatività e il non sapere. Le macchine no e mai ne avranno necessità. O secondo lei si? Non crede che fare completo affidamento sulle macchine ci porti all’impotenza?
La storia della Intelligenza Artificiale può risalire molto indietro nel tempo, la nascita può risalire ai primi automi nel 1206 quando il matematico, inventore ed ingegnere meccanico Al-Jazari realizzò il primo automa programmabile della storia, a cui si potesse dire cosa fare. Peraltro, l’essere umano ha sempre pensato a come ricreare sé stesso con qualche modalità diversa dalla riproduzione biologica.
Siamo ancora in tempo per dare la giusta direzione allo sviluppo della IA a supporto di una vita migliore dell’essere umano, visto che c’è ancora molta strada da fare prima di arrivare a macchine veramente intelligenti e creative. Linee guida per la ricerca sono necessarie in tutti i settori della ricerca, per non sprecare risorse e non creare danni all’umanità. Ma senza esagerare con le restrizioni, ricordo che proprio la libertà di ricerca ha portato allo sviluppo del famoso “deep learning” quando pochi ricercatori ci credevano perché la maggioranza riteneva le reti neurali di scarso interesse applicativo, ora tutti vogliono studiare solo “deep learning”.
Al funzionamento del cervello dei robot ci aveva già pensato Isaac Asimov nel 1942 con le tre leggi della robotica, secondo cui un robot non deve recare danno agli esseri umani. Sull’affermazione “le macchine sono fatte per funzionare bene” avrei molto da ridire, anche gli algoritmi di IA cominciano a mostrare punti deboli ed errori grossolani, perché potrebbero essere stati creati da chi vive in una realtà semplificata e, spesso, si agisce sotto la fretta di vendere sul mercato.
Nel suo ultimo libro (Le cinque leggi bronzee dell’era digitale), Francesco Varanini rilegge a modo suo e in senso critico la storia dell’intelligenza artificiale. Lo fa attraverso la (ri)lettura di testi sulla IA di recente pubblicazione di autori come: Vinge, Tegmark, Kurzweil, Bostrom, Haraway, Yudkowsy, e altri. La critica è rivolta ai tecno-entusiasti che celebrando l’avvenire solare della IA si mettono, “con lo sguardo interessato del tecnico” dalla parte della macchina a spese dell’essere umano. È come se attraverso l’IA volessero innalzare l’uomo proprio mentre lo stanno sterilizzando rendendolo impotente, oltre che sottomesso e servile. Lei da che parte sta, del tecnico/esperto/tecnocrate o dell’essere umano o in una terra di mezzo? Non la preoccupa la potenza dell’IA, la sua crescita e diffusione (in Cina ad esempio con finalità di controllo e sorveglianza)?
Come tecnico impegnato nel risolvere i problemi e costruire concretamente le cose, e soprattutto come studioso della storia di IA e come curioso del funzionamento del cervello umano, non sono interessato molto alla fantascienza, la leggo perché potrebbe venirne qualche idea, ma mi sforzo di risolvere bene i problemi attuali che sono tanti e difficili. Mi preoccupa molto di più la stupidità umana che finisce con il rovinare tutto per egoismo, voglia di potere e di denaro.
Non mi preoccupa la sorveglianza messa a tutela della mia libertà, ciò può avvenire quando io ho libero accesso ai dati e algoritmi usati, così anche io posso verificare quale elaborazione subisco e se ci sono persone che usano i miei dati per i loro interessi. Il nostro cervello è ancora un enorme mistero, la sua creatività è ancora neanche vagamente riprodotta dai rigidi schemi di ragionamento della IA, la nostra creatività può mettere in crisi questa rigidità ridando il controllo all’essere umano, quindi sono ben tranquillo nella gestione attuale della potenza di IA.
Ai tempi del Coronavirus molti si stanno interrogando sulla sparizione del lavoro. Altri invece celebrano lo smartworking e le tecnologie che lo rendono possibile. Là dove lo smartworking non è possibile, fabbriche, impianti di produzione, ecc., si diffonde la robotica, l’automazione e l’IA. Il dibattito sulla sparizione del lavoro per colpa della tecnica (capacità di fare) / tecnologia (impiego della tecnica e della conoscenza per fare) non è nuovo, oggi si è fatto più urgente. Le IA non stanno sostituendo solo il lavoro manuale ma anche quello cognitivo. Le varie automazioni in corso stanno demolendo intere filiere produttive, modelli economici e organizzativi. Lei cosa ne pensa? L’IA, per come si sta manifestando oggi, creerà nuove opportunità di lavoro o sarà protagonista della distruzione di posti di lavoro più consistente della storia come molti paventano? Alcuni sostengono che il futuro sarà popolato di nuovi lavoratori, tecnici che danno forma a nuove macchine (software e hardware), le fanno funzionare e le curano, tecnici che formano altri tecnici e ad altre forme di lavoro associate al funzionamento delle macchine tecnologiche. Sarà veramente così? E se anche fosse non sarebbe per tutti o per molti! Si verrebbero a creare delle élite ma molti perderebbero comunque il lavoro, l’unica cosa che per un individuo serva a essere sé stesso. Nessuna preoccupazione o riflessione in merito?
È sempre stato così nella storia dell’essere umano, ogni progresso tecnologico ha ridotto la necessità della forza umana, fin dalla invenzione della ruota. Certamente, attività ripetitive si possono automatizzare e la necessità di ridurre il costo del lavoro crea una forte spinta. Non penso che “il lavoro, l’unica cosa che per un individuo serva a essere sé stesso”, credo che i sentimenti servano molto di più per essere sé stesso, e in tale contesto difficilmente troveremo una sostituzione con IA.
Il rischio grosso è la IA speculativa fatta solo per guadagnare e risparmiare, che porterà alcune persone a diventare molto ricche e tantissime altre diventeranno povere, questa sì è una grossa preoccupazione. Temo il rischio di concentrare la produzione di grandi soluzioni sempre nei soliti pochi paesi, mentre altri paesi diventano soltanto consumatori e installatori. Per la quantità di lavoro, chi crea questi sistemi saranno poche persone, c’è da sperare nella quantità di lavoratori necessari per manutenzione ed aggiornamento, che sono sempre necessari, ancora di più in sistemi di IA che imparano in continuazione.
Ai tempi del coronavirus ci si chiede quali problemi può risolvere la IA, domanda legittima vista la grande aspettativa nelle sue capacità di calcolo. Non essendo un esperto nelle tecnologie mediche non posso dare una risposta sicura. La mia impressione ricavata da letture e interviste consiste in una certa delusione, dovuta soprattutto a un problema ancora non chiaro agli esperti ed alla qualità scadente dei dati da gestire, due difficoltà che tipicamente fanno crollare qualsiasi tecnologia IA, non essendo certamente la IA dotata di bacchetta magica.
L’IA è anche un tema politico. Lo è sempre stato ma oggi lo è in modo specifico per il suo utilizzo in termini di sorveglianza e controllo. Se ne parla poco ma tutti possono vedere (guardare non basta) cosa sta succedendo in Cina. Non tanto per l’implementazione di sistemi di riconoscimento facciale ma per le strategie di utilizzo dell’IA per il futuro dominio del mondo. Altro aspetto da non sottovalutare, forse determinato dal controllo pervasivo reso possibile dal controllo di tutti i dati, è la complicità del cittadino, la sua partecipazione al progetto strategico nazionale rinunciando alla propria libertà. Un segnale di cosa potrebbe succedere domani anche da noi in termini di minori libertà e sparizione dei sistemi democratici che ci caratterizzano come occidentali? O un’esasperata reazione non motivata dal fatto che le IA possono comunque essere sviluppate e governate anche con finalità e scopi diversi?
Certamente c’è un tema politico, quando si intende la politica come il prendere le decisioni in merito alla vita dei cittadini. Se si vogliono evitare problemi di controllo contro i cittadini bisogna aumentare l’istruzione sulla IA nei cittadini, così essi stessi potrebbero creare algoritmi che controllano altri algoritmi, e possono capire meglio cosa succede. Arrivare a parlare di dominio del mondo tramite IA è ancora molto presto.
Bloccare la IA perché si teme possa essere usata per dominare il mondo non ha senso, tanto chi vuole arrivarci potrebbe usare altri sistemi. Bloccare il riconoscimento facciale e la videosorveglianza non ha altrettanto senso, prima si dice che toglie la libertà, poi succede un reato e subito si vogliono i filmati delle telecamere o ci si chiede perché non sono state installate. Serve trasparenza dell’elaborazione, in cui l’interessato può sapere subito come sono stati trattati i suoi diritti, si può fare facilmente, se c’è volontà politica. Mi preoccupa la mancanza di investimenti nel nostro paese come decisione politica nella crescita futura, e mi preoccupa ancora di più come vengono spesi male i pochi fondi esistenti. Succederà che dovremo sempre più importare soluzioni create secondo schemi di pensiero che ci sono estranei, non sarà una bella cosa.
Siamo dentro l’era digitale. La viviamo da sonnambuli felici dotati di strumenti che nessuno prima di noi ha avuto la fortuna di usare. Viviamo dentro realtà parallele, percepite tutte come reali, accettiamo la mediazione tecnologica in ogni attività: cognitiva, relazionale, emotiva, sociale, economica e politica. L’accettazione diffusa di questa mediazione riflette una difficoltà crescente nella comprensione umana della realtà e del mondo (ci pensano le macchine!) e della crescente incertezza. In che modo le macchine, le intelligenze artificiali potrebbero oggi svolgere un ruolo diverso nel rimettere l’uomo al centro, nel soddisfare il suo bisogno di comunità e relazioni reali, e nel superare l’incertezza?
Affermare che alla “comprensione umana della realtà e del mondo (ci pensano le macchine!)” non descrive un rischio concreto allo stato attuale, molto limitato di ragionamento delle macchine, c’è troppa sopravvalutazione nelle loro capacità. Se si vuole “un ruolo diverso nel rimettere l’uomo al centro” basta progettare i sistemi con questo obiettivo, il problema è la volontà di farlo sostenendo gli alti costi e i bassi incassi di applicazioni in tal senso, dovrebbe pensarci la politica a decidere dove investire.
Vuole aggiungere altro per i lettori di SoloTablet, ad esempio qualche suggerimento di lettura sul tema AI? Vuole suggerire temi correlati da approfondire in attività future? Cosa suggerisce per condividere e far conoscere l'iniziativa nella quale anche lei è stato/a coinvolto/a?
Iniziative come questa servono per una corretta divulgazione tecnologico-scientifica, senza fare fantascienza ed esagerato ottimismo che portano alle delusioni, senza creare inutili allarmismi che possono bloccare uno sviluppo utile a tutti. Invito i lettori a fare un minimo di sforzo tecnico, nel creare almeno piccoli sistemi di IA, per capire come veramente funzionano e cosa si può o no fare.
Un minimo di programmazione, chiamata anche coding, può servire anche per migliorare le proprie capacità di ragionamento, ci vuole molto poco con un po’ di studio e un computer che si usa per navigare su internet e fare le più comuni attività. Infine, consiglio di leggere libri sulla creatività, sul funzionamento del cervello, sulla psicologia e sul ragionamento, per rendersi conto di quanto è potente e difficilmente imitabile il nostro cervello.
