Homo sapiens e Homo digitalis /

Noi umani non possiamo essere ridotti ad un insieme di dati (Dialogo con Walter Aglietti)

Noi umani non possiamo essere ridotti ad un insieme di dati (Dialogo con Walter Aglietti)

20 Novembre 2020 The sapiens
The sapiens
The sapiens
share
Sono d’accordo che noi umani non possiamo essere ridotti ad un insieme di dati, che abbiamo bisogno di vivere oltre che di funzionare, ma credo anche che davanti a noi troveremo fenomeni, ad esempio ibridazioni uomo-macchina, che ci costringeranno a ridefinire cosa è un uomo e cosa è vivere. Ad esempio non sono completamente certo che un adolescente che passa dieci ore al giorno sul suo telefono abbia il mio stesso concetto della parola “vivere”, né posso pretenderlo.

LE INTERVISTE FIN QUI RACCOLTE

La tecnologia avanza più rapidamente della coscienza necessaria all'uomo per padroneggiarla. E' necessario fare uno sforzo per conoscere, per essere in grado di controllarla a vantaggio degli uomini, evitando di farsi condizionare da essa in modo diretto o in modo occulto e di essere in un certo senso alla sua mercé." – Giampaolo Bellini, Evandro Agazzi (L'uomo nell'era della tecnoscienza)

Scrive Noah Harari che “quando la tecnologia ci permetterà di reingegnerizzare le menti umane, Homo sapiens scomparirà […] e un processo completamente nuovo avrà inizio”. La previsione può rivelarsi errata ma se si riflette sulla profondità dei cambiamenti in corso e il ruolo che la tecnologia sta avendo nel determinarli, si comprende che siamo in una fase di cambio di paradigma. Quando il nuovo emergerà noi potremmo non essere più umani. Cyborgsimbionti, semplici intelligenze artificiali più o meno ibridate, potenti, intelligenti e capaci di apprendere ma non più umane.

Se questa prospettiva è verosimile è più che mai necessaria una riflessione approfondita, puntuale e critica di quanto sta avvenendo. Paradigmatico per questa riflessione è il tema dell’intelligenza artificiale che, più di altri, suggerisce bene il rischio e la sfida che tutto il genere umano si trova di fronte. Un rischio da molti sottovalutato e una sfida da molti accettata forse con eccessiva superficialità. Un tema che comunque è di interesse generale e vale la pena approfondire. E la riflessione deve essere fatta da tecnici, esperti, fautori della IA, ma senza mai dimenticarsi di essere esseri umani.

SoloTablet ha deciso di farlo coinvolgendo persone che sull’intelligenza artificiale stanno lavorando, investendo, filosofeggiando e creando scenari futuri venturi. 

In questo articolo proponiamo l’intervista che Carlo Mazzucchelli  ha condotto con Water Aglietti Italy Cloud Software Lab Director di IBM.


 

Buongiorno, può raccontarci qualcosa di lei, della sua attività attuale, del suo interesse per l’intelligenza artificiale? Ritiene utile una riflessione sull'era tecnologica e dell'informazione che stiamo sperimentando? Su quali progetti, idee imprenditoriali sta lavorando? Con quali finalità e obiettivi? A chi sono rivolti e in che ambiti sono implementati? 

Buongiorno a voi. Sono direttore del Laboratorio Software di IBM Italia, un team piuttosto variegato che si occupa dello sviluppo e del supporto delle tecnologie IBM in ambito cloud, intelligenza artificiale, sicurezza. Insieme ad architetti, sviluppatori e data scientist lavoriamo a rendere queste tecnologie sempre più interoperanti, in grado di portare valore aggiunto ai nostri clienti e, come da tradizione IBM, anche capaci di contribuire a risolvere almeno una parte della complessità che viviamo ogni giorno…complessità di approccio all’innovazione, all’etica, alla privacy. 

L’intelligenza artificiale è un tema affascinante, non soltanto ha un interesse tecnologico e di business ma è anche una potente suggestione culturale per cui è stato semplicemente inevitabile esserne in qualche modo positivamente e culturalmente “travolti” fin dagli inizi. Mi occupo di dati da molti anni ed è stato così naturale passare all’AI, prima come manager del team IBM Watson e successivamente come direttore del Lab. Ho unito questa attività ad altri incarichi, come la partecipazione al gruppo di esperti sull’intelligenza artificiale del Ministero dello Sviluppo Economico, che hanno rappresentato una rilevante esperienza professionale oltre che un onore. 

L’AI è trasformazione. Lo è più di molte altre tecnologie definite “trasformative” che sono arrivate e sparite lasciando scarse tracce.

Come ormai tutti sanno, l’AI cambia il modo in cui lavoriamo, ci relazioniamo, consumiamo e pensiamo, conseguentemente ci induce a riflettere su come lo fa, se è giusto che lo faccia e come invece dovrebbe farlo….quindi sì, una riflessione è necessaria. Come IBM, lavoriamo a rendere l’AI parte integrante dei nostri prodotti, il sistema nervoso di infrastrutture ed applicazioni più efficienti nell’analisi, la correlazione e la comprensione di quello che gli utenti chiedono, permettendo di anticipare fenomeni e governare l’esistente. Con molta (ma molta) attenzione all’etica nell’uso di queste tecnologie, cosa che in IBM consideriamo un punto fondante. 

Oggi tutti parlano di Intelligenza Artificiale ma probabilmente lo fanno senza una adeguata comprensione di cosa sia, delle sue diverse implementazioni, implicazioni ed effetti. Anche i media non favoriscono informazione, comprensione e conoscenza. Si confondono IA semplicemente reattive (Arend Hintze) come Deep Blue o AlphaGo, IA specializzate (quelle delle Auto), IA generali (AGI o Strong AI) capaci di simulare la mente umana e di elaborare loro rappresentazioni del mondo e delle persone, IA superiori (Superintelligenze) capaci di avere una coscienza di sé stesse fino a determinare la singolarità tecnologica. Lei che definizione da dell’intelligenza artificiale, quale pensa sia il suo stato di evoluzione corrente e quali possono essere quelle future? Pensa che sia possibile in futuro una Superintelligenza capace di condurci alla Singolarità nell’accezione di Kurzweil? 

Guardo con particolare attenzione ad ogni evoluzione in questo campo, non soltanto da un punto di vista strettamente tecnologico, ma anche in termini di impatto sociale, economico e, come detto, etico. Nel mio lavoro occorre comprendere bene l’esistente per farne uso, comprendere quali possano esserne le possibili evoluzioni per essere pronti ad interpretare i cambiamenti e gettare quando possibile uno sguardo più in là. 

Oggi tutti parlano di AI e molti, come da lei sottolineato, senza avere un’idea chiara di cosa effettivamente sia. È pur vero che si tratta di qualcosa di sostanzialmente mainstream, con definizioni che cambiano a seconda della formazione di chi ne parla, sia esso tecnologo, filosofo, legislatore o semplice curioso.

Io penso che AI sia sostanzialmente l’applicazione ai dati disponibili di schemi cognitivi da noi generalmente percepiti come intelligenza. Non è una definizione né peggiore né migliore di altre, ma è senz’altro vera insieme a tutte le altre. 

Vedo l’AI approcciata da molte direzioni in molti modi diversi: chi studia da decenni il funzionamento del cervello, chi nuovi modelli di interpretazione della realtà nel suo complesso, chi (e sono la maggioranza) affronta singoli problemi (la comprensione del linguaggio, la guida automatica, la visione) con soluzioni sempre diverse ed ognuna suscettibile di essere divisa in ulteriori filoni (il linguaggio che diventa trascrizione, comprensione dei concetti, comprensione delle emozioni), tutti che tendono però ad avvicinarsi tra loro e penso che in futuro il punto di sintesi arriverà e sarà potente. Non so dire se sarà simile alla Singolarità di Kurzweil, ma mi sembra logico pensare che quando arriverà ci accorgeremo che era già tra noi da tempo. 

 

L’IA non è una novità, ha una storia datata anni ‘50. Mai però come in questi tempi si è sviluppata una reazione preoccupata a cosa essa possa determinare per il futuro del genere umano. Numerosi scienziati nel 2015 hanno sottoscritto un appello (per alcuni un modo ipocrita di lavarsi la coscienza) invitando a una regolamentazione dell’IA. Lei cosa ne pensa? È per lasciare libera ricerca e implementazione o per una regolamentazione della IA? Non crede che qualora le macchine intelligenti rubassero il comando agli esseri umani, per essi la vita avrebbe meno senso? A preoccupare dovrebbe essere la supremazia e la potenza delle macchine ma soprattutto l’irrilevanza della specie umana che potrebbe derivarne. O questa è semplicemente paura del futuro e delle ibridazioni che lo caratterizzeranno? Secondo il filosofo Benasayag le macchine sono fatte per funzionare bene, noi per funzionare (processi chimici, ecc.) ed esistere (vivere). Gli umani non possono essere ridotti a una raccolta di (Big) dati o al calcolo binario, hanno bisogno di complessità, di un corpo, di senso, di cultura, di esperienze, di sperimentare la negatività e il non sapere. Le macchine no e mai ne avranno necessità. O secondo lei si? Non crede che fare completo affidamento sulle macchine ci porti all’impotenza? 

Credo che ci si stia preoccupando adesso perché adesso la tecnologia è diffusa e adesso (un adesso con una certa quantità di anni sulle spalle) è maturata la consapevolezza di quanto l’AI possa impattare la nostra realtà in modi ampiamente prevedibili, ma anche del tutto inaspettati. È corretto quindi preoccuparsene. 

Far “funzionare” l’AI nel rispetto di regole che rappresentino i valori fondanti della nostra civiltà (uguaglianza di etnia, credo religioso o genere, per citarne alcuni) o semplicemente il rispetto di diritti che consideriamo acquisiti (ad esempio la privacy), è un compito arduo ma doveroso in cui però occorre separare la ricerca dall’applicazione. 

È evidente, che come tutte le tecnologie, l’AI si presta ad uso ed abuso e normare o vietare significa impedire un abuso, ma potenzialmente anche rallentare alcuni filoni di ricerca. La situazione non è diversa da altri ambiti come la ricerca genetica, chiave di volta per la cura di malattie ritenute incurabili, ma anche sottoposta a precisi vincoli etici la cui opportunità viene valutata periodicamente. 

A differenza della ricerca genetica però, I’AI si presta a utilizzi anche parziali ed immediatamente applicabili il che ne fa qualcosa di velocissimo e meno governabile. 

Qualcosa occorre necessariamente fare perché, pur non avendo personalmente una visione di AI minacciosa, ritengo che invece i rischi di essere in futuro discriminati nella scelta di un mutuo, nella stipula di una polizza assicurativa, ecc. possano essere concreti. Ed è uno dei motivi per cui come azienda e come persona mi impegno per azzerare tali fenomeni in ciò che faccio quotidianamente. 

In attesa di soluzioni migliori credo che gli sforzi in corso in tal senso, anche a livello UE, siano un tentativo nella giusta direzione.

Sono d’accordo che noi umani non possiamo essere ridotti ad un insieme di dati, che abbiamo bisogno di vivere oltre che di funzionare, ma credo anche che davanti a noi troveremo fenomeni, ad esempio ibridazioni uomo-macchina, che ci costringeranno a ridefinire cosa è un uomo e cosa è vivere. Ad esempio non sono completamente certo che un adolescente che passa dieci ore al giorno sul suo telefono abbia il mio stesso concetto della parola “vivere”, né posso pretenderlo. 

 

Nel suo ultimo libro (Le cinque leggi bronzee dell’era digitale), Francesco Varanini rilegge a modo suo e in senso critico la storia dell’intelligenza artificiale. Lo fa attraverso la (ri)lettura di testi sulla IA di recente pubblicazione di autori come: Vinge, Tegmark, Kurzweil, Bostrom, Haraway, Yudkowsy, e altri. La critica è rivolta ai tecno-entusiasti che celebrando l’avvenire solare della IA si mettono, “con lo sguardo interessato del tecnico” dalla parte della macchina a spese dell’essere umano. È come se attraverso l’IA volessero innalzare l’uomo proprio mentre lo stanno sterilizzando rendendolo impotente, oltre che sottomesso e servile. Lei da che parte sta, del tecnico/esperto/tecnocrate o dell’essere umano o in una terra di mezzo? Non la preoccupa la potenza dell’IA, la sua crescita e diffusione (in Cina ad esempio con finalità di controllo e sorveglianza)? 

Mi preoccupa molto ma, come abbiamo detto, è un fenomeno semplicemente inarrestabile e, sebbene sia in conflitto col nostro concetto di libertà personale, c’è tantissima ricerca intorno che è utilizzata anche per scopi generalmente accettati da noi. Io sto dalla parte dell’essere umano che utilizza queste tecnologie per migliorare la propria vita personale e lavorativa, ridurre il proprio footprint e ridurre la complessità…un programma piuttosto vasto come si vede, ma la scienza progredisce anche in base visioni del futuro apparentemente giudicate velleitarie dai pragmatisti ad ogni costo. 

 

Ai tempi del Coronavirus molti si stanno interrogando sulla sparizione del lavoro. Altri invece celebrano lo smartworking e le tecnologie che lo rendono possibile. Là dove lo smartworking non è possibile, fabbriche, impianti di produzione, ecc., si diffonde la robotica, l’automazione e l’IA. Il dibattito sulla sparizione del lavoro per colpa della tecnica (capacità di fare) / tecnologia (impiego della tecnica e della conoscenza per fare) non è nuovo, oggi si è fatto più urgente. Le IA non stanno sostituendo solo il lavoro manuale ma anche quello cognitivo. Le varie automazioni in corso stanno demolendo intere filiere produttive, modelli economici e organizzativi. Lei cosa ne pensa? L’IA, per come si sta manifestando oggi, creerà nuove opportunità di lavoro o sarà protagonista della distruzione di posti di lavoro più consistente della storia come molti paventano? Alcuni sostengono che il futuro sarà popolato di nuovi lavoratori, tecnici che danno forma a nuove macchine (software e hardware), le fanno funzionare e le curano, tecnici che formano altri tecnici e ad altre forme di lavoro associate al funzionamento delle macchine tecnologiche. Sarà veramente così? E se anche fosse non sarebbe per tutti o per molti! Si verrebbero a creare delle élite ma molti perderebbero comunque il lavoro, l’unica cosa che per un individuo serva a essere sé stesso. Nessuna preoccupazione o riflessione in merito?

È un tema ampiamente dibattuto in ogni sede. Si tratta comunque di una rivoluzione di cui però l’AI costituisce un acceleratore in quanto la tendenza esiste già da molti anni. 

L’AI sta già creando nuove opportunità di lavoro e specializzazioni differenti, e rappresenta sicuramente il futuro del nostro lavoro (almeno uno dei tanti futuri possibili), ma attenzione alle promesse: la velocità con cui l’AI prende piede richiede la formazione di competenze lungo tutto l’arco di vita lavorativa e scolastica di una persona. Il ricambio generazionale c’è ed è inevitabile nelle logiche di mercato correnti, ad esempio nell’automazione industriale, quello che è difficilmente computabile è il bilancio tra impieghi nuovi e vecchi, in termini di persone, impatto economico, impatto energetico, filiera produttiva…potremmo scoprire che non abbiamo necessariamente bisogno di sostituire tutto, o anche che il nuovo produce più del vecchio, ma consuma anche di più le risorse a disposizione ed allora servirà una visione illuminata in grado preservare il meglio che abbiamo (in termini umani, ambientali, produttivi, industriali, etc.), cercando di far lavorare la tecnologia con l’uomo e per l’uomo invece che a discapito. 

 

L’IA è anche un tema politico. Lo è sempre stato ma oggi lo è in modo specifico per il suo utilizzo in termini di sorveglianza e controllo. Se ne parla poco ma tutti possono vedere (guardare non basta) cosa sta succedendo in Cina. Non tanto per l’implementazione di sistemi di riconoscimento facciale ma per le strategie di utilizzo dell’IA per il futuro dominio del mondo. Altro aspetto da non sottovalutare, forse determinato dal controllo pervasivo reso possibile dal controllo di tutti i dati, è la complicità del cittadino, la sua partecipazione al progetto strategico nazionale rinunciando alla propria libertà. Un segnale di cosa potrebbe succedere domani anche da noi in termini di minori libertà e sparizione dei sistemi democratici che ci caratterizzano come occidentali? O un’esasperata reazione non motivata dal fatto che le IA possono comunque essere sviluppate e governate anche con finalità e scopi diversi? 

Il tema è sempre più quello di un’AI concepita come strumento, uno strumento che non va demonizzato esattamente come non ci sogneremmo di demonizzare la genetica. L’utilizzo pratico che se ne fa è purtroppo altro: non considero esagerati gli allarmismi sulla libertà personale, effettivamente a rischio con un uso estensivo della tecnologia così come si sta facendo in alcuni paesi, però il problema non è (solo) tecnologico, ma principalmente politico e la percezione di sicurezza o la declinazione di privacy sono estremamente variabili da paese e paese. Inoltre, si tratta di concetti di difficile assimilazione, basti vedere come tantissimi in possesso di account social multipli si siano scagliati contro le app per il tracciamento della pandemia accampando violazioni della libertà personale. Sono cambiamenti culturali e quindi lenti, ma con la tecnologia arriverà auspicabilmente anche la consapevolezza che in certi ambiti non esiste la parola “gratis” e che dobbiamo noi per primi essere attori consapevoli della nostra vita digitale, personale e professionale. 

 

Siamo dentro l’era digitale. La viviamo da sonnambuli felici dotati di strumenti che nessuno prima di noi ha avuto la fortuna di usare. Viviamo dentro realtà parallele, percepite tutte come reali, accettiamo la mediazione tecnologica in ogni attività: cognitiva, relazionale, emotiva, sociale, economica e politica. L’accettazione diffusa di questa mediazione riflette una difficoltà crescente nella comprensione umana della realtà e del mondo (ci pensano le macchine!) e della crescente incertezza. In che modo le macchine, le intelligenze artificiali potrebbero oggi svolgere un ruolo diverso nel rimettere l’uomo al centro, nel soddisfare il suo bisogno di comunità e relazioni reali, e nel superare l’incertezza? 

Non c’è dubbio che siamo abituati ad avere sempre più a che fare con una realtà parallela che oltretutto si adatta in tempo reale a ciò che desideriamo, modificandolo e spostando il confine dei desideri e delle necessità sempre un po’ più in là, una realtà rassicurante da cui a volte è difficile uscire (si pensi al fenomeno degli hikikomori che si affaccia anche da noi). Sono tutte forti oscillazioni di qualcosa che culturalmente non comprendiamo bene e la tecnologia assume a volte i contorni di un feticcio pret-à-porter, una soluzione tutto sommato economica a inquietudini vere, caratteristiche del tempo che viviamo e ampiamente descritte in letteratura.

Credo che possa salvarci una comprensione migliore di cosa è la tecnologia e cosa può fare per noi, unitamente ad una maggior consistenza e recupero del nostro essere parte di una società fatta di esseri umani con necessità e obiettivi comuni e con un corredo esauribile di risorse a disposizione. Come si vede un diverso approccio alla tecnologia ed alla libertà personale passa prima per noi, e non potrebbe essere altrimenti.

 

Vuole aggiungere altro per i lettori di SoloTablet, ad esempio qualche suggerimento di lettura sul tema AI? Vuole suggerire temi correlati da approfondire in attività future? Cosa suggerisce per condividere e far conoscere l'iniziativa nella quale anche lei è stato/a coinvolto/a? 

La letteratura in proposito è sterminata ma, prescindendo da quella tecnica e considerando che alcuni validi autori sono stati già citati, suggerirei di leggere libri capaci di spiegare quale potrebbe essere l’impatto dell’AI e quale il possibile danno di un suo uso sconsiderato, titoli come “Il capitalismo della sorveglianza” di Shoshana Zuboff o “Armi di distruzione matematica” di Cathy O’Neil sono strumenti interessanti anche per non addetti ai lavori che consentono di comprendere la reale estensione del fenomeno Intelligenza Artificiale.

 

comments powered by Disqus

Sei alla ricerca di uno sviluppatore?

Cerca nel nostro database


MakeItApp

Makeitapp.eu è il primo social collaborative network per creare app insieme. Gli...

Vai al profilo

ALGORITMA

ALGORITMA progetta e sviluppa soluzioni software per ambienti desktop e mobile...

Vai al profilo

Third Millenium

Software house dedicata allo sviluppo di App per il mondo mobile

Vai al profilo

Creact

Creact si occupa dello sviluppo di soluzioni mobile, web e desktop. Creact dà vita a...

Vai al profilo