Homo sapiens e Homo digitalis /

IA: serve una riflessione etica, al di la del bene e del male (dialogo con Francesca Quaratino)

IA: serve una riflessione etica, al di la del bene e del male (dialogo con Francesca Quaratino)

12 Novembre 2020 The sapiens
The sapiens
The sapiens
share
Percepisco l’intelligenza artificiale come un sistema sintetico di emulazione umana, la cui finalità è di migliorare il nostro benessere. Affidiamo alle macchine le nostre scelte riponendo fiducia nella loro straordinaria efficienza.

"L'intelligenza artificiale non è un'innovazione come tante altre: essa rappresenta un principio tecnico universale fondato su un modello di identificazione delle relazioni: l'analisi robotizzata di circostanze di diversa natura, con il fine in genere di avviare le corrispondenti azioni appropriate. Questa logica è pensata per essere applicata, sul lungo periodo, a tutti gli aspetti della vita individuale e collettiva: a ben guardare, stiamo assistendo all'emergere di una tecnologia dell'integrale.” – Éric Sadin (Critica della ragione artificiale)

Scrive Noah Harari che “quando la tecnologia ci permetterà di reingegnerizzare le menti umane, Homo sapiens scomparirà […] e un processo completamente nuovo avrà inizio”. La previsione può rivelarsi errata ma se si riflette sulla profondità dei cambiamenti in corso e il ruolo che la tecnologia sta avendo nel determinarli, si comprende che siamo in una fase di cambio di paradigma. Quando il nuovo emergerà noi potremmo non essere più umani. Cyborgsimbionti, semplici intelligenze artificiali più o meno ibridate, potenti, intelligenti e capaci di apprendere ma non più umane.

Se questa prospettiva è verosimile è più che mai necessaria una riflessione approfondita, puntuale e critica di quanto sta avvenendo. Paradigmatico per questa riflessione è il tema dell’intelligenza artificiale che, più di altri, suggerisce bene il rischio e la sfida che tutto il genere umano si trova di fronte. Un rischio da molti sottovalutato e una sfida da molti accettata forse con eccessiva superficialità. Un tema che comunque è di interesse generale e vale la pena approfondire. E la riflessione deve essere fatta da tecnici, esperti, fautori della IA, ma senza mai dimenticarsi di essere esseri umani.

SoloTablet ha deciso di farlo coinvolgendo persone che sull’intelligenza artificiale stanno lavorando, investendo, filosofeggiando e creando scenari futuri venturi.

In questo articolo proponiamo l’intervista che Carlo Mazzucchelli ha condotto con Francesca QuaratinoEthics of Artificial Intelligence and Information Philosophy CREÉIA


Buongiorno, può raccontarci qualcosa di lei, della sua attività attuale, del suo interesse per l’intelligenza artificiale? Ritiene utile una riflessione sull'era tecnologica e dell'informazione che stiamo sperimentando? Su quali progetti, idee imprenditoriali sta lavorando? Con quali finalità e obiettivi? A chi sono rivolti e in che ambiti sono implementati?

Specializzata in etica e intelligenza artificiale credo che lo sviluppo tecnologico possa migliorare la società. Tuttavia, tale beneficio deve essere utilizzato “massimizzando il bene e minimizzando il dolore”.

Ho conseguito la laurea magistrale in Scienze Filosofiche e della Comunicazione nel 2018 presso l’Università degli Studi della Basilicata, con una tesi di laurea in Antropologia Filosofica dal titolo “La Dissoluzione dell’Io nella Società Digitale”, la cui tematica verte sul complesso rapporto uomo-macchina. Terminati gli studi universitari ho intrapreso un percorso di collaborazione con il prof. Paolo Augusto Masullo (ordinario di filosofia morale presso il Dipartimento di Scienze Politiche- Federico II, Napoli) e con il centro di ricerca Creeìa (Centre de réflexion et d’enseignement en éthique de l’intelligence artificielle). Inoltre ho pubblicato diversi articoli presso la rivista “Filosofia e nuovi sentieri”. 

Le mie ricerche sono orientate ad approfondire in primo luogo, le implicazioni etiche derivanti dall’utilizzo dell’Intelligenza Artificiale e in secondo, su come l’essere umano, ormai ibridato completamente con la tecnologia sia ri-formulato e ri-disegnato alla luce dell’ambiente digitale in cui vive.

Attualmente, in aggiunta allo studio delle suddette tematiche, vorrei presentare un progetto di Educazione digitale presso le scuole secondarie di II grado e presentare un progetto di dottorato sul rapporto filosofia-intelligenza artificiale. 

Ritengo che sia di estrema importanza animare il dibattito contemporaneo su questi temi poiché l’esistenza viene “digitalizzata” e i sempre più frequenti rapporti di ibridazione suggeriscono di affrontare una nuova ermeneutica ontologica del soggetto. Questa trasformazione esistenziale,  che si manifesta e si realizza attraverso le nuove tecnologie, necessita dunque di essere indagata per strutturare una riflessione etica e morale sull’utilizzo dell’Intelligenza Artificiale “al di la del bene e del male”.

Oggi tutti parlano di Intelligenza Artificiale ma probabilmente lo fanno senza una adeguata comprensione di cosa sia, delle sue diverse implementazioni, implicazioni ed effetti. Anche i media non favoriscono informazione, comprensione e conoscenza. Si confondono IA semplicemente reattive (Arend Hintze) come Deep Blue o AlphaGo, IA specializzate (quelle delle Auto), IA generali (AGI o Strong AI) capaci di simulare la mente umana e di elaborare loro rappresentazioni del mondo e delle persone, IA superiori (Superintelligenze) capaci di avere una coscienza di sé stesse fino a determinare la singolarità tecnologica. Lei che definizione da dell’intelligenza artificiale, quale pensa sia il suo stato di evoluzione corrente e quali possono essere quelle future? Pensa che sia possibile in futuro una Superintelligenza capace di condurci alla Singolarità nell’accezione di Kurzweil? 

Agiamo in un ambiente permeato da tecnologie altamente sofisticate e intelligenze artificiali sempre più simili all’intelligenza umana. Credo sia difficile strutturare una definizione univoca di I.A. L’intelligenza artificiale simula il comportamento “intelligente“ umano, in particolar modo attività afferenti alla sfera intellettiva come, ad esempio, memoria, apprendimento, calcolo e, in un certo senso, pensiero.

Percepisco l’intelligenza artificiale come un sistema sintetico di emulazione umana, la cui finalità è di migliorare il nostro benessere. Affidiamo alle macchine le nostre scelte riponendo fiducia nella loro straordinaria efficienza.

L’algoritmo, nei prossimi anni, sarà perfezionato grazie alla ricerca in campo informatico e come afferma Pedro Domingos «sarà lui ad inventare tutto quello che ancora deve essere inventato» (p. 49, 2016).

Tale algoritmo non sostituirà l’uomo e le sue decisioni poiché è carente di una caratteristica eminentemente umana: la creatività.

L’IA non è una novità, ha una storia datata anni ‘50. Mai però come in questi tempi si è sviluppata una reazione preoccupata a cosa essa possa determinare per il futuro del genere umano. Numerosi scienziati nel 2015 hanno sottoscritto un appello (per alcuni un modo ipocrita di lavarsi la coscienza) invitando a una regolamentazione dell’IA. Lei cosa ne pensa? È per lasciare libera ricerca e implementazione o per una regolamentazione della IA? Non crede che qualora le macchine intelligenti rubassero il comando agli esseri umani, per essi la vita avrebbe meno senso? A preoccupare dovrebbe essere la supremazia e la potenza delle macchine ma soprattutto l’irrilevanza della specie umana che potrebbe derivarne. O questa è semplicemente paura del futuro e delle ibridazioni che lo caratterizzeranno? Secondo il filosofo Benasayag le macchine sono fatte per funzionare bene, noi per funzionare (processi chimici, ecc.) ed esistere (vivere). Gli umani non possono essere ridotti a una raccolta di (Big) dati o al calcolo binario, hanno bisogno di complessità, di un corpo, di senso, di cultura, di esperienze, di sperimentare la negatività e il non sapere. Le macchine no e mai ne avranno necessità. O secondo lei si? Non crede che fare completo affidamento sulle macchine ci porti all’impotenza? 

Benasayag è uno dei pensatori più acuti del nostro secolo. Nel suo celebre testo “Il cervello aumentato, l’uomo diminuito” (2016) sottolinea come, il potenziamento cognitivo e il desiderio di assurgere alla perfezione macchinica, comporti uno svuotamento emotivo e patico. Il poderoso sviluppo della tecnologia modifica inevitabilmente il nostro essere-nel-mondo e riformula la nostra identità. Affidarsi ciecamente alla macchina implica, irrimediabilmente, una sorta di “impotenza”.

Affinché l’IA non prenda il sopravvento e non porti ad un totale antropodecentramento bisogna utilizzarla correttamente e conoscerne il funzionamento. L’uomo deve tutelare la propria privacy e non “svendere“ i propri dati personali, deve far attenzione all’utilizzo dei social network e al profluvio di informazioni derivanti dalla rete. È necessaria una selezione consapevole di ciò che le nostre azioni digitali comportano.

L’uomo è e sarà sempre contraddistinto dalla coscienza e dall’agire consapevole, le macchine, no. 

 

Nel suo ultimo libro (Le cinque leggi bronzee dell’era digitale), Francesco Varanini rilegge a modo suo e in senso critico la storia dell’intelligenza artificiale. Lo fa attraverso la (ri)lettura di testi sulla IA di recente pubblicazione di autori come: Vinge, Tegmark, Kurzweil, Bostrom, Haraway, Yudkowsy, e altri. La critica è rivolta ai tecno-entusiasti che celebrando l’avvenire solare della IA si mettono, “con lo sguardo interessato del tecnico” dalla parte della macchina a spese dell’essere umano. È come se attraverso l’IA volessero innalzare l’uomo proprio mentre lo stanno sterilizzando rendendolo impotente, oltre che sottomesso e servile. Lei da che parte sta, del tecnico/esperto/tecnocrate o dell’essere umano o in una terra di mezzo? Non la preoccupa la potenza dell’IA, la sua crescita e diffusione (in Cina ad esempio con finalità di controllo e sorveglianza)? 

Per poter sfruttare al meglio le potenzialità che l’Intelligenza Artificiale offre bisogna assumere una posizione neutra e guardarne le dinamiche con occhio critico, ed etico. Posizioni estreme, tecnofili e tecnofobi, concorrono ad arrestare le sfumature positive della tecnologia poiché ne esasperano solo alcune caratteristiche. 

È necessario vedere il rapporto uomo-tecnologia come un legame ineludibile in cui nessuno predomina, ma collabora.

L’esclusività ontologica dell’Essere non viene messa in discussione, tuttavia subisce una lieve modificazione.

La sorveglianza ed il controllo esercitati dalla tecnologia sono, spesso, il risultato di una lacuna etica, la quale invece, dovrebbe disciplinare e regolare tali questioni. 

Ai tempi del Coronavirus molti si stanno interrogando sulla sparizione del lavoro. Altri invece celebrano lo smartworking e le tecnologie che lo rendono possibile. Là dove lo smartworking non è possibile, fabbriche, impianti di produzione, ecc., si diffonde la robotica, l’automazione e l’IA. Il dibattito sulla sparizione del lavoro per colpa della tecnica (capacità di fare) / tecnologia (impiego della tecnica e della conoscenza per fare) non è nuovo, oggi si è fatto più urgente. Le IA non stanno sostituendo solo il lavoro manuale ma anche quello cognitivo. Le varie automazioni in corso stanno demolendo intere filiere produttive, modelli economici e organizzativi. Lei cosa ne pensa? L’IA, per come si sta manifestando oggi, creerà nuove opportunità di lavoro o sarà protagonista della distruzione di posti di lavoro più consistente della storia come molti paventano? Alcuni sostengono che il futuro sarà popolato di nuovi lavoratori, tecnici che danno forma a nuove macchine (software e hardware), le fanno funzionare e le curano, tecnici che formano altri tecnici e ad altre forme di lavoro associate al funzionamento delle macchine tecnologiche. Sarà veramente così? E se anche fosse non sarebbe per tutti o per molti! Si verrebbero a creare delle élite ma molti perderebbero comunque il lavoro, l’unica cosa che per un individuo serva a essere sé stesso. Nessuna preoccupazione o riflessione in merito? 

Con la rivoluzione informatica molti lavori, come nel settore della logistica, sono stati sostituiti dalle macchine.

Basti pensare ad Amazon che ha deciso di sperimentare una parte della logistica ad Amazon Scout, un robot in grado di effettuare consegne in autonomia.  D’altro canto, vi è la nascita e la diffusione di nuove professioni “digitali” come il social media manager o il content creator. Queste ultime rappresentano le cosiddette professioni del futuro, e sembra siano già parte integrante del nostro sistema.

In aggiunta vorrei sottolineare come, ad oggi, non sia possibile stabilire se la presenza di professioni “digitali” a discapito di professioni ante-tecnica possa essere considerata come una nota distruttiva.

L’IA è anche un tema politico. Lo è sempre stato ma oggi lo è in modo specifico per il suo utilizzo in termini di sorveglianza e controllo. Se ne parla poco ma tutti possono vedere (guardare non basta) cosa sta succedendo in Cina. Non tanto per l’implementazione di sistemi di riconoscimento facciale ma per le strategie di utilizzo dell’IA per il futuro dominio del mondo. Altro aspetto da non sottovalutare, forse determinato dal controllo pervasivo reso possibile dal controllo di tutti i dati, è la complicità del cittadino, la sua partecipazione al progetto strategico nazionale rinunciando alla propria libertà. Un segnale di cosa potrebbe succedere domani anche da noi in termini di minori libertà e sparizione dei sistemi democratici che ci caratterizzano come occidentali? O un’esasperata reazione non motivata dal fatto che le IA possono comunque essere sviluppate e governate anche con finalità e scopi diversi? 

La politica deve essere al passo della tecnologia e deve utilizzarla per massimizzarne i benefici. Anche in questo caso ritorna il tema dell’etica poiché, solo attraverso un uso finalizzato al benessere delle comunità, è possibile adoperare l’IA nel miglior modo possibile.

E’ il caso delle “Etichs Guidlines for Trustworthty AI” (8 Aprile 2019), recentissimo manifesto elaborato da un team di esperti per la Commissione Europea il cui scopo è di salvaguardare l’autonomia dell’uomo rendendo l’IA affidabile.

Per poter garantire un quadro comportamentale artificiale corretto è imprescindibile evitare il pregiudizio algoritmico e agire sul processo di progettazione delle macchine. 

Siamo dentro l’era digitale. La viviamo da sonnambuli felici dotati di strumenti che nessuno prima di noi ha avuto la fortuna di usare. Viviamo dentro realtà parallele, percepite tutte come reali, accettiamo la mediazione tecnologica in ogni attività: cognitiva, relazionale, emotiva, sociale, economica e politica. L’accettazione diffusa di questa mediazione riflette una difficoltà crescente nella comprensione umana della realtà e del mondo (ci pensano le macchine!) e della crescente incertezza. In che modo le macchine, le intelligenze artificiali potrebbero oggi svolgere un ruolo diverso nel rimettere l’uomo al centro, nel soddisfare il suo bisogno di comunità e relazioni reali, e nel superare l’incertezza? 

Ciò che non si conosce spaventa. Il futuro distopico in cui saranno le macchine a governare l’umanità credo non sarà mai realizzabile. L’algoritmo può emulare il comportamento umano, ma non lo è.

Occorre porre l’accento su come appaia necessario, per quanto complesso, poter elaborare un quadro etico capace di esplicare l’interazione uomo/tecnologia – non più quella uomo-uomo già ampiamente trattata.

La ricerca vuole mostrare come, attraverso la costruzione di un I.A affidabile (M. Coeckelbergh, 2020) , sia possibile massimizzare i benefici e ridurre i rischi, proponendo un’attenta analisi dei comportamenti etici applicati (A. Fabris, 2018). Attraverso l’individuazione di principi etici applicabili sarà possibile proporre una prospettiva di sviluppo che possa portare a convergenza etica e tecnologia. 

Vuole aggiungere altro per i lettori di SoloTablet, ad esempio qualche suggerimento di lettura sul tema AI? Vuole suggerire temi correlati da approfondire in attività future? Cosa suggerisce per condividere e far conoscere l'iniziativa nella quale anche lei è stato/a coinvolto/a?

Consigli di lettura: 

  • M. BENASAYAG, Cervello aumentato, uomo diminuito, Erikson, 2016
  • M. COECKELBERGH, AI Ethics, MIT press, 2020
  • V. DIGNUM, Responsible Artificial Intelligence, Springer Nature, 2019
  • P. DOMINGOS, L’Algoritmo Definitivo,  Bollati Boringhieri, 2016
  • A. FABRIS, Etica per le tecnologie dell'informazione e della comunicazione, Carocci, 2018
  • L. FLORIDI, Pensare l'infosfera. La filosofia come design concettuale, Raffaello Cortina Editore, 2020; La Quarta Rivoluzione, Raffaello Cortina Editore, 2016
  • P. A. MASULLO, L’umano in transito. Saggio di Antropologia filosofica, Edizioni di pagina, 2008

Iniziative: 

 

 

 

comments powered by Disqus

Sei alla ricerca di uno sviluppatore?

Cerca nel nostro database


Doxinet srl

Doxinet è un’azienda capace di adattarsi alle esigenze del mercato, in grado di...

Vai al profilo

Arsenal S.R.L.

Simulatori e visual simulation immersiva ad elevata interattivita' - con software di...

Vai al profilo

Hello-Hello LLC

Hello-Hello is an innovative language learning company that provides state-of the art...

Vai al profilo

New Amuser s.r.l.

Software developer, sono laureato in informatica curriculum " Sistemi e Reti...

Vai al profilo