Homo sapiens e Homo digitalis /

L'importanza della diversità culturale nell'etica dell'IA

L'importanza della diversità culturale nell'etica dell'IA

19 Marzo 2021 The sapiens
The sapiens
The sapiens
share
Dobbiamo aprire la discussione sulle principi etici dell'IA a diverse culture e, quindi, a diverse prospettive filosofiche. Senza questo, l'IA potrebbe diventare molto rapidamente uno strumento di dominazione intellettuale e imperialismo moderno. Ciò, a sua volta, osta a qualsiasi possibilità di stabilire una serie di norme universalmente accettate.

Un articolo di Emmanuel R. Goffi, tradotto dal francese da Francesca Quaratino (IA: serve una riflessione etica, al di la del bene e del male), Pubblicato il 12 gennaio 2021

Di Emmanuel Goffi suggeriamo la lettura anche della sua intervista pubblicata su SoloTablet: We will not be able to set efficient rules framing development and use of AI


L'Intelligenza Artificiale (IA) sta progredendo. E se non stiamo attenti, potrebbe diventare un cavallo di Troia per un'unica premessa: l'imposizione di un approccio universale al processo decisionale etico. 

La ricerca di questo Santo Graal come un Codice Etico universale nell’IA ha lasciato sulla sua scia una notevole, se non preoccupante, quantità di progetti volti a stabilire un corpus di standard etici per inquadrarne lo sviluppo.

Questa intenzione è lodevole. Tuttavia è fondamentale mettere in discussione la base su cui si è costruito tale corpus. E il numero sempre crescente di iniziative che richiedono questo strumento rende ancora più urgente la necessità di garantire una base solida. Dobbiamo porci due domande fondamentali. È possibile creare uno strumento universale ed esiste un desiderio condiviso di realizzare tale strumento? 

Un dibattito dominato dall'Occidente 

Yannick Meneceur dimostra la richiesta di un codice etico elencando 126[1] iniziative nel suo libro L'intelligence artificelle en procès. Nel suo inventario globale delle linee guida per l'etica dell'intelligenza artificiale, il progetto Algorithm Watch ne identifica 166[2]. E, uno studio condotto da un team dell’ ETH di Zurigo ha trovato 1180 codici ‘relativi ai principi etici’[3]

La necessità di uno strumento standard per l'etica dell'IA dovrebbe farci mettere in discussione la sua pertinenza e le ragioni che motivano l’incremento di tali iniziative. 

La cosa più preoccupante di queste relazioni è che sono essenzialmente pubblicate da un esiguo numero di persone in un piccolo numero di paesi. Nella meta-analisi prodotta dal 600° Zurigo, che copre 84 documenti, gli autori sottolineano che

In termini di distribuzione geografica, i dati mostrano una significativa rappresentazione di paesi economicamente sviluppati (MEDC), con gli Stati Uniti (n=20; 23,8%) e il Regno Unito (n=14; 16,7%) insieme contano più di un terzo di tutti i principi etici dell'IA ‘mentre "i paesi africani e sudamericani non sono rappresentati indipendentemente dalle organizzazioni internazionali o sovranazionali’.[4] 

In altre parole, i paesi occidentali sono alla guida del processo decisionale etico. Se aggiungiamo il peso dell'Unione europea, che sta chiaramente dichiarando la sua volontà di affermarsi come attore normativo, l'Occidente rappresenta il 63 % (53 documenti) dei codici relativi all'etica dell'IA. Secondo gli autori di ‘The Global Landscape of AI ethics guidelines’, questa sovra rappresentazione indica una mancanza di uguaglianza globale nel trattamento dell'IA e dimostra che i paesi economicamente più avanzati stanno plasmando il dibattito "trascurando la conoscenza locale, il pluralismo culturale e l'equità globale’[5]

Un aspetto che limita ulteriormente la portata di questo tema è il fatto di essere monopolizzato da una piccola cerchia di "coloro che sanno" concentrati in aree private, pubbliche e accademiche. Anche all'interno dei paesi occidentali, è chiaro che il dibattito è praticamente chiuso all'opinione pubblica. 

Il risultato di questo dominio occidentale nel campo dell'etica nell'IA è che l'approccio ad essa si verifica esclusivamente tramite la filosofia continentale e le sue tre teorie dell'etica: etica della virtù, deontologia e consequenzialismo. In effetti, a un esame più attento, notiamo che c'è una reale predominanza dell'approccio deontologico. Questo è controverso in quanto semplifica il pensiero kantiano fino all'estremo. Lo riduce a un programma etico a basso costo con una serie di regole dall'alto verso il basso. 

Come possiamo vedere, il pensiero occidentale occupa in campo etico lo spazio aperto dall'IA e a sua volta nega la diversità culturale, la varietà delle prospettive normative e, in ultima analisi, la vera complessità dell'analisi etica. 

In effetti, la proliferazione di codici, carte etiche e regolamenti applicati all'IA illustra l'imbarazzo in cui ci troviamo quando si cerchiamo di raggiungere un consenso sugli standard universali. 

Apertura alla pluralità etica 

Dobbiamo aprire la discussione sulle principi etici dell'IA a diverse culture e, quindi, a diverse prospettive filosofiche. Senza questo, l'IA potrebbe diventare molto rapidamente uno strumento di dominazione intellettuale e imperialismo moderno. Ciò, a sua volta, osta a qualsiasi possibilità di stabilire una serie di norme universalmente accettate. 

Al di là della semplice questione della rappresentazione geografica, l'etica dell'IA dovrebbe essere pensata attraverso varie filosofie e principi. E coloro che prendono decisioni dovrebbero astenersi dal fare affidamento su giudizi precedenti.

Il punto di avere uno standard etico in atto nell'IA è che svolga il suo ruolo nel separare l'accettabile e l'inaccettabile senza un pregiudizio predeterminato del Bene o del Male. E questo può accadere realmente solo se si tiene conto delle diverse identità culturali e delle loro filosofie. La negazione della diversità culturale in questo settore è esemplificata in Cina, i cui valori possono essere trascurati in Occidente.

Il punto non è schierarsi e chiedersi se condividere o meno le posizioni cinesi. È comprenderli e analizzarli. Come secondo paese più potente al mondo in termini di IA e con i suoi 1,4 miliardi di abitanti, la Cina prenderà parte alla discussione sull’IA quando verrà il momento. A tal fine, è importante conoscere la lunga storia filosofica della Cina per comprenderne le prospettive e quindi essere in grado di interagire con loro in modo costruttivo. 

Come ha scritto Anna Cheng in La pensée en Chine aujourd'hui nel 2007, ‘la prima cosa che le persone provano quando ascoltano l'aggettivo "cinese" e la parola "filosofia" è disagio. Può essere un sentimento molto sottile, ma certamente presente’[6]. Questo è nuovamente il caso, non solo nel contesto dell'IA ma anche in termini geopolitici. Anna Cheng continua ‘molti dei nostri contemporanei mantengono l'impressione che i cinesi non siano parte del dibattito a causa della loro sottomissione a un regime autocratico’[7]. Questi preconcetti sono ciò che ostacolano la Cina nel svolgere il suo ruolo nelle discussioni sull’IA. 

Il controverso Regno di Mezzo non è il solo ad essere oggetto di questo ostracismo. Ci sono altri paesi e culture che sono completamente invisibili in questo dibattito, che dovrebbero essere universali. 

Anche l'America Latina viene messa da parte nonostante sia influenzata dalle decisioni prese.

Julio Pertuzé, professore assistente presso la Pontificia Universidad Católica de Chile, scrive che ‘le discussioni sull'etica dell'IA sono dominate da altre voci, in particolare dall'Europa’[8]. Sulla base dell'osservazione che ‘mentre l'impatto dell'IA è globale, il suo dibattito è stato dominato da una serie molto ristretta di attori’[9], il Centro de Estudios en Tecnología y Sociedad dell'Università di San Andrés in Argentina ha lanciato il GuIA.ai nel 2019. Questa iniziativa è stata creata per rafforzare ‘uno spazio in cui i ricercatori regionali possano discutere l'etica, i principi, le norme e le politiche dei sistemi di intelligenza artificiale e i problemi particolari dell'America Latina e dei Caraibi’.[10] Anche se ‘la questione dell'etica dell'IA è in una fase iniziale nella regione e non ci sono ancora informazioni sufficienti per valutarla in modo completo’[11], non mancano i paesi dell'America Latina e dei Caraibi che desiderano essere coinvolti. 

Anche l'India non deve essere sminuita. La sua presenza nella tecnologia, pur essendo considerata superficialmente e segnata dal passato coloniale del paese, sta emergendo. E, allo stesso tempo, sta mettendo in atto la sua strategia di IA. [12] 

Guardando più in profondità, filosofie e saggezze africane, come Ubuntu, hanno bisogno del loro posto nella conversazione.

La sua etnofilosofia, con i suoi focus tematici segnati dall'esperienza[13] e il suo nazionalismo[14]  culturale devono essere integrati nelle nostre riflessioni sull'etica nell'IA. Il continente africano è ricco di storia intellettuale, esperienze, relazioni con l'uomo e con la natura, nonché di diversità culturale che è essenziale per i dibattiti sull'etica dell'IA. Proprio come per la Cina, ‘è come se l'aggettivo "africano" copriva un particolarismo di esclusione’[15]. La filosofia africana, come altre, può aprire le persone a nuove prospettive e aiutarle a mettere in discussione le loro convinzioni. Come afferma giustamente Alassane Ndaw ,’essere un filosofo in Africa significa capire che non ci può essere monopolio sulla filosofia’[16]. Questo vale per la filosofia in generale, non importa da dove provenga.

Per quanto riguarda il mondo musulmano e il posto dell'Islam nel pensiero etico, ancora una volta i preconcetti ne vietano l'accettazione.

E così facendo, impediamo a questa religione secolare che ricopre un'incredibile diversità culturale e intellettuale di contribuire. La riduzione dell'Islam alla sua dimensione geopolitica e alle sue componenti islamiche marginali ne favorisce un rifiuto globale. Ma sarebbe proprio questa straordinaria cultura che non è in grado di partecipare ad arricchire il dibattito sull'etica dell'IA. 

Alcuni hanno già compreso l'importanza di liberarsi dalle proprie convinzioni. In Canada, il riconoscimento della cultura indigena sta emergendo nel campo dell'IA[17] e in Nuova Zelanda la cultura Māori viene presa in considerazione nelle raccomandazioni relative all'etica dell'IA[18].

Due esempi da seguire. 

In Conclusione 

La diversità culturale, i suoi particolarismi e le differenti prospettive delineate sono tutti elementi che dobbiamo considerare nella costruzione dell'etica nell'IA. Senza preconcetti. Senza pregiudizi. Senza giudizio di valore. Dobbiamo imparare ad ascoltare per depolarizzare e depoliticizzare il dibattito. E in questo modo, saremo in grado di aprirlo a più prospettive. 

Attualmente ci troviamo in una situazione di stallo perché non abbiamo affrontato la questione. E perché, pur avendo buone intenzioni, imponiamo una visione occidentale al resto del mondo. Riversiamo ciò che temiamo sugli altri, per natura degli esseri umani, assumiamo che le nostre ansie siano universali. In effetti, stiamo fornendo soluzioni a problemi che riguardano solo una minoranza di persone come se riguardassero tutti universalmente e trascurando le specificità dei problemi affrontati da altri. Questo è il nocciolo della questione: l'universale. Questo concetto è diventato un'ideologia. Si pretende di abolire le differenze culturali e rifiutare la diversità e che, oggi, significa avvicinarsi ad una forma tirannia. 

L'indifferenza verso gli altri, l'indifferenza che spesso confina con l'ostilità, è il compagno naturale delle forme di linguaggio che riducono e spesso dileggiano, che Edward Saïd ha denunciato[19]. In effetti, negare la differenza degli altri è un modo per compensare le nostre fragilità e i nostri dubbi. 

Chiediamo l'universalità dei valori e al contempo lodiamo la diversità culturale.

Protestiamo contro i pregiudizi e le discriminazioni, ma stiamo eliminando le idee che non possiamo o non vogliamo capire. Pur condannando gli imperialismi cinesi o americani, noi stessi imponiamo il nostro impero etico al resto del mondo. In altre parole, facciamo agli altri ciò che non vogliamo sia fatto a noi stessi. 

Alla luce di ciò, l'Observatoire Éthique & Intelligence Artificielle dell'Institut Sapiens, ha deciso di dedicare il prossimo anno a una riflessione approfondita sul multiculturalismo etico e sulla regolamentazione etica dell'IA. Ciò sarà realizzato con la collaborazione di diversi partner come l'Illinois Institute of Technology Centre for the Study of Ethics in Professions; l'Obersvatorio del impacto social y ético de la inteligencia artificial; la Artificial Intelligence Society Bahrain; l'Institut Français des Études Académique; INDIAai; la Società Indiana di Intelligenza Artificiale e Diritto; l'Université Mohammed Premier a Oujda e molti altri dall'America Latina, dall'Asia, dall'Africa e dal Medio Oriente. L'Institut Sapiens cercherà di creare una relazione che copra l'importanza del pluralismo culturale nella valutazione dell'etica nell'intelligenza artificiale. Nel creare questo rapporto, costituito da pubblicazioni ed eventi, il gruppo si pone l'obiettivo di espandere il campo delle possibilità etiche nell'IA. Senza ostracizzare alcuna prospettiva, amplierà la rete di contributi delle culture che compongono la nostra umanità.


 

Immagine dalla mostra virtuale di Umberto Santucci IPEROGGETTI PANDEMICI

Autore 

Emmanuel R. Goffi 

Emmanuel R. Goffi è un filosofo dell'IA e direttore dell'Observatoire Ethique & Intelligence Artificielle dell'Institut Sapiens. Precedentemente, ha prestato servizio per 27 anni nell'aeronautica francese. Ha conseguito un dottorato in scienze politiche presso Science Po Paris ed è professore di etica dell'IA presso aivancity, School for Technology, Business and Society, Paris-Cachan. È anche ricercatore associato presso il Centre for Defence and Security Studies dell'Università del Manitoba, Winnipeg in Canada. 

Emmanuel ha insegnato e fatto ricerche presso università in Francia e Canada e parla regolarmente a conferenze e sulla stampa. Ha pubblicato The French Armies Facing Morality: A Reflection at the Heart of Modern Conflicts (Parigi: L'Harmattan, 2011) e coordinato il libro di riferimento Droni aerei: passato, presente e futuro- Un approccio globale (Parigi: La Documentation française, coll. Stratégie Aérospatiale, 2013) oltre a molti articoli e capitoli.



[1] Yannick Meneceur, L’intelligence artificielle en procès: plaidoyer pour une réglementation internationale et européene, Paris Brulant, 2020, p. 201

[2] AI Ethics Guidelines Global Inventory, AlgorithmWatch, consultabile presso https://inventory.algorithmwatch.org/database

[3] Anna Jobin, Marcello Ienco, Effy Vayena, ‘The Global landscape of AI ethics guidelines’, Nature Machine Intelligence, Vol. 1, 20019, p. 391

[4] Idem.

[5] Ibid., p. 396.

[6] Anna Cheng, ‘Les tribulations de la « philosophie chinoise » en Chine’, La pensée en Chine aujourd’hui, Paris, Gallimard, 2007, p. 156-160.

[7] Anna Cheng, Introduction, Op, cit., p. 11-12.

[8] Julio Pertuzé, citato in The global AI agenda: Latin America, MIT Technology Review Insights, 2020, p. 6

[9] Norberto Andrade, Promoting AI ethics research in Latin America and the Caribbean, Facebook Research blog, July 2 2020

[10] CETyS| GuIA.ia, Artificial Intelligence in Latin America and the Caribbean: Ethics, Governance and Policies, GuAI.ia

[11] Constanza Gómez Mont, Claudia May Del Pozo, Cristina Martínez Pinto, Ana Victoria Martín de Campo Alcocer, Artificial Intelligence for Social Good in Latin America and the Caribbean: The Regional Landscape and 12 Country Snapshots, Inter-American Development Bank, fAIr LAC intuitive report, July 2020, p.34.

[12] In particolare si veda Avik Sarkar, Ashish Nayan, Kartikeya Asthana, National Strategy for Artificial Intelligence #AIFORALL, Discussion Paper, NITI Aayog, June 2018; Abhivardhan, Dr Ritu Agarwal, AI Ethics in a Multicultural India: Ethnocentric or Perplexed? A Background Analysis, Discussion Paper, Indian Society of Artificial Intelligence and Law, 2020.

[13] Jean-Godefroy Bidima, Philosophies, démocraties et pratiques: à la recherche d’un « universal latéral», Critique, Tome LXVII, N° 771-772 ‘Philosopher en Afrique’, August- September 2011, p. 672-686

[14] Chike Jeffers, Kwasi Wiredu et la question du nationalisme culturel, Critique, Tome LXVII, N° 771-772 « Philosopher en Afrique », August- September 2011, p. 639-649.

[15]  Séverine Kodjo-Grandvaux, Vous avez dit « philosophie africaine », Critique, Tome LXVII, N° 771-772 « Philosopher en Afrique », August- September 2011, p. 613

[16] Alassane Ndaw, « Philosopher en Afrique, c’est comprendre que nul n’a le monopole de la philosophie », carried out by Rammatoulaye Diagne-Mbengue, Critique, Tomo LXVII, N° 771-772 « Philosopher en Afrique », August- September 2011, p. 625.

[17] Karina Kesserwan, How Indigenous Knowledge Shapes our View of AI? Policy Options, February 16, 2018.

[18] See Karaitiana Taiuru, Treaty of Waitangi/Te Tiriti and Māori Ethics Guidelines for: AI, Algorithms, Data and IOT, May 04, 2020 or The Algorithm charter for Aotearoa New Zealand, New Zealand Government, July 2020.

 

[19] Edward W. Saïd, L’orientalisme : l’Orient créé par l’Occident, Paris, Editions du Seuil, 2005 [1978].

 

comments powered by Disqus

Sei alla ricerca di uno sviluppatore?

Cerca nel nostro database


Cosmobile Srl

Sviluppiamo applicazioni native per dispositivi mobili, in particolare smartphone e...

Vai al profilo

Marialuisa Moro, scrittrice

Una restauratrice di quadri, una tela con il ritratto del marito scomparso che la...

Vai al profilo

iMotion Software

iMotion Software è una realtà attiva nello sviluppo di soluzioni mobile in ambito...

Vai al profilo

SAYSOON S.r.l.

SAYSOON è la nuova Mobile Innovation Solution Factory, start-up del Gruppo GMDE...

Vai al profilo