“L’avvento delle macchine ci costringe a una nuova educazione, autoeducazione; ci impone di reagire, riscoprendo le nostre potenzialità, la nostra forza, il nostro coraggio, la nostra saggezza. Dovremo imparare a scegliere. Dovremo scoprire in noi il senso della misura, arrivare a saper dire di no, a saper mettere limite all’invasione delle macchine nelle nostre vite, nei nostri stessi corpi” – Francesco Varanini
Scrive Noah Harari che “quando la tecnologia ci permetterà di reingegnerizzare le menti umane, Homo sapiens scomparirà […] e un processo completamente nuovo avrà inizio”. La previsione può rivelarsi errata ma se si riflette sulla profondità dei cambiamenti in corso e il ruolo che la tecnologia sta avendo nel determinarli, si comprende che siamo in una fase di cambio di paradigma. Quando il nuovo emergerà noi potremmo non essere più umani. Cyborg, simbionti, semplici intelligenze artificiali più o meno ibridate, potenti, intelligenti e capaci di apprendere ma non più umane.
Se questa prospettiva è verosimile è più che mai necessaria una riflessione approfondita, puntuale e critica di quanto sta avvenendo. Paradigmatico per questa riflessione è il tema dell’intelligenza artificiale che, più di altri, suggerisce bene il rischio e la sfida che tutto il genere umano si trova di fronte. Un rischio da molti sottovalutato e una sfida da molti accettata forse con eccessiva superficialità. Un tema che comunque è di interesse generale e vale la pena approfondire. E la riflessione deve essere fatta da tecnici, esperti, fautori della IA, ma senza mai dimenticarsi di essere esseri umani.
SoloTablet ha deciso di farlo coinvolgendo persone che sull’intelligenza artificiale stanno lavorando, investendo, filosofeggiando e creando scenari futuri venturi.
In questo articolo proponiamo l’intervista che Carlo Mazzucchelli ha condotto con Piero Poccianti, presidente dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA)
Buongiorno, può raccontarci qualcosa di lei, della sua attività attuale, del suo interesse per l’intelligenza artificiale? Ritiene utile una riflessione sull'era tecnologica e dell'informazione che stiamo sperimentando? Su quali progetti, idee imprenditoriali sta lavorando? Con quali finalità e obiettivi? A chi sono rivolti e in che ambiti sono implementati?
Sono l’attuale presidente dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Si tratta di una associazione scientifica senza fini di lucro, fondata nel 1988, con lo scopo di promuovere la ricerca e la diffusione delle tecniche proprie dell’AI. È il membro italiano dell’EURAI, l’associazione Europea che presenta membri in quasi tutti i Paesi del Vecchio Continente.
L’Associazione promuove la comunicazione fra i ricercatori che si occupano dei diversi paradigmi che compongono la disciplina attraverso varie attività quali l’organizzazione del convegno annuale dei soci, l’assegnazione di premi a studenti e ricercatori, il patrocinio e la sponsorizzazione di attività.
Da alcuni anni realizziamo eventi ed iniziative dedicati ai cittadini in generale, con particolare riferimento agli studenti, per approfondire in modalità interdisciplinare gli impatti che l’IA potrà avere su società, economia e ambiente.
Dall’anno scorso realizziamo l’AI Forum, evento dedicato alle aziende che si pone l’obiettivo di illustrare le più concrete soluzioni AI per le imprese e creare un’intelligente e proficua sinergia tra il mondo della ricerca e quello imprenditoriale. L’edizione speciale quest’anno, interamente digitale, è in programma per martedì 3 novembre.
L’incontro viene organizzato per raggiungere uno degli obiettivi che si prefigge AIxIA, ovvero la diffusione della cultura e della conoscenza di questa tecnologia. Riteniamo infatti di fondamentale importanza che le persone e le aziende prendano delle decisioni informate e consapevoli su un tema così complesso e che presenta una così grande capacità di trasformare la società.
Per quanto riguarda invece la mia ricerca, essa vuole analizzate le strategie attuate dai vari Paesi del mondo sull’Intelligenza Artificiale e intende comprendere come indirizzare tale tecnologia per produrre effetti positivi a beneficio di tutto il pianeta.
Oltre a supportare e favorire la promozione della cultura in generale, questi studi – condotti insieme ad economisti e sociologi – sono rivolti ai politici per fornire loro un valido supporto decisionale.
Oggi tutti parlano di Intelligenza Artificiale ma probabilmente lo fanno senza una adeguata comprensione di cosa sia, delle sue diverse implementazioni, implicazioni ed effetti. Anche i media non favoriscono informazione, comprensione e conoscenza. Si confondono IA semplicemente reattive (Arend Hintze) come Deep Blue o AlphaGo, IA specializzate (quelle delle Auto), IA generali (AGI o Strong AI) capaci di simulare la mente umana e di elaborare loro rappresentazioni del mondo e delle persone, IA superiori (Superintelligenze) capaci di avere una coscienza di sé stesse fino a determinare la singolarità tecnologica. Lei che definizione da dell’intelligenza artificiale, quale pensa sia il suo stato di evoluzione corrente e quali possono essere quelle future? Pensa che sia possibile in futuro una Superintelligenza capace di condurci alla Singolarità nell’accezione di Kurzweil?
Quando parliamo di Intelligenza Artificiale dobbiamo distinguere fra General AI (IA Generale) e Narrow AI (IA Ristretta).
La prima ha l’obiettivo di costruire un essere senziente, capace di applicare la propria intelligenza in ogni campo del sapere, che sia anche dotata di volontà propria, di autocoscienza, di sentimenti e molto altro.
La seconda, invece, tende a realizzare applicazioni che, in campi determinati e specifici, siano capaci di dimostrare comportamenti e abilità simili a quelle di un essere umano.
Ad oggi, si è ancora molto lontani da costruire una vera e propria General AI, mentre nel campo dell’Intelligenza Artificiale si stanno ottenendo risultati e successi davvero significativi e rilevanti. Attualmente infatti esistono macchine capaci non solo di percepire il mondo intorno a loro (vedere, ascoltare, riconoscere immagini e video, comprendere il linguaggio scritto e parlato, saper rispondere a domande, riconoscere configurazioni per fare diagnosi e molto altro), ma anche in grado di imparare dagli esempi e di ragionare.
Talvolta tali macchine, nei campi ristretti, superano le capacità degli esseri umani. Sono degli Idiot Savant Artificial Intelligence. Tuttavia, presentano ancora difficoltà nel campo dell’astrazione e nella capacità di fare analogie tra contesti diversi. Non possono adattarsi ad un contesto sconosciuto, né spiegare ed esplicitare il proprio comportamento.
Il campo della General IA e della Superintelligenza fa ancora parte della Fantascienza. Non voglio dire che un giorno non sarà possibile realizzarle, ma ad oggi non abbiamo basi scientifiche per predire quando questo sarà possibile.
L’IA non è una novità, ha una storia datata anni ‘50. Mai però come in questi tempi si è sviluppata una reazione preoccupata a cosa essa possa determinare per il futuro del genere umano. Numerosi scienziati nel 2015 hanno sottoscritto un appello (per alcuni un modo ipocrita di lavarsi la coscienza) invitando a una regolamentazione dell’IA. Lei cosa ne pensa? È per lasciare libera ricerca e implementazione o per una regolamentazione della IA? Non crede che qualora le macchine intelligenti rubassero il comando agli esseri umani, per essi la vita avrebbe meno senso? A preoccupare dovrebbe essere la supremazia e la potenza delle macchine ma soprattutto l’irrilevanza della specie umana che potrebbe derivarne. O questa è semplicemente paura del futuro e delle ibridazioni che lo caratterizzeranno? Secondo il filosofo Benasayag le macchine sono fatte per funzionare bene, noi per funzionare (processi chimici, ecc.) ed esistere (vivere). Gli umani non possono essere ridotti a una raccolta di (Big) dati o al calcolo binario, hanno bisogno di complessità, di un corpo, di senso, di cultura, di esperienze, di sperimentare la negatività e il non sapere. Le macchine no e mai ne avranno necessità. O secondo lei si? Non crede che fare completo affidamento sulle macchine ci porti all’impotenza?
La storia dell’IA moderna nasce nel 1943 con un articolo nel quale il neurofisiologo Warren S. McCulloch e il matematico Walter Pitts descrivono il funzionamento di un ipotetico neurone artificiale.
Da allora, molti momenti di entusiasmo si sono susseguiti a periodi di delusione.
Oggi stiamo vivendo una nuova primavera dell’IA, ma non posso affermare con certezza se, in seguito, arriverà un nuovo inverno. Se continuiamo ad alimentare esagerazioni è probabile che avremo una nuova fase di delusione.
Sicuramente gli scienziati devono comprendere la responsabilità degli effetti che le loro ricerche possono produrre. È però necessario distinguere:
- La ricerca di base, a lungo termine, che cerca di capire come è fatta la natura ed esplorare l’essenza dei fenomeni che circondano l’uomo (compresa la vita, l’Intelligenza, la coscienza, ecc.). Questa tipologia deve essere libera, non deve essere vincolata né indirizzata.
- La ricerca a medio e breve termine deve essere finalizzata e indirizzata verso obiettivi eticamente corretti.
Per raggiungere quest’ultimo risultato è necessario comprendere il contesto che ci circonda. Se un robot dà una spinta ad una persona, questa azione viene considerata malvagia. Se però la persona si trova sulla traiettoria di un veicolo che sta per investirla, la spinta le salverà la vita. Non possiamo parlare di etica avulsa dal contesto.
Le macchine di oggi non hanno volontà. Siamo noi a descrivere il contesto, gli obiettivi, gli strumenti a disposizione e i vincoli. La macchina crea la soluzione, ma solo in base ai nostri desideri e alle altre informazioni che forniamo.
Se si sbaglia a fornire obiettivi e realtà, le macchine produrranno effetti distopici. È qualcosa che abbiamo già visto nei racconti di magia: il protagonista ha a disposizione tre desideri e, sicuramente, con il terzo chiederà all’oggetto magico (lampada o altro) di annullare quello che è stato fatto con i due precedenti perché erano sbagliati.
Si pensi al mito di Mida che desidera che tutto quello che tocca diventi oro. È un archetipo della nostra società: l’oro, il profitto, il capitale sono strumenti per raggiungere il benessere, ma non sono il vero desiderio.
Non stiamo delegando alle macchine le nostre decisioni, stiamo semplicemente esprimendo desideri sbagliati e non siamo in grado di descrivere il contesto in cui viviamo in modo corretto.
Le leggi e i regolamenti sono necessari, ma non dobbiamo pensare che le norme risolvano tutti i problemi. Se il sistema punta ad obiettivi errati non c’è legge che possa correggerlo. Dobbiamo ridefinire il modello socio economico cercando di capire quali sono i nostri veri obiettivi.
Il mantra della crescita del PIL come unico indicatore di benessere è uno degli errori che dobbiamo correggere.
Nel suo ultimo libro (Le cinque leggi bronzee dell’era digitale), Francesco Varanini rilegge a modo suo e in senso critico la storia dell’intelligenza artificiale. Lo fa attraverso la (ri)lettura di testi sulla IA di recente pubblicazione di autori come: Vinge, Tegmark, Kurzweil, Bostrom, Haraway, Yudkowsy, e altri. La critica è rivolta ai tecno-entusiasti che celebrando l’avvenire solare della IA si mettono, “con lo sguardo interessato del tecnico” dalla parte della macchina a spese dell’essere umano. È come se attraverso l’IA volessero innalzare l’uomo proprio mentre lo stanno sterilizzando rendendolo impotente, oltre che sottomesso e servile. Lei da che parte sta, del tecnico/esperto/tecnocrate o dell’essere umano o in una terra di mezzo? Non la preoccupa la potenza dell’IA, la sua crescita e diffusione (in Cina ad esempio con finalità di controllo e sorveglianza)?
🍒🍒CHATGPT: SEDOTTI E ABBANDONATI?
Secondo molti studiosi (la maggior parte) siamo di fronte a problemi molto seri: riscaldamento globale, inquinamento da plastica, pesticidi e insetticidi. Si sta assistendo a una moria significativa di impollinatori (api e farfalle ad esempio). Secondo alcuni studi è in atto una sesta estinzione di massa e da qui al 2050 l’uomo potrà aver distrutto il 75% di tutte le specie viventi.
Gli obiettivi da raggiungere sono molteplici: diminuire le diseguaglianze, eliminare la povertà, la fame, evitare la distruzione del pianeta.
Sono 7,5 miliardi gli esseri umani che popolano il pianeta e il numero continua ad aumentare. Io ritengo che vi sia bisogno dell’Intelligenza Artificiale e di tutte le altre tecnologie a disposizione per sopravvivere senza distruggere la “grande astronave” che ospita non solo l’uomo ma anche tutte le altre specie viventi.
Se questi strumenti vengono utilizzati per aumentare il potere di poche persone, non si riuscirà a diffondere il benessere comune ma al contrario si creeranno strumenti di guerra (autonomi), la disoccupazione aumenterà, l’ambiente verrà distrutto – tutte conseguenze che non esprimono quindi comportamenti intelligenti.
Secondo l’economia tradizionale le risorse scarse sono costituite dal capitale e dal lavoro, mentre quelle ambientali sono inalterabili e senza fine. Se iniettiamo l’Intelligenza Artificiale in un modello come questo non bisogna meravigliarsi se gli effetti sono distopici.
Se la Cina ha un modello che tende a controllare i cittadini e a limitare le libertà personali, se gli USA insieme alla maggior parte dei paesi industrializzati hanno intrapreso un percorso che vede pochissime persone detenere gran parte della ricchezza, siamo convinti che la colpa sia delle macchine?
L’Intelligenza Artificiale tende a moltiplicare gli effetti derivanti dai modelli sbagliati. Se si decide di correggere i modelli allora l’Intelligenza Artificiale può risultare uno strumento prezioso.
Ci sono numerosissime applicazioni e studi che dimostrano come sia possibile usare l’Intelligenza Artificiale per il benessere nostro e del pianeta intero. Cito, ad esempio, McKinsey che alla fine del 2018 elencava 135 applicazioni di IA che avevano come obiettivo il raggiungimento dei 17 obiettivi di sviluppo sostenibile dell’ONU.
Ai tempi del Coronavirus molti si stanno interrogando sulla sparizione del lavoro. Altri invece celebrano lo smartworking e le tecnologie che lo rendono possibile. Là dove lo smartworking non è possibile, fabbriche, impianti di produzione, ecc., si diffonde la robotica, l’automazione e l’IA. Il dibattito sulla sparizione del lavoro per colpa della tecnica (capacità di fare) / tecnologia (impiego della tecnica e della conoscenza per fare) non è nuovo, oggi si è fatto più urgente. Le IA non stanno sostituendo solo il lavoro manuale ma anche quello cognitivo. Le varie automazioni in corso stanno demolendo intere filiere produttive, modelli economici e organizzativi. Lei cosa ne pensa? L’IA, per come si sta manifestando oggi, creerà nuove opportunità di lavoro o sarà protagonista della distruzione di posti di lavoro più consistente della storia come molti paventano? Alcuni sostengono che il futuro sarà popolato di nuovi lavoratori, tecnici che danno forma a nuove macchine (software e hardware), le fanno funzionare e le curano, tecnici che formano altri tecnici e ad altre forme di lavoro associate al funzionamento delle macchine tecnologiche. Sarà veramente così? E se anche fosse non sarebbe per tutti o per molti! Si verrebbero a creare delle élite ma molti perderebbero comunque il lavoro, l’unica cosa che per un individuo serva a essere sé stesso. Nessuna preoccupazione o riflessione in merito?
L’uomo ha sempre costruito macchine per lavorare meno: la ruota rotonda è stata inventata per alleviare lavoro, altrimenti sarebbe stata quadrata!
Non ci si deve meravigliare se una ruspa scava una buca meglio e più veloce di quanto potrebbe fare un operaio da solo. Oggi, le macchine a disposizione riescono a supportarci anche in compiti intellettuali. È questo l’aspetto che più spaventa.
È successo così durante tutte le rivoluzioni industriali. C’è stata una crisi momentanea, dove pochi si sono avvantaggiati delle nuove scoperte, ma in seguito molti hanno rivendicato il diritto di usufruire del nuovo benessere. Fino a metà degli anni ‘80 gli orari di lavoro sono diminuiti e le condizioni di lavoro sono migliorate nella maggior parte dei paesi democratici. Oggi non è più così: gli orari stanno aumentando, ma anche la disoccupazione.
Gli studi più interessanti sugli impatti sul lavoro (quello di McKinsey per esempio) dicono che le macchine possono sostituire percentuali di attività crescenti. Pochi lavori saranno eliminati totalmente, ma molti saranno ridotti.
Se possiamo automatizzare il 50% del lavoro di un cuoco posso farlo lavorare per meno tempo, oppure posso licenziare il 50% dei cuochi. È una nostra scelta.
Oggi stiamo andando nella direzione sbagliata. Una élite approfitta dello stato di cose per acquisire sempre più ricchezza e potere. Si crea più disuguaglianza. Siamo sicuri di voler dare la colpa alle macchine? Nedd Ludd inizialmente distrusse il telaio, ma poi si rese conto che doveva rivolgere l’attenzione al padrone del telaio.
Molti economisti stanno chiedendo di cambiare il modello e il 30 Dicembre 2019 il Financial Times ha lanciato il suo programma dal titolo “time to reset capitalism”, intendendo che l’obiettivo dell’economia non può più essere solo finanziario, ma deve considerare tutti gli stakeholders dell'azienda, compresi i cittadini e i lavoratori.
L’IA è anche un tema politico. Lo è sempre stato ma oggi lo è in modo specifico per il suo utilizzo in termini di sorveglianza e controllo. Se ne parla poco ma tutti possono vedere (guardare non basta) cosa sta succedendo in Cina. Non tanto per l’implementazione di sistemi di riconoscimento facciale ma per le strategie di utilizzo dell’IA per il futuro dominio del mondo. Altro aspetto da non sottovalutare, forse determinato dal controllo pervasivo reso possibile dal controllo di tutti i dati, è la complicità del cittadino, la sua partecipazione al progetto strategico nazionale rinunciando alla propria libertà. Un segnale di cosa potrebbe succedere domani anche da noi in termini di minori libertà e sparizione dei sistemi democratici che ci caratterizzano come occidentali? O un’esasperata reazione non motivata dal fatto che le IA possono comunque essere sviluppate e governate anche con finalità e scopi diversi?
La Cina sta mettendo in atto una forte politica di controllo e l’IA fornisce strumenti molto potenti che ne permettono l’attuazione.
Non è l’unico Paese a farlo, basti pensare allo scandalo di Cambridge Analytica che ha usato questi strumenti per influenzare le elezioni in vari paesi ed in particolare quelle americane del 2016.
Anche in questo caso, volgendo lo sguardo verso il passato, notiamo come vi sia una storia che si ripete. Gli strumenti creati due secoli fa per il censimento americano (le macchine elettrocontabili Hollerith) sono stati venduti ai nazisti per il censimento degli ebrei.
Non sono solo i governi a voler controllare le persone, anche le grandi aziende si muovono in questa direzione. Se non lo avete ancora fatto andate a vedere il documentario “The social dilemma” spiega bene alcuni meccanismi che si celano dietro i social network e la volontà di controllo sociale insita nel loro utilizzo.
Il Democracy Index (Indicatore di Democrazia) è un indice calcolato dal settimanale The Economist che esamina lo stato della democrazia in 167 paesi. Le nazioni sono divise in quattro categorie: "Democrazie complete", "Democrazie imperfette", "Regimi Ibridi" e "Regimi autoritari".
Secondo l'indagine del 2018, la Norvegia ottiene il risultato più alto con un punteggio di 9.87 su una scala da 0 a 10, mentre la Corea del Nord ottiene il più basso con 1.08. L'Italia con 7.71 si posiziona 33º, risultato che la qualifica come una nazione in cui vige una democrazia imperfetta.
Una delle cause di questo scarso risultato è da ricercare nella anomala concentrazione dei mezzi di informazione nelle mani di pochi soggetti.
L’unico modo per far crescere il livello di democrazia in un paese è innalzare il livello culturale e la capacità di analisi critica della popolazione.
L’Intelligenza Artificiale può amplificare tendenze in atto e risultare deleteria per i suoi effetti, oppure può supportare a contrastare fenomeni di controllo e innalzare il livello culturale della popolazione.
È una nostra scelta.
Siamo dentro l’era digitale. La viviamo da sonnambuli felici dotati di strumenti che nessuno prima di noi ha avuto la fortuna di usare. Viviamo dentro realtà parallele, percepite tutte come reali, accettiamo la mediazione tecnologica in ogni attività: cognitiva, relazionale, emotiva, sociale, economica e politica. L’accettazione diffusa di questa mediazione riflette una difficoltà crescente nella comprensione umana della realtà e del mondo (ci pensano le macchine!) e della crescente incertezza. In che modo le macchine, le intelligenze artificiali potrebbero oggi svolgere un ruolo diverso nel rimettere l’uomo al centro, nel soddisfare il suo bisogno di comunità e relazioni reali, e nel superare l’incertezza?
Come ho già affermato in precedenza delegare le scelte alle macchine ha poco senso, come ha poco senso dare la colpa alle macchine. Dobbiamo usare gli strumenti di comunicazione, compresi quelli di Intelligenza Artificiale per diffondere cultura e capacità critica.
Le macchine possono fornirci strumenti di supporto alle decisioni e di analisi del contesto, in alcuni casi possono suggerire soluzioni a cui non avevamo pensato. Non sono, ad oggi, esseri dotati di autonomia, fanno quello che chiediamo loro di fare.
Dobbiamo insegnare alle persone a giudicare le azioni in base ai risultati a medio e lungo termine. Se voglio tutto e subito non lo otterrò, perché modificare il contesto socio economico richiede tempi lunghi.
Le informazioni ci sono, ma tendiamo a rifiutare tutte quelle che contrastano con il nostro modello mentale.
Questo è classico di ogni sistema intelligente. Anche delle macchine. Un sistema, per capire la realtà che lo circonda ha bisogno di formarsi un modello mentale della stessa. Quando trova informazioni che contrastano il proprio modello tenderà a rifiutarle, mentre accetterà tutti gli stimoli che sono coerenti con il proprio.
Cambiare idea, formarsi un’opinione corretta sono attività difficili, talvolta controintuitivi. I social network stanno diventando strumenti di polarizzazione delle idee e non aiutano certamente a sviluppare tali capacità.
Io ritengo che l’IA possa fornire un reale contributo alla diffusione del benessere e ad aumentare la consapevolezza, ma dobbiamo dirigere la ricerca a medio e breve termine verso questi obiettivi.
I motori di ricerca portano a galla le informazioni che ci interessano di più e, spesso, quelle in linea con il nostro modo di pensare.
Forse dobbiamo creare motori di ricerca che ci permettano di porre in evidenza informazioni che contrastano con le nostre idee, facendoci così crescere. Se vogliamo lo possiamo fare. Esistono macchine in grado di segnalare le fake news: questo non solo è un buon esempio ma è anche la giusta direzione da intraprendere.
Vuole aggiungere altro per i lettori di SoloTablet, ad esempio qualche suggerimento di lettura sul tema AI? Vuole suggerire temi correlati da approfondire in attività future? Cosa suggerisce per condividere e far conoscere l'iniziativa nella quale anche lei è stato/a coinvolto/a?
Un buon libro divugativo:
Alessandro Longo, Guido Scorza “L’intelligenza Artificiale- L’impatto sulle nostre vite, diritti e libertà” Mondadori Università.
Oppure in inglese:
Melanie Mitchell Artificial Intelligence - A guide for thinking Humans - Farrar, Straus and Giroux
Un fumetto redatto da AIxIA insieme al CNR:
Comics & science. The AI issue. Ediz. per la scuola (Italiano)
Per le aziende suggerisco di partecipare ad AI Forum 2020: https://www.aiforum.eu/2020/
Un evento, sempre organizzato da AixIA e adatto a tutti è invece il seguente LINK.
A tale incontro parteciperanno economisti, sociologi ed esperti di Intelligenza Artificiale per rispondere a domande e considerazioni di ragazzi di scuole superiori e dei primi anni dell’università.
