Opacità dell'algoritmo e sua invadenza
L’algoritmo è ormai un grande fratello, non sempre percepito ma molto reale nel suo iperattivismo (La dittatura del calcolo), nella sua volontà di potenza e invadenza. Reso possibile dalle tecnologie dei Big data, del Cloud Computing, delle intelligenze artificiali e delle soluzioni di machine learning, oggi l'algoritmo è diventata un'entità di cui tutti parlano ma che rimane ai più completamente oscura. La sua oscurità e opacità lo rende potenzialmente pericoloso per l'uso improprio che può esserne fatto e per le destinazioni d'uso a cui è stato destinato da chi lo ha inventato e realizzato.
Quella dell'algoritmo è una intelligenza digitale e artificiale, potente perché specializzata e capace di elaborare una quantità di dati che il cervello umano non saprebbe mai uguagliare. La sua pervasività è tale da essere ormai diventata elemento determinante nella selezione di personale per nuovi posti di lavoro (Il candidato lo sceglie un robot!), nel rendere possibile la circolazione di auto senza autista, nella generazione di milioni di false notizie per campagne elettorali presenti e future, nel fornire indicazioni sui trend emergenti,utili a società di marketing e grandi marche per impostare campagne promozionali e pubblicitarie. Per farsi un'idea della potenza dell'algoritmo è sufficiente riflettere sull'impatto comportamentale e decisionale degli algoritmi di Amazon e/o di Netflix. Algoritmi intelligenti, codificati sulla base di alcune semplici idee, pensati per sostenere modelli di business e molto bravi nel farlo perchè dotati di una elevata conoscenza del proprio target e della capacità di dedurre dai dati raccolti le informazioni e i saperi che servono per condizionare non soltanto il presente ma anche il futuro.
L'algoritmo protagonista dello storytelling mediatico
Mesi di attenzione da parte dei media e di narrazioni online hanno trasformato l’algoritmo nel protagonista assoluto del 2018. Più si conosce delle sue abilità e capacità e più bisognerebbe porsi domande. Domande capaci di favorire la riflessione più che la ricerca di risposte. La riflessione necessaria non è semplice perché ormai si dà tutto per scontato e si agisce come lo si fa sempre, senza tenere conto di essere costantemente osservati, monitorati e analizzati.
Le azioni sono quelle digitali e online, legate alla gestione della posta elettronica, alla frequentazione delle piattaforme di media sociali online e alla navigazione della Rete. Sono anche quelle agite nella vita reale. Azioni che vedono protagonisti consumatori che frequentano punti vendita e centri commerciali così come elettori chiamati a determinare, con le loro scelte, il futuro delle democrazie occidentali (e non solo) odierne.
Algoritmi filtri
Qualsiasi azione viene filtrata (il primo a parlarne fu Eli Pariser ne Il filtro, centrato principalmente su Google e i suoi motori di ricerca) ma non si ferma solo a questo. I dati generati dai filtri applicati vengono usati per costruire profili individuali sempre più simili all’originale e tenerli aggiornati. Dall’analisi dei dati e dai comportamenti rilevati associati ai profili, l’algoritmo interviene nei processi decisionali e nel suggerire quali scelte compiere, dirottando attenzione, emozioni, processi razionali verso mete e destinazioni predeterminate. Mete declinabili in prodotti acquistati, lavoretti trovati, case vacanze affittate, viaggi effettuati, servizi selezionati (ad esempio Uber al posto di un taxi urbano) e voti regalati (non solo MiPiace e stelline ma anche voti politici al populista o sovranista di turno).
L’algoritmo non è solo sempre presente (L'algoritmo non va mai in vacanza), potente e molto ambizioso ma si sta anche sostituendo a persone in carne e ossa in un numero crescente di attività e lavori (L'algoritmo ucciderà anche il marketing?). Già oggi ad esempio gli algoritmi hanno reso obsoleti i trader (tutti gli amanti del trading online e del bitcoin dovrebbero leggere 6/5 il bel libro di Alexandre Laumonier pubblicato da Nero) )che riempivano con le loro urla e gestualità i parquet riflettenti delle borse di mezzo mondo. Senza farsi emozionare e con una rapidità che nessun operatore potrebbe eguagliare, l’algoritmo decide se vendere o comprare e lo fa in modo autonomo e a volte con la violenza tipica di chi va alla conquista di nuovi mondi, indifferente alle reazioni a catena di cui potrebbe essere responsabile.
Machine learning per fare la differenza
La potenza segreta dell’algoritmo è tutta nascosta in quello che viene chiamato machine learning, la capacità di apprendere che potrebbe dare all'algoritmo futo la possibilità di creare o modificare sè stesso. La capacità dell’algoritmo di imparare dai dati a disposizione per adattare le sue prestazioni cambiando, migliorando la sua abilità predittiva su comportamenti, attività, scelte, mete da raggiungere, bisogni emergenti, ecc.
L’algoritmo è tutto intorno a noi e non ci abbandona in alcun momento. Decide cosa è spam o meno della posta a noi indirizzata, quali risultati personalizzati mostrare per soddisfare una ricerca Google, quali libri leggere e e-book scaricare, quali aggiornamenti condividere nelle reti sociali di Facebook, quali azioni intraprendere in autonomia su un personal computer in uso. Gli algoritmi non sono solo quelli online. La vita è ormai immersa in ambienti tecnologici che funzionano grazie ad algoritmi ai quali è stato assegnato il compito di soddisfare bisogni, ma anche di sorprendere e meravigliare per la capacità di indovinare la canzone giusta per la sveglia mattutina, di tarare in modo perfetto la temperatura casalinga controllata tramite un termostato intelligente o di regolare in modo intelligente l’iniezione di carburante nell’automobile, sempre più tecnologica e digitale, usata per andare al lavoro.
Viva la rivoluzione 4.0
La narrazione conformistica corrente guarda agli algoritmi come strumenti abilitanti della rivoluzione 4.0 in corso. Una rivoluzione vista come volano del progresso e capace di dare forma agli scenari tecnologici futuri. Assegnando agli algoritmi, e alle altre tecnologie protagoniste con essi delle rivoluzioni in corso, il ruolo di costruttori di futuro e accettandone acriticamente ruolo e risultati, si finisce con il dimenticare che, mentre operano le loro costruzioni future, gli algoritmi stanno già cambiando profondamente la realtà.
Lo stanno facendo prima di tutto a livello cognitivo, emotivo e poi imponendo concetti, linguaggi e modelli che verranno usati per comprendere, raccontare e modellare i cambiamenti stessi.
L'importanza di porsi delle domande
Agli algoritmi si può guardare anche per comprendere meglio gli effetti che sono in grado di produrre, oggi e soprattutto domani. Effetti concreti sui redditi delle persone, sui posti di lavoro, nella vita sociale delle persone. Questi effetti non sono necessariamente negativi, ma il vero problema è che siamo sempre meno in grado di valutarne l’impatto o i rischi che in essi si nascondono. Anche perché pur vivendo immersi in realtà altamente tecnologizzate non siamo ancora capaci di capire fino in fondo come sarà un mondo dominato da intelligenze artificiali, macchine intelligenti, algoritmi e piattaforme software di servizi. Che ne sarà della libertà di scegliere, della democrazia di voto e di rappresentanza, dei rapporti di lavoro e del management delle organizzazioni? Quali saranno le condizioni di lavoro e di vita del prossimo futuro algoritmico e tecnologico declinato come progresso? Sarà un futuro dalle condizioni di vita peggiorate o migliorate, dalle maggiori o minori opportunità di scalata sociale per i Millennial e Nativi Digitali attuali?
E le domande potrebbe moltiplicarsi all’infinito.
Il semplice sforzo di formularle può aiutare a esercitarsi in una riflessione critica utile non tanto a prevedere il futuro, per sua natura sempre non prevedibile, ma ad anticiparlo e a percepirlo meglio nelle sue varie fasi emergenti attuali. La riflessione necessaria non deve però farsi deviare dalla narrazione corrente della tecnologia. Una narrazione intrisa di concetti tutti declinati in termini di ottimismo, progresso, opportunità, benefici e vantaggi.
I tempi sono caratterizzati da grandi e profondi cambiamenti (Post elezioni e algoritmi, in attesa di un presidente del consiglio!). Forse non conviene costruire e mitizzare nuove utopie tecnologiche che potrebbero rivelarsi distopie (è di questi giorni l’idea che la Rete, anima del movimento pentastellato debba trasformarsi in testuggine….un ribaltamento semantico prima ancora che politico), ma anche impedire lucidità di analisi critica dei fenomeni in corso così come di ciò che li ha determinati.