Tabulario /

Il potere degli algoritmi: è tempo di ribellarsi?

Il potere degli algoritmi: è tempo di ribellarsi?

27 Febbraio 2018 Carlo Mazzucchelli
Carlo Mazzucchelli
Carlo Mazzucchelli
share
La proliferazione di algoritmi, la loro forza e prepotenza crescenti sono espressione della velocità di fuga della tecnologia ma anche della sua follia. Stiamo vivendo una nuova fase di evoluzione del capitalismo, dominato dai tempi e dagli automatismi della tecnologia, e all'inizio di una nuova epoca caratterizzata da nuove forme di schiavitù (servitù). Non è solo la schiavitù delle pubblicità online o degli algoritmi della trasparenza radicale di Facebook ma quella che si sta determinando nei posti di lavoro e nella società.

La sguardo lungo degli algoritmi

Chi abita con assiduità la Rete conosce il potere e la capacità prevaricatrice degli algoritmi nella forma di messaggi pubblicitari che inondano le pagine da loro visitate e li perseguitano ovunque vadano (Vai a pesca per evitare di farti pescare online). E' sufficiente messaggiare, esprimere il proprio gradimento per un prodotto o iniziativa, fare una ricerca, e il danno è fatto. L'algoritmo di personalizzazione, da quel momento e per l'intera sessione online, saprà cosa mostrare, promuovere e visualizzare. Spesso anche superando i blocchi pubblicitari configurati nei browser, o le limitazioni dei permessi settati nelle applicazioni Mobile usate. Le informazioni raccolte poi saranno usate per mantenere aggiornato un profilo digitale da utilizzare in ogni nuova sessione ed esperienza online.

La capacità pervasiva e invasiva degli algoritmi cresce ed evolve grazie alle grandi quantità di dati ai quali hanno accesso (Big Data), al Cloud Computing e alle reti virtuali che lo caratterizzano e alle pratiche abitudinarie e inconsapevoli di miliardi di persone. E' una capacità che si espande in tutti gli ambiti di vita delle persone e che si manifesta nella (video)-sorveglianza, nell'invadenza online, nelle pratiche di acquisto online o nei punti vendita, sul lavoro e nelle professioni.

Le reazioni degli osservati

La reazione tipica di chi fa esperienza del potere degli algoritmi è solitamente dettata da tecnofilia o tecnofobia. Posizioni contrastanti in genere focalizzate sulla valutazione positiva o negativa degli effetti, dei benefici e dell'efficacia degli algoritmi. Manca quasi completamente una valutazione politica (critica, cinica e scettica), legata a ciò che gli algoritmi possono fare. Non tanto come strumenti tecnologici in sé perché cosa faccia un algoritmo è ormai noto a quasi tutti, ma come oggetti-soggetti politici che rappresentano forze reali in azione nella realtà e alla quale stanno dando il loro imprinting, condizionando processi, comportamenti, scelte e decisioni.

Scelte e decisioni sono elementi chiave di ogni algoritmo, opzioni pre-codificate nel software, attivate in base a semplici calcoli matematici (algoritmici) e amministrativi e ai dati disponibili analizzati. Tutti gli algoritmi sono in questo senso macchine politiche e sociali, che incidono nei processi reali e sono capaci di dare un senso alle cose, alle relazioni e alla realtà così come di governarla e determinarla.

Gli algoritmi così come il Cloud Computing o i Big Data non sono semplici denominazioni linguistiche, sovrastrutture ideologiche ma oggetti concreti, materiali e capaci anche di determinare e mobilitare sentimenti, comportamenti, relazioni e azioni. Questa capacità non può essere solo analizzata quantitativamente e tradotta in numeri per analisi dettagliate e predittive e secondo logiche predefinite. La complessità delle relazioni umane è tale da non poter essere ridotta a semplici numeri o dati, anche se questo sembra essere l'obiettivo cardine di ogni algoritmo (La tecnica è da sempre una forma di mediazione col mondo, con tutte le sue contraddizioni e biforcazioni.). 

I numeri da soli non possono descrivere il ruolo che gli algoritmi stanno assumendo nella vita, di ogni giorno, di un numero crescente di persone in ogni luogo del mondo. Diventa sempre più urgente interrogarsi su chi usa gli algoritmi, i dati (numeri) e le informazioni da essi generate. L'urgenza aumenta se il ruolo dell'algoritmo è quello del controllo e della sorveglianza digitale (Sorveglianza Facebook: la si conosce ma la si ignora!). Una sorveglianza così diffusa e potente da far ipotizzare ad alcuni l'arrivo prossimo futuro di vere distopie sociali e politiche.

 

Bisogna porsi delle domande

Porsi delle domande sul ruolo degli algoritmi significa interrogarsi sull'uso efficiente dei dati per l'erogazione di servizi, sul loro uso a scopi puramente marketing e commerciali finalizzati alla personalizzazione e alla contestualizzazione delle offerte, su quello legato alla capacità di prevenire truffe e raggiri online, o crimini di strada, o su quello finalizzato ad affiancare esseri umani per evitare loro errori nei ruoli da essi socialmente ricoperti.

In ognuno di questi ambiti gli algoritmi sembrano agire come grandi fratelli, anche se poi nella realtà la loro efficienza e capacità di sorveglianza o di prevenzione è tutta da dimostrare.  Esattamente come, sistemi e modelli ormai consolidati di previsioni metereologiche, falliscono nell'anticipare fenomeni per definizione imprevedibili. Così come imprevedibili sono anche molti fenomeni umani che gli algoritmi aspirano a monitorare, analizzare e governare. E quelli che si manifestano in forma di crimine ne sono un esempio.

La pretesa dell'algoritmo al controllo, al governo e alla sorveglianza evidenzia la volontà a costruirsi un ruolo da grande fratello e la tendenza a trattare gli esseri umani coinvolti come semplici terminali, prodotti e merci. I risultati possono essere imprevedibili e non necessariamente positivi, come ha dimostrato l'elezione di Trump alla presidenza degli Stati Uniti. Una vittoria determinata anche da troll e potenti algoritmi che hanno contribuito a delegittimare gli avversari, a catturare l'attenzione di milioni di elettori dando loro ragioni e motivazioni per una scelta di voto e soprattutto a condizionare il risultato finale.

Se si analizza il ruolo che gli algoritmi stanno avendo in molte situazioni elettorali in giro per il mondo (pochi ad esempio hanno raccontato il ruolo degli algoritmi dei social network giocato nella elezione del presidente delle Filippine Duterte) ci si rende conto di quanto siano entità politiche e quanto, in confronto,  la loro influenza su semplici comportamenti di acquisto sia innocente. 

Le nuove servitù volontarie

A questa invadenza innocente che genera comunque nuove servitù riducendo la libertà di scelta degli individui, i consumatori hanno iniziato a ribellarsi. Lo stanno facendo attivando sistemi di blocco delle pubblicità online per impedire campagne promozionali personalizzate, ma anche optando per forme più intelligenti di resistenza che servano a confondere le acque e a rendere complicato agli algoritmi la costruzione di profili individuali coerenti per ogni persona online, in mobilità con il suo smartphone o gadget tecnologico indossabile, in auto o inserita in contesti abitati da reti di oggetti intelligenti.

Se dalle realtà tecnologiche e algoritmiche non si può sfuggire e se non si ha il coraggio di staccare la spina o di ribellarsi con gesti estremi si può sempre attivare una resistenza attiva e paziente, perseverante e intelligente.

Se Google personalizza le sue informazioni in base alle conoscenze che ha di noi, se Facebook ci ha convinti della bontà dell’assoluta trasparenza dei nostri profili (Su Facebook sei nudo, abbassa le luci e rivestiti) e Amazon delle sue esperienze di acquisto come se fossero libere e determinate da noi, l’unica reazione possibile può consistere nel far perdere le tracce e rendere difficile capire chi realmente noi siamo. Ci si può cancellare da tutto, scomparire, rientrare nel mondo analogico e online senza alcuna connessione. Ma si può anche usare la tecnologia per adottare tecniche di resistenza diverse e capaci di limitare il ruolo e l'invadenza dell'algoritmo.

La difesa è necessaria perché il potere è asimmetrico.

Quasi mai siamo a conoscenza dei meccanismi attivati per spiarci e quasi mai abbiamo la possibilità di sganciarci o impedirlo. Non possiamo fare a meno di produrre dati e informazioni che poi rimangono in movimento continuo e per sempre. Non ne conosciamo l’uso manipolatorio e predittivo che ne viene fatto.

In un libro ricco di suggerimenti due autori francesi ( Finn Barton, Helen Nissenbaum - Offuscamento. Manuale di difesa della privacy e della protesta) suggeriscono la tattica dell’offuscamento da praticarsi per celare e camuffare le nostre informazioni o per renderle ambigue, ingannevoli, e difficilmente comprensibili.

E’ una strategia da avversari che si ritengono deboli, da vietcong del terzo millennio impegnati in una guerra digitale. I vietcong costruivano tunnel labirintici, noi oggi possiamo costruire profili multipli e fasulli, sfumare i contorni, seppellire gli account di Twitter e facebook di falsi messaggi, usare applicazioni come TrackMeNot che servono a nascondere le informazioni geostazionarie. Assumere identità di gruppo, produrre quantità enormi di documentazione, attivare i plug-in dei browser per bloccare pubblicità e promozioni, cambiare SIM frequentemente, scambiarsi le tessere fedeltà, praticare la disinformazione continua.

Meglio sarebbe poter fare appello a leggi in tutela della privacy, a categorie etiche condivise. In loro assenza bisognerebbe impegnarsi politicamente e ribellarsi come cittadini, cosa che sembra non siamo più abituati a fare, essendo l’astensione la forma più radicale di ribellione corrente. 

Resistere non basta a contrastare il ruolo politico dell'algoritmo  

Fatto questo non rimane che fare un passo ulteriore, politico. Una scelta che porterebbe a comprendere meglio (Da Homo sapiens a Homo Sapiens Digitalis) il ruolo che gli algoritmi hanno nel determinare la realtà attuale, nelle sue disuguaglianze, povertà, gerarchie ma anche evoluzioni distopiche e preoccupanti future. Una volta compresi i meccanismi degli algoritmi piegati alla politica dai loro creatori e potenti utilizzatori, si potrebbero comprendere meglio anche le strategie di difesa da implementare, le scelte da fare per difendersi dalle false notizie (Cosa ci stanno facendo le bufale e le Fake News e cosa possiamo fare noi per evitarle) e dalla manipolazione cognitiva, e i comportamenti da adottare.

Chi ha condotto una riflessione, anche politica sugli algoritmi potrebbe trovarsi avvantaggiato nelle prossime elezioni italiane del 4 di marzo. Potrebbe se ha disertato il media televisivo e frequentato in modo intelligente e consapevole il campo di battaglia elettorale che i media e le forze politiche (compresi iscritti e simpatizzanti) in campo hanno costruito sulle piattaforme social online. La riflessione potrebbe essere servita a scoprire le numerose false notizie messe in circolazione, la fallacia della presunta neutralità degli algoritmi (La tecnologia non è mai stata neutrale. Ha sempre modificato la nostra relazione col mondo. ), l'opacità di molte attività e conversazioni online, l'uso strumentale delle piattaforme tecnologiche nel generare disinformazione e misinformazione.

Ciò che sta caratterizzando le elezioni politiche italiane è simile a quanto già avvenuto in altre situazioni elettorali di altri paesi. In tutte gli algoritmi hanno giocato, con i loro automatismi e capacità analitiche, un ruolo chiave. Lo hanno potuto fare, in modo insidioso per la democrazia e la libertà dell'individuo, perché poche sono le persone impegnate nell'esercitare il loro pensiero critico in modo da evitare di diventare complici della viralità di molte false notizie (dati spazzatura, falsi gruppi e utenti, falsi contenuti, ecc.) e protagonisti al contrario di contro-informazione, meta-comunicazione e conoscenza.

A distanza di pochi giorni dal voto, non rimane che attendere e poi, a risultati acquisiti, riflettere se e quanto gli algoritmi tecnologici abbiano contribuito a determinare i risultati che emergeranno.

La riflessione si renderà necessaria perché il ruolo giocato dalle piattaforme tecnologiche nell'influenzare le propensioni e motivazioni di voto sarà sicuramente uno dei temi di attualità. Qualunque sia il risultato!

comments powered by Disqus

Sei alla ricerca di uno sviluppatore?

Cerca nel nostro database


Consiglio Digitale

Consiglio Digitale gestisce differenti piattaforme di messaggistica crowd-powered...

Vai al profilo

ALGORITMA

ALGORITMA progetta e sviluppa soluzioni software per ambienti desktop e mobile...

Vai al profilo

Alternative Apps

Alternative Apps design and develop applications for iPhone/iPod and iPad.

Vai al profilo

Unified Communication

Unified Communication è un’azienda italiana leader nel mercato europeo del...

Vai al profilo