L’algoritmocrazia minaccia pericolosamente il ‘giudizio giuridico’. Essa non è applicabile alla dimensione giuridica. Le condotte umane, imprevedibili e imperfette, derivanti dal libero arbitrio, sfuggono alla serialità propria dell’intelligenza artificiale. I magistrati non potranno mai occuparsi delle leggi che riguardano il non-umano, perché il giudizio giuridico è riferibile unicamente all’intenzionalità soggettiva propria delle persone che appartengono alle comunità sociali.
Un articolo di Fiammetta Cioè, PhD student - Sapienza Università di Roma
Il dibattito sulla giustizia predittiva è ormai dominante in ambito giuridico.
Espressioni come legal tech, cyber justice, small claims dominano l’universo tecno-giuridico della predictive justice, ovvero la possibilità di prevedere l’esito di un giudizio giuridico tramite calcoli scientifici e matematici supportati dal potere degli algoritmi.
L’idea di considerare il diritto alla stregua di una scienza ha radici antiche, già nel 1946 Norbert Wiener, padre fondatore della cibernetica, accenna ad una possibile applicazione della teoria dei servomeccanismi al funzionamento dei diritti, individuando la possibile ed auspicabile relazione tra l’attività di reperire informazioni caratterizzante l’essere umano e lo scopo stesso della vita[1].
Wiener intuisce come certe macchine sarebbero divenute indispensabili sul luogo di lavoro e come avrebbero sostituito migliaia di lavoratori.
Nello stesso anno, Lee Loevinger propone di servirsi di apparecchiature elettroniche per studiare e analizzare casi giurisprudenziali; a questa nuova tecnica, che mira a rivoluzionare il ruolo del giurista trasformandolo in un mero tecnico delle norme, viene dato il nome di Giurimetria.
La ricerca giurimetrica si focalizza inizialmente su tre aspetti essenziali: l’archiviazione e il reperimento elettronico delle informazioni giuridiche, la previsione delle decisioni giuridiche sulla base di analisi comportamentali e la formalizzazione del diritto e della scienza giuridica mediante la logica simbolica. E l’architettura tecnico-giurisprudenziale che sorregge il tema dominante e attuale della giustizia predittiva affonda le sue radici proprio su queste premesse: attraverso i precedenti giurisprudenziali occorre prevedere le decisioni future.
Il diritto assume dunque la connotazione di scienza, è disciplinato da un linguaggio segnico numerico che ambisce a garantire la certezza assoluta nel prevenire il reato e nell’assicurare la pena.
Ma analizziamo i macro elementi che sostanziano la giustizia predittiva e, soprattutto, cerchiamo di capire come il voler esasperare l’utilizzo di tale tecnica in ambito giuridico conduca inevitabilmente a ledere alcuni dei diritti fondamentali dell’individuo.
Assodato che il potere tecnologico ha prodotto nuove forme di totalitarismi digitali che impongono profondi interrogativi in materia di violazione dei diritti costituzionalmente garantiti, di una cosa siamo certi: il giudice non può e non deve ritenersi vincolato ad alcun automatismo che gli impedisca di umanizzare la sua decisione.
L’interpretazione giuridica ha a che fare con gli atti umani, non con i fatti biologici. I fatti richiedono una conoscenza. Gli atti non sono prevedibili, è fondamentale l’intervento dell’interpretazione. Le intenzioni umane costituiscono il materiale che il magistrato utilizza come suo possibile giudizio. I fatti biologici non entrano mai nella sfera del diritto, non fanno riferimento alle peculiarità delle intenzioni (plurivocità di senso, i numeri univoci non chiedono nessuna interpretazione). Le parole sono esposte ad un’attività interpretativa, la struttura numerica non è mai capace di cogliere le intenzioni. Il magistrato non procede attraverso un linguaggio segnico. Il libero convincimento del magistrato non è una certezza costruita mediante i numeri.
Con l’interrogarsi dialogico sul senso si accede al piano del simbolo, che nomina una realtà e la illumina con l’incidere della comunicazione umana, costituita non da segni funzionali, ma da atti disfunzionali, creativi del ‘dono del senso’, non sistematizzabile in formulazioni numeriche, assunte come modelli di una ‘logica matematica’ del linguaggio[2].
Ciò che accade in udienza non è calcolabile, il dibattimento processuale avviene in presenza di esseri umani in carne ossa, che, in virtù della loro libertà di scelta, possono essere imputabili o meno.
Responsabilità ed imputabilità sono situazioni che non si danno né nel semplice ordine biologico, né nel semplice ordine macchinale, logico-robotico. Sono specifiche della condizione umana e si radicano nell’esercizio del rischio della libertà. L’imputabilità esige l’incidere di un movente, che non può essere confuso con una causa di natura chimico-fisica, con l’esecuzione di un meccanismo programmato, di un software, oppure con le combinatorie occasionali di un ‘indeterminismo quantistico’, privo di un io[3].
Per Max Planck, filosofo tedesco iniziatore della fisica quantistica e premio Nobel, nessuna scienza potrà mai oggettivizzare la volontà, quando si cerca di spiegare la volontà si annulla la libertà dell’essere umano. La peculiarità del diritto risiede proprio nel fatto di non essere una scienza cui applicare tout court leggi e formule una volta per sempre.
La volontà può essere influenzata dalla mente, ma mai pienamente padroneggiata. Per quanto profondamente l’intuizione intellettuale possa penetrare nell’oscurità delle motivazioni proprie della volontà, nella decisione finale la volontà è sovrana e la rende indipendente dall’intelletto[4].
Sostiene Romano che nell’esperienza giuridica occidentale la causa precede irrevocabilmente e non può divenire posteriore al suo effetto. E questo differenzia la causa nell’ordine della natura e quella nell’ordine della libertà.
La libertà è realizzabile attraverso il linguaggio-dialogo che non appartiene alla casualità naturalistica degli enti non umani. La libertà dell’uomo è tale perché emana da un io-soggetto giuridicamente imputabile.
L’arte del diritto si compie attraverso l’interpretazione quando circoscrive il suo raggio d’azione a nozioni universali, ad esempio quelle dell’uguaglianza e della libertà, e quando la libertà si manifesta attraverso il rispetto del prossimo.
Il giudice non deve quindi limitarsi ad “applicare la legge secondo la legge”, ma, attraverso l’arte dell’ermeneutica, deve procedere verso la “ricerca del giusto nel legale”.
Il guardiano della legge non può assolutamente essere schiavo della forma, al contrario, deve essere libero di scegliere il metodo interpretativo.
Un diritto che non è incentrato sull’uomo e sui valori della persona è semplicemente un diritto negato, ridotto ad un mero tecnicismo, al servizio del potere economico- finanziario.
La giustizia nai coincide con la legalità, ergo, è chiaro che non è affatto semplice fare giustizia limitandosi ad applicare la legge. Le leggi, che sono astratte e generali, devono essere adattate ad un caso concreto che va ‘interpretato’ giuridicamente. L’ermeneutica giuridica ha il compito fondamentale di evitare la mera applicazione della legge.
🍒🍒CHATGPT: SEDOTTI E ABBANDONATI?
Ciò detto, appare evidente che gli algoritmi che governano il mondo digitale pretendendo di manipolare i comportamenti umani, mirano esclusivamente a trasformare il diritto attraverso l’operato di un giudice declassato al livello di un ‘tecnico delle norme’ asservito al potere del più forte.
Se tutti potessero acquisire i dati e trattarli secondo le procedure algoritmiche e mediante la potenza delle macchine che li elaborano, verrebbero meno la sproporzione e la disuguaglianza tra una ristretta minoranza e la sconfinata maggioranza. Proprio su questa controgiuridica sproporzione-disuguaglianza si situa e si alimenta la situazione degli algoritmi al potere, padroneggiata da chi è/ha più. Questo potere si concretizza nella produzione di un avere-più, di un quantum di danaro, di un profitto che sorge con l’escludere e si accresce, nella sua potenza, grazie alla condizione degli esclusi [5].
Ma chi ‘tara’ le macchine? Chi scrive il ‘codice’ algoritmico?
Gli algoritmi non sono altro che macchine tarate dagli uomini al servizio di una nuova forma di capitalismo, quello della sorveglianza. I capitalisti della sorveglianza entrano nelle nostre vite, acquisiscono più informazioni possibili non per il nostro bene ma per il loro utile. I veri clienti di questa nuova forma di capitalismo sono le aziende, soprattutto quelle che operano in rete e che prevedendo i comportamenti umani, hanno l’obbiettivo di orientare scelte di mercato future.
L’esperienza umana è ormai materia prima gratuita che viene trasformata in dati comportamentali […] e poi venduta come ‘prodotti di previsione’ in un nuovo mercato quello dei ‘mercati comportamentali a termine’ [...] dove operano imprese desiderose solo di conoscere il nostro comportamento futuro[6].
Chi cede i dati ha soltanto il potere di non entrare più in rete, chi acquista i dati può arrivare addirittura a costruire una sorta di sagoma sociale. Allo stato attuale, questo tipo di capitalismo non è stato riconoscibile e arginabile dal diritto in virtù del fatto che non ha precedenti.
Il capitalismo della sorveglianza non si nutre dello sfruttamento del lavoro umano, ma dell’esperienza umana: un nuovo tipo di potere finalizzato ad influenzare il comportamento umano a vantaggio dei ‘signori’ della rete.
L’enorme quantità di big data prodotta dagli internauti è gestita da oligarchie economico-finanziarie. “I signori degli algoritmi” sono “persone in carne ed ossa che finanziano la produzione di intelligenze sintetiche” con un solo ed unico scopo: orientare enormi masse di consensi per trarne enorme profitto.
Facebook, Twitter, Amazon, Instagram influenzano e determinano decisioni individuali e collettive utilizzando varie forme di nudging, le cosiddette ‘spinte gentili’, poco percepibili ma molto efficaci. Nella maggior parte dei casi è lo stesso soggetto digitale ad immettere nella rete i propri dati sensibili. Emblematico il caso Cambridge Analytica che investì Zuckerberg e che anticipò l’entrata in vigore del GDPR. Non meno rilevante il ruolo degli hackers russi nella campagna elettorale americana del 2016.
La società odierna sta assistendo ad un cambio di paradigma radicale. La cosiddetta “quarta rivoluzione” teorizzata da Luciano Floridi. La rivoluzione dell’uomo infosferico, totalmente assorbito dallo spazio informativo e digitale ormai insinuatosi in ogni ambito della sua vita.
L’essere umano è l’artefice di questo paradossale cambiamento, incentrato sullo stradominio del potere digitale, ma allo stesso tempo è anche la vittima che viene trasformata e plasmata da questo stesso potere.
In sostanza la nostra libertà di scelta è orientata dalla forza degli algoritmi, che ci mostrano una realtà che riflette soltanto ciò che ci piace.
Illuminante a tal proposito il concetto di narcisismo digitale sviluppato da Bruno Romano. Il narcisismo digitale coincide con le immagini dell’uomo che scorrono in rete e che rappresentano una realtà virtuale, e non reale, da cui non potrà mai distanziarsi.
Nella descrizione della forma digitale i principali cambiamenti che hanno sconvolto la nostra vita sono da attribuire alla rete che fa emergere la pretesa narcisistica degli internauti. Nella rete c’è la spinta ad essere soli insieme, non si avverte il dovere di dare all’altro i suoi tempi, c’è solitudine perché ognuno riesce ad immedesimarsi nella sua unica condizione narcisistica. La rete non consente la ‘doppia contemporaneità’ che necessita di una presa di distanza. Il prendere distanza in rete equivale a disconnettersi.
Questa contemporaneità del prendere distanza e dell’entrare in relazione costituisce il nucleo del linguaggio, che mette in parole il pensiero e qualifica la peculiarità degli esseri umani, differenziandoli da tutti gli altri viventi, confinati in sistemi biologici, privi della capacità di creazioni di senso, che è creazione delle istituzioni – linguistiche, giuridiche, economiche, informazionali, etc.[7].
Un uomo non è ciò che lascia in rete ma è il contenuto di tutte le sue scelte, mai prevedibili e mai anticipabili da alcun algoritmo.
La ‘rivolta’ corre sul web
Se Albert Camus vivesse i nostri tempi avrebbe individuato negli algoritmi al potere la più temibile delle insidie. L’uomo assurdo’ è diventato digitale, sopraffatto dai social media, incapace di sopravvivere senza postare e twittare. Non potendo prescindere dalla scienza, d’altronde è innegabile la sua funzione positiva, dobbiamo diventare consapevoli della potenza manipolatrice che essa reca con sé. Sarà la ‘rivolta’ a destarlo da questo nichilismo attivo e a pretendere che la ‘legge’ lo tuteli dall’utilizzo dei mezzi informatici e dagli algoritmi che li sostengono. Mi rivolto, dunque siamo!
La dittatura degli algoritmi, solo apparentemente virtuale, “sembra sottindere l’ineluttabilità dell’avvento di un algoritmo assoluto”.
L’algoritmocrazia minaccia pericolosamente il ‘giudizio giuridico’. Essa non è applicabile alla dimensione giuridica. Le condotte umane, imprevedibili e imperfette, derivanti dal libero arbitrio, sfuggono alla serialità propria dell’intelligenza artificiale. I magistrati non potranno mai occuparsi delle leggi che riguardano il non-umano, perché il giudizio giuridico è riferibile unicamente all’intenzionalità soggettiva propria delle persone che appartengono alle comunità sociali.
La trasformazione del mondo umano in mercato globalizzato, governato dalla dittatura degli algoritmi, impone interrogativi, filosofici e giuridici, che rimandano ad un quesito fondamentale: “cosa può fare il giurista di fronte ad una società dromocratica influenzata dal virtuale?”.
Giuristi e filosofi hanno il dovere di aprirsi alla terzietà e all’universalità della ratio iuris, il giurista deve semplicemente ‘saper interpretare’ e non ‘saper fare’, egli opera ermeneuticamente ogni giorno. Il suo agire è inscindibile dall’”arte del comprendere”. Come potrebbe comprendere ciò che ‘pensa’ un algoritmo? E come potrebbe un algoritmo pretendere di comprendere ciò che pensa l’uomo? Attraverso la rivolta, che conduce alla giustizia, l’uomo può tornare ad essere libero, a ri-scoprire il suo io, che certo non coincide con la sua identità digitale.
[1] “Da tempi mi era chiaro che la moderna ultra-rapida macchina computazionale fosse in principio un ideale sistema nervoso centrale per un dispositivo di controllo automatico; e che i suoi input o output non dovessero necessariamente avere la forma di numeri o di diagrammi ma potessero essere, rispettivamente, i rilevamenti di organi sensoriali artificiali, quali cellule fotoelettriche e termometri, e le prestazioni di motori o solenoidi, (..) Molto prima di Nagasaki e della pubblica consapevolezza della bomba atomica, avevo compreso che ci trovassimo in presenza di un alto potenziale sociale di inaudita importanza per il bene e per il male.” N. Weiner, La cibernetica. Controllo e comunicazione nell’animale e nella macchina, Milano 1968, p.38.
[2] B. Romano, Forma del senso. Legalità e giustizia, Torino 2012, p. 110.
[3] B. Romano, Il dovere nel diritto, Torino 2014, p. 59.
[4] Max Planck, Sull’essenza della libertà, appendice a cura di L. Avitabile, Torino 2019, p. 140.
[5] B. Romano, Algoritmi al potere, Torino 2018, p. 17.
[6] Shoshanna Zuboff, The Age for Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power, Profile Books, 2019.
[7] B.romano, Ingiustizia radicale e narcisismo, Torino 2019, p. 61.