How to cite this article / Come citare questo articolo
Filippone, C., Zito, L. (2025). Il caso COMPAS e il tema della giustizia predittiva, tra opacità e distorsioni. Aequitas Magazine, 2, 1-13.
https://doi.org/10.5281/zenodo.18925080
ABSTRACT (EN) The growing use of algorithmic systems in judicial contexts has revived longstanding debates about the predictability of law and the nature of legal decision-making. This article examines the implications of predictive justice through the paradigmatic case of the COMPAS risk assessment tool used in the United States criminal justice system. Building on the theoretical tradition that conceives legal certainty as a form of calculability – from Leibniz’s early reflections to the development of jurimetrics – the paper analyses the functioning of artificial intelligence systems applied to adjudication and their potential impact on the structure of judicial reasoning. While predictive technologies may enhance efficiency, consistency and foreseeability in judicial practice, their integration into legal processes raises significant normative and epistemic concerns. In particular, the article highlights the risks of algorithmic bias, the datafication and simplification of social reality, the opacity of computational processes and the emergence of epistemic asymmetries between human decision-makers and algorithmic systems. Furthermore, predictive tools may exert performative effects on legal reasoning itself, progressively reshaping the criteria of rationality that guide judicial decisions. The central argument advanced in this article is that the challenge posed by predictive justice is not merely technical but institutional. The increasing reliance on algorithmic outputs raises questions about the epistemic authority of computational predictions within judicial reasoning and the conditions under which such systems can be reconciled with the principles of the constitutional state. In this perspective, the paper suggests interpreting predictive technologies within a model of augmented adjudication, in which artificial intelligence operates as a cognitive support tool while meaningful human oversight remains essential to safeguard judicial independence, accountability and the argumentative justification of decisions.
ABSTRACT (IT) Il crescente impiego di sistemi algoritmici nei contesti giudiziari ha riaperto il dibattito sulla prevedibilità del diritto e sulla natura della decisione giudiziaria. Il presente contributo analizza le implicazioni della giustizia predittiva attraverso il caso paradigmatico del sistema di valutazione del rischio COMPAS, utilizzato nel sistema penale statunitense. Muovendo dalla tradizione teorica che ha concepito la certezza del diritto come forma di calcolabilità – dalle riflessioni di Leibniz fino allo sviluppo della jurimetrics – il lavoro esamina il funzionamento dei sistemi di intelligenza artificiale applicati all’attività giurisdizionale e il loro possibile impatto sulla struttura del ragionamento giudiziario. Sebbene tali tecnologie possano contribuire ad accrescere efficienza, coerenza e prevedibilità delle decisioni, la loro integrazione nel processo giurisdizionale solleva rilevanti questioni normative ed epistemiche. Il contributo mette in luce, in particolare, i rischi connessi al bias algoritmico, alla datificazione e semplificazione della realtà sociale, all’opacità dei processi computazionali e all’emergere di asimmetrie epistemiche tra decisore umano e sistema algoritmico. Inoltre, gli strumenti predittivi possono produrre effetti performativi sul ragionamento giuridico, contribuendo progressivamente a ridefinire i criteri di razionalità della decisione. La tesi centrale dell’articolo è che la questione posta dalla giustizia algoritmica non sia primariamente tecnica ma istituzionale. Il crescente affidamento sugli output computazionali solleva infatti interrogativi sulla loro autorità epistemica all’interno del ragionamento giudiziario e sulle condizioni di compatibilità con i principi dello Stato costituzionale. In questa prospettiva, il lavoro propone di interpretare le tecnologie predittive nel quadro di una “giurisdizione aumentata”, nella quale l’intelligenza artificiale opera come strumento di supporto cognitivo, mentre la supervisione umana rimane essenziale per garantire indipendenza, responsabilità e giustificazione argomentativa della decisione giudiziaria.
SOMMARIO: 1. Introduzione: diritto e trasformazione tecnologica – 2. La radice teorica della prevedibilità del diritto – 3. Algoritmi, apprendimento automatico e decisione – 4. Il caso COMPAS come paradigma della giustizia predittiva – 5. Funzione, limiti e vantaggi della previsione algoritmica – 6. Le criticità: bias algoritmico, datificazione della realtà, opacità e trasformazione della decisione giudiziaria – 7. Conclusioni.
1. Introduzione: diritto e trasformazione tecnologica
È circostanza ormai acquisita che l’evoluzione tecnologica abbia determinato un progressivo ingresso di strumenti algoritmici all’interno del mondo giuridico. L’intelligenza artificiale, inizialmente utilizzata come supporto per attività tecniche e ripetitive, sta assumendo un ruolo sempre più rilevante anche nei processi decisionali, incidendo non solo sull’organizzazione dell’attività giudiziaria, ma sulla stessa concezione del diritto come pratica istituzionale.
A tal proposito, tra le molteplici applicazioni, è possibile citare alcune delle principali legal technologies che sfruttano tali strutture intelligenti. Nell’ambito della contract automation rinveniamo meccanismi di due diligence che permettono sofisticate analisi documentali capaci di rilevare specifiche anomalie in una mole considerevole di contratti. Nel settore della legal research è fatto uso di sistemi ricerca assistita che interrogano database per estrarre materiali utili e precedenti giurisprudenziali.
Tuttavia, è nel campo della cosiddetta giustizia predittiva che il rapporto tra diritto e tecnologia assume una valenza teorica più profonda.
Con tale espressione si intende la possibilità di prevedere, mediante modelli matematici e algoritmi di apprendimento automatico, l’esito probabile di una controversia, ovvero le chances di vittoria o soccombenza relativamente ad una specifica questione di fatto e/o di diritto, oppure il comportamento futuro di un soggetto sottoposto a giudizio.
Il problema non riguarda soltanto l’efficienza del sistema giudiziario, ma investe la natura stessa della decisione giuridica, ponendo interrogativi circa il rapporto tra previsione statistica, responsabilità individuale e legittimazione della funzione giurisdizionale.
2. La radice teorica della prevedibilità del diritto
L’idea che il diritto possa essere ricondotto a un calcolo non è una novità della contemporaneità digitale. Già Leibniz[1], nel XVII secolo, immagina la possibilità di risolvere le controversie attraverso un metodo logico-matematico, prospettando una forma di razionalità giuridica fondata sulla computabilità delle decisioni.
Si pensi alla sua considerazione futuristica, orientata all’idea di certezza declinata in senso perfettamente matematico: “quando sorgeranno delle controversie, non ci sarà maggior bisogno di discussione tra due filosofi di quanto ce ne sia tra due calcolatori. Sarà sufficiente, infatti, che essi prendano la penna in mano, si siedano a tavolino, e si dicano reciprocamente (chiamato, se loro piace, un amico): calcoliamo”.
In Francia, nel 1709, il matematico Bernoulli sostiene una tesi sull’uso giudiziario del calcolo delle probabilità, intitolata “De Usus Artis Conjectandi in jure”, in cui faceva emergere la nozione di probabilità del giudizio.
Nel Novecento, Loevinger[2], a cui si devono le prime riflessioni già nel 1949 sul rapporto tra diritto e tecnologie informatiche, propone la creazione di una nuova scienza giuridica definita come “l’applicazione del metodo scientifico allo studio del diritto”, il cui scopo è il calcolo della probabilità delle decisioni giudiziarie, introducendo la nozione di “jurimetrics”.
Queste elaborazioni mostrano come la tensione verso la prevedibilità delle decisioni sia connaturata al diritto moderno. La certezza del diritto, infatti, non si esaurisce nella stabilità delle norme, ma implica anche la possibilità di anticipare gli effetti delle decisioni giudiziarie.
In tale prospettiva, la giustizia predittiva può essere interpretata come una radicalizzazione tecnologica di una tendenza già presente nella teoria del diritto: quella che riconduce la razionalità giuridica alla prevedibilità delle conseguenze normative.
Pertanto è possibile affermare che la giustizia predittiva nient’altro rappresenta se non la naturale e immediata conseguenza del principio di certezza del diritto.
L’idea di un giudizio tale che, nella gestione di una controversia, la vicenda concreta sarà ricondotta entro i confini di una determinata fattispecie normativa, si concreta in calcolo di quello che Irti[3] definisce “il futuro giuridico”.
Sopra un diritto (certo), che può tradursi in calcolo, si possono edificare aspettative, insomma si può farne affidamento. Ciò consente all’odierno homo oeconomicus di agire meglio in coerenza con le proprie finalità.
A tal fine, basti evocare la funzione nomofilattica della Corte di Cassazione, alla stregua di una “concezione ‘matematizzante’ del diritto”, tanto che, oltre tale perimetro, si sconfinerebbe in un “diritto incalcolabile”.[4]
Il passo logico verso l’ipotesi di un algoritmo con funzione predittiva della decisione giudiziale è, in teoria, breve.
È necessario sin da subito precisare, tuttavia, che tanto la dottrina quanto la giurisprudenza, non hanno mai teorizzato l’ipotesi di una totale sostituzione della macchina all’uomo nella prospettiva della realizzazione di un “giudice-robot”.
Si ritiene, difatti, che l’attività ermeneutica e, conseguentemente, quella decisoria, debbano rimanere ad appannaggio dell’uomo, in quanto soltanto l’essere umano è dotato della sensibilità ed accuratezza necessarie ad emettere il giudizio più adeguato al singolo caso.
L’impiego di tecnologie che permettano di analizzare precedenti e dati in maniera più precisa e oggettiva può essere utile nel realizzare una giustizia più certa, dunque più equa, ma è altresì vero che giungere ad un determinato risultato finale semplicemente perché ciò è quanto suggerito dai sistemi matematici di calcolo, su cui si basa l’algoritmo adoperato, potrebbe suscitare profonde ingiustizie, allontanandoci dalla prospettiva di una giustizia effettiva.
3. Algoritmi, apprendimento automatico e decisione
Le tecnologie utilizzate nella giustizia predittiva si fondano su sistemi di intelligenza artificiale che elaborano grandi quantità di dati per individuare correlazioni statistiche. Occorre comprendere quali siano le modalità di funzionamento dell’algoritmo predittivo il cui utilizzo viene in tale ambito prospettato. Esistono, invero, diverse tipologie di intelligenza artificiale.
Alcune producono degli output, cioè dei risultati, elaborando le informazioni incamerate sulla base di una serie predefinita di input forniti alla macchina da coloro che partecipano alla catena produttiva.
Altre sono generate tramite Machine Learning (apprendimento automatico), vale a dire meccanismi che permettono ad un’intelligenza artificiale di modificare e migliorare le proprie capacità e prestazioni nel tempo attraverso l’esperienza. Si tratta, in questo caso, di una macchina che viene dotata di un elevatissimo grado di autonomia, tanto da permettere al dispositivo di adottare e attuare decisioni indipendentemente dal controllo umano.
Nel caso di specie, l’intelligenza artificiale di cui ci si serve sfrutta un sistema Deep Learning, una sottocategoria del Machine Learning, mediante l’applicazione del quale avremo una macchina che riesce autonomamente a classificare i dati e a strutturarli gerarchicamente, venendo simulati i processi di apprendimento del cervello biologico attraverso sistemi artificiali (cosiddette reti neurali artificiali) e migliorando le proprie prestazioni con l’apprendimento continuo.
Breviter, gli algoritmi di Machine Learning consentono ai sistemi di migliorare le proprie prestazioni nel tempo attraverso l’analisi dei dati, mentre le tecniche di Deep Learning permettono la classificazione autonoma delle informazioni mediante reti neurali artificiali. In tal modo, saranno individuate le informazioni più rilevanti e utili alla risoluzione di uno specifico problema, alla stregua di quanto sarebbe in grado di fare la mente umana.
Il funzionamento di tali strumenti non consiste nel replicare il ragionamento giuridico umano, ma nell’individuare schemi ricorrenti nei dati, traducendo la complessità del fenomeno giuridico in modelli probabilistici.
Il punto decisivo è che questi sistemi non producono verità normative, ma previsioni statistiche. Tuttavia, proprio la capacità di generare risultati quantitativi apparentemente oggettivi può indurre a considerarli come parametri di razionalità della decisione.
4. Il caso COMPAS come paradigma della giustizia predittiva
Il caso emblematico che ha portato alla luce il tema della giustizia predittiva è quello relativo all’applicazione della tecnologia del software COMPAS (Correctional offender management profiling for alternative sanctions), a seguito della sentenza emessa dalla Corte Suprema dello Stato del Wisconsin nel 2016[5], con la quale la Corte si è pronunciata in merito all’appello di Eric L. Loomis, la cui pena a sei anni di reclusione era stata comminata dal tribunale circondariale di La Crosse.
Fermato dalla polizia nel 2013 alla guida di un’automobile precedentemente utilizzata nel corso di una sparatoria, a Loomis venivano imputati diversi capi d’accusa.[6]
La Corte, prima di pronunciarsi con sentenza in merito alla determinazione della pena, ordina l’elaborazione di una relazione circa i risultati delle investigazioni condotte sulla storia personale dell’imputato, al fine di verificare la presenza di circostanze utili a modulare la severità della pena.
Tale relazione avrebbe dovuto includere anche i risultati elaborati dal programma COMPAS, consistente in uno strumento di valutazione funzionante mediante algoritmo, concepito per prevedere il rischio di recidiva di ciascun imputato.
Dunque, l’algoritmo in parola è stato utilizzato in sede di commisurazione della pena da comminare all’imputato, una volta riconosciuto colpevole e, per l’effetto, il medesimo ha subito un aumento di pena correlato al rischio di recidiva, così come calcolato dall’algoritmo stesso.
L’algoritmo suindicato elabora i dati ottenuti dal fascicolo dell’imputato, tra i quali figurano anche il trascorso criminale e le condizioni socio-economiche e personali dell’imputato, e dalle risposte fornite nel colloquio con lo stesso. Così facendo, esso è in grado di tracciare un grafico dal quale sarà possibile evincere la valutazione del rischio di recidiva prospettata dal sistema, che potrà essere classificata come low, medium o high.
Nel caso di Loomis, i calcoli dell’algoritmo attestano un alto livello di rischio di recidiva. Pertanto il tribunale circondariale, tenendo in considerazione anche i risultati del COMPAS ai fini della determinazione della pena, opta per la comminazione di sei anni di reclusione.
Il condannato presenta istanza di revisione della pena, lamentando che la decisione del tribunale circondariale, nel prendere in considerazione i risultati elaborati dal COMPAS, violasse il suo diritto ad un processo equo sotto molteplici profili.
Nello specifico, Loomis sostiene che il suo diritto ad essere condannato ad una pena individualizzata fosse stato leso poiché COMPAS elabora la propria previsione comparando le informazioni ottenute dal singolo con quelle relative ad un gruppo di individui con caratteristiche alle sue assimilabili, sicché, a ben vedere, il sistema non sarebbe in grado di prevedere specificamente il rischio di recidiva individuale dell’imputato.
Il tribunale circondariale, tuttavia, rigetta la richiesta, affermando che la pena inflitta sarebbe stata la medesima indipendentemente dalla considerazione dei risultati forniti dal COMPAS, inducendo così i legali di Loomis ad impugnare tale decisione dinanzi alla Corte d’Appello, la quale infine rimette la questione alla Corte Suprema del Wisconsin.
Secondo la disquisizione della Supreme Court, sebbene il software possa essere impiegato nei giudizi di determinazione della pena, ciò deve avvenire con le dovute limitazioni e cautele. In particolare, i giudici supremi stabiliscono che i punteggi di rischio di recidiva prodotti dall’algoritmo non possono essere utilizzati come fattori determinanti ai fini della comminazione della pena.
Con riguardo al rischio, anch’esso prospettato dai legali di Loomis, che COMPAS attribuisca importanza sproporzionata ad alcuni fattori, come ad esempio il background familiare oppure l’appartenenza ad un certo gruppo etnico, la Corte Suprema evidenzia che, per garantire l’accuratezza della valutazione, occorre che il programma sia costantemente monitorato nonché usato con accortezza e seguendo specifiche cautele.
In particolare, viene sottolineato dai giudici della Corte Suprema che i tribunali circondariali devono esercitare la propria discrezionalità nel tenere conto dei risultati prodotti dal sistema, con riguardo ad ogni specifico individuo e considerando anche tutti gli altri fattori a disposizione, realizzando un doveroso contemperamento, al fine di scongiurare il rischio di essere condannati ad una pena che, in effetti, non sarebbe individualizzata a causa del modus operandi dell’algoritmo utilizzato.
Alla luce di tali considerazioni, la Corte Suprema del Wisconsin conclude che, a ben vedere, l’uso del programma COMPAS per la determinazione della pena non ha affatto violato il diritto dell’imputato all’equo processo, in quanto il punteggio di rischio prodotto dall’algoritmo è stato solo uno dei numerosi fattori considerati dal tribunale.
Difatti, sebbene si fosse fatto riferimento ai risultati del software, i giudici di prime cure hanno attribuito al fattore di rischio di recidiva un peso minimo; pertanto, la sentenza non sarebbe stata ragionevolmente diversa anche in mancanza dei dati forniti dal programma informatico.
Illegittimo sarebbe stato, al contrario, basare la sentenza solo ed esclusivamente su tali risultati, utilizzandoli come fattori determinanti della decisione, non effettuando alcun bilanciamento con altri elementi.
Breviter, è necessario accompagnare l’output dell’algoritmo predittivo con un foglio di avvertenze in modo che il giudice sia condotto a ricordare di maneggiare con la giusta cura la decisione algoritmica e, soprattutto, non dimentichi e abbia sempre chiaro che si tratta solo di uno degli elementi (ossia il risultato di un calcolo probabilistico su classi di persone) da considerare, in aggiunta ad altri, ai fini della decisione finale.
5. Funzione, limiti e vantaggi della previsione algoritmica
Dal caso emblematico appena esposto appare dunque chiaro quale debba essere la funzionalità di un algoritmo predittivo del genere: non si tratta di predire con esattezza puntuale il dispositivo di una sentenza, bensì di individuare l’orientamento del ragionamento del giudice alla luce di una serie di dati che avranno una certa rilevanza ai fini della decisione da assumere.
La decisione assume un valore paradigmatico perché individua una linea di equilibrio: l’algoritmo può essere utilizzato come strumento informativo, ma non può sostituire la valutazione giudiziale.
Una simile funzione orientativa dell’algoritmo solleva, in ogni caso, interrogativi rilevanti. L’algoritmo non si limita a produrre informazioni, ma contribuisce a definire ciò che appare razionale o coerente. Il rischio è che il risultato computazionale venga percepito come standard di normalità decisionale. Esso assume oggi rilievo non solo teorico, ma anche normativo, alla luce del quadro europeo in via di consolidamento in materia di intelligenza artificiale.
In particolare, il recente Regolamento europeo sull’intelligenza artificiale (AI Act) introduce un sistema di classificazione dei rischi dei sistemi algoritmici, includendo tra quelli ad alto rischio proprio gli strumenti destinati a incidere su diritti fondamentali o su processi decisionali pubblici, tra cui quelli giudiziari.
La prospettiva normativa europea sembra dunque confermare che l’impiego dell’algoritmo in ambito giurisdizionale non sia in sé incompatibile con lo Stato di diritto, ma debba essere subordinato a stringenti requisiti di trasparenza, controllabilità e supervisione umana significativa. In tale contesto, l’output algoritmico non può assumere valore determinante, ma deve restare uno degli elementi informativi a disposizione del giudice.
Il tema centrale non riguarda pertanto l’uso della tecnologia in quanto tale, bensì la sua collocazione epistemica nel processo decisionale: se essa operi come semplice strumento conoscitivo o finisca, invece, per orientare in modo sostanziale l’esito del giudizio.
È proprio alla luce di questa distinzione che diventa possibile comprendere, più in generale, quali possano essere i vantaggi e i limiti derivanti dall’impiego di sistemi predittivi nel processo.
Indubbiamente l’impiego di una tecnologia simile in ambito processuale risulterebbe utile sotto molteplici profili.
Si pensi che, a fronte delle maggiori criticità riscontrabili nel sistema giudiziario italiano, l’utilizzo di un algoritmo predittivo servirebbe in primis a far sì che i tempi della giustizia si riducessero, sfruttando la rapidità di analisi e risposta propria della macchina algoritmica, potendo in questo modo dare effettiva attuazione al principio di ragionevole durata del processo, corollario del più ampio principio dell’equo processo, sancito ex art. 111 della Costituzione italiana.
Per altro verso, si assisterebbe presumibilmente ad una riduzione del contenzioso, poiché le parti, potendo aver contezza sin da subito delle chances di vittoria o soccombenza, sarebbero incentivate a fare ricorso a sistemi di risoluzione delle controversie alternativi al classico processo, come la mediazione, l’arbitrato o la proposta conciliativa, o, in ultima analisi, ad astenersi da ogni mezzo di gestione delle dispute.
6. Le criticità: bias algoritmico, datificazione della realtà, opacità e trasformazione della decisione giudiziaria
È tuttavia possibile riscontrare talune severe criticità nell’impiego di un algoritmo predittivo in ambito processuale.
La prima riguarda il rischio di discriminazione algoritmica. I sistemi di apprendimento automatico si fondano su dati storici che riflettono disuguaglianze sociali pregresse. L’algoritmo tende quindi a riprodurre tali disparità, amplificandole.
Ciò è stato rilevato[7], ad esempio, in merito al già citato programma COMPAS adoperato negli Stati Uniti.
Si è riscontrato dunque come, per la popolazione afro-americana, l’algoritmo abbia previsto un tasso di rischio di recidiva pari al doppio di quello assegnato alla popolazione bianca.
In effetti, non c’è da stupirsi per un risultato del genere dal momento che l’algoritmo rielabora dati riguardanti una comunità che, più di altre, è soggetta a misure di polizia e sanzioni penali, di modo che, inevitabilmente, il software risulterà da ciò condizionato e il suo prodotto ne sarà diretta espressione.
Pertanto, con l’utilizzo di un sistema del genere, si tenderebbe a perpetuare, se non addirittura estendere, discriminazioni viventi nel sistema penale, con effetti che si potrebbero qualificare deterministici, tali da inchiodare un individuo al destino di una intera comunità.
In concreto, l’algoritmo reca inevitabilmente con sé i pregiudizi di coloro che sul e con l’algoritmo operano: progettista, costruttore, addestratore, utilizzatore.
Tale considerazione non riguarda soltanto l’origine soggettiva dei pregiudizi incorporati nel sistema, ma investe più in profondità la stessa struttura della decisione algoritmica.
Parte della dottrina ha infatti osservato come gli strumenti predittivi non si limitino a riflettere bias preesistenti, ma contribuiscano a ridefinire i criteri di razionalità della decisione giuridica, introducendo una logica di tipo statistico-probabilistico che tende progressivamente a sostituire la dimensione argomentativa tipica del giudizio.
Il rischio, dunque, non è soltanto quello di un risultato distorto, bensì quello di una trasformazione silenziosa del paradigma decisionale: l’algoritmo potrebbe diventare parametro implicito di coerenza e prevedibilità, inducendo il giudice ad adeguarsi al risultato computazionale piuttosto che a valutarlo criticamente.
In tale prospettiva, il problema del bias algoritmico non dipende esclusivamente da chi progetta o utilizza il sistema, ma anche dal modo in cui la realtà viene selezionata, tradotta in dati e strutturata all’interno del modello.
Ed è proprio tale processo di selezione e traduzione della realtà in informazione computabile che consente di comprendere come una delle principali fonti di iniquità e pregiudizio algoritmico risieda nella qualità dei dati immessi nel procedimento stesso e nel modo in cui vengono inseriti nel sistema.
Breviter, si è in presenza di distorsioni della realtà che interferiscono con i processi cognitivi, incidendo tanto sulla valutazione quanto sulla decisione. L’incorporazione di bias nelle fasi di progettazione e addestramento degli algoritmi determina, di conseguenza, una rappresentazione mediata e non neutrale dei fenomeni, compromettendo la pretesa oggettività dell’elaborazione algoritmica.[8]
Veniamo così alla seconda criticità che afferisce al processo di datificazione della realtà. La trasformazione dei fenomeni sociali in dati implica necessariamente una selezione e una riduzione della complessità. Ciò comporta una rappresentazione parziale della realtà, influenzata dalle scelte di progettazione e dai criteri di raccolta delle informazioni.
In re ipsa, nel processo di trasformazione, dalla realtà al dato, un quid va perduto affinché la complessità sia comprensibile al circuito in silicio[9]. Si tratta di un elemento nient’affatto trascurabile quello che risiede nella “riduzione di dimensionalità”.[10]
In qualche misura, la realtà e i suoi fenomeni complessi ne risultano frammentati, ridotti, semplificati, altrimenti la loro traduzione elettronica non potrebbe essere implementata nel modo di funzionamento della macchina.
Insomma, è il processo di datificazione del mondo che comporta ineludibilmente il rischio di una scarsa rappresentazione della realtà o, meglio, di una sua soggettivizzazione, se si tiene in considerazione che l’opera di riduzione delle informazioni trova comunque origine, in primis, in scelte di programmazione e pertanto di un programmatore. I dati non sono dati oggettivi e reali, ma sono il risultato di un processo di sfrondamento selettivo, che per quanto possa essere automatizzato è conseguenziale a (pre)scelte che si compiono a monte.
La terza criticità consiste nell’opacità algoritmica, che rende difficile comprendere il percorso logico che conduce al risultato.
In pratica, ai rischi di semplificazione, distorsione, e discriminazione si aggiungono quelli di oscurità e non controllabilità (in ciò, concretamente, la cosiddetta opacità algoritmica), tipici dei sistemi algoritmici, di modo che risulterebbe messo in discussione il principio del trasparente esercizio della funzione giurisdizionale. Alla luce di tali considerazioni, è possibile constatare, pertanto, come, di fatto, l’algoritmo possa persino dare luogo a risultati che deviano totalmente dal principio di uguaglianza, del quale dovrebbe invece garantire l’osservanza, in forza della caratteristica della neutralità che, almeno in teoria, dovrebbe caratterizzarlo.
Un ulteriore profilo critico concerne l’asimmetria epistemica che può instaurarsi tra il decisore umano e il sistema algoritmico. I modelli di intelligenza artificiale impiegati nei sistemi di giustizia predittiva operano attraverso processi computazionali di elevata complessità che, soprattutto nei sistemi basati su tecniche di machine learning e deep learning, risultano difficilmente ricostruibili sul piano logico-argomentativo. In tali contesti il giudice, pur formalmente titolare della decisione, può trovarsi nella condizione di non poter verificare pienamente il percorso inferenziale che ha condotto l’algoritmo al risultato predittivo.
Ne deriva una forma di asimmetria conoscitiva che rischia di alterare il rapporto tra decisione e giustificazione: mentre la decisione algoritmica appare sorretta da una pretesa di oggettività fondata sul calcolo statistico, la motivazione giuridica potrebbe trovarsi a dover giustificare ex post un risultato generato da un processo epistemicamente opaco. In tale prospettiva, il problema non riguarda soltanto la trasparenza tecnica dei sistemi algoritmici, ma investe più profondamente il principio di controllabilità razionale della decisione giudiziaria, che costituisce uno dei presupposti fondamentali della legittimazione della funzione giurisdizionale nello Stato costituzionale.
La realizzazione di una certa “omogeneizzazione” della giustizia risulta essere, d’altro canto, un ulteriore e importante aspetto correlato all’utilizzo di sistemi algoritmici del genere. In qualche misura, il problema più rilevante non è, tuttavia, la possibile imprecisione del sistema, ma la trasformazione del paradigma decisionale che esso comporta.
L’algoritmo introduce una forma di razionalità statistica che tende a sostituire la dimensione argomentativa del giudizio. In tal modo, il rischio non è soltanto quello di un errore tecnico, bensì quello di una trasformazione silenziosa del paradigma decisionale: l’algoritmo potrebbe diventare parametro implicito di coerenza e prevedibilità, inducendo il giudice ad adeguarsi al risultato computazionale piuttosto che a valutarlo criticamente. In tale ottica, la vera minaccia consiste nell’attribuire al risultato computazionale un’autorità epistemica superiore rispetto alla motivazione giuridica.
Un ulteriore profilo problematico riguarda la dimensione performativa degli algoritmi applicati alla decisione giudiziaria. I sistemi predittivi non si limitano infatti a descrivere o prevedere la realtà giuridica, ma tendono progressivamente a influenzarla, contribuendo a modellare le aspettative degli operatori e gli stessi criteri di razionalità decisionale. Quando un algoritmo viene utilizzato per stimare l’esito probabile di una controversia o il rischio di recidiva di un imputato, esso non produce soltanto una previsione statistica, ma può incidere indirettamente sui comportamenti dei soggetti coinvolti nel processo decisionale.
In questa prospettiva, l’algoritmo assume una funzione performativa: la previsione del comportamento giuridico rischia di trasformarsi in un fattore che contribuisce a determinarlo. Se il risultato computazionale viene percepito come parametro di coerenza o di prevedibilità del sistema, esso può orientare le scelte del giudice, dei difensori e degli stessi imputati, producendo un effetto di auto-conferma della previsione. Il rischio che ne deriva è quello di una progressiva normalizzazione statistica della decisione giudiziaria, nella quale la razionalità del calcolo tende a sovrapporsi alla dimensione argomentativa e valutativa che caratterizza tradizionalmente l’esercizio della giurisdizione.
Parte della dottrina ha infatti osservato come gli strumenti predittivi possano contribuire a ridefinire i criteri di razionalità della decisione giuridica, introducendo una logica di tipo statistico-probabilistico che tende progressivamente a sostituire la dimensione argomentativa tipica del giudizio.
Se ciò accadesse, la prevedibilità potrebbe trasformarsi in vincolo, e la probabilità in parametro normativo, con un effetto di irrigidimento del sistema giuridico.
Il dettato di cui all’art. 47-quater Legge sull’Ordinamento giudiziario prevede che si evitino i contrasti inconsapevoli, cercando di superare l’inevitabile difformità che esiste nelle diverse giurisprudenze attraverso il confronto e l’acquisizione del valore della prevedibilità delle decisioni. Proprio in virtù del conseguimento di un risultato di questo tipo, si riuscirebbe probabilmente a rinsaldare il rapporto tra cittadino e amministrazione della giustizia dal momento che la società percepisce in maniera negativa e come un fallimento della giustizia la differenza decisionale che talvolta sussiste tra casi pur apparentemente simili tra loro.
D’altro canto, ciò che spesso viene avvertito come una debolezza del nostro sistema giudiziario, può invece rappresentare un punto di forza. Il fatto che controversie analoghe possano ricevere una risposta differente fa sì che si sviluppi un dibattito, un dialogo in forza del quale si dovrebbe generare un ragionamento in grado di far riflettere il più possibile al fine di trovare quella che potrebbe essere la soluzione migliore tra le varie prospettate o anche una soluzione innovativa.
Questo non sarebbe assolutamente possibile qualora casi analoghi venissero sempre risolti in maniera simile, che è quanto accadrebbe ogni qual volta si facesse ricorso ad un algoritmo predittivo. In tale evenienza, il sistema non avrebbe modo di crescere, di innovarsi, e si perderebbe la ricchezza costituita dalla diversità dei vari orientamenti che possono venire a crearsi in giurisprudenza, arricchendo il diritto vivente. Non ci sarebbe confronto e si perderebbe la possibilità di accorgersi della presenza di altre soluzioni, che potrebbero essere più o meno corrette di quella prospettata, ma delle quali, indubbiamente, va tenuta considerazione per far sì che il nostro sistema di diritto sia in grado di evolversi e adattarsi ai tempi che cambiano.
Qualora si procedesse in un’unica direzione, senza tener conto delle possibili alternative, probabilmente ci si accosterebbe fin troppo ad un sistema di common law, in quanto il precedente giurisprudenziale perderebbe il suo valore semplicemente persuasivo per acquisirne piuttosto uno vincolante, correndo altresì il rischio di avere a che fare con un diritto statico, immoto, col risultato che un programma teoricamente sviluppato al fine di garantire una giustizia migliore in realtà sarebbe causa di gravi iniquità ed errori.
La considerazione di ogni singolo caso meramente come “copia conforme” di un precedente giudiziario analogo, in virtù delle similarità che le controversie presentano, sicuramente abbrevierebbe i tempi della giustizia ma, dall’altra parte, potrebbe verosimilmente condurre a risultati scorretti, qualora non si effettuasse uno scrupoloso esame di ciascuna questione, vista la pletora di variabili di ogni natura presenti in ciascun caso. Tale problematica si prospetterebbe in particolar modo per ciò che concerne le controversie intrise di soggettivismo, quali, ad esempio, quelle relative all’ambito del diritto penale.
È proprio per evitare di andare incontro a simili insidie che, ancora una volta, risulta evidente come non sia ammissibile che una macchina lavori in autonomia quale “giudice-robot” piuttosto che come semplice strumento d’ausilio per il giudice umano. Soltanto il controllo e l’intervento dell’uomo possono evitare che si giunga a risultati iniqui o comunque scorretti, adoperando il responso dell’algoritmo come una valida indicazione piuttosto che come un dogma indiscutibile e inattaccabile.
7. Conclusioni
Un’ulteriore prospettiva interpretativa riguarda la possibilità di concepire l’impiego degli algoritmi nel processo decisionale non in termini di sostituzione della funzione giurisdizionale, bensì come forma di “giurisdizione aumentata”. In tale prospettiva, i sistemi di intelligenza artificiale non sono destinati a rimpiazzare il giudice umano, ma a potenziare le sue capacità cognitive, offrendo strumenti di analisi dei dati, di individuazione di pattern decisionali e di supporto nella ricostruzione del quadro fattuale e giuridico.
Tale impostazione consente di superare la contrapposizione tra decisione umana e decisione algoritmica, collocando la tecnologia all’interno di una logica di complementarità funzionale. L’algoritmo, infatti, può contribuire a migliorare la coerenza e la prevedibilità delle decisioni, senza tuttavia sostituire l’attività di qualificazione normativa e di bilanciamento dei valori che costituisce il nucleo essenziale della funzione giurisdizionale. In tal senso, la giustizia predittiva potrebbe essere interpretata non come una minaccia alla decisione giudiziaria, ma come uno strumento capace di rafforzarne la razionalità, a condizione che resti fermo il primato della valutazione argomentativa e della responsabilità istituzionale del giudice.
Allo stato dell’arte, è dunque utile accompagnare l’esito algoritmico con una sorta di foglio delle avvertenze con cui l’organo giudicante umano sia reso edotto dei limiti dell’elaborazione predittiva in maniera tale che possa svolgere una funzione, per quanto limitata, di controllo sul processo e non giunga a ricomoscere nell’algoritmo un’autorità che non può e non deve connotarlo.
L’esigenza di affiancare l’output algoritmico con avvertenze interpretative evidenzia, in realtà, un problema ben più profondo, che riguarda la natura stessa della decisione giuridica nell’epoca della computazione.
L’algoritmo predittivo non può infatti essere concepito come fonte autonoma di decisione, bensì come strumento di supporto cognitivo. La decisione giudiziaria non si esaurisce in una previsione probabilistica dell’esito, ma implica un’attività di qualificazione normativa, bilanciamento dei valori e assunzione di responsabilità istituzionale che non può essere ridotta a un procedimento computazionale.
Il rischio più significativo della giustizia algoritmica non consiste tanto nella sua eventuale imprecisione tecnica, quanto nella possibilità che, al risultato computazionale, venga attribuita un’autorità epistemica superiore a quella dell’argomentazione giuridica. In tal caso, la prevedibilità potrebbe trasformarsi in vincolo e la probabilità in parametro normativo, con un effetto di irrigidimento del sistema incompatibile con la sua funzione evolutiva.
L’algoritmo può costituire uno strumento di supporto cognitivo, ma non può sostituire la funzione giurisdizionale. Il controllo umano sul sistema non rappresenta soltanto una garanzia procedurale, ma un presidio essenziale della legittimazione della decisione (giurisdizione) nello Stato costituzionale.
Proprio per questo, la vigilanza del giudice sull’utilizzo dello strumento algoritmico non può essere intesa come mera formalità, ma come condizione necessaria affinché l’ausilio tecnologico resti compatibile con i principi di indipendenza e imparzialità della funzione giurisdizionale.
Senza dimenticare, infine, che la vigilanza da parte del giudice sull’operato della macchina e sulle decisioni da questa prospettate, appare necessaria anche al fine di garantire il principio di indipendenza e di imparzialità del giudice, pietre angolari di una buona giustizia ineludibilmente codificate nei sistemi costituzionali.
La giustizia predittiva, d’altronde, non deve essere demonizzata e interpretata come una minaccia in sé, ma come una trasformazione che impone una riflessione sulla natura della decisione giuridica. Il problema non è l’uso dell’algoritmo, bensì il modo in cui esso viene integrato nel processo decisionale. In altri termini, l’algoritmo non pone soltanto un problema di accuratezza decisionale, ma solleva una questione di legittimazione epistemica della decisione giudiziaria nello Stato costituzionale.
Se concepito come strumento di supporto, esso può contribuire all’efficienza del sistema; se invece viene percepito come fonte autonoma di razionalità, rischia di alterare l’equilibrio tra prevedibilità, responsabilità e giustificazione della decisione.
In tale prospettiva, il vero nodo della giustizia algoritmica non è tecnico, ma istituzionale: riguarda la capacità del diritto di mantenere la propria funzione di mediazione tra norma e realtà anche nell’era della computazione digitale.
[1] LEIBNIZ Gottfried Wilhem, Dissertatio de Arte combinatoria, Lipsia, 1666.
[2] LOEVINGER Lee, Jurimetrics – The Next Step Forward, in Minnesota Law Review (ISSN 0026-5535), 455, 1949.
[3] IRTI Natalino, Un diritto incalcolabile, Giappichelli, Torino, 2016.
[4] IRTI Natalino, Opera citata.
[5] Cfr. processo “Wisconsin S.C., State v. Loomis, Case no. 2015AP157-CR, 13 July 2016″.
[6] Nello specifico: 1) messa in pericolo della sicurezza, 2) tentativo di fuga od elusione di un ufficiale del traffico, 3) guida di un veicolo senza consenso del proprietario, 4) possesso di arma da fuoco da parte di un pregiudicato, 5) possesso di fucile a canna corta o pistola.
[7] LARSON Jeff – ANGWIN Julia, Technical Response to Northpointe, in ProPublica – Investigative Journalism in the Public Interest, New York, 29 luglio 2016. In particolare, l’organizzazione non governativa ProPublica ha condotto uno studio sui punteggi di rischio assegnati a più di 7.000 persone arrestate nella contea di Broward, in Florida tra il 2013 e il 2014 con lo scopo di comprendere quanti di loro fossero stati accusati di nuovi reati nei successivi due anni. Orbene, dall’analisi dei dati è risultato che solo il 20% delle persone per cui era stato predetto avrebbero commesso nuovamente dei reati, poi li ha commessi effettivamente. Ampliando, altresì, lo studio anche a violazioni meno rilevanti della legge (quale la guida con patente scaduta), il 61% è stato tratto in arresto nei successivi due anni. Più o meno in probabilità similare al lancio di una moneta, hanno fatto notare gli autori. In definitiva, lo studio ha evidenziato come i sistemi di risk assessments, sempre più presenti nelle aule dei Tribunali statunitensi, tendano a perpetrare delle discriminazioni già presenti nella società statunitense. Infatti, le percentuali di rischio sono grandi il doppio per le persone di colore in confronto con quelle di pelle bianca. Ulteriore dato, non di secondo rilievo, è che l’algoritmo di COMPAS è stato prodotto da una società con scopo di lucro. In replica alle osservazioni di ProPublica, è stato prodotto uno studio in cui si sosteneva che lo studio della organizzazione non governativa fosse basato su statistiche e analisi di dati carenti e pertanto errasse nel dimostrare che il software COMPAS, così come gli altri strumenti di actuarial risk assessment instruments (ARAIs), fosse fondato su pregiudizi nei confronti di determinati gruppi sociali. In sintesi, quest’ultimo studio replica affermando che “ARAIs predict outcomes more strongly and accurately than professional judgment alone”. La posta in gioco sembrerebbe, in realtà, essere più elevata, per la pretesa di conseguire risultati, nel fare giustizia, che siano attuati in modo “scientifico”. Il tutto è sufficiente per rilevare che l’utilizzo di tali strumenti digitali si accompagni a talune criticità, come la natura privata dell’algoritmo o il rischio di riproposizione di bias del tutto umani nel ragionamento algoritmico.
[8] ZITO Luigi, Intelligenza artificiale, bias cognitivi e discriminazione. Premesse e prospettive sull’Intelligenza Artificiale (IA) alla luce delle criticità del sistema degli algoritmi e dei relativi rimedi tecnici e giuridici, Altalex – Quotidiano di informazione giuridica (ISSN: 1720-7886), 2024.
[9] CALCATERRA Alessandra, Machinae autonome e decisione robotica, in Carleo A. (a cura di), Decisione robotica, Il Mulino, Bologna, 2019.
[10] DOMINGOS Pedro, L’algoritmo definitivo: la macchina che impara da sola e il futuro del nostro mondo, Bollati Boringhieri, Torino, 2016. Lo studioso rende l’idea della riduzione nel modo che segue: “quando sistemate i libri sullo scaffale in modo che i titoli relativi ad argomenti simili siano vicini, state effettuando una forma di riduzione di dimensionalità dalla vastità dello spazio degli argomenti all’unica dimensione delloscaffale. Inevitabilmente, alcuni libri strettamente correlati finiranno a grande distanza uno dall’altro, ma potete sempre ordinarli in modo tale da minimizzare eventualità del genere. È ciò che fanno gli algoritmi di riduzione della dimensionalità”.
Bibliografia essenziale
CALCATERRA Alessandra, Machinae autonome e decisione robotica, in Carleo A. (a cura di), Decisione robotica, Il Mulino, Bologna, 2019.
DOMINGOS Pedro, L’algoritmo definitivo: la macchina che impara da sola e il futuro del nostro mondo, Bollati Boringhieri, Torino, 2016.
IRTI Natalino, Un diritto incalcolabile, Giappichelli, Torino, 2016.
LARSON Jeff – ANGWIN Julia, Technical Response to Northpointe, in ProPublica – Investigative Journalism in the Public Interest, New York, 29 luglio 2016
LEIBNIZ Gottfried Wilhem, Dissertatio de Arte combinatoria, Lipsia, 1666.
LOEVINGER Lee, Jurimetrics – The Next Step Forward, in Minnesota Law Review (ISSN 0026-5535), 455, 1949.
ZITO Luigi, Intelligenza artificiale, bias cognitivi e discriminazione. Premesse e prospettive sull’Intelligenza Artificiale (IA) alla luce delle criticità del sistema degli algoritmi e dei relativi rimedi tecnici e giuridici, Altalex – Quotidiano di informazione giuridica (ISSN 1720-7886), 2024.
This article was originally published in February 2025 and updated in March 2026.
