di Federica Olivo
huffingtonpost.it, 30 gennaio 2023
Gli strumenti tecnologici di ultima generazione possono essere d’aiuto nel processo penale, ma se la macchina sostituisse l’uomo? L’avv Biligotti: “La macchina non è etica, si rischiano distorsioni giuridiche”. Padua (Tor Vergata): “Scongiurare il rischio di dipendenza dall’algoritmo”.
Negli Stati Uniti non è fantascienza, ma una storia vera: la pena inflitta a un imputato è stata determinata in base valutazione della sua pericolosità sociale fatta dall’intelligenza artificiale. Da una macchina. In Italia non succede, ma gli strumenti cosiddetti di AI sono già usati nelle indagini. E, nel futuro prossimo, potrebbero essere implementati. Sempre negli Stati Uniti, dal mese prossimo debutterà il primo avvocato robot al mondo. Si tratta di una sperimentazione - gli imputati saranno ricompensati per aver accettato - nel campo delle multe per eccesso di velocità. Nonostante sia solo un primo tentativo, gli avvocati hanno accolto la novità con molta perplessità.
Ma prima di addentrarci nel mondo dell’intelligenza artificiale applicata alle indagini e ai processi penali, torniamo al nostro uomo americano, il signor Loomis, che si è visto infliggere una pena, dal giudice, stabilita sulla base delle valutazioni fatte dall’intelligenza artificiale. La macchina, elaborando una serie di dati, aveva stabilito che ci fosse un’alta probabilità che l’imputato commettesse altri reati. A quel punto, il giudice si era adeguato e a nulla era valso il ricorso alla Corte Suprema del Winsconsin: “È vero, non sai come la macchina è giunta a quelle conclusioni, ma sai da dove è partita”, gli ha in sostanza risposto la Corte Suprema. E l’uomo si è dovuto arrendere. Non all’evidenza, ma alla macchina. Questo caso, molto discusso negli Stati Uniti, ci aiuta a capire le potenzialità, ma anche i limiti, dell’intelligenza artificiale applicata al processo penale. “Le potenzialità dell’intelligenza artificiale sono notevoli ma i rischi che pongono sono ancora più significativi e vanno disciplinati, perché non si può correre un singolo rischio nel processo penale: il processo penale è un’area a rischio zero”, spiega ad HuffPost Nicolò Biligotti, avvocato esperto della materia. “Alcuni sistemi di AI sono già presenti nel nostro Paese, altri sono già operativi all’estero. Altri ancora sono solo futuribili e forse nemmeno auspicabili”, continua l’avvocato.
Della prima categoria fanno parte i cosiddetti Remote biometric identification systems: “Sono applicativi di intelligenza artificiale che tramite reti neurali di deep learning dedite al confronto di immagini consentono l’identificazione di soggetti ripresi in video. Di un bambino scomparso, ad esempio, o dell’autore di un reato. Il caso recente più eclatante è quello del riconoscimento del giovane accusato di aver accoltellato una ragazza alla stazione Termini, identificato appunto con Sari Enterprise, un applicativo di intelligenza artificiale in grado di analizzare in pochi secondi un database di milioni di fotografie e restituire una probabilità di match con alcune identità”, spiega Biligotti. “In Italia - continua - questo strumento non è utilizzato in tempo reale a causa del parere negativo rilasciato dal Garante Privacy, ma potrebbe diventarlo in futuro, se dovesse essere licenziato l’AI Act proposto dalla Commissione europea”. Il riferimento è a una proposta dell’esecutivo comunitario che, pur classificando il riconoscimento facciale come strumento il cui rischio è intollerabile, pone una sola eccezione: dice, cioè, che questo sistema si può usare quando necessario nell’ambito di un procedimento penale, se il reato contestato è punibile con una pena che nel massimo supera i tre anni. “Se la normativa europea fosse approvata - precisa Biligotti - sarebbe auspicabile che le garanzie procedurali connesse all’utilizzo di tale strumento venissero inglobate nel codice di procedura penale”. C’è un problema, però, che ad oggi in Italia non si è mai posto, ma è dietro l’angolo: cosa succederebbe se dopo le indagini, nel processo, un avvocato contestasse l’uso del riconoscimento biometrico? “Si aprirebbe un mondo - spiega il legale - perché bisognerebbe dimostrare che si tratta di una prova scientifica, che rispetta i criteri di verificabilità, falsificabilità e generale accettazione del metodo scientifico, nonché conoscenza del suo tasso di errore. Con l’intelligenza artificiale abbiamo un problema ulteriore: conosciamo il risultato restituito dalla macchina, ma spesso non siamo in grado di sottoporre questo output ad un processo di ingegneria inversa, così da capire come si è formato. Trasferendo questo concetto sul piano del processo: abbiamo la prova, ma non è detto che riusciamo a capire come questa si è formata”.
Altri sistemi di intelligenza artificiale sono già usati nel processo negli Stati Uniti: parliamo dei risk assessment tools: quei sistemi in grado di stabilire quante possibilità ci sono che un autore di un reato lo compia ancora in futuro. Il problema è come questo processo avviene: “La macchina non è etica. E finora l’uomo è ben lontano dal poter immaginare di istruire l’AI ad agire secondo coscienza - spiega Biligotti - rischiamo, quindi, che l’intelligenza artificiale introduca nel processo penale profili di discriminazione molto significativi, poiché la macchina potrebbe tracciare fedelmente le distorsioni insite, a livello più o meno inconscio, nei giudizi umani, che non avrebbe remore a ripoporre, essendo stata addestrata ad agire sulla scorta di informazioni che incorporano distorsioni etiche ancor prima che giuridiche”. Un esempio? L’avvocato chiama in causa gli Stati Uniti: “Amazon ha sospeso l’utilizzo del proprio applicativo di identificazione biometrica, in uso ai corpi di polizia statunitensi, a seguito di studi da cui è emerso un basso tasso di precisione del sistema nel riconoscere i volti degli appartenenti alla comunità afro-americana, in particolar modo di sesso femminile: questo perchè la macchina era stata addestrata su un database etnicamente orientato e composto principalmente da uomini bianchi. Dobbiamo tenere a mente che la distribuzione della massa dati è un fattore determinante per buon funzionamento del meccanismo di apprendimento automatico della macchina, la quale performa ove vi è maggiore densità statistica e degrada progressivamente la sua capacità di analisi a fronte della scarsità di dati”. Lo stesso discorso si può fare per i sistemi che, partendo da una mappa di una città, individuano un quartiere ad alto rischio reati: “In Italia c’è stata solo qualche sperimentazione in questo senso - premette Biligotti - ma anche qui si rischiano notevoli distorsioni, poiché una iper-sorveglianza di determinate aree condurrebbe di per sé alla contestazione di un maggior numero di reati nell’area in analisi e il meccanismo potrebbe alimentare profezie autoavveranti, mentre la concentrazione delle Forze dell’Ordine in determinati luoghi potrebbe lasciarne non adeguatamente sorvegliati altri”. Certo, c’è sempre il filtro del giudice. Il problema, spiega l’esperto, è evitare che una superficiale comprensione del funzionamento dell’intelligenza artificiale porti a pensare che la macchina compia i nostri stessi processi cognitivi in modo più rapido ed efficiente: “Tutt’altro, la macchina opera all’interno del dominio ristretto di dati in cui è confinata, escludendo qualsiasi logica di causa-effetto o qualsiasi variabile esterna la cui computazione esula dalla possibilità artificiali. È necessario che l’essere umano deputato alla ponderazione del risultato restituito dalla macchina non si avvicini a questo con una venerazione fideistica, bensì che diffidi e ponga in discussione la soluzione indicata dalla macchina”.
C’è, infine, un ultimo genere di strumenti, chiamato automatic decision system. Simili a quello descritto nel caso Loomis, se portati allo stremo potrebbero arrivare a determinare se è più probabile che un uomo sia colpevole o no. Una macchina che possa arrivare a ciò non è mai stata sperimentata nel mondo, ma è astrattamente realizzabile. Con tutto ciò che ne consegue. “Non solo tali sistemi non sono realtà, ma credo non siano nemmeno futuribili. Le ragioni sono molteplici. Questi sistemi si porrebbero in contrasto con la stessa essenza di giusto ed equo processo tutelata, tra gli altri, dall’art. 111 della Costituzione italiana e dall’articolo 6 della Cedu. Data la naturale opacità della macchina, l’imputato verrebbe condannato senza potersi confrontare in regime di contraddittorio con gli elementi addotti a suo carico, i quali peraltro, stanti i limiti cognitivi della macchina, non potrebbero essere sintetizzati in una congrua motivazione che ripercorra i singoli passaggi logici che hanno condotto alla sentenza di condanna. Personalmente, credo che il rischio sia già abbastanza significativo quando la macchina viene usata come semplice ausilio alla decisione del giudice”, spiega ancora l’avvocato. La questione, insomma, è molto delicata. E il confine tra ciò che è un aiuto alle indagini e ciò che, invece, è un rischio per i diritti di chi è sotto processo è ben tracciato. Almeno per ora.
Ma è possibile introdurre nel nostro ordinamento sistemi altamente sofisticati di intelligenza artificiale senza distorcere il sistema delle garanzie per chi è imputato o indagato? Lo abbiamo chiesto a Giorgia Padua, dottore di ricerca in diritto pubblico all’Università di Roma Tor Vergata: “Il nostro sistema processualpenalistico non è impermeabile alle nuove tecnologie. L’impatto con l’intelligenza artificiale si presenta, però, inedito e lascia intravedere un cambio di paradigma che appare radicale e del tutto incompatibile con la struttura fortemente antropocentrica del processo penale”.
Per l’esperta occorre distinguere “in base al contesto in cui vengono adoperati gli strumenti di intelligenza artificiale e alla finalità perseguita per mezzo del loro utilizzo. In chiave preventiva, cioè allo scopo di evitare in radice la commissione di futuri reati, la cornice normativa non è ostile all’utilizzo di software basati su un approccio statistico-probabilistico che siano in grado di potenziare le attività di polizia predittiva e favorire, così, un tempestivo e fruttuoso intervento delle forze dell’ordine”. Nelle indagini strumenti che in giuridichese si definirebbero “non tipizzati” sono accettati, “purché - spiega Padua -vengano rispettate le garanzie costituzionali e i risultati conoscitivi acquisiti servano ai fini dell’esercizio dell’azione penale”.
Il problema, come accennavamo in precedenza, si pone quando prove assunte con l’intelligenza artificiale finiscono nel processo penale: “Qui, infatti, - aggiunge la studiosa - entrano in gioco valori e principi indefettibili che riguardano non solo la tutela dei diritti individuali della persona ma anche al versante dell’accertamento, governato da invalicabili criteri di valutazione razionale delle prove e stringenti regole di giudizio. Non c’è spazio, allora, per elementi che si rivelino antitetici rispetto al modello di riferimento e che finiscano per compromettere canoni come il libero convincimento del giudice e il contraddittorio nella formazione della prova”.
L’utilizzo di risultati ottenuti con l’intelligenza artificiale in giudizio, prosegue Padua, “imprime una forte tensione ai canoni del giusto processo. Per un verso, sul piano dell’imparzialità e dell’indipendenza del giudice, c’è il rischio che l’attività decisionale si appiattisca sul risultato computazionale, producendo una vera e propria “dipendenza dall’algoritmo” (c.d. automation bias). Per altro verso, risulta messa a repentaglio anche la piena realizzazione del contraddittorio, inteso sia come partecipazione dialettica delle parti al processo, sia come contributo alla formazione della prova”. Infatti, continua, “a fronte di sistemi di elaborazione poco trasparenti e inaccessibili ai più, aumenta la distanza che esiste non solo tra accusa e difesa, ma anche tra le parti e la prova. Infine, c’è il pericolo che un approccio prettamente statistico svilisca il tratto individualizzante della valutazione giudiziale e della risposta punitiva”.
Ma allora, come si fa a scongiurare questo rischio? “Il primo e indispensabile passo da compiere - risponde Padua - è quello di considerare l’intelligenza artificiale come semplice veicolo di dati da valutare alla luce di un più completo quadro dimostrativo e il cui peso dimostrativo è rimesso al vaglio della ragione umana”. A tale scopo, secondo la studiosa, si possono adottare alcune “cautele metodologiche”. Tra queste, conclude, “ci sono quelle che riguardano il rafforzamento del libero convincimento del giudice come presidio contro l’autorevolezza dell’esito statistico, l’anticipazione del contraddittorio, l’irrobustimento dell’obbligo di motivazione” della decisione del giudice.
