di Lorenzo d’Avack
Il Dubbio, 21 febbraio 2026
Stando a quanto riportato dal Times, il dicastero della giustizia britannico propone scenari di controllo sociale, grazie all’utilizzo dell’Intelligenza Artificiale (IA). Attraverso questo sistema si pretende un controllo sul futuro comportamento criminale delle persone, fin da bambini, con l’obiettivo di mettere in campo il prima possibile adeguate misure di sicurezza. Siamo a delle tecniche in grado di fornire strumenti nuovi e potenti per pratiche improprie di manipolazione, sfruttamento e controllo sociale. Tali pratiche di IA sono particolarmente dannose, abusive e dovrebbero essere vietate, poiché contrarie ai valori dell’Unione relativi al rispetto della dignità umana, della libertà, dell’uguaglianza, della democrazia e dello Stato di diritto.
La regola, ricavabile anche dal recente Regolamento (UE) 2024 del Parlamento Europeo e del Consiglio, è che l’intelligenza artificiale e i suoi sistemi siano sviluppati e utilizzati nel rispetto delle norme in materia di vita privata e di dignità della persona. Lo scenario che, di contro, ci viene descritto dal Times , che si richiama al racconto fantascientifico di Philip K.Dick, Rapporto di minoranza , rappresenta un mondo dove una unità per il crimine è incaricata d’individuare e sventare i delitti prima ancora che vengano commessi. Da quel che si legge sembra di poter ritenere in modo ottimistico che i dati del servizio sanitario, dei servizi sociali, della polizia, dei ministeri del lavoro e dell’educazione saranno usati con la finalità non tanto di criminalizzare le persone, ma di assicurarsi che gli allarmi siano meglio compresi e anticipati. Un utilizzo del sistema destinato a raccogliere dati su esseri umani vulnerabili con esperienze di affido, che soffrono di esclusione scolastica o di problemi mentali, oltre ai bambini, fino ai neonati.
Non ci dobbiamo meravigliare che del sistema ci venga mostrata dal Times la parte migliore e che i futuri criminali saranno oggetto di sostegno e prevenzione. Siamo, in realtà, di fronte a tecniche di manipolazione, basate sull’Intelligenza Artificiale, che possono essere utilizzate per persuadere le persone ad adottare comportamenti indesiderati o per indurre con l’inganno a prendere decisioni in modo da sovvertire e pregiudicarne l’autonomia, il processo decisionale e la libera scelta. L’uso di determinati sistemi di Intelligenza Artificiale hanno l’effetto di distorcere materialmente il comportamento umano, con il rischio di causare danni significativi, in particolare sulla salute fisica e psicologica e dovrebbero, pertanto, essere vietati. Tanto più che l’intelligenza artificiale nella sua applicazione implica, di sovente, “errori” e non è certamente casuale che fra i temi maggiormente discussi vi sia quello del “rischio” e della “responsabilità”.
Ma se il sistema dovesse funzionare per prevenire il crimine, non si vede perché in diversi Paesi, dove la democrazia sta diventando fantascienza, non possa essere un utile strumento per controllare e ghettizzare la società. La ricaduta nel politico della IA è già un rischio praticamente inevitabile. L’uso sociale fatto dalla Cina è un precedente pericoloso per chiunque nel mondo custodisca e abbia a cuore le libertà individuali. Il suo impiego come strumento di repressione e sorveglianza è in evidente contrasto su come debba essere usata l’IA secondo il Regolamento. Il suo futuro può essere democratico, ma noi abbiamo imparato abbastanza sul potere delle tecnologie nel rafforzare gli estremismi, in specie nei Paesi autocrati.
Come se ne esce? Il diritto è fondamentale dato che l’ambiente della tecnologia va protetto attraverso regole, esattamente come l’ambiente naturale. La tecnologia va incrementata e con essa l’IA, in quanto ha dei vantaggi enormi per tutti, ma si deve fare in modo che l’innovazione non si affermi sacrificando le battaglie fatte e ancora incompiute verso l’uguaglianza e la trasparenza. Il diritto ha già dovuto affrontare e combattere situazione di discriminazioni mascherate, messe in campo da istituzioni, società, poteri economici e ben sa la difficoltà di educare un algoritmo a perseguire l’uguaglianza, a rendersi conto che le condizioni di partenza non possono essere squilibrate e che vanno compensate per impedire che le classi più povere siano ancora più svantaggiate.
