Giove, l’AI che prevede i reati

Predire dove e quando avverranno i prossimi reati. Quello che sembra uno scenario da film di fantascienza potrebbe essere realtà in un futuro prossimo, e non nella Washington del 2054 di Minority Report ma nel nostro Paese. IlDipartimento di pubblica sicurezza del ministero dell’Interno, infatti, sta lavorando aGiove, unsistema di “polizia predittiva”che, sfruttando un algoritmo basato sull’intelligenza artificiale, potrebbe aiutare gli investigatori a prevenire e reprimere i reati a più alto impatto sociale comefurti, rapine e molestie sessuali. Questo “sistema di elaborazione e analisi automatizzata per l’ausilio alle attività di polizia” saràdestinato a tutte le questure,dove sarà controllato e gestito da operatori della polizia di Stato comesupporto all’indagine preliminare. Non è escluso che la sua applicazione possa essere estesa anche ad altri reati: si parla già, infatti, di un suopossibile impego per combattere ilterrorismo. Gioveè stato progettato da una società privata per conto del Dipartimento di pubblica sicurezza con l’obiettivo di analizzare una mole enorme di dati e scovarne le correlazioni per individuare le serie criminali (i cosiddettipattern) che collegano reati commessi in luoghi e tempi diversi e, basandosi su questi elementi,predire i futuri reati. Per lo sviluppo dell’algoritmoè stata fondamentale l’esperienza diKeycrime, il software di polizia predittiva ideato nel 2008 dall’allora assistente capo della Questura di Milano Mario Venturi. L’idea alla base del programma, pensato soprattutto come strumento dicontrasto alle rapine nelle farmacie e negli esercizi commerciali,spiegano Ivan Cimmarusti e Bianca Lucia Mazzei suIl Sole 24 Ore“era basata su un metodo investigativo e analitico ispirato alla logica del detective che cerca dicapire come un fatto possa collegarsi a un altro:il presupposto di fondo è infatti che alla base di centinaia di furti o rapine non ci sono centinaia di criminali ma pochi soggetti che mettono in atto molti reati”. Questo approccio, rispetto a un’analisi statistica delle zone “calde” con più alta incidenza di reati, eviterebbe la ghettizzazione di queste aree e il rafforzamento dipregiudizi. Anche l’utilizzo dell’AI, però, potrebbe non essereneutrale e unbiased.Sono già numerosi, del resto, gli esempi che mostrano come l’intelligenza artificiale sia pregna di stereotipi e foriera di discriminazioni. Per questo, prima di essere operativo (potrebbe succedere già l’anno prossimo) dovrà essereredatto il “documento di valutazione dell’impatto”eGiovedovrà essere sottoposto allavalutazione del Garante della privacy.I nodi critici sono quelli legati alla tutela dellaprivacye della libertà personale, oltre all’individuazione di strategie che evitinopregiudiziediscriminazioni. Gli strumenti di polizia predittiva, infatti, sono già stati utilizzati in diverse parti del mondo per identificare possibili target criminali, ma il loro operato è finito più volte sotto accusa perché, anche in quest’ambito, le macchine sembravano riproporrestereotipi e alimentare discriminazioni. Di polizia predittiva ne ha discusso a lungo anche il Parlamento europeo, che a metà giugno dovrebbe approvare l’AI act(la prima legge al mondo dedicata all’intelligenza artificiale da parte di un regolatore così importante) che interverrà anche riguardo questa materia per evitare che l’AI applicata alle Forze dell’ordine si trasformi in un incubo distopico. A essere diverso, però, non sarà solo il modo in cui potrebbero venire individuati ireati, ma anche ilmodo di registrarli:perché possa funzionare, infatti, come tutti i sistemi di machine learning,Gioveha bisogno di essere“alimentato” con moltissime informazioni di qualità;per questo, anche le denunce dovranno cambiare. Secondo le linee guida già elaborate dalla polizia di Stato, spiega ancoraIl Sole 24 Ore, per i reati previsti daGiovesaranno disponibilidomandeper approfondire le dinamiche e individuare le analogie con altri crimini. Saranno inoltrecaricati “eventuali file di natura documentale o immagini e video riferibili all’eventodenunciato anche se non consentano l’identificazione dei soggetti coinvolti” e “tutte le informazioni su posizione geografica, frequenza temporale e tipo di reato”. Incrociando tutti i datiil software sarà in grado di individuare collegamentianche tra eventi apparentemente scollegati e indicare i pattern: questo dovrebbe permettere di individuare dove potrebbero avvenire i crimini futuri e, conseguentemente, dare indicazioni riguardo come distribuire le forze dell’ordine sul territorio al fine di prevenirli.