Istituzioni Uk: l’impiego dell’AI porta a discriminazioni

L’uso dell’intelligenza artificialeè sempre più diffuso nei Paesi avanzati, con una nettaaccelerazionenel 2023, sia in ambito privato che in quello pubblico. La diffusione dell’AInon sta portando solobenefici economici, logistici e burocratici,ma anche diversi problemi che possono portare adiscriminazionie politiche errate. IlGuardianha indagatosull’impiego di questi nuovi sistemi informatici da parte delle istituzioni delRegno Unito, scoprendoerrori discriminatoria danno dei cittadini e delle cittadine, specialmente quelli di altre nazionalità. L’implementazione di algoritmi e software in grado disemplificare le procedure burocraticheva avanti da tanti anni negli uffici pubblici del Regno Unito, ma prima dell’avvento delle AI gli strumenti tecnologici erano semplici, trasparenti e meno complessi. Con l’arrivo delle nuove intelligenze artificiali è diventato sempre più difficileesaminare il reale funzionamento delle decisioni prodotteda quest’ultime. Secondo l’indagine del giornale britannico,8 dipartimenti del Governo inglese e alcune forze dell’ordine fanno uso dell’AI con diversi risultati controversi e problematici. Gli algoritmi hanno portato a varie discriminazioni, come l’annullamento dei benefici per alcune persone da parte delDepartment for Work and Pensions(Dwp), il riconoscimento facciale che commette più errori nel riconoscere i volti neri e una serie di valutazioni che hanno discriminato persone provenienti da Albania, Grecia, Romania e Bulgaria. I limiti delle intelligenze artificiali, alimentati dadatabase incompleti o che manifestano a priori discriminazioninei dati raccolti, si sono palesatisenza un adeguato controllo umanoda parte delle autorità vigenti, spesso ignare del reale funzionamento degli algoritmi sottostanti. «L’intelligenza artificialeha un enorme potenziale per il benessere sociale. Per esempio, possiamo rendere le cose più efficienti. Ma non possiamo ignorare i gravi rischi. Senza un’azione urgente, potremmo ritrovarci come sonnambuli in una situazione in cui opachi sistemi automatizzati vengono regolarmente, forse illegalmente, utilizzati in modi da alterare la vita dei cittadini, e dove le persone non saranno in grado di chiedere risarcimento quando tali processi funzioneranno male» ha ammonitoShameem Ahmad, amministratore delegato dell’ente di beneficenzaPublic Law Project. Una questione importante rimarcata anche da Marion Oswald, professoressa di diritto allaNorthumbria University,ex membro del comitato consultivo del Governo sull’etica dei dati: «C’è unamancanza di coerenza e trasparenza nel modo in cui l’intelligenza artificiale viene utilizzata nel settore pubblico.Molti di questi strumenti influenzeranno parecchie persone nella loro vita quotidiana, a esempio coloro che richiedono benefici, mai cittadini non capiscono perché vengono utilizzati e non hanno l’opportunità di metterli in discussione». Domani e il 2 novembre si terrà proprio in Inghilterra, a Bletchley Park, unvertice internazionalededicato alla sicurezza dell’intelligenza artificiale con la presenza del premier inglese Rishi Sunak e altri capi di Stato, che dovrebbero valutare i progressi e i rischi posti da questa tecnologia. Rischi che sono da tempo al centro di ungrande dibattitopromosso da diversi esponenti della Silicon Valley, preoccupati degli sviluppi in corso.