Istituzioni Uk: l’impiego dell’AI porta a discriminazioni
L’uso dell’intelligenza artificiale è sempre più diffuso nei Paesi avanzati, con una netta accelerazione nel 2023, sia in ambito privato che in quello pubblico. La diffusione dell’AI non sta portando solo benefici economici, logistici e burocratici, ma anche diversi problemi che possono portare a discriminazioni e politiche errate.
Il Guardian ha indagato sull’impiego di questi nuovi sistemi informatici da parte delle istituzioni del Regno Unito, scoprendo errori discriminatori a danno dei cittadini e delle cittadine, specialmente quelli di altre nazionalità.
L’implementazione di algoritmi e software in grado di semplificare le procedure burocratiche va avanti da tanti anni negli uffici pubblici del Regno Unito, ma prima dell’avvento delle AI gli strumenti tecnologici erano semplici, trasparenti e meno complessi. Con l’arrivo delle nuove intelligenze artificiali è diventato sempre più difficile esaminare il reale funzionamento delle decisioni prodotte da quest’ultime. Secondo l’indagine del giornale britannico, 8 dipartimenti del Governo inglese e alcune forze dell’ordine fanno uso dell’AI con diversi risultati controversi e problematici.
Gli algoritmi hanno portato a varie discriminazioni, come l’annullamento dei benefici per alcune persone da parte del Department for Work and Pensions (Dwp), il riconoscimento facciale che commette più errori nel riconoscere i volti neri e una serie di valutazioni che hanno discriminato persone provenienti da Albania, Grecia, Romania e Bulgaria.
I limiti delle intelligenze artificiali, alimentati da database incompleti o che manifestano a priori discriminazioni nei dati raccolti, si sono palesati senza un adeguato controllo umano da parte delle autorità vigenti, spesso ignare del reale funzionamento degli algoritmi sottostanti.
«L’intelligenza artificiale ha un enorme potenziale per il benessere sociale. Per esempio, possiamo rendere le cose più efficienti. Ma non possiamo ignorare i gravi rischi. Senza un’azione urgente, potremmo ritrovarci come sonnambuli in una situazione in cui opachi sistemi automatizzati vengono regolarmente, forse illegalmente, utilizzati in modi da alterare la vita dei cittadini, e dove le persone non saranno in grado di chiedere risarcimento quando tali processi funzioneranno male» ha ammonito Shameem Ahmad, amministratore delegato dell’ente di beneficenza Public Law Project.
Una questione importante rimarcata anche da Marion Oswald, professoressa di diritto alla Northumbria University, ex membro del comitato consultivo del Governo sull’etica dei dati: «C’è una mancanza di coerenza e trasparenza nel modo in cui l’intelligenza artificiale viene utilizzata nel settore pubblico. Molti di questi strumenti influenzeranno parecchie persone nella loro vita quotidiana, a esempio coloro che richiedono benefici, ma i cittadini non capiscono perché vengono utilizzati e non hanno l’opportunità di metterli in discussione».
Domani e il 2 novembre si terrà proprio in Inghilterra, a Bletchley Park, un vertice internazionale dedicato alla sicurezza dell’intelligenza artificiale con la presenza del premier inglese Rishi Sunak e altri capi di Stato, che dovrebbero valutare i progressi e i rischi posti da questa tecnologia. Rischi che sono da tempo al centro di un grande dibattito promosso da diversi esponenti della Silicon Valley, preoccupati degli sviluppi in corso.
