L’intelligenza artificiale minaccia l’immigrazione?

L’11 maggio il Parlamento europeo ha dato il primo via libera all’AI Act, una proposta legislativa perregolamentare l’intelligenza artificialelimitando gli effetti negativi che questa può avere sulla vita delle persone. Rispetto alla legge in questione, i Governi europeihanno propostodiconsentire l’uso del riconoscimento facciale retrospettivonei confronti del pubblico da parte delle autorità e di aziende private, ma alcune associazioni per i diritti umani temono che questo possa avere ricadute discriminatorie e danneggiare i migranti. Il riconoscimento facciale retrospettivo, a differenza di quello in tempo reale, permette all’intelligenza artificiale di ricercare immagini all’interno di un database solo dopo aver acquisito un certo dato biometrico. Le immagini in questione vengono raccolte e tenute in memoria nel tempo, possono essere catturate a distanza e nel contesto di luoghi piuttosto affollati. Anche per questi motivi, l’AI è sempre più presente nelle procedure di sorveglianza tecnologica sull’immigrazione ai confini dell’Europa. Alle frontiere il riconoscimento biometricoviene usatoper identificare le persone, individuare movimenti sospetti e anticipare la selezione all’ingresso nei confini europei dei migranti, valutando quali possono ricevere protezione e chi, al contrario, reinserire nei Paesi di transito. Gli algoritmi di intelligenza artificiale vengono poi utilizzati per identificare persone sconosciute sulla base di profili di rischio specifici basati su dati raccolti a livello internazionale. Allo scopo di migliorare le attività di controllo alle frontiere, l’Ue finanzia anche progetti e iniziative che sperimentano sistemi di rilevamento delle emozioni. Frontexsta utilizzandosistemi di intelligenza artificiale per identificare e registrare i migranti nei Paesi dei Balcani occidentali, ma per Agnès Callamard, segretaria generale diAmnesty International, l’uso dell’AI ha effetti negativi sulle persone che lasciano il proprio Paese d’origine. Inuna letteraai principali gruppi di lavoro dell’Unione europea impegnati sull’AI Act, Callamard ha quindi chiesto divietare l’uso di sistemi di intelligenza artificiale incompatibili con i diritti umani di migranti, rifugiati e richiedenti asilo. La richiesta è di vietare i sistemi automatizzati di valutazione del rischio e di profilazione utilizzati per determinare se le persone che cercano di oltrepassare i confini costituiscono una minaccia per la sicurezza. Questi, così come i sistemi analitici predittivi usati per bloccare, limitare e prevenire le migrazioni, sarebbero responsabili di alimentare la discriminazione e in contrasto con il diritto alla privacy e alla libertà delle persone. PerAmnesty Internationalanche il riconoscimento facciale retrospettivo e quello in tempo reale sono un problema, perché facilitano la sorveglianza di massa discriminatoria e minacciano il principio di non respingimento dei migranti.Secondo l’associazione European Digital Rights, la normativa che il Parlamento voterà deve inoltre evitare di perpetuare il razzismo strutturale a danno dei migranti sui confini europei. Dal 2018 la Commissione Ue si interroga su come coniugare intelligenza artificiale e standard etici, tuttavia attraverso le tecnologie di riconoscimento biometrico la razza, l’etnia e il colore della pellesono spesso usatidalle autorità europee come strumento di individuazione per lo stato di immigrazione.In questo modo le persone di colore risultano esposte a forme di sorveglianza e profilazione più discriminatorie. Ma con un utilizzo sconsiderato dell’AI, queste pratiche rischiano di essere ancora più dannose. IlBorder Violence Monitoring Networkdenunciache si stanno già verificando casi in cui le tecnologie di intelligenza artificiale sono utilizzate per operare respingimenti forzati di migranti alle frontiere. Intanto, la disposizionepresentataa dicembre 2022 dal Consiglio europeo stabilisce di vietare l’uso di sistemi di intelligenza artificiale che sfruttano le vulnerabilità di un gruppo specifico di persone, in particolare di coloro che si trovano in difficoltà a causa della loro situazione sociale o economica.