Prohibited AI: quali sono i rischi per le donne?
Quando si parla di intelligenza artificiale le reazioni sono fondamentalmente 2: stupore e paura.
Ma l’AI è davvero così pericolosa? Quali sono i rischi che potrebbe comportare per il ruolo sociale e/o politico-economico dell’essere umano, in particolare delle donne?
Ne ha parlato Nicoletta Iacobacci (autrice, PhD, Global Technology & Ethics Advisor, docente alla Webster University di Ginevra e alla Jinan University di Guangzhou) a La Svolta.
Cosa sono le Prohibited AI e perché non dovremmo chiamarle in questo modo?
Le intelligenze artificiali sono da ritenersi proibite, in Unione Europea, qualora facciano uso di pratiche come la profilazione per fini coercitivi o di social scoring, oppure utilizzino tecniche subliminali per provocare danni fisici o psicologici. Lo scopo dell’Ue è quello di garantire che i sistemi delle AI ammesse o inserite nel mercato europeo siano sicuri e rispettino normative sancite dalla comunità a tutela di cittadini, politiche ed economie.
Le tecnologie proibite, secondo l’AI Act, sono quelle le cui applicazioni risultino illegali per le normative vigenti e/o non etiche. Alcuni degli esempi più comunemente riscontrabili nel quotidiano sono le fake news a scopo propagandistico o politico, i cyber attacchi, la violazione della privacy e i sistemi ricchi di bias e pregiudizi. La difficoltà principale risiede nel cercare di regolamentare la tecnologia una volta che questa è già stata immessa sul mercato.
Va inoltre prestata attenzione al fenomeno dell’attrazione verso il vietato. L’essere umano è curioso e un po’ ribelle per natura. Definire queste tecnologie come proibite, di fatto, aumenta l’attenzione nei loro confronti. Il termine scelto rischia di avvolgere queste tecnologie in un’aura di mistero che ne aumenta la fama suscitando, al contrario di ciò che ci si prefigge di ottenere, una spinta a volerle utilizzare.
Cos’è l’AI Act?
L’Unione Europea ha già compiuto diversi passi nel tentativo di salvaguardare l’essere umano dai pericoli dell’intelligenza artificiale, attraverso l’AI Act: ovvero il regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza artificiale e modifica alcuni atti legislativi dell’Unione. L’AI Act è un atto legislativo che punta ad applicare il principio della trasparenza e del rispetto dei diritti umani all’intero settore delle intelligenze artificiali, in accordo alla normativa vigente negli Stati membri e con il Regolamento Generale sulla Protezione dei Dati (GDPR). Le intelligenze artificiali sono state suddivise dall’Ue in 4 classi di rischio, calcolate proporzionalmente in base alle potenziali minacce alla salute, alla sicurezza o a diritti fondamentali delle persone come la presunzione di innocenza: unacceptable risk; high risk; limited risk e minimal or no risk.
È stata l’Unesco stessa a chiedere a tutte le nazioni un quadro normativo chiaro davanti ai vuoti legislativi ed etici.
Lo sforzo dell’Ue è encomiabile ed è fantastico che si sia presa coscienza delle argomentazioni trattate, ma il discorso non può limitarsi alle regole, è necessario passare anche attraverso l’educazione. Questi 2 elementi necessitano di viaggiare paralleli. Ciò che cerco di portare nelle scuole in cui insegno sono esempi pratici di come la tecnologia stia crescendo su tutti i livelli, in modo da creare un dibattito costruttivo che spinga all’informazione e all’azione le nuove generazioni.
È una corsa contro il tempo?
La questione non può basarsi solamente sull’inseguire un progresso tecnologico o sul regolamentare alcuni aspetti delle nuove tecnologie. Sarebbe necessario integrare un percorso educativo che viaggi parallelo alle nuove AI. Lo sforzo dei Governi dovrebbe essere rivolto a scuole, enti di formazione e cittadini, per garantire la crescita di un percorso umano quantomeno avvicinabile alle novità che ci troveremo a vivere, in modo da non doverle subire passivamente.
Ciò che cerco di trasmettere agli studenti è che per trovarsi pronti alle richieste del mercato del lavoro occorre sviluppare un’educazione orizzontale, non verticale. È importante che le ragazze e i ragazzi colgano informazioni divergenti in questo momento della loro vita, così da avere l’opportunità di riflettere su possibilità, pericoli e soluzioni relativi alle nuove tecnologie. Lo scopo è far sì che le nuove generazioni non siano impreparate davanti alle sfide che si troveranno ad affrontare. In questo senso ritengo fondamentale accrescere un senso civico e morale in grado di plasmare le nuove AI attraverso un approccio down-up.
Quali sono i principali rischi portati dalle AI?
Le innovazioni apportate dalle intelligenze artificiali potrebbero essere fattori in grado di migliorare moltissimo la vita dei cittadini: il problema sorge con il loro utilizzo non regolamentato in larga scala. I rischi principali sono ormai molteplici: dalla violazione della privacy alla discriminazione, dalla manipolazione mentale al rischio di danni fisici, psicologici o economici. Basta pensare al riconoscimento facciale, essenziale per risolvere indagini poliziesche, ma decisamente di dubbia morale se utilizzato per verificare l’efficienza di un contenuto pubblicitario.
Un fattore di rischio è dato dal fatto che queste tecnologie sono progettate per lo più dall’uomo, spesso caucasico, a sua immagine e misura. Questo fatto comporta che la maggior parte delle nuove tecnologie siano ricche di bias di genere e non solo. Nel mio libro, L’etica è donna (Edizioni mondo nuovo, 196 pagine, 18,00 euro) ho tentato di aprire un dialogo sui gender bias con FEM, intelligenza artificiale simile a Chat GPT3, un’interlocutore agender immaginario. Il risultato è stato una serie di luoghi comuni, osservazioni e risposte veramente denigranti per il genere femminile.
Altro esempio emblematico della pericolosità di bias nelle AI è rappresentato dal caso di razzismo insito in Google Vision Cloud. Esiste una branca dell’IA, la computer vision, in grado di etichettare automaticamente le immagini. Anni fa, durante una prova di questa tecnologia, la foto di un uomo Bipoc che impugnava un termoscanner è stata registrata come “Uomo con pistola”, mentre la stessa azione, compiuta da un uomo bianco, è stata catalogata come “Uomo con dispositivo elettronico”.
Il problema è che i dati inseriti in quasi tutte le nuove tecnologie sono già discriminanti.
So che potrei essere attaccata per questo, ma voglio precisare che le AI sono state create dagli uomini per gli uomini. Le assistenti personali, come Alexa o Siri, inizialmente erano tutte rigorosamente donne e, addirittura, rispondevano con accondiscendenza, se così si può dire, a quesiti altamente sessisti posti dagli utenti.
Il pregiudizio di genere è talmente diffuso nei sistemi di intelligenza artificiale che l’Unesco ha ampiamente discusso l’argomento nel rapporto del 2019 Arrossirei se potessi, che prende il titolo dalla risposta data dall’assistente vocale di Apple alla domanda: “Hey Siri, sei una p*****a?”. Il rischio di inserire dati contenenti bias di genere nelle nuove tecnologie risulta particolarmente pericoloso nel campo health-tech: nello studio pubblicato da AHA Journals, emerge come i bias di genere compromettano largamente le possibilità di sopravvivenza delle donne colpite da infarto del miocardio. Le sintomatologie femminili, infatti, differendo da quelle maschili, spesso non vengono riconosciute tempestivamente. Inserire dati simili in circuiti, applicazioni e software sanitari significherebbe mettere seriamente in pericolo la vita di molte.
Quali sono, invece, i pericoli per il ruolo sociale e politico-economico delle donne?
Le donne hanno sempre avuto poca possibilità di partecipare alla nascita delle tecnologie emergenti. Forse non è stato voluto, ma si è comunque arrivati a ciò. Se pensiamo al fatto che la maggior parte delle economie si regge sul ruolo riproduttivo delle donne, ne consegue che le possibili applicazioni delle AI rischiano di diventare, in poco tempo, problemi spaventosamente concreti.
Quali azioni crede potrebbero intraprendere le donne per tutelare i propri diritti in un futuro dove queste tecnologie saranno problemi reali?
Credo fortemente che ciò che occorra sia una doverosa riflessione sul ruolo politico e sociale che le donne potrebbero rivestire nel prossimo futuro. Ignorare questi fatti, scegliere di non informarsi e non combattere, significherebbe condannare le future generazioni a subire discriminazioni quotidiane su larga scala. La conoscenza, come spesso accade, risulta l’arma vincente per combattere qualunquismo, pressapochismo e rassegnazione con cui vengono affrontate quotidianamente certe tematiche. Ogni azione, per quanto piccola, per quanto singola, agisce in realtà sulla collettività, determinando il presente e sancendo il futuro.
Oggi le donne hanno una responsabilità civile e sociale nei confronti delle nuove generazioni. Realizzare di poter influire su economie e politiche è quanto mai doveroso per innescare un’azione riparatoria e preventiva. Scegliere, a esempio, campi di studi inerenti le materie Stem non è più un’opportunità, ma una vera e propria necessità sociale dettata dall’invasività delle nuove tecnologie.
In Cina, nel 2018, sono già stati fatti nascere 3 bambini con Dna modificato da CRISPR, editing genomico che permette di tagliare il Dna in un punto preciso. Questa innovazione potrebbe rivoluzionare diversi ambiti, ma utilizzarla su gameti ed embrioni è ancora prematuro: i cambiamenti possono passare alle generazioni successive e non ci sono ancora abbastanza informazioni sulle conseguenze a lungo termine della cosa.
La mancanza del talento e dell’etica femminile nella valutazione di nuove tecnologie, e delle rispettive regolamentazioni, rischia di creare un futuro distopico altamente tossico per le donne?
Proprio per questa serie di motivi si rende necessario intraprendere azioni concrete nelle scuole per sviluppare una coscienza individuale votata al sociale. Solo attraverso una presa di coscienza generalizzata sarà possibile ribaltare quelle sorti che sembrano già scritte per il genere femminile.
