Quando i dati discriminano

Basato sui dati. Data driven. Lo dicono i dati. Queste espressioni – e tantissime altre che, con parole diverse, replicano lo stesso concetto – hanno invaso lo spazio e il dibattito pubblico. Capire il perché non è difficile:i dati ci danno l’illusione dell’oggettività, di quell’imparzialità a cui, come essere umani, non possiamo aspirare. Basta pensare alla definizione di “data driven”, un termine che dal marketing all’economia, passando per il design e il management è ormai onnipresente (per rendersene conto è sufficiente una rapida ricerca su Google): “farsi guidare dai numeri, avere un approccio basato sui dati, per prendere decisioni informate, basate su fatti oggettivi e non su sensazioni personali”. Del resto,una pubblicità, un articolo, un proclama politico non (ci) suonano più efficaci- scientifici, addirittura -se presentano dei dati, qualunque essi siano? Eppure, ci ricorda Donata Columbro, giornalista e data humanizer, inQuando i dati discriminano. Bias e pregiudizi in grafici, statistiche e algoritmi(Il Margine, 128 p., 10€)anche questa è un’illusione. Non esiste, in natura, “il dato”, che viene semplicemente raccolto e messo a disposizione di tutti nella sua neutrale oggettività.Anche ciò che crediamo essere l’elemento più imparziale di tutti è un prodotto di scelte umanissimee spesso viene utilizzato per rispondere a domande sbagliate, mettendo a rischio le vite che da quei dati dipendono. Dato (divino) vs facto, emotività vs razionalità, partigianeria vs imparzialità: ci approcciamo al concetto di “dato” attraverso una serie di dicotomie per dimostrare (e dimostrarci) che possiamo sfuggire all’umana fallacia opponendole l’inappellabilità della scienza. Niente di più falso. E non solo perché, ci ricorda Columbro attraverso la storia del concetto di oggettività, questo è cambiato a seconda dei tempi e delle epoche, ma anche perché i “freddi numeri” non sono solo numeri:dietro a quei dati e grafici che sembrano la quintessenza della neutralità ci sono delle persone, per cui l’imparzialità è inarrivabile; “il minimalismo non protegge il lettore e la lettrice da eventuali opinioni della persona che ha elaborato i dati, né dalla soggettività del messaggio che vuole veicolare”. Il falso binarismo a cui ci appelliamo, scrive l’autrice, avvantaggia le èlite al potere, perché il suo effetto è “mantenere la scienza, la sapienza, come appannaggio delle persone «elette», di chi ha studiato, come se fosse una sorta di merito escludente”. E, ancora, “perché separare emozione e razionalità, come si vuole fare in tutti i casi in cui si porta «la scienza», «i dati», davanti ai propri interlocutori come scudo di verità, vuol dire sostenere che chi usa le statistiche, chi fa esperimenti in laboratorio, è libero da ogni interferenza emotiva. Impossibile, per un essere umano”. I dati non sono neutrali.Mai.Produrli può diventare(ed è diventato)uno strumento di potere e, conseguentemente, didiscriminazioneverso le comunità più deboli e marginalizzate. Questo è il punto attorno a cui ruota il libro e un aspetto che fatichiamo a ricordarci ma che, ci spiega Columbro, non possiamo e non dobbiamo ignorare. Non solo: i dati non discriminano solo quando esistono.Ci sono dati, anzi,che più degli altri segnano ingiustizie: sono i dati che non ci sono, semplicemente perché non vengono raccolti o perché non vengono registrati per il loro essere “eccezioni”, queer nel senso più stretto del termine.E quasi sempre sono quelli legati a genere, razza ed etnia, identità di genere, disabilità. Una delle pratiche più discriminatorie che ha avuto un impatto profondo nel plasmare le nostre società, a esempio, è stata l’esclusione delle persone sulla base del censimento, perché le loro caratteristiche non erano nemmeno ritenute un’opzione. Del resto, già Caroline Criado Perez nel suoInvisibili(che, non a caso, ha come sottotitolo “Come il nostro mondo ignora le donne in ogni campo. Dati alla mano”), ci aveva mostrato comela discriminazione delle donne fosse legata in gran parte a un vuoto dei dati di generea causa di una storica e consapevole ignoranza delle necessità e specificità dell’esperienza femminile. Citando D’Ignazio e Klein, autrici di Data feminism, Columbro ci ricorda che “le domande che dovremmo farci riguardano sempre l’esercizio del potere, quindi osservare chi viene beneficiato dalla raccolta dati e chi può esserne discriminato”. La mancanza di dati si traduce anche in quello che viene definito“gap algoritmico”, quando leintelligenze artificiali“allenate” su quei dataset producono contenuti ricchi di stereotipi, siano essi di genere, culturali o legati alla razzializzazione e alla disabilitazione. Ma, dal gerrymandering al redlining, Columbro ci mostracome i dati possono essere usati per creare mappature che costituiscono e alimentano disuguaglianze e discriminazioni, per tenere ai margini persone la cui “dataficazione” è spesso solo funzionale al loro controllo. Tutto quello che non è “normale” – e cosa significhi questo termine è stato in gran parte definito da chi era uomo, bianco, occidentale, eterosessuale, benestante – diventa altro, deviante dallo standard. E, per questo, discriminato. L’autrice ripercorre il processo di alterizzazione e di problematizzazione dell’a-normalità, mostrandoci come il concetto di normalità sia diventato veicolo di discriminazione. Allo stesso tempo, però, ci ricorda che quella “normalità”, basata sui campionamenti definiti WEIRD – Western, Educated, Industrialized, Rich and Democrats – può essere ripensata: entrando “in ogni singola statistica, in ogni numero, [scomponendo] i dati come hanno fatto i fisici con gli atomi”.