Se pensiamo ai dati come strumenti di conoscenza neutra, dobbiamo fare i conti con una realtà ben diversa: il dato, per sua natura, è intrinsecamente umano. Questo è il punto di partenza di Quando i dati discriminano, libriccino illuminante di Donata Columbro che ci guida in un viaggio critico attraverso il mondo della datificazione e delle sue implicazioni sociali, alla ricerca della natura intrinseca del dato e di ciò che esprime.

Attraverso le parole di studiosi di diversa natura – filosofi, matematici, sociologi ed economisti, per citarne alcuni – Columbro offre una visione oggettiva della soggettività del dato, ponendoci davanti alla varietà di discriminanti che caratterizzano la raccolta, analisi e proposizione di un dataset. 

Dopo averlo letto non potrai più guardare un grafico con gli stessi occhi: ogni singolo dato – che sia numerico, visual o anche semplicemente un colore o una grandezza – ti parleranno in maniera diversa. Scopriamo insieme perché. 

Un racconto che smonta la neutralità dei dati

Nel primo capitolo, Columbro ci ricorda che i dati non sono mai neutri, ma situati. Infatti, se consideriamo “naturale” tutto ciò che non è stato inquinato dalla presenza umana, allora il nostro mondo appare perlopiù artificiale: ciò significa che per rendere il dato uno strumento neutro di conoscenza della realtà bisognerebbe togliere l’elemento umano. 

Una missione abbastanza improbabile, che fa emergere l’impossibilità di avere dei dati imparziali, visto che la loro stessa natura è risultato di un’indagine – e perciò sono già a monte costruiti socialmente; sono inoltre influenzati dal contesto in cui sono stati prodotti e dalle scelte fatte fino a quando si è deciso di analizzare un certo fenomeno. Come dice la scienziata Andrea Jones-Rooy, da soli “i dati non dicono niente […]. Sono […] utili solo in funzione della loro qualità e delle capacità della persona che li utilizza”. 

La studiosa Johanna Drucker propone persino di chiamarli “capta“, sottolineando come siano “catturati” con precisi obiettivi, “presi” con una specifica intenzione – di raccolta e poi di quantificazione e/o misurazione di un fenomeno. L’intenzionalità dunque supera l’oggettività del dato tanto promossa eppure inesistente: “Nessun dato preesiste alla sua parametrizzazione, i dati sono […] costruiti come un’interpretazione del mondo fenomenico, non insiti in esso”.

Columbro ci invita dunque a riflettere su un concetto fondamentale: la strada verso l’equità non passa dalla neutralità, ma dalla consapevolezza della nostra posizione nel mondo. Questo approccio ribalta l’idea tradizionale che mostrare i dati in modo minimalista significhi renderli oggettivi. Al contrario, Columbro evidenzia come anche emozioni e percezioni influenzino inevitabilmente la lettura dei dati.

Il gap nei dati e le sue conseguenze

Finora abbiamo parlato di dati… “dati”. Il problema si pone (anche) quando i dati sono assenti, o aggregati in maniera tale che sia impossibile sottocategorizzarli. 

Il secondo capitolo affronta proprio questo tema cruciale: cosa accade quando i dati mancano o sono strutturati in modo tale da nascondere le diversità? Columbro esplora le implicazioni delle lacune nelle statistiche socioeconomiche e di genere, mostrando come queste alimentino ingiustizie sistemiche. 

I rapporti di potere nelle società alimentano varie forme di oppressione, come nel caso delle statistiche socioeconomiche e di genere che mancano di disaggregazione dei dati fondamentali come la disabilità o la razializzazione, generando rappresentazioni errate e influenzando negativamente cultura e politiche. 

Al contempo, però, realizzare statistiche ad hoc verticalizzando alcune categorie rischia di portare a diseguaglianze altrettanto catastrofiche per la società: per questo sono nate associazioni e gruppi che si occupano di tenere conto dell’intersezionalità delle discriminazioni e dell’ingiustizia sociale dietro ai dati, soprattutto per i settori più colpiti – il genere, l’etnia, la disabilità.

Per questo motivo, Columbro sottolinea come anche eliminare un’anomalia è una scelta: provare a neutralizzare i dati rischia di rimuovere ciò che sembra strano, escludendo la diversità.

In questo contesto l’autrice inserisce anche il rischio dell’allenamento delle AI su dataset “puri“, che portano a stereotipi culturali e sociali, pregiudizi politici e discriminazioni considerevoli. In alcuni casi, l’allenamento di certi modelli con immagini di violenze, stupri e termini dispregiativi ha portato a risultati stereotipati e offensivi: anche in questo caso la selezione a monte incide su tutto il fenomeno.

Un mondo plasmato da domande sbagliate

Nel terzo e ultimo capitolo, Columbro pone un quesito provocatorio: quali preconcetti guidano la raccolta dei dati? Infatti, il dato nasce sempre da una domanda specifica, che influisce sulla metodologia e sui risultati ottenuti. Ne deriva che quando la domanda è “sbagliata” o guidata da bias, le conseguenze possono essere disastrose non solo per la qualità dei dati raccolti, ma anche per le vite umane che dipendono da essi. 

È qui che emerge l’urgenza di una riflessione etica profonda sulla datificazione, della quale Columbro è perfetta pioniera in Italia, e che tutti noi dobbiamo portare avanti nel quotidiano. Anche quando interroghiamo noi l’intelligenza artificiale, allegando documenti e ponendo quesiti, abbiamo la responsabilità della selezione che operiamo e delle categorie che includiamo nella nostra analisi.

Non ti resta che approfondire l’importanza di questi concetti direttamente nel testo. 

Perché leggere questo libro

Lo avrai intuito ormai. Quando i dati discriminano è più di un libro: è una guida per comprendere il potere (e i limiti) dei dati nel nostro mondo iperconnesso. Con uno stile accessibile e diretto, Donata Columbro è riuscita a rendere temi complessi alla portata di tutti, senza mai rinunciare alla profondità dell’analisi e alla citazione minuziosa delle fonti. 

È un testo ideale per chi lavora nel marketing o nella comunicazione e vuole imparare a utilizzare i dati in modo consapevole ed etico, ma anche per tutti coloro che vogliono comprendere meglio come viene rappresentato il mondo da coloro che ne analizzano le sfaccettature. Insomma, per vedere ogni dato da un’altra prospettiva. 

Donata Columbro ci insegna che dietro ogni dato c’è una storia e dietro ogni storia c’è una responsabilità. Questo libro ti invita a guardare oltre le apparenze dei grafici e delle statistiche per scoprire il ruolo umano nella costruzione della conoscenza. Una lettura imprescindibile per fare del dato uno strumento di cambiamento positivo e inclusivo.