Quando i dati discriminano

Esiste il pregiudizio che i dati siano neutri e oggettivi.

Si tratta di una generale e comoda convinzione che le classi dominanti alimentano per poter determinare politiche che non vadano a ledere i loro vantaggi, giustificandole, appunto, mostrando i dati.

Ma i dati non sono neutrali, bensì situati.

Come ben spiega Donata Columbro nel suo Quando i dati discriminano edito da Il Margine, «I dati grezzi, cioè ancora non elaborati dagli esseri umani, puri, naturali, non esistono.». 

In altre parole: «Il dato non nasce tale, ma lo diventa se mi fermo a osservare qualcosa che voglio quantificare.».

E decidere si raccogliere un dato a scapito di un altro è già operare una discriminazione di cui si deve essere consapevoli.

A tal riguardo, già nel 2011, Johanna Drucker aveva proposto di sostituire la dizione dato con capta (ossia catturato), proprio per mettere in evidenza l’importanza, durante l’osservazione di un fenomeno, dell’operazione di raccolta delle informazioni e della situazione in cui esse vengono selezionate e interpretate.

Discriminare cosa quantificare di un fenomeno determina una discriminazione anche (e soprattutto) perché fa sì che di quel fenomeno si arrivi a conoscere solo la parte che si è, appunto, quantificata.

Tutto il resto diventa invisibile.

Inoltre, al giorno d’oggi, in cui le Intelligenze Artificiali vengono utilizzate anche per prendere decisioni di varia natura, deve essere chiaro che tali AI spesso sono state “istruite” utilizzando dati discriminanti.

E avverte Donata Columbro: «Se nei dataset abbiamo un gap che riguarda le minoranze e le comunità marginalizzate, le discriminazioni prodotte da questa assenza si amplificano quando gli algoritmi e le intelligenze artificiali [...] produrranno contenuti in formato testuale, oppure video e immagini.».

L’Autrice sottolinea come «la strada verso l’equità non passa dalla neutralità, ma dalla consapevolezza della posizione che occupiamo nel mondo» e invita chi raccoglie i dati a non marginalizzare ulteriormente - rendendoli invisibili - coloro che già sono vittime di marginalizzazione.

Un saggio, quello di Donata Columbro, di facile lettura anche per “i non addetti ai lavori”. 

Quando i dati discriminano è presente in Amazon.