Quando i dati discriminano
Esiste il pregiudizio che i dati siano neutri e oggettivi.
Si tratta di una generale e comoda convinzione che le classi dominanti alimentano per poter determinare politiche che non vadano a ledere i loro vantaggi, giustificandole, appunto, mostrando i dati.
Ma i dati non sono neutrali, bensƬ situati.
Come ben spiega Donata Columbro nel suo Quando i dati discriminano edito da Il Margine, «I dati grezzi, cioĆØ ancora non elaborati dagli esseri umani, puri, naturali, non esistono.».
In altre parole: «Il dato non nasce tale, ma lo diventa se mi fermo a osservare qualcosa che voglio quantificare.».
E decidere si raccogliere un dato a scapito di un altro ĆØ giĆ operare una discriminazione di cui si deve essere consapevoli.
A tal riguardo, giĆ nel 2011, Johanna Drucker aveva proposto di sostituire la dizione dato con capta (ossia catturato), proprio per mettere in evidenza l’importanza, durante l’osservazione di un fenomeno, dell’operazione di raccolta delle informazioni e della situazione in cui esse vengono selezionate e interpretate.
Discriminare cosa quantificare di un fenomeno determina una discriminazione anche (e soprattutto) perchĆ© fa sƬ che di quel fenomeno si arrivi a conoscere solo la parte che si ĆØ, appunto, quantificata.
Tutto il resto diventa invisibile.
Inoltre, al giorno d’oggi, in cui le Intelligenze Artificiali vengono utilizzate anche per prendere decisioni di varia natura, deve essere chiaro che tali AI spesso sono state “istruite” utilizzando dati discriminanti.
E avverte Donata Columbro: «Se nei dataset abbiamo un gap che riguarda le minoranze e le comunitĆ marginalizzate, le discriminazioni prodotte da questa assenza si amplificano quando gli algoritmi e le intelligenze artificiali [...] produrranno contenuti in formato testuale, oppure video e immagini.».
L’Autrice sottolinea come «la strada verso l’equitĆ non passa dalla neutralitĆ , ma dalla consapevolezza della posizione che occupiamo nel mondo» e invita chi raccoglie i dati a non marginalizzare ulteriormente - rendendoli invisibili - coloro che giĆ sono vittime di marginalizzazione.
Un saggio, quello di Donata Columbro, di facile lettura anche per “i non addetti ai lavori”.
Quando i dati discriminano ĆØ presente in Amazon.
Commenti
Posta un commento