Dopo Linux che ha annunciato di voler rivoluzionare il lessico del proprio linguaggio di programmazione, è la volta di Facebook che controllerà se ed in quale maniera i propri algoritmi possano avere una base di natura razzista.
La notizia arriva dalla Technology Review edita dal MIT di Boston, che riprende un precedente articolo dell’edizione americana del The Wall Street Journal: per i propri social media – Facebook ed Instagram – l’azienda sarebbe nella fase di formazione di nuovi team di professionisti interni specializzati nella ricerca “della distorsione razziale degli algoritmi” che guidano i social, “affrontando gli effetti negativi” derivanti dall’apprendimento automatico “che può incorporare implicitamente affermazioni razziste su neri, ispanici e minoranze”.
Le conseguenze dell’AI sui social
La rivista esplicita come i ricercatori in numero crescente evidenzino criticità nella “distorsione dell’AI” con un impatto sulle minoranze. Dal testo: “Esistono già prove che gli algoritmi di pubblicazione degli annunci di Facebook discriminano per razza e consentono agli inserzionisti di stoppare la visione di determinati annunci aspecifici gruppi razziali”.
La sfida di Facebook
Dalle parole di Stephanie Otway, portavoce di Instagram: “Continueremo a lavorare a stretto contatto con il team AI Responsible di Facebook per assicurarci di guardare a potenziali pregiudizi sulle nostre rispettive piattaforme”. Ed ha concluso: “Sono i primi giorni e contiamo di condividere maggiori dettagli su questo lavoro nei prossimi mesi”
Ma la rivista mette in guardia come la risoluzione del problema sia ben lungi dall’essere raggiunta: secondo i redattori dell’articolo infatti la revisione dovrebbe riguardare anche l’opposizione a piattaforme che si prestano a finestra per i discorsi di “politici razzisti, gruppi suprematisti bianchi e negazionisti dell’Olocausto”.
Foto di Greg Bulla; fonte foto unsplash.com
LEGGI ANCHE:
Linux e discriminazione razziale: rivoluzione nel linguaggio di programmazione
Boicottaggio dei social: cos’è la campagna Stop Hate for Profit
Giustizia razziale e proteste: la risposta di quattro big dell’high tech
