Youssef M. Ouled: "La IA està actuant com a amplificador del racisme"

Un dia qualsevol, anant cap a la feina, la policia l'atura per a un "control rutinari" i li pregunta de forma insistent si porta armes a sobre. Li ha passat més d'un cop al periodista i investigador Youssef M. Ouled (Al-Hoceima, 1993), que acaba de publicar 'La frontera de l'atzar' (Jande Editorial). Al llibre, analitza com les pràctiques de perfilació racial impacten en la població no blanca, i també com s'estenen a les noves tecnologies a través de la intel·ligència artificial. En una entrevista amb l'ACN, coincidint amb la visita del Papa a Barcelona, Ouled cita l'última encíclica de Lleó XIV i sosté que "és impossible que la tecnologia sigui neutral" i que "actua com a amplificador i automatitzador d'aquest racisme que ja existeix".

A partir de l'experiència personal, però també de molts anys fent entrevistes i investigant, Youssef M. Ouled construeix un relat sobre el racisme i el colonialisme, tant a l'Estat espanyol com a la resta de països de la Unió Europea, i la "violència" que exerceixen sobre la població racialitzada. En aquest sentit, aborda què és la perfilació racial, com criminalitza les persones no blanques i com aquesta lògica també impregna la intel·ligència artificial. En paral·lel, també parla sobre el passat colonial del Rif o sobre les denúncies de vulneracions de drets als centres d'internaments d'estrangers (CIE).

En una entrevista amb l'ACN, Youssef Ouled rebat que "hi ha prou evidència" que els controls policials no són "tan aleatoris" i que "amb freqüència es donen amb les mateixes persones, que són precisament les que no són blanques". No només es basa en la seva pròpia experiència i la de persones que ha entrevistat, sinó d'organismes com el Defensor del Poble, l'Agència de Drets Humans de la Unió, la Comissió Europea contra el Racisme i la Intolerància (ECRI) o diversos relators de les Nacions Unides.

"El problema és que, tant des del Ministeri de l'Interior com de les diferents conselleries, es nega que existeixi, malgrat les denúncies gairebé diàries i quotidianes", assenyala el periodista, que afegeix en aquest sentit: "Diuen que no, que no tenim aquest problema. I què passa? Que no pots combatre allò que es nega. I llavors hi ha una perpetuació d'aquesta mena de pràctiques", lamenta Ouled, que denuncia com acaba tenint una afectació en drets fonamentals com la lliure circulació.

Segons l'investigador, "la policia d'alguna manera assenyala a la resta de la societat qui són les persones sospitoses o que han de ser més controlades". Això fa que, a nivell social, "es construeixi la inseguretat amb allò no blanc", i acaba amb altres pràctiques com el racisme immobiliari o laboral. "Quan parlem de racisme, la gent pensa en els Estats Units o qualsevol altre país, quan aquí tenim les mateixes expressions i manifestacions", sosté l'autor de 'La frontera de l'atzar'.

L'impacte de la IA

A més de periodista, Youssef M. Ouled és investigador i cofundador de l'organització AlgoRace, que analitza l'impacte de la intel·ligència artificial en les persones migrants i racialitzades, tenint en compte que es fa servir en els controls fronterers o en la "predicció de la criminalitat". Recorda que aquestes tecnologies són desenvolupades sobretot per homes blancs, que "transmeten molts dels seus biaixos" als productes que desenvolupen.

L'autor de 'La frontera de l'atzar' troba a faltar una "anàlisi crítica social i política" de la introducció de determinades tecnologies. En aquest sentit, explica: "Sent conscients que existeix la perfilació racial, i que hi ha una hipervigilància policial més gran, òbviament hi ha més dades policials d'aquestes persones. I molts d'aquests sistemes estan entrenats amb dades policials".

En aquest sentit, Ouled indica que els sistemes de "predicció del crim" acaben portant sempre als mateixos barris, on la policia "ja ha actuat de manera esbiaixada a l'hora de recollir aquestes dades". I rebla: "Les tecnologies estan actuant d'amplificadors d'aquest racisme".

"A veure si dient-ho el Papa fan més cas, que ha dit que la tecnologia no és neutral", ironitza el periodista i investigador, que conclou: "Hi ha una narrativa que la intel·ligència artificial és neutra, però no és així, ja des del seu assemblatge estan travessades per lògiques de poder, però també en la seva codificació i funcionament".

Racisme mediàtic

Com a periodista, Youssef M. Ouled també posa el focus en el "racisme mediàtic" i en la nul·la presència de persones no blanques a les redaccions i els espais d'opinió dels mitjans de comunicació, quan "som al voltant del 20% de la població de l'Estat espanyol". Lamenta que només se'ls truca "de manera puntual" i "estereotipada" per a parlar de racisme. "No existim per a parlar sobre l'atur o la visita del Papa", ironitza.

El llibre va escriure'l mentre es produïen els incidents racistes a Torre Pacheco (Múrcia), l'estiu passat. "Veia les tertúlies plenes de persones que no havien partit mai racisme parlant de les implicacions del racisme", recorda. "Jo m'imaginava una tertúlia sobre violència de gènere només amb homes", afegeix.