Igualdad alerta de los riesgos de la inteligencia artificial para la lucha contra el racismo

Las Cortes Generales están tramitando una proposición de ley integral para la igualdad de trato y la no discriminación. Pero el Ministerio de Igualdad está preparando también una ley dirigida a luchar contra un discriminación concreta: la que se produce por motivos raciales.

La directora general de Igualdad de Trato y Diversidad Étnico Racial, Rita Bosaho, destacó hace unas semanas que “es necesaria una ley” que reconozca y combata “el racismo estructural presente en la sociedad española”.

Confidencial Digital ha consultado el documento que el ministerio que dirige Irene Montero tiene disponible en la actual fase de consulta pública previa sobre el proyecto de Ley Orgánica contra el racismo, la discriminación racial y formas conexas de intolerancia.

En esta fase, cualquiera puede remitir ideas y propuestas para la elaboración de esta ley. El documento de la consulta pública previa explica los objetivos que se ha propuesto el ministerio alcanzar con esta ley.

Es un documento más extenso de lo habitual en estos casos. Cita numerosas normas europeas, así como declaraciones y decisiones internacionales (de la ONU, de la UE...) y estrategias nacionales que tienen por objeto la lucha contra el racismo.

Los riesgos de la inteligencia artificial

Uno de los puntos del documento trata de la “necesidad y oportunidad” de elaborar y aprobar esta ley. Ahí llama la atención que la Dirección General de Igualdad de Trato y Diversidad Étnico Racial, del Ministerio de Igualdad, destaca que es necesario “articular medidas más eficaces que las existentes en nuestro ordenamiento jurídico para evitar prácticas ilegales de perfil racial y para neutralizar los riesgos que un desarrollo inadecuado de la inteligencia artificial puede conllevar para la lucha contra el racismo”.

El documento sobre la próxima ley contra el racismo no da muchos datos sobre cómo pretende Igualdad neutralizar los riesgos que la inteligencia artificial pueden suponer.

Sólo cita al Comité para la Eliminación de la Discriminación Racial de Naciones Unidas, que en alguna ocasión ha advertido que “la utilización cada vez mayor de nuevas herramientas tecnológicas, incluida la inteligencia artificial, en ámbitos como la seguridad, el control de fronteras y el acceso a los servicios sociales, puede profundizar el racismo, la discriminación racial, la xenofobia y otras formas de exclusión”.

Identificaciones policiales y pasos fronterizos

Hace años fueron habituales las denuncias que colectivos de izquierdas y contra el racismo hicieron de las “identificaciones raciales”. Aseguraban que los agentes de distintos cuerpos policiales paraban y pedían la documentación en la calle o en el transporte público a los extranjeros, con mayor frecuencia que a los españoles, simplemente por el color de la piel, lo que consideraban como una muestra de racismo.

Sobre los riesgos de la inteligencia artificial en las fronteras, un grupo de ONG ya denunció hace unos meses que la “frontera inteligente” que el Ministerio del Interior está implantando en los pasos fronterizos de Ceuta y Melilla “supone un peligro de discriminación y criminalización y la convierte en un nuevo dispositivo racista dentro del Estado español”.

La novedad principal de esos cambios es la instalación de sistemas de reconocimiento facial en los pasos fronterizos. Según los expertos de esas ONG, estos sistemas suelen originar muchos fallos en “personas racializadas y menores de edad”.

Por tanto, la ley que prepara el Ministerio de Igualdad podría poner en cuestión tecnología que ya está usando otro ministerio, el de Interior. Supondría un nuevo choque entre los ministros de Podemos, por un lado, y Fernando Grande-Marlaska por el otro, como ya ha sucedido en ocasiones con asuntos de inmigración ilegal.

“Racismo estructural” en España

La ley orgánica contra el racismo presentará, como gran novedad, “el reconocimiento de que el racismo estructural está presente en la sociedad española”, y en consecuencia, “la correspondiente necesidad de políticas proactivas para combatirlo”.

Igualdad se ha marcado varios objetivos con esta norma:

-- “Establecer un marco legal adecuado para la prevención, atención a las víctimas, sanción y eliminación de todas las formas de discriminación racial y formas conexas de intolerancia y proteger a las víctimas del racismo y de la discriminación racial, intentando combinar el enfoque preventivo con el enfoque reparador, el cual tiene también un sentido formativo y de prevención general”.

-- “Mejorar la atención a las víctimas de la discriminación racial y de la intolerancia asociada”.

-- “Disponer de más datos y conocer por qué muchas víctimas del racismo, la discriminación racial y la intolerancia asociada que sufren no confían en las instituciones y no denuncian estos actos, así como revertir dicha situación y generar confianza en las instituciones”.

-- “Hacer más eficaz la actuación de los poderes públicos en la lucha contra el racismo, la discriminación racial y las formas conexas de intolerancia, mejorar la coordinación entre las diferentes Administraciones públicas y la colaboración entre las mismas, los agentes sociales, los medios de comunicación, y la sociedad civil organizada; todo ello para favorecer la corresponsabilidad social ante la discriminación racial y las formas asociadas de intolerancia”.

-- “Reconocer que el racismo estructural está presente en la sociedad española, y la necesidad de políticas proactivas para combatirlo, entre ellas, la necesidad de disponer de más datos para conocer sus causas y la posibilidad de activar medidas especiales o de acción positiva de carácter temporal para combatirlo y facilitar que las personas tengan acceso equitativo a derechos básicos como la vivienda, la educación, el empleo, la participación política o la salud”.

-- “Aclarar las definiciones de conceptos tales como racismo, intolerancia, islamofobia, antisemitismo, afrofobia, antigitanismo, o perfil racial”.