Los algoritmos que definen nuestras vidas sin que nos demos cuenta

En un mundo cada vez más digitalizado, los algoritmos se han convertido en piezas clave que moldean nuestras decisiones y experiencias cotidianas. 

Desde las recomendaciones personalizadas en plataformas de streaming, redes sociales o resultados en una tirada de tragaperras online hasta la selección de candidatos para trabajos. Los algoritmos están en todas partes, influyendo en aspectos grandes y pequeños de nuestra vida. 

Aunque prometen simplificar y mejorar nuestras interacciones con la tecnología, su poder intrínseco y sus implicaciones éticas están en el centro del debate contemporáneo.

Plataformas de streaming

Los algoritmos ocupan un lugar central para los usuarios en el entretenimiento. Por ejemplo, estos modelos matemáticos definen el contenido que se muestra a una persona en una plataforma. Los servicios de streaming como Netflix, Amazon o Disney cuentan con distintos algoritmos para brindar sugerencias basándose en las preferencias del usuario. 

Son "un arma de doble filo", ya que si hay un descalabro en la configuración podría haber problemas como la exposición de contenido no apto a menores de edad. Otra consecuencia posible es que la plataforma oculte algunos materiales al público interesado.

Casinos online

Los algoritmos desempeñan un papel fundamental en la experiencia de las máquinas tragamonedas y de juegos de azar en general, influyendo en la forma en que se generan los resultados y en la emoción que los jugadores experimentan. 

Los juegos de casino usan un generador de números aleatorios (GNA), que produce una secuencia de números o símbolos que no puede ser predecida de manera razonable. Este es el núcleo del "azar" en la actualidad.

Implica que la secuencia de resultados en particular contendrá algunos patrones detectables a posteriori pero imposibles de predecir. Los GNA han sido una auténtica revolución en el mercado de casinos, porque han eliminado antiguas "trampas" como el conteo de cartas.

Los algoritmos más rigurosos del sector son los que operan las tragamonedas, ya que deben cumplir con regulaciones estrictas en muchas jurisdicciones para garantizar la equidad y la transparencia. Los porcentajes de retorno al jugador (RTP) son una de las formas en que se controla la justicia de los slots. 

El valor de RTP indica la cantidad promedio que se espera que los jugadores recuperen a lo largo del tiempo, y los algoritmos deben ajustarse para cumplir con estos estándares y proporcionar una experiencia de juego equitativa para todos.

Redes sociales

Escuchamos hablar frecuentemente de "el algoritmo de Instagram" o de TikTok. Esto se debe a que los modelos matemáticos desempeñan un papel central en el contenido que se muestra en estas plataformas. 

Uno de los aspectos más controvertidos de los algoritmos en las redes sociales es su capacidad para crear "burbujas de filtro" o "cámaras de eco". Estos modelos matemáticos tienden a mostrar contenido que se alinea con nuestras creencias y preferencias existentes, limitando así nuestra exposición a opiniones divergentes. 

Aunque esto puede brindar comodidad y familiaridad, también puede perpetuar la polarización y limitar nuestra comprensión del mundo que nos rodea. Además, están diseñados para maximizar el tiempo que pasamos en las plataformas. 

Esta optimización puede tener implicaciones en la salud mental de los usuarios, ya que las personas pueden verse atrapadas en ciclos interminables de desplazamiento y consumo de contenido. 

Plataformas crediticias

Los algoritmos bancarios definen temas tan sensibles como la obtención de un crédito para tener una casa propia o la multiplicación (o pérdida) del capital invertido por una persona.

Son sistemas diseñados para gestionar y procesar una variedad de operaciones financieras. Estos desempeñan un papel crucial en la automatización y optimización de tareas como la detección de fraudes, la evaluación crediticia, la gestión de riesgos y la toma de decisiones de inversión.

En la evaluación crediticia, los algoritmos analizan diversos factores, como historial crediticio, ingresos y deudas, para determinar la solvencia de un individuo o empresa y otorgar o denegar préstamos. Estos algoritmos permiten a los bancos tomar decisiones más informadas y consistentes en función de datos objetivos.

En la detección de fraudes, los algoritmos analizan patrones y comportamientos inusuales en las transacciones bancarias para identificar posibles actividades fraudulentas. Utilizan datos históricos y en tiempo real para determinar si una transacción o actividad se desvía de las pautas normales, lo que permite a los bancos tomar medidas preventivas y proteger a sus clientes.

Plataformas laborales

Los sistemas de coincidencia de empleo utilizados por sitios web y aplicaciones de búsqueda de trabajo son un ejemplo de aplicaciones de algoritmos en el mundo laboral, sin embargo, hay cientos de situaciones más en las que un número define quién asciende, quién ingresa o quién es despedido. 

Es curioso que aunque parezca que la matemática es perfecta y exacta, los algoritmos no son intrínsecamente justos, ya que su construcción está influenciada por la interpretación subjetiva de "éxito" por parte de quienes los crean. Ejemplos de esto son las evaluaciones algorítmicas del rendimiento docente que llevaron a la desvinculación de cientos de profesores en Washington DC, o las decisiones judiciales basadas en factores de riesgo que perpetúan sesgos y prejuicios sociales.

Zeynep Tufeckci, profesora de tecnología, agrega que los algoritmos también enfrentan el desafío de responder preguntas subjetivas y multifacéticas que no tienen respuestas únicas y universales. Este aspecto se hace evidente en situaciones como la evaluación de candidatos laborales. Aunque los algoritmos pueden inferir conclusiones valiosas a partir de datos, esta capacidad también puede generar resultados injustos y discriminatorios.

Para abordar estos problemas, la idea de algoritmos auditables y transparentes emerge como una solución plausible. La Unión Europea ha avanzado en la regulación de datos y la privacidad, incluyendo el "derecho a la explicación", que exige que las personas puedan comprender por qué un algoritmo tomó ciertas decisiones que afectan sus vidas. Esto permitiría una mayor rendición de cuentas por parte de las empresas y desarrolladores que diseñan estos sistemas.

Conclusión

Los algoritmos no son inherentemente buenos ni malos, sino que son herramientas que reflejan las intenciones y sesgos de quienes los crean y utilizan. Su potencial para mejorar nuestras vidas es innegable, pero también es fundamental reconocer y abordar sus limitaciones y riesgos. 

En un mundo cada vez más automatizado, es necesario que la sociedad, la industria y los reguladores colaboren para establecer normas y salvaguardias que aseguren que los algoritmos trabajen para el beneficio de todos, sin perpetuar desigualdades ni injusticias. 

La tarea de equilibrar la conveniencia tecnológica con la equidad humana es un desafío que requiere una reflexión constante y un compromiso activo.