Entre las muchas informaciones que recorrieron los medios de comunicación el pasado 8 de marzo acerca de la realidad de desigualdades que aún rodea al género femenino, una de ellas hablaba de la discriminación que sufren las mujeres que tienen que acceder a diferentes servicios bancarios como préstamos o hipotecas, porque en numerosas ocasiones el algoritmo que calcula la viabilidad de las solicitudes aplica sesgos discriminatorios. La lucha contra la desigualdad pasa a escenarios propios de “Matrix”, la película que relata la sublevación del ser humano contra las máquinas que lo dominan todo.
¿Cómo es posible que algunos algoritmos se comporten como canallas frente a las mujeres? El origen de esta discriminación no son las máquinas, sino el ser humano que las programa y dirige. Y aunque la legislación actual en España obliga a que estos sistemas informáticos robotizados en los que se apoyan numerosos servicios a la sociedad, deben ser auditados para constatar su correcto funcionamiento, las informaciones del Día de la Mujer aportan datos que corroboran que esta normativa no siempre se cumple.
Un algoritmo contiene las órdenes de lo que debe hacer un proceso informatizado cuando se teclea “enter” y es programado por un profesional. Sin embargo, la evolución de la informática ha puesto en marcha procesos que hacen que los algoritmos puedan “perfeccionarse” a sí mismos gracias a la capacidad de aprender del entorno. Pero los algoritmos no pueden discriminar valores morales y simplemente reproducen los procedimientos que mayoritariamente observan en el entorno social del que aprenden. Si en la sociedad predominan los sesgos machistas, el algoritmo si no es corregido por el programador, reproduce esos sesgos cuando calcula si la solicitud de préstamo debe otorgarse o no.
Este efecto perverso de los algoritmos que reflejan el comportamiento social no es exclusivo del mundo de la banca. Hace ya un tiempo fue noticia que Microsoft tuvo que retirar un robot que interactuaba en redes sociales porque su algoritmo aprendió de las propias redes comportamientos racistas y xenófobos que reproducía en ellas mismas.
De nuevo se hace imprescindible poner la lupa en el ser humano. La importancia de vivir de acuerdo a unos valores morales universales no sólo incide en el entorno social en el que desarrollamos nuestro día a día, sino que trasciende los límites individuales y se filtra a los entornos y decisiones virtuales que pueden alegrarnos o amargarnos la vida.
De nuevo reivindicamos la necesidad de que el ser humano, en plena posesión de sí mismo, se encuentre en el centro de la escena social.
