Actualizado el 23/04/2024
Actualizado el 23/04/2024
Algoritmos y racismoEscrito por Redacción TNI el 20/04/2021 a las 18:37:031107
 Los algoritmos de reconocimiento facial salen a la palestra pública con asiduidad por sus supuestos sesgos que atentan contra la igualdad. En esta ocasión ha sido el programa Protorio el que ha sido acusado de racismo.
Protorio es un software de vigilancia de exámenes que emplean los profesores para controlar que los alumnos que se presentan a una prueba sean verdaderamente quien deba presentarse. También se utiliza para comprobar la presencialidad de los alumnos.
Según una información publicada por el investigador Akash Satheesan el programa no reconoce el 57% de los rostros de personas negras. La empresa ha contestado a esta acusación afirmando que su programa, en realidad solo se encarga de detectar la presencia. En este sentido parece que Protorio tampoco es demasiado igualitario pues no detecta la presencia de algunos alumnos negros y avisa a los profesores de su ausencia.
Al mismo tiempo, pese a que Satheesan asegura haber recibido las quejas de numerosos alumnos, Protorio afirma en una nota de prensa que solamente ha recibido cinco quejas.
Las inteligencias artificiales se basan en los sesgos de las sociedades que las crean. Así si una sociedad, como la nuestra, es racista, lo más probable es que un algoritmo sea racista. Sucede exactamente lo mismo con las mujeres. En una prueba rápida, si ponemos “enfermería” en Google veremos que la mayoría de fotografías nos remiten a enfermeras mujeres. Ciertamente la mayoría de profesionales de este sector son mujeres, sin embargo, el algoritmo solo acrecienta el sesgo. Noticias Relacionadas:Algoritmo opaco Estudio detecta sesgos racistas en los sistemas de inteligencia artificial |
