Un estudio del Instituto de Tecnología de Georgia denominado ‘Inequidad predictiva en la detección de objetos’, muestra que las personas con tonos de piel más oscuros corren más riesgo de sufrir un accidente causado por un vehículo automatizado debido a las deficiencias de sus sistemas de reconocimiento de objetos.

La investigación se basa en ejemplos que evidencian cómo los algoritmos de aprendizaje automático “muestran tasas de error más altas para ciertos grupos demográficos que otros”.

El autor principal del estudio, Benjamin Wilson, explica que si bien la habilidad de los coches no tripulados a la hora de reconocer “objetos claves”, como peatones o señales de tráfico, desempeña un papel fundamental para evitar víctimas mortales, los sistemas de algunos “vehículos que ya están en carretera” resultaron ser incapaces de mitigar todos los riesgos posibles.

El grupo recopiló gran cantidad de fotografías de personas con varios tonos de piel y las mostró a los voluntarios a quienes se les pidió marcar a los peatones y asignarles una de las 4 categorías.

Una corresponde al color de piel que no puede ser determinado, otra para los objetos que parecen peatones pero no lo son, y las 2 restantes representan la escala de fototipo de piel de Fitzpatrick (1-3 puntos para los tonos de piel más claros, y 4-6 para los más oscuros).

Los datos fueron introducidos en 8 algoritmos diferentes de reconocimiento de imagen con el objetivo de que analizaran con qué frecuencia los sistemas de aprendizaje automático logran identificar la presencia de personas de todos los tonos de piel, y resultó que para el grupo con tono de piel de entre 4 y 6, la detección fue menos precisa en aproximadamente 5% de los casos.

Curiosamente, el índice no se vio afectado por objetos que parcialmente, bloquean a los peatones, ni por falta de luz natural. No obstante, los fallos del sistema no se deben tanto a la imperfección de propios algoritmos, sino a la insuficiencia de datos utilizados para diseñarlos y probarlos, según los expertos.

Los modelos usados por los autores del estudio no pertenecen a los desarrolladores de los vehículos en cuestión, ya que los fabricantes no hacen pública esa información, por lo que ensayaron varios modelos elaborados por los investigadores académicos, lo que no significa que el hallazgo del trabajo no sea fructífero.

DEJA UNA RESPUESTA

Please enter your comment!
Please enter your name here