Los autos que se conducen solos pueden golpear a las personas con piel más oscura con más frecuencia.

Ya sabíamos que algunos sistemas de reconocimiento facial luchan para identificar con precisión a las personas con piel más oscura.

Ahora sabemos que muchos de los sistemas artificialmente inteligentes diseñados para ayudar a los autos autónomos a navegar por las carreteras tienen el mismo problema, y ​​el resultado podría poner en peligro a los peatones de manera más desproporcionada con una piel más oscura, un signo preocupante de cómo la IA puede reproducir inadvertidamente los prejuicios del mundo.

IA inexacta.

En un nuevo artículo publicado en el servidor de preimpresión arXiv, los investigadores del Instituto de Tecnología de Georgia detallan su investigación de ocho modelos de IA utilizados en los sistemas de detección de objetos de última generación. Estos son los sistemas que permiten a los vehículos autónomos reconocer señales de tráfico, peatones y otros objetos.

Probaron estos modelos utilizando imágenes de peatones divididas en dos categorías según su puntaje en la escala de Fitzpatrick, que se usa comúnmente para clasificar el color de la piel humana.

De acuerdo con el artículo de los investigadores, los modelos mostraron un “rendimiento uniformemente más pobre” cuando se enfrentaron a peatones con los tres tonos más oscuros de la escala.

En promedio, la precisión de los modelos disminuyó en un 5 por ciento cuando se examinó el grupo que contiene imágenes de peatones con tonos de piel más oscuros, incluso cuando los investigadores tomaron en cuenta variables tales como si la foto se tomó durante el día o la noche.

La solución

La investigación del equipo de Georgia Tech sugiere que podríamos estar encaminados hacia un futuro en el que un mundo lleno de autos autónomos no es tan seguro para las personas con tonos oscuros de piel como lo es para los peatones de piel más clara.

Afortunadamente, en función de su estudio, pudieron descubrir qué debemos hacer para evitar un futuro de autos con prejuicios sesgados: comience a incluir más imágenes de peatones de piel oscura en los conjuntos de datos en los que entrenan los sistemas y coloque más peso en la detección precisa de esas imágenes.