La investigación, que está disponible en Arxiv, se basa en numerosos y recientes ejemplos que evidencian cómo los algoritmos de aprendizaje automático “muestran tasas de error más altas para ciertos grupos demográficos que otros”. Si bien la habilidad de los coches no tripulados a la hora de reconocer “objetos claves”, como peatones o señales de tráfico, desempeña un papel fundamental para evitar víctimas mortales, los sistemas de algunos “vehículos que ya están en carretera” resultaron ser incapaces de mitigar todos los riesgos posibles, reconoce el autor principal, Benjamin Wilson.

El grupo recopiló una gran cantidad de fotografías en las que se ven personas de varios tonos de piel y las mostró a los voluntarios a quienes se les pidió que marquen a los peatones y les asignen una de las cuatro categorías. Una de ellas corresponde al color de piel que no puede ser determinado, la segunda es para los objetos que parecen peatones, pero no lo son, y las dos restantes representan la escala de fototipo de piel de Fitzpatrick (1-3 puntos para los tonos de piel más claros, y 4-6 para los más oscuros).

Estos datos fueron introducidos en ocho algoritmos diferentes  de reconocimiento de imagen con el objetivo de que analizaran con qué frecuencia los sistemas de aprendizaje automático logran identificar la presencia de personas de todos los tonos de piel. Resultó que para el grupo con tono de piel más oscuro (de entre 4 y 6 en la escala de Fitzpatrick), la detección fue menos precisaen, aproximadamente, un 5% de los casos.

Curiosamente, este índice no se vio afectado por objetos que, parcialmente, bloquean a los peatones ni tampoco por la falta de luz natural. No obstante, los fallos del sistema no se deben tanto a la imperfección de propios algoritmos, sino a lainsuficiencia de datos utilizados para diseñarlos y probarlos, sugieren los expertos.

Los modelos que utilizaron los autores del estudio no pertenecen a los desarrolladores de los vehículos en cuestión, ya que los fabricantes no hacen pública ese tipo de información, por lo que ensayaron varios modelos elaborados por los investigadores académicos, lo que no significa que el hallazgo del trabajo no sea fructífero.

“En un mundo ideal, los académicos estarían probando modelos reales y conjuntos de entrenamiento utilizados por los fabricantes de automóviles autónomos”, comenta la académica Kate Crawford, cofundadora del Instituto de Investigación AI Now de Nueva York. “Sin embargo, dado que nunca se ponen a disposición -lo que es un problema en sí mismo-, artículos como estos ofrecen datos sólidos sobre los riesgos reales”, concluye.

Los investigadores creen que los algoritmos de aprendizaje automatizado, lejos de hacer el mundo más equitativo, ahora imitan la desigualdad de la sociedad discriminando a mujeres y a las minorías étnicas.

“Esto está empezando a surgir mucho en áreas como la selección de personas para empleos, seguros, préstamos, todas esas cosas”, aseveró Noel Sharkey, codirector de la Fundación para la Robótica Responsable, en el programa ‘Today de la BBC’.

Sharkey citó el ejemplo de una investigación de la Universidad de Boston (EE.UU.) en la que un programa de IA fue entrenado para leer noticias en la aplicación Google News. Cuando durante un juego de asociación de palabras se le preguntó “si el hombre es programador de computadora, la mujer es X”, el ‘software’ respondió: “ama de casa”.

“Tenemos un problema”, insistió Sharkey. “Necesitamos que más mujeres entren en este campo para resolverlo”.

En Estados Unidos, el 20 % de los graduados en ingeniería son mujeres, pero representan solo el 11 % de los ingenieros practicantes. En el Reino Unido, solo el 9 % de la mano de obra en ingeniería son mujeres.

La experta en datos de salud Maxine Mackintosh, apuntó que los “imperfectos” conjuntos de datos basados ​​en la información histórica desvían las respuestas de la IA. Esto fue confirmado, según la experta en el Hospital de Saint George en Londres, donde las pruebas de las solicitudes de los aspirantes a las escuelas de medicina revelaron que la IA del hospital discriminaba a las mujeres, así como a las minorías étnicas.

“Estos grandes datos son realmente un espejo social que refleja los prejuicios y las desigualdades que tenemos en la sociedad”, comentó Mackintosh a la BBC. “Si queremos dar pasos hacia el cambio, entonces no podemos utilizar solo la información histórica”.

Las controversias generadas por la IA respecto a la diversidad racial han llamado mucho la atención últimamente. El año pasado, Microsoft se vio obligado a desconectar su bot conversacional de aprendizaje automático en Twitter conocido como Tay, ya que este se convirtió en un simpatizante nazi en tan solo 24 horas.

La decisión fue aprobada el viernes durante una reunión del Gabinete ministerial. En respuesta a las preguntas de un legislador de la oposición, los ministros contestaron que el libro del ‘Fuhrer’ se puede utilizar de manera que “se adhiera al espíritu de la ley de educación básica”.

Sin embargo, si el libro fuera utilizado para promover la discriminación racial, los reguladores darían una respuesta estricta, añadieron los representantes de las autoridades.

En una medida similar tomada a principios de este mes, el Gobierno japonés decidió permitir la enseñanza de un edicto del siglo XIX sobre el patriotismo que, según los críticos, desempeñó un papel instrumental en la adhesión de Japón a la Segunda Guerra Mundial.

Según testimonios compartidos en las redes sociales, columnas de coches con banderas confederadas, asociadas con la esclavitud y racismo, pasaron por las calles de la localidad de Roxboro, aunque no queda claro si aquel fue el punto de encuentro del acto convocado por el KKK, o si se trataba de miembros moviéndose hacia otro lugar.

Paralelamente, un centenar de personas marchó este sábado por la localidad de Danville, en la frontera entre los Estados de Virginia y de Carolina del Norte, para mostrar su rechazo al KKK, informan medios locales.

En una reciente entrevista con AFP, un hombre ataviado con la indumentaria de KKK que decía ser portavoz de la organización en Nueva York, dijo que las solicitudes de membresía han aumentado en “más de mil” desde la victoria de Trump.

Se estima que el número miembros en EE.UU. del KKK, que intenta captar nuevos adeptos dejando octavillas en los parabrisas de los coches, es de unos seis mil, informa IBTimes. En la década de los 60 sumaban alrededor de 40.000, mientras que en los años 20 fueron millones.

Aunque el propio Trump ha repudiado en varias ocasiones el apoyo que le brinda el KKK, nombró como jefe de estrategia a Steve Bannon, director del portal de noticias Breitbart, conocido por su apoyo a la llamada derecha alternativa y apoyado por nacionalistas blancos y el KKK.

“La designación de Stephen Bannon como alto estratega de la Administración Trump envía el inquietante mensaje de las teorías de la conspiración antimusulmanas y la ideología nacionalista [supremacista] blanca será bienvenida en la Casa Blanca. Instamos al presidente electo Trump que reconsidere este nombramiento tan erróneo si realmente busca unir a los estadounidenses”, llegó a declarar Nihad Awad, director ejecutivo del Consejo de Relaciones Islámico-Americanas, en declaraciones recogidas por ‘El Confidencial’.

Este nombramiento estrecha unos lazos ya de por si fuertes entre la publicación Breitbart y Donald Trump, hasta el punto en que muchos consideran en que se convertirá en el más importante elemento de propaganda al servicio de la Administración Trump, una especie de publicación casi-oficial del gobierno.

Sin embargo, el actual editor jefe de Breitbart, Alexander Marlow, niega este extremo. En una entrevista concedida el pasado domingo al New York Times declaraba lo siguiente: “Nuestra lealtad no va a ser para Donald Trump; nuestra lealtad es con nuestros lectores y nuestros valores, independientemente del cargo que Steve [Bannon] tenga. Si Trump dirige su Administración y hace honor a los votantes que le respaldaron, todo irá bien. Pero si va a dar la espalda a esos valores y principios que llevaron a sus votantes a las urnas, vamos a ser muy críticos. No vamos a pensárnoslo dos veces”.

Breitbart tiene una audiencia considerable. En octubre registró 37 millones de lectores, que visitaron el portal más de 240 millones de veces, y el número de sus seguidores en Facebook se ha duplicado durante el último año.