¿A quién protege realmente la tecnología de los automóviles sin conductor? Vehículos autónomos y sesgos en la IA

Los vehículos autónomos prometen revolucionar la industria del transporte y reducir significativamente los accidentes viales, que actualmente son la octava causa de muerte a nivel global. Sin embargo, a pesar de los avances tecnológicos y los esfuerzos colaborativos para mejorar la accesibilidad de estos automóviles, persisten sesgos preocupantes que podrían poner en riesgo la seguridad de ciertos grupos de personas.

Una investigación reciente del King's College London reveló que las personas de tez más clara tienen 12 veces más probabilidades de ser identificadas por un vehículo autónomo que aquellas de tez más oscura. Además, los niños tienen 5 veces menos probabilidades de ser detectados que los adultos. Estos hallazgos plantean serias dudas sobre la equidad y la inclusividad de la tecnología de conducción autónoma.

Durante una visita a uno de los países líderes en inteligencia artificial, tuve la oportunidad de conocer un terreno de prueba para vehículos autónomos considerado el más completo y avanzado del mundo. Al plantear interrogantes sobre la inclusividad y el cuidado de las personas peatonas fuera del vehículo, el personal del centro reconoció que no habían considerado ese aspecto y que todos sus maniquíes de tamaño infantil eran blancos.

Este punto ciego en el diseño, prueba e implementación de la tecnología de vehículos autónomos es el resultado de una falta de responsabilidad y diversidad en los equipos que desarrollan estos sistemas. Si el progreso tecnológico solo beneficia a las personas más privilegiadas, debemos cuestionar cuánto realmente deberíamos celebrar estos avances, especialmente en países como México, donde el color de piel ya puede determinar el acceso a oportunidades.

Además de los sesgos relacionados con la detección de personas según su tono de piel y edad, la tecnología de vehículos autónomos también enfrenta desafíos al adaptarse a realidades distintas a las de los países de altos ingresos. Un ejemplo es la dificultad de los sistemas para identificar a personas viajando en la parte trasera de una camioneta pick-up, una práctica común en América Latina pero ilegal en muchos otros países.

Es preocupante que solo una minoría de personas esté consciente de estos retos y de cómo la falta de salvaguardas en torno a los sistemas de IA puede perjudicar a poblaciones de grupos marginados. A pesar de las noticias que demuestran estos sesgos, se siguen adoptando estos sistemas de manera acelerada.

En conclusión, es fundamental que la industria de los vehículos autónomos y la IA en general aborden los sesgos y la falta de inclusividad en sus sistemas. Se necesitan equipos más diversos y responsables en el desarrollo, prueba e implementación de esta tecnología para garantizar que beneficie a todas las personas por igual, independientemente de su tono de piel, edad o contexto socioeconómico. Solo así podremos celebrar un progreso tecnológico verdaderamente equitativo y seguro para todos.