La IA socialmente consciente en AV puede prevenir fatalidades en accidentes: Investigación
- Los investigadores reportaron que la "sensibilidad social" en la IA de los vehículos autónomos puede reducir el daño en choques en más del 50%.
- Incidentes en el mundo real que involucran a vehículos autónomos, como choques mortales con vehículos de Uber y Tesla, han llevado a llamados para sistemas de toma de decisiones éticamente conscientes.
- La programación ética y la responsabilidad legal se están convirtiendo en problemas críticos para el futuro de la tecnología de conducción autónoma.
Un nuevo estudio publicado en las Actas de la Academia Nacional de Ciencias de EE. UU. demuestra que los Vehículos Autónomos (AV) entrenados para pensar más como humanos, específicamente para reconocer y ponderar la vulnerabilidad de los usuarios de la vía, son significativamente más seguros en escenarios de alto riesgo.
Cuando se equiparon con lo que los investigadores llamaron “sensibilidad social”, se encontró que los vehículos reducían el daño total en los accidentes en más del 17 %, con el daño a peatones, ciclistas y otros grupos vulnerables reducido en más del 50 %.
Razonamiento humano y precisión de máquina para llegar a los AV
Los AV han sido presentados como el futuro del transporte seguro y eficiente. Sin embargo, a medida que más desarrollo continúa en ese espacio, las preocupaciones éticas continúan surgiendo, especialmente en escenarios de vida o muerte.
El estudio dirigido por Hongliang Lu de la Universidad de Ciencia y Tecnología de Hong Kong sugiere que dar a los coches sin conductor una dosis de conciencia social podría reducir drásticamente el daño en los accidentes de tráfico. La investigación integra conocimientos de neurociencia y psicología conductual en la programación de los vehículos autónomos (AV).
El modelo se superpuso al marco de toma de decisiones existente llamado EthicalPlanner, permitiendo a los AV comportarse de una manera que no solo evita colisiones, sino que minimiza el daño cuando un accidente es inevitable.
La IA prioriza la protección de los usuarios de la vía más vulnerables, lo que es un gran cambio respecto al modelo convencional que a menudo trata a todos los objetos o personas por igual desde un punto de vista puramente mecánico del riesgo.
Daniela Rus, directora del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del Instituto de Tecnología de Massachusetts (MIT), elogió el enfoque, diciendo: “El marco propuesto ofrece un camino potencial hacia vehículos autónomos que pueden navegar escenarios complejos de múltiples agentes con una conciencia de los diferentes niveles de vulnerabilidad entre los usuarios de la vía.”
Los vehículos autónomos han enfrentado críticas por puntos ciegos éticos y accidentes
La necesidad de innovaciones como esta proviene de tragedias del mundo real que han afectado vidas y negocios. Por ejemplo, en 2018, un vehículo de prueba autónomo de Uber atropelló y mató a un peatón en Arizona, destacando la necesidad de que los AV tomen decisiones matizadas en tiempo real.
Del mismo modo, el Autopilot de Tesla ha estado bajo intenso escrutinio después de varios accidentes de alto perfil, incluidas colisiones mortales que involucran a sus sistemas semiautónomos.
Además, General Motors cerró su filial de taxis autónomos, Cruise, después de una serie de contratiempos, uno de los cuales involucró un accidente que dejó a un peatón gravemente herido. Los ejecutivos de General Motors intentaron minimizar el impacto del incidente. Sin embargo, la reacción negativa contribuyó al anuncio del cierre, habiendo invertido miles de millones de dólares.
Sin embargo, Waymo, el proyecto de coches autónomos de Google, ha logrado avances significativos en el despliegue de AV con características de seguridad mejoradas. Se ha informado que los vehículos de Waymo han demostrado una reducción del 96 % en accidentes entre vehículos en intersecciones en comparación con los conductores humanos.
Auge de los robotaxis
Waymo ahora opera viajes sin conductor en ciudades como San Francisco, Phoenix y Los Ángeles.
Internacionalmente, ciudades como Dubái y Pekín están invirtiendo en transporte público autónomo como parte de sus objetivos de ciudades inteligentes.
A pesar de las preocupaciones con los vehículos autónomos (AV), los servicios de taxi autónomo están ganando tracción, lo que hace importante la llamada para vehículos más inteligentes y seguros.
Más allá de la tecnología, la toma de decisiones autónomas plantea serias preguntas legales y morales. Si un sistema de IA "elige" dañar a un usuario de la vía para salvar a otro, ¿quién es el responsable: el fabricante, el ingeniero de software o el propietario? Los marcos legales en todo el mundo aún no se han puesto al día con las realidades de la toma de decisiones de las máquinas en espacios públicos.
Un panel convocado por la Comisión Europea pidió recientemente que los AV aseguren una "distribución justa del riesgo" y salvaguarden "la protección de los derechos básicos, incluidos los de los usuarios vulnerables."
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
