La inteligencia artificial (IA) y la conducción autónoma se están convirtiendo rápidamente en una parte integral de nuestras vidas. Con la promesa de vehículos sin conductor surgiendo en el horizonte, surge una cuestión ética fundamental: ¿cómo deben estos sistemas tomar decisiones en situaciones de vida o muerte?
Para abordar este complejo dilema, un equipo de investigadores del Instituto Tecnológico de Massachusetts (MIT) desarrolló “The Moral Machine” (La Máquina Moral), un experimento masivo que explora cómo las personas de diferentes culturas alrededor del mundo toman decisiones éticas en el contexto de la conducción autónoma.
En el fondo es una adaptación del famoso experimento mental del dilema del tranvía al contexto de los vehículos autónomos.
¿Qué es “The Moral Machine”?
“The Moral Machine” es una plataforma en línea diseñada para simular dilemas morales que un vehículo autónomo podría enfrentar. La premisa básica es sencilla pero provocadora: el participante se encuentra en la posición de decidir qué acción debería tomar un coche autónomo en situaciones en las que no todas las vidas pueden salvarse.
Por ejemplo, si el coche autónomo debe optar por atropellar a un grupo de peatones o sacrificar a los pasajeros en el vehículo para evitarlo.
El experimento presenta a los participantes con una serie de escenarios en los que deben elegir entre dos resultados negativos, lo que se conoce como un dilema moral.
Los resultados se recogen para analizar cómo las personas valoran la vida de diferentes individuos en función de factores como la edad, el género, el estatus social y, en algunos casos, incluso si se trata de humanos o animales.
Resultados y Análisis del Experimento
El experimento del MIT recopiló respuestas de millones de personas en 233 países y territorios, lo que lo convierte en uno de los estudios más grandes y diversos sobre la toma de decisiones morales.
Los resultados revelaron patrones fascinantes que destacan las diferencias culturales en la ética y la moral.
1. La Preferencia por la Juventud:
A nivel global, una tendencia clara fue la preferencia por salvar a los jóvenes sobre los ancianos. Este patrón se observó de manera consistente, aunque con variaciones regionales.
Los países con culturas más individualistas son más propensos a salvar a los jóvenes, es conocido como en las sociedades orientales y africanas tienen una profunda tradición de respeto por los ancianos, sin embargo en las sociedades occidentales , más individualistas, la preferencia por la juventud puede estar más alineada la idea de que la juventud representa la oportunidad de vivir una vida completa y autónoma.
En base a ello, en general los paises Asiaticos como China y Japón es más probable que salven a los ancianos que a los jovenes, al contrario que en paises como ocidentales, como Francia, Canadá,Grecia, etc..
¿Es éticamente aceptable programar un coche para que prefiera salvar a un niño sobre un anciano?.
Otra característica de los países con culturas mas individualistas es la tendencia a salvar más vidas. ¿Debería un coche autónomo sacrificar a su único pasajero para salvar a un grupo de peatones?
2. La Influencia del Género y el Estatus Social:
En muchas culturas, hubo una ligera preferencia por salvar a las mujeres en lugar de a los hombres. Además, el estatus social de los individuos también influyó en las decisiones, con personas en roles de alto estatus (por ejemplo, médicos) a menudo siendo favorecidas.
3. Las Variaciones Culturales:
Uno de los hallazgos más interesantes fue cómo la cultura influye en las decisiones morales. En países como Japón y China, hubo una mayor tendencia a sacrificar a los peatones en lugar de a los pasajeros, reflejando posiblemente un mayor énfasis en la responsabilidad colectiva y la deferencia a las reglas.
En contraste, en países de América del Norte y Europa, se observó una mayor inclinación a salvar a los peatones, reflejando un enfoque en la protección de los más vulnerables.
Implicaciones para la IA y la conducción Autónoma
Los resultados de “The Moral Machine” plantean preguntas cruciales para el desarrollo de la IA en la conducción autónoma. Si las preferencias morales varían significativamente entre culturas, se plantean las siguientes cuestiones:
- ¿cómo deben los ingenieros programar estos sistemas?
- ¿Deben los vehículos autónomos tener en cuenta las normas culturales de cada país en el que operan, o se debería establecer un estándar ético global?
Estos dilemas subrayan la necesidad de un enfoque multidisciplinario en el desarrollo de la IA, uno que no solo considere la tecnología, sino también la ética, la sociología y la antropología.
Conclusión
“The Moral Machine” del MIT no solo nos ofrece una visión de cómo las personas toman decisiones morales en situaciones límite, sino que también destaca la complejidad de desarrollar sistemas autónomos que puedan operar de manera ética en un mundo diverso.
La influencia de la cultura en la toma de decisiones es un factor crucial que no puede ser ignorado en la búsqueda de soluciones globales para la inteligencia artificial y la conducción autónoma.
El reto ahora es cómo integrar estas diferencias culturales en tecnologías que están destinadas a operar en un mundo cada vez más interconectado y diverso.
Con la conclusión del estudio sobre la ética en coches autónomos puede establecerse también un paralelismo con la seguridad laboral, al demostrar cómo la influencia cultural en la toma de decisiones , especialmente ante tareas de elevado de riesgos.
En un entorno laboral, la percepción del riesgo y la aversión al mismo pueden variar considerablemente según la cultura de los trabajadores. Comprender estas diferencias culturales puede permitir a las empresas diseñar protocolos de seguridad más efectivos y personalizados, alineados con las actitudes y valores específicos de los trabajadores y sus grupos sociales. En definitiva un sistema de gestión de la seguridad que es efectivo en un centro de trabajo en Europa, puede que en un pais asiatico no lo sea , y viceversa.
Puedes participar en la plataforma de Moral Machine desde este enlace: https://www.moralmachine.net/hl/es
Bibliografía:
- Karen Hao, traducido por Ana Milutinovic (2018). Matar a un anciano o a un bebé: La ética del coche autónomo depende del país. MIT Technology Review en español. https://www.technologyreview.es/s/10643/matar-un-anciano-o-un-bebe-la-etica-del-coche-autonomo-depende-del-pais.
- Awad, E., Dsouza, S., Kim, R. et al. The Moral Machine experiment. Nature 563, 59–64 (2018). https://doi.org/10.1038/s41586-018-0637-6
- Fotografía: OpenAI. (2024). Imagen generada con inteligencia artificial por DALL-E en ChatGPT. OpenAI.