¿Pueden las máquinas tomar decisiones morales? La encrucijada de la IA en el coche autónomo
En el mundo de la inteligencia artificial (IA), hay un desafío curioso y tal vez un poco aterrador: ¿qué hacemos cuando las máquinas tienen que tomar decisiones que podrían tener consecuencias éticas? Este dilema se presenta especialmente en el caso de los coches autónomos. Una plataforma en línea conocida como «la Moral Machine» busca explorar estas complejas decisiones morales que un coche sin conductor podría enfrentar.
Moral Machine: el laboratorio ético digital
La Moral Machine ofrece a los usuarios dos opciones ante posibles situaciones de emergencia en las que un coche autónomo podría verse involucrado. La pregunta es sencilla pero de gran calado: ¿qué decisión es más aceptable desde el punto de vista moral? Un ejemplo podría ser decidir si un coche debe chocar contra un obstáculo o atropellar a un peatón en caso de fallo de frenos.
Lo interesante es que no se limita a escenarios simples. La Moral Machine también plantea cuestiones mucho más complejas. ¿Qué ocurre si los pasajeros son un hombre adulto, una mujer adulta y un niño, mientras que los peatones son dos hombres mayores y una mujer mayor cruzando en rojo? Las combinaciones son infinitas, gracias a variables como la edad, el género, la especie (salvar a humanos o animales), el valor social (mujeres embarazadas o criminales), y acciones (desviarse, saltarse la ley, etc.). Incluso se puede variar el nivel de forma física de los pasajeros y peatones.
La respuesta de los modelos de lenguaje a gran escala
En un estudio innovador, el investigador Takemoto analizó cómo cuatro conocidos Modelos de Lenguaje a Gran Escala (LLM por sus siglas en inglés) – GPT-3.5, GPT-4, PaLM 2 y Llama 2 – reaccionaban ante más de 50.000 escenarios generados por la Moral Machine. Aunque podrían haber evaluado muchos más, los costes computacionales se volvieron prohibitivos. Aun así, las respuestas permitieron comparar cómo se alinean las decisiones de los LLM con las elecciones humanas.
Comparación de prioridades entre humanos y LLM
Un hallazgo interesante es que las prioridades de los LLM difieren notablemente de las humanas. Por ejemplo, mientras los seres humanos muestran una ligera preferencia por proteger a los peatones frente a los pasajeros y a las mujeres frente a los hombres, casi todos los LLM (a excepción de Llama 2) muestran una preferencia aún más fuerte en estas direcciones. GPT-4 también muestra una inclinación más acusada hacia salvar a personas sobre mascotas, proteger al mayor número de personas posible y priorizar a quienes cumplen con la ley.
Dilemas éticos en la inteligencia artificial
Llegados a este punto, los LLM parecen ser un paquete mixto en términos morales. Mientras que algunos toman decisiones que rastrean la ética humana y sugieren potencial para la conducción autónoma, sus desviaciones sutiles indican que aún requieren calibración y supervisión antes de estar listos para operar en el mundo real.
Un problema potencial es que los modelos de inteligencia artificial son recompensados por hacer predicciones seguras basadas en sus datos de entrenamiento. Esto tiene implicaciones si se utilizan en la conducción autónoma, ya que la confianza excesiva podría llevar a decisiones más intransigentes que las que tomaría una persona.
Además, estudios previos sugieren que los datos de entrenamiento de IA provienen principalmente de fuentes occidentales, lo que podría explicar por qué los LLM muestran preferencias como salvar a mujeres sobre hombres. Esto plantea posibles problemas de discriminación de género, contraveniendo leyes y estándares internacionales, como los establecidos por la Comisión de Ética Alemana sobre Conducción Automatizada y Conectada.
Prepararse para el futuro
Takemoto destaca la necesidad de entender mejor cómo funcionan estos modelos para asegurarse de que sus principios éticos se alineen con los de la sociedad. No es una tarea fácil, especialmente cuando muchas empresas protegen celosamente los mecanismos de razonamiento de su inteligencia artificial.
Aunque las startups de automóviles apenas han comenzado a explorar la integración de los LLM en su software, es evidente que cuando esta tecnología aparezca, la industria necesitará estar preparada. «Un mecanismo de evaluación riguroso es imprescindible para detectar y abordar tales sesgos, asegurando que los LLM se ajusten a las normas éticas reconocidas a nivel mundial», añade Takemoto.
Para seguir explorando las fascinantes aplicaciones de la inteligencia artificial y las implicaciones en la sociedad, te invito a echar un vistazo a nuestro artículo sobre IA.
Este es un mundo en el que la tecnología nos trae nuevas preguntas éticas, y es crucial que estemos preparados para buscar las respuestas correctas. La IA nos plantea desafíos interesantes, y la forma en que abordamos estos dilemas no solo definirá el futuro de la conducción automática, sino también la interacción de las máquinas con la sociedad humana.
