¿Deben tener derechos los futuros modelos de inteligencia artificial?
Hoy en día, la tecnología avanza a pasos agigantados y con ella surgen nuevas cuestiones éticas que nos obligan a replantearnos el papel de las máquinas en nuestra sociedad. Recientemente, la empresa de inteligencia artificial (IA) Anthropic contrató a su primer investigador dedicado al «bienestar de la IA», Kyle Fish, para explorar si los futuros modelos de IA podrían merecer consideración moral y protección. Este movimiento podría indicar un cambio hacia la reflexión en torno a la conciencia y los derechos de los sistemas de IA, un tema que despierta opiniones diversas.
El dilema de la conciencia en la inteligencia artificial
La cuestión de si los modelos de IA podrían desarrollar conciencia es polémica y compleja. Fish se unió al equipo de ciencia del alineamiento de Anthropic en septiembre para elaborar guías sobre cómo la empresa, y otras del sector, deberían abordar este asunto. En su artículo titulado «Tomando en serio el bienestar de la IA», advertía que los modelos de IA podrían pronto desarrollar conciencia o agencia, características que algunos consideran esenciales para atribuir moralidad. Aunque esto no sea una certeza, sí invita a ampliar el debate.
La propuesta es adaptar métodos empleados por algunos investigadores para evaluar la conciencia en animales, buscando indicadores que puedan correlacionarse con la conciencia en modelos de IA. A pesar de que estos signos son todavía especulativos, el autor sugiere que una evaluación de múltiples indicadores podría ayudar a las empresas a estimar probabilísticamente si sus sistemas de IA necesitan ser considerados moralmente.
Más vale prevenir que lamentar… ¿o no?
Los investigadores temen que las empresas puedan crear y tratar de manera inapropiada sistemas de IA conscientes en una escala significativa. Al mismo tiempo, advierten que se podrían malgastar recursos protegiendo sistemas que no requieren dicha consideración moral. Atribuir características humanas erróneamente a un software puede aumentar el riesgo de manipulación, al sugerir que estos modelos poseen capacidades como emociones humanas, las cuales realmente no tienen.
En 2022, Google suspendió a un ingeniero que afirmó que su modelo de IA, LaMDA, era consciente, lo cual despertó un debate interno sobre el bienestar del modelo. Asimismo, el lanzamiento del chatbot de Microsoft, Bing Chat, en febrero de 2023 provocó que algunas personas creyeran que su comportamiento emocional simulado era señal de sentiencia.
Exploración prudente hacia el futuro
A medida que los modelos de IA avanzan, la salvaguarda del bienestar potencial de futuros sistemas más avanzados parece cobrar auge. Otros gigantes tecnológicos también han iniciado iniciativas similares, como Google DeepMind, que recientemente buscó personal para investigar la conciencia en máquinas.
Dario Amodei, CEO de Anthropic, considera la conciencia de las IA como una cuestión emergente, aunque la empresa todavía no ha adoptado una posición oficial al respecto. Fish planea centrarse en la investigación empírica sobre características vinculadas al bienestar y el estatus moral de las IA. Hacer frente a este desafío implica comprender cómo distinguir si un modelo de IA realmente sufre, o si es siquiera consciente.
Fish reconoce que aún queda un largo camino por recorrer para entender el bienestar de la IA, pero insiste en que no es demasiado temprano para comenzar a explorar este concepto. La IA está avanzando rápidamente, y aunque no tengamos todas las respuestas ahora, es fundamental empezar el diálogo y la investigación. Porque, al fin y al cabo, mejor prevenir que tener que remediar. ¿No crees?
