La inteligencia artificial de Nueva York causa problemas con información errónea
La IA llega a la Gran Manzana: promesas y problemas
En el vertiginoso mundo de la inteligencia artificial, uno de los temas que no deja de dar de qué hablar es el uso de los chatbots basados en modelos de lenguaje (LLM), que a menudo presentan sus respuestas como si fueran la verdad absoluta. Este fenómeno parece estar causando dolores de cabeza ahora que un chatbot del gobierno de Nueva York, llamado «MyCity», ha comenzado a ofrecer respuestas incorrectas sobre cuestiones importantes relacionadas con la legislación local y las políticas municipales.
MyCity: ¿solución o nuevo quebradero de cabeza?
El chatbot «MyCity» fue lanzado como un programa piloto con la promesa de ayudar a los empresarios a ahorrar tiempo y dinero. Según el anuncio oficial, este asistente virtual está diseñado para proporcionar información fiable e inmediata proveniente de más de 2.000 páginas web y artículos del negocio neoyorquino, cubriendo áreas como el cumplimiento normativo, los incentivos disponibles para los negocios y las mejores prácticas para evitar multas. Sin embargo, cuando los datos de entrenamiento no reflejan con precisión la respuesta correcta a una pregunta, empiezan los problemas.
Inexactitudes preocupantes
De acuerdo con informes de The Markup, se han detectado casos en los que el chatbot dio respuestas incorrectas al mismo interrogante acerca de la aceptación de cupones de vivienda bajo el programa Sección 8. Se menciona que mientras una prueba aislada arrojó la respuesta correcta, «diez miembros diferentes del equipo de The Markup» recibieron respuestas incorrectas al hacer la misma pregunta repetidamente.
¿Qué opinan los afectados?
El chatbot MyCity está claramente etiquetado como un producto «Beta», con advertencias para que los usuarios tomen sus respuestas con cautela y no las utilicen como sustituto de un consejo profesional. A pesar de estas advertencias, el chatbot se promociona como una herramienta fiable para ayudar a los dueños de negocios a navegar por el laberinto administrativo.
Andrew Rigie, director ejecutivo de la Alianza de Hostelería de Nueva York, compartió con The Markup que él mismo se ha encontrado con imprecisiones y ha recibido informes similares de al menos un empresario local. Por otro lado, Leslie Brown, portavoz de la Oficina de Tecnología e Innovación de Nueva York, comentó que el chatbot «ya ha proporcionado respuestas precisas y puntuales a miles de personas» y que seguirán trabajando en mejorar esta herramienta para apoyar mejor a las pequeñas empresas de la ciudad.
El camino por recorrer
Este escenario en Nueva York ejemplifica el potencial y los retos de implementar IA en servicios públicos. Mientras los chatbots prometen eficiencia y ahorro, es esencial contar con mecanismos que aseguren la precisión de las respuestas, especialmente cuando se manejan temas delicados como leyes y políticas gubernamentales. En España, donde también estamos avanzando en tecnología y IA, aprender de estos ejemplos puede ayudarnos a anticipar y mitigar problemas similares en iniciativas locales.
Es evidente que la inteligencia artificial sigue transformando nuestra interacción con las administraciones públicas, pero debemos permanecer atentos a sus limitaciones para asegurar una información veraz y fiable.
