Las conversaciones privadas de ChatGPT se filtran a Google: un nuevo problema de privacidad en la IA

Durante meses, conversaciones extremadamente personales y sensibles de ChatGPT han estado filtrándose a un destino inesperado: Google Search Console (GSC), una herramienta que los desarrolladores utilizan normalmente para monitorizar el tráfico de búsqueda, no para espiar chats privados. Este incidente representa uno de los problemas de privacidad más preocupantes que hemos visto con la IA en los últimos tiempos.

Cómo se descubrió la filtración

Normalmente, cuando los administradores de sitios web acceden a los informes de rendimiento de GSC, ven consultas basadas en palabras clave o frases cortas que los usuarios de Internet escriben en Google para encontrar contenido relevante. Sin embargo, a partir de septiembre de 2025, comenzaron a aparecer consultas extrañas, algunas con más de 300 caracteres.

Estas consultas no eran búsquedas normales, sino conversaciones completas de usuarios de ChatGPT que, con toda probabilidad, esperaban que sus intercambios con el chatbot permanecieran privados. Jason Packer, propietario de una consultora de análisis llamada Quantable, fue uno de los primeros en señalar el problema en un detallado blog el mes pasado.

Lo que hace que esto sea tan inquietante es la naturaleza de estas conversaciones. Packer encontró, entre otros ejemplos, a una usuaria preguntando si un chico que la molestaba podría tener sentimientos por ella, y a un gerente de oficina compartiendo información empresarial mientras planificaba un anuncio de regreso a la oficina. No son precisamente cosas que la gente quiera ver publicadas en herramientas de terceros.

La investigación: OpenAI rastreando Google

Intrigado por estos hallazgos, Packer se asoció con Slobodan Manić, un consultor de optimización web, para investigar la causa. Su trabajo podría haber descubierto «la primera prueba definitiva de que OpenAI rastrea directamente Google Search con las consultas reales de los usuarios».

Vamos a ser claros: esto no es solo un error técnico menor. Es un problema grave que sugiere que OpenAI podría estar comprometiendo la privacidad de los usuarios para mantener la participación, obteniendo datos de búsqueda que Google normalmente no compartiría.

Cuando se le preguntó sobre esto, OpenAI confirmó que estaban «al tanto» del problema y que habían «resuelto» un fallo «que afectó temporalmente a cómo se enrutaba un pequeño número de consultas de búsqueda». Sin embargo, no confirmaron ni desmintieron la teoría de Packer y Manić sobre el rastreo de Google, lo que deja dudas sobre si el problema se ha resuelto por completo.

Cómo funcionaba la filtración

La investigación de Packer y Manić reveló algo fascinante: las consultas extrañas aparecían en GSC porque el sitio en cuestión se posicionaba bien para «https://openai.com/index/chatgpt/» —una URL de ChatGPT que se añadía al principio de cada consulta extraña que aparecía en GSC.

Parece que Google había tokenizado la URL, dividiéndola en una búsqueda de palabras clave «openai + index + chatgpt». Los sitios que usaban GSC y se posicionaban bien para esas palabras clave eran, por tanto, propensos a encontrar filtraciones de ChatGPT.

En términos más sencillos: cuando usabas ChatGPT y este decidía buscar información en Google para responder a tu pregunta, tu conversación entera podía acabar filtrándose al GSC de cualquier sitio web que apareciera en los resultados de búsqueda. No hace falta ser un experto en detectores de IA para darse cuenta de que esto es un problema grave de privacidad.

La teoría técnica detrás del fallo

Según Packer y Manić, al visitar la URL que inicia cada consulta extraña en GSC, los usuarios de ChatGPT encuentran un cuadro de solicitud que parecía tener un error, haciendo que «la URL de esa página se añada a la solicitud». El problema parecía ser que:

Normalmente ChatGPT 5 elige hacer una búsqueda web cuando cree que la necesita, y es más probable que lo haga con una búsqueda esotérica o que requiera actualidad. Pero este cuadro de solicitud con error también contiene el parámetro de consulta ‘hints=search’ para hacer que básicamente siempre haga una búsqueda.

Claramente, algunas de esas búsquedas dependían de Google, y enviaban por error a GSC «cualquier cosa» que el usuario dijera en el cuadro de solicitud, con el texto «https://openai.com/index/chatgpt/» añadido al principio.

Las implicaciones para la privacidad en la IA

Este incidente plantea serias preguntas sobre cómo las empresas de IA gestionan nuestros datos. No es la primera vez que ChatGPT tiene problemas con la privacidad.

En agosto del año pasado, las solicitudes de ChatGPT se encontraron en el índice de búsqueda de Google. En ese caso, OpenAI aclaró que los usuarios habían marcado una casilla que hacía públicas esas solicitudes, aunque la empresa luego tuvo que eliminar los chats de los resultados de búsqueda de Google cuando se hizo evidente que los usuarios se sentían engañados.

Pero hay una diferencia crucial entre ese incidente y el actual: en el caso anterior, los usuarios «tuvieron que compartir activamente» sus chats filtrados, aunque fuera por confusión. En este caso más reciente, «nadie hizo clic en compartir» ni tenía una forma razonable de evitar que sus chats quedaran expuestos.

Como usuario de generadores de imágenes de IA y otros servicios similares, esto me hace preguntarme: ¿qué otras conversaciones «privadas» podrían estar siendo compartidas sin nuestro conocimiento? ¿Estamos realmente conscientes de lo que sucede con nuestros datos cuando interactuamos con estas tecnologías?

Las preguntas que quedan sin respuesta

A pesar de la respuesta de OpenAI, quedan muchas preguntas sin responder:

1. ¿Cuántos usuarios se vieron afectados realmente? OpenAI afirmó que solo «un pequeño número» de consultas se filtraron, pero se negó a proporcionar una estimación más precisa.

2. ¿La «solución» simplemente detuvo el «enrutamiento de consultas de búsqueda», de modo que ya no se envían solicitudes sin procesar a Google Search, o dejaron de rastrear Google Search por completo para obtener datos?

3. ¿Hay alguna forma de eliminar estas conversaciones filtradas de GSC? A diferencia del escándalo anterior, no parece haber ninguna manera de que los usuarios afectados limpien sus datos.

Lo más preocupante es que, como señaló Packer: «Todavía no sabemos si es esa página en particular la que tiene este error o si esto está realmente generalizado». En cualquier caso, muestra lo poco que OpenAI se preocupa por actuar con cautela cuando se trata de privacidad.

El futuro de la privacidad en la era de la IA

Este incidente nos recuerda que, a medida que la IA se vuelve más integrada en nuestra vida cotidiana, la línea entre lo privado y lo público se vuelve cada vez más borrosa. Las conversaciones que creemos que estamos teniendo en privado podrían estar siendo compartidas, analizadas o almacenadas de maneras que no entendemos completamente.

Como usuarios, debemos exigir mayor transparencia y control sobre nuestros datos. Y como profesionales de la