La ciberseguridad en la era de los asistentes de IA: cuando la conversación se vuelve vulnerable

En 2026 la IA conversacional se ha convertido en algo cotidiano para millones de personas. Hablamos con estos sistemas como si fueran confidentes, les contamos secretos, compartimos ideas de negocio y hasta nuestras preocupaciones más íntimas. Pero, ¿nos hemos parado a pensar dónde van a parar todas estas conversaciones? La respuesta tiene implicaciones serias para la ciberseguridad y la privacidad digital.

El problema de la privacidad en los asistentes de IA convencionales

La experta en privacidad de datos Em (quien intencionadamente mantiene su apellido fuera de internet) no se anda con rodeos: los asistentes de IA son el «archienemigo» de la privacidad de datos. No es para menos. A diferencia de una búsqueda en Google donde simplemente escribes «síntomas de gripe» y obtienes enlaces, una conversación con un LLM puede incluir detalles sobre tu salud, tu familia o tus finanzas personales.

«Los modelos de IA son recolectores de datos por naturaleza», explica Em. «Dependen de grandes volúmenes de datos para su entrenamiento, mejoras, operaciones y personalizaciones. Y en la mayoría de los casos, esos datos se recopilan sin un consentimiento claro e informado».

Esta falta de control del usuario es especialmente preocupante cuando pensamos en cómo usamos estas herramientas. Moxie Marlinspike, fundador de Signal, lo describe de forma cruda pero acertada: hablar con un asistente de IA es como «confesarse en un lago de datos». Vamos, como contar tus secretos en un megáfono conectado a internet.

La falsa sensación de privacidad

Lo que hace que la situación sea particularmente engañosa es la sensación de intimidad que generan estos sistemas. La interfaz conversacional nos hace bajar la guardia y compartir información que normalmente no revelaríamos en una búsqueda web tradicional.

Y aunque las grandes compañías ofrecen opciones para «no usar tus datos para entrenamiento», los matices en los términos y condiciones dejan múltiples puertas abiertas. Tu información puede seguir siendo accesible para:

• Revisión humana por parte de empleados
• Cumplimiento de los términos de servicio
• Uso interno no especificado
• Entrega a autoridades mediante citación legal

En el panorama legal actual, donde la mayoría de los datos almacenados en línea pueden obtenerse con una simple orden judicial, y con brechas de seguridad ocurriendo regularmente, no existe una expectativa razonable de que los datos personales permanezcan privados.

Las alternativas que protegen tu privacidad

Frente a este escenario, han surgido alternativas que priorizan la privacidad mediante cifrado de extremo a extremo (E2EE). Estos sistemas prometen que nadie, ni siquiera sus propios desarrolladores, puede acceder a tus conversaciones.

Confer: la apuesta de cifrado del creador de Signal

Marlinspike ha desarrollado Confer, un LLM que aplica los mismos principios de cifrado que hicieron famoso a Signal en el mundo de la mensajería. Este sistema utiliza claves de acceso (passkeys) para generar un par de claves de cifrado de 32 bytes únicas para cada usuario.

const assertion = await navigator.credentials.get({
  mediation: "optional",
  publicKey: {
    challenge: crypto.getRandomValues(new Uint8Array(32)),
    allowCredentials: [{ id: credId, type: "public-key" }],
    userVerification: "required",
    extensions: { prf: { eval: { first: new Uint8Array(salt) } } }
  }
}) as PublicKeyCredential;

Este fragmento de código muestra cómo se implementa la autenticación con passkeys, generando material criptográfico que luego se utiliza para cifrar las conversaciones. Lo importante aquí es que la clave privada nunca sale del dispositivo del usuario, lo que garantiza que solo tú puedas leer tus conversaciones.

Además, Confer utiliza un Entorno de Ejecución Confiable (TEE) en sus servidores. Esto es como una caja fuerte digital que cifra todos los datos y código que pasan por el servidor, protegiéndolos incluso de alguien con acceso administrativo a la máquina.

Otras alternativas de LLMs privados

Confer no está solo en esta misión. Otras opciones que priorizan la privacidad incluyen:

• Lumo: Desarrollado por Proton (la compañía europea detrás del popular servicio de correo electrónico cifrado), utiliza el mismo motor de cifrado que Proton Mail. Aunque su implementación es más compleja que la de Confer, el resultado para el usuario es similar: nadie más que tú puede leer tus conversaciones.

• Venice: Este servicio adopta un enfoque diferente, almacenando todos los datos localmente en el dispositivo del usuario. Así, ninguna información llega a sus servidores.

Por qué deberían importarte estas alternativas

La ciberseguridad no se trata solo de protegerse contra hackers malintencionados; también implica tener control sobre tu información personal. Las conversaciones con asistentes de IA representan un nuevo vector de vulnerabilidad que muchos aún no hemos asimilado completamente.

Como profesional de ciberseguridad, veo casos donde las personas no dimensionan la cantidad de información sensible que revelan a estos sistemas. Desde detalles de arquitectura de red en empresas hasta información personal que podría usarse para ingeniería social, los riesgos son reales y crecientes.

El gran ausente: los gigantes tecnológicos

Lo que resulta llamativo es la ausencia de soluciones de cifrado de extremo a extremo por parte de los principales proveedores de LLM. A pesar de la creciente preocupación por la privacidad, compañías como OpenAI, Google y Anthropic no han mostrado indicios de implementar E2EE en sus plataformas.

Esto nos deja en una situación donde las únicas opciones verdaderamente privadas provienen de actores más pequeños del mercado. La razón es comprensible desde su perspectiva de negocio: el acceso a los datos de los usuarios tiene un valor comercial enorme. Pero desde la perspectiva de la ciberseguridad, representa un riesgo persistente.

La decisión está en tus manos

Al final, como ocurre con muchas cuestiones de ciberseguridad, se trata de un equilibrio entre conveniencia y protección. Los asistentes de IA más populares ofrecen capacidades impresionantes, pero vienen con un coste en términos de privacidad. Las alternativas cifradas pueden tener limitaciones en sus capacidades, pero garantizan que tus conversaciones no acaben en ese «lago de datos» del que habla Marlinspike.

La próxima vez que estés a punto de contarle a un asistente de IA algo verdaderamente personal o sensible, plantéate si realmente necesitas esa información almacenada en servidores de terceros. A veces, la mejor protección contra las amenazas de ciberseguridad es simplemente no compartir ciertos datos en primer lugar.

O, como alternativa, considera usar estas nuevas plataformas cifradas para las conversaciones donde la privacidad sea prioritaria. La ciberseguridad en la era de la IA conversacional comienza por entender no solo contra qué nos protegemos, sino también qué vale la pena proteger.