Detectores de IA: cómo funcionan y por qué no son infalibles
Desde que los generadores de imágenes IA empezaron a producir imágenes, textos y vídeos de una calidad difícilmente distinguible de los creados por humanos, surgió una pregunta lógica: ¿podemos detectar lo que ha generado una máquina? La respuesta corta es sí, pero con muchos asteriscos. Y los asteriscos, en este caso, importan bastante.
Qué es exactamente un detector de IA
Un detector de IA es una herramienta —normalmente un modelo de machine learning en sí mismo— entrenada para identificar si un texto, imagen, audio o vídeo ha sido generado total o parcialmente por un sistema de inteligencia artificial. No es un antivirus, no es un escáner mágico. Es, básicamente, una IA que intenta adivinar si otra IA ha intervenido en la creación de un contenido.
En el caso de los textos, estos detectores analizan patrones estadísticos del lenguaje: repetición de estructuras, uniformidad del estilo, distribución de palabras poco habituales, fluidez sintáctica excesiva… Cuando un modelo de lenguaje como GPT-4 o Gemini escribe, tiende a producir texto con una coherencia y predictibilidad que, para otro modelo entrenado en detectarla, resulta reconocible. Al menos en teoría.
Para imágenes, el enfoque es diferente. Los detectores analizan artefactos visuales típicos de los generadores: inconsistencias en texturas, anomalías en reflejos, proporciones ligeramente incorrectas en manos o dientes, patrones de ruido específicos de modelos como Stable Diffusion o Midjourney. Son señales que el ojo humano a menudo pasa por alto, pero que un modelo entrenado puede identificar con cierta precisión.
Cómo funcionan los detectores de texto generado por IA
El enfoque estadístico: perplejidad y burstiness
Los 2 conceptos más usados para entender cómo detectan IA los textos son la perplejidad (perplexity) y la burstiness.
La perplejidad mide qué tan predecible es un texto para un modelo de lenguaje. Cuando la IA escribe, tiende a elegir las palabras más probables en cada contexto, lo que resulta en textos con baja perplejidad: fluidos, coherentes, casi demasiado uniformes. Un humano, en cambio, introduce variaciones, saltos de registro, errores leves, expresiones inesperadas. Eso eleva la perplejidad del texto.
La burstiness hace referencia a la variabilidad en la longitud y complejidad de las frases. Los humanos alternamos frases cortas con párrafos más elaborados. Los modelos actuales tienden a mantener un ritmo más constante, aunque esto está cambiando con las últimas versiones de los grandes modelos.
Herramientas como GPTZero, Originality.ai o el propio detector de contenido de Copyleaks funcionan sobre estos principios, con variaciones en su arquitectura y en los modelos con los que han sido entrenadas.
Limitaciones reales que hay que conocer
Aquí es donde hay que ser honesto: los detectores de texto tienen una tasa de falsos positivos preocupante. En pruebas independientes realizadas en 2024, herramientas como GPTZero marcaron como «generado por IA» textos escritos íntegramente por humanos, especialmente en géneros técnicos, académicos o con estilo formal. Y al revés: textos generados por IA pasaron desapercibidos tras una mínima edición manual.
Esto no es un fallo puntual. Es una limitación estructural. A medida que los modelos generativos mejoran, también aprenden a producir texto con mayor variabilidad y «humanidad». La distancia entre lo que genera una IA y lo que escribe una persona se está reduciendo de forma constante, y los detectores corren detrás.
La detección de imágenes generadas por IA: más técnica, igual de imperfecta
Lo que busca un detector de imágenes
Cuando Midjourney, DALL-E 3 o Stable Diffusion generan una imagen, lo hacen a través de procesos matemáticos que dejan huellas específicas. Los detectores de imágenes generadas por IA buscan principalmente:
- Artefactos de difusión: patrones de ruido residuales del proceso de denoising que usan los modelos de difusión.
- Inconsistencias semánticas: una sombra que no cuadra con la fuente de luz, un reflejo en los ojos que no corresponde al entorno, dedos con una articulación imposible.
- Fingerprints del modelo: cada arquitectura generativa tiende a dejar marcas sutiles en la textura o el color que pueden identificarse si sabes qué buscar.
Proyectos como C2PA (Coalition for Content Provenance and Authenticity), impulsado por Adobe, Microsoft y otras grandes compañías, apuestan por una solución diferente: en lugar de detectar a posteriori, proponen incrustar metadatos criptográficos en las imágenes en el momento de su creación, para que cualquier herramienta pueda verificar el origen del contenido. Es un enfoque más robusto, aunque su adopción masiva sigue siendo un trabajo en curso.
El problema del adversarial prompting y la edición posterior
Un generador de imágenes IA puede producir una imagen que un detector identifica correctamente. Pero si esa imagen se comprime en JPEG, se le aplica un filtro, se recorta o se sube y descarga de una red social, muchas de esas huellas desaparecen. Los detectores entrenan con imágenes en condiciones ideales; el mundo real no suele serlo.
Y luego está el problema contrario: imágenes totalmente reales que son marcadas como sintéticas porque la cámara usada, las condiciones de iluminación o el post-procesado se parecen demasiado a lo que produce un generador. Una foto hiperperfecta de un atardecer, tomada con una buena cámara y editada en Lightroom, puede activar falsas alarmas.
El contexto actual: una carrera armamentística sin vencedor claro
No voy a pintarlo de otra forma: en este momento, ningún detector de IA —ni de texto ni de imágenes— es suficientemente fiable como para usarse como prueba concluyente. Esto no significa que sean inútiles. Significan que hay que entender qué pueden y qué no pueden hacer.
En el ámbito educativo, por ejemplo, varias universidades españolas han desaconsejado usar detectores de IA como único criterio para acusar a un estudiante de trampa académica, precisamente por el riesgo de falsos positivos. En el ámbito periodístico o forense, se usan como una señal de alerta que requiere verificación adicional, no como un veredicto.
La situación evoluciona rápido. A principios de 2025, OpenAI anunció que estaba trabajando en un sistema de watermarking criptográfico para el texto generado por sus modelos, una especie de marca de agua invisible que los detectores podrían identificar sin ambigüedades. La iniciativa existe, pero su implementación generalizada sigue siendo limitada.
Por ahora, la forma más efectiva de detectar contenido generado por IA sigue combinando herramientas automáticas con criterio humano: ¿tiene sentido el contexto? ¿Hay incoherencias que una persona no cometería? ¿El estilo se mantiene exactamente igual a lo largo de todo el texto? Son preguntas que, muchas veces, una lectura atenta responde mejor que cualquier algoritmo.
Qué esperar de los detectores en los próximos años
La tendencia apunta en 2 direcciones simultáneas: mejores detectores y mejores generadores. Es una carrera en la que ambos lados aprenden del otro. Lo que sí parece más sólido a largo plazo es la apuesta por la verificación de origen en lugar de la detección reactiva: saber de dónde viene un contenido es más fiable que intentar adivinar si lo hizo una máquina o una persona.
Iniciativas como C2PA, los esfuerzos de la Unión Europea en el marco del AI Act para regular el etiquetado de contenido sintético, o la propuesta de incrustar identificadores en los propios modelos apuntan en esa dirección. No es tan emocionante como un detector que lo adivina todo, pero es bastante más realista.
