Detección de IA: cuando usamos la inteligencia artificial para detectar la IA

Uso de la Inteligencia Artificial en la detección de contenidos generados por IA y plagios.

Aunque los detectores de IA prometen identificar contenido generado por máquinas, en la práctica enfrentan limitaciones que permiten que textos, imágenes y vídeos “humanizados” pasen desapercibidos, creando un juego constante entre creación y detección.

Es verdad que la picaresca forma parte de nuestro ADN, y con la llegada de la IA, ese ingenio español para «buscarle las vueltas» a las cosas ha encontrado en la IA una herramienta perfecta. Ya no se trata solo de que la IA trabaje por nosotros, sino de cómo la «hackeamos» para que haga lo que ni sus creadores imaginaron. 

Esa es, precisamente, la pescadilla que se muerde la cola y el siguiente nivel de la picaresca: usar al «ladrón» para pillar al «ladrón». A medida que la IA mejora creando textos, imágenes o vídeos realistas, se requieren de herramientas que permitan desentrañar esos mismos contenidos. Es una especie de «carrera armamentística» digital donde el español ya está buscando cómo sacar ventaja en todo momento.

Herramienta para detectar contenidos generados por IA:

Este tipo de herramientas no solo se centran en la “humanización” sino que analiza las sombras, reflejos, marcas de agua o las texturas para determinar si lo ha hecho una máquina o un humano. Sin embargo en los ejemplos siguientes encontramos discrepancias obvias para el razonamiento humano que nos indican quiénes son los creadores de las mismas.

¿Te atreves a razonar porque estas dos imágenes están hechas con IA?

Detector de IA para profesores: 

El ámbito académico fue uno de los primeros en sufrir el uso de la IA de mano de los estudiantes. El profesor detecta un ensayo sospechosamente perfecto, por lo que usa las herramientas de detección de la IA que esté a su alcance. Pero el alumno a su vez, pasa el trabajo por un «humanizador» de IA para ver si el detector lo pilla, y así va ajustando el texto hasta que el sistema dice: «100% humano». 

Detectar IA en el ámbito científico: 

En el mundo de la investigación donde se espera en cada nueva publicación algo novedoso y es aquí donde la IA como turnitin entra en acción ya que detectan de forma más rápida las similitudes. Pero justamente este es un punto débil de la IA los «falsos positivos«, ya que la IA se entrena de forma estructurada, objetiva, sin emociones y utilizando un vocabulario técnico y preciso que es justamente como escriben los investigadores.

Limitaciones y falsos positivos de la detección de IA:  

En estos casos la IA puede considerar que estás “plagiando” ya que tus frases son muy predecibles, tienen un estilo similar al de otros trabajos, por ello los investigadores usan técnicas para mantener su forma de escritura, mediante la reescritura, humanización, y manteniendo los modismos. En definitiva es el juego del gato y el ratón constante, hemos creado un ecosistema donde confiamos en una IA para que nos diga si podemos confiar en otra IA. Es el culmen de la ironía tecnológica. 

Riesgos de la IA: Clonación de voz y vídeo con IA

Sin embargo, lo que empezó como una simple picaresca ha cruzado una línea peligrosa: la de la ciberdelincuencia sin escrúpulos. Un ejemplo claro es la clonación de video y voz, estas herramientas han avanzado tanto que ya no se necesitan horas de audio; con apenas unos segundos de un vídeo de Instagram o un TikTok, los delincuentes pueden replicar el tono, el acento y hasta los tics de un familiar. Podéis ver un claro caso en el siguiente link donde el creador de contenido es sancionado por infringir derechos de autor del video generado por IA mediante «suplantación de identidad» de sí mismo. ¡Toda una locura!

El futuro de la detección de los contenidos generados por IA

En la actualidad estamos en una carrera donde la tecnología como siempre avanza mucho más rápido que las leyes y las regulaciones. Por cada IA que aparece poco después nos encontramos una contraparte que analiza e identifica las creaciones no humanas. A día de hoy es el propio mercado el que se está autogestionando identificando las necesidades y dando a los humanos las herramientas necesarias. ¡Veremos qué ocurre en el futuro! 

Prueba de detectores de IA

Como actividad final de este blog hemos pasado el último párrafo del mismo por un sistema de detección (link) y estos han sido los resultados.