Cómo detectar textos generados por ChatGPT y otros sistemas de inteligencia artificial

Desde noviembre del año pasado, ChatGPT ha causado revuelo debido a la facilidad de la herramienta para crear textos sobre esencialmente cualquier tema y de tanta longitud como se le pida.

Ahora Microsoft también ha integrado la tecnología de ChatGPT en su buscador Bing, lo que amplifica incluso más el uso de este tipo de tecnología para generar textos.

Entendiblemente, esto ha causado polémica en ámbitos educativos y profesionales, ya que en muchos casos los textos son difíciles de detectar. El poder de estas herramientas es que cualquier estudiante puede producir ensayos enteros sobre  temas específicos y ya se han documentado casos en que los estudiantes entregan trabajos con cambios mínimos o sin cambios.

Si bien han empezado a surgir herramientas para detectar estos textos generados por IA, también es fundamental entender algunos conceptos básicos para identificarlos sin necesidad de pasarlos por una herramienta externa.

Con ayuda de la IA

OpenAI, la empresa matriz de ChatGPT, ha respondido a las preocupaciones de distintos sectores y ha creado una herramienta que analiza los patrones en el texto para detectar si fue generado por una IA o si el autor es humano. Estas herramientas funcionan tanto en inglés como en español.

La herramienta está disponible gratuitamente desde la misma página de OpenAI y solamente se necesita una cuenta activa, que puede ser la misma usada para ChatGPT. Sin embargo, funciona con un mínimo de 1.000 caracteres, equivalente a entre 150 y 200 palabras.

Por otra parte, GPTZeroX es otra herramienta potente, que analiza elementos como las frases, las palabras, los conectores y más. Es gratuita de usar en su página oficial.

Sin embargo, hay que tener en cuenta que las herramientas pueden fallar o producir falsos positivos, por lo que vale la pena también tener algunos tips en cuenta.

Lenguaje repetitivo o poco natural

Es clave recordar, a la hora de analizar textos sospechosos, que la gran mayoría de los modelos de IA actuales están basados en modelos predictivos.

En otras palabras, ninguno de estos programas ‘entiende’ verdaderamente ningún tema, sino que simplemente elige elementos de su base de datos y forma frases basadas en lo que el algoritmo ha leído y que le lleva a deducir cuál palabra o cuál frase puede ser la mejor elección.

Por eso, es común que se omitan detalles o que se repitan demasiado conectores como ‘adicionalmente’ o ‘en adición’. Incluso si son utilizados, también es posible que sean empleados de maneras poco comunes, o sin mucho sentido dentro de una frase específica.

La IA es incapaz de pensar en una cohesión general del texto, por lo que si bien puede que las ideas y párrafos estén bien formadas, es probable que no exista un verdadero hilo conductor transversal a todo el escrito.

Mirar siempre los detalles

Otra señal de texto escrito por IA es una falta general de contexto. Esto muy comúnmente se refleja en que los textos pueden parecer bien escritos, pero nunca entran en detalle sobre algunos de los elementos y solamente saltan entre ideas generales.

En un ensayo sobre una novela, por ejemplo, la IA será capaz de generar un resumen convincente y nombrar algunos de los puntos más importantes. Sin embargo, es probable que no pueda detallar las características de cada capítulo o la personalidad de los personajes más allá de una descripción general.

Muchos errores, o la falta de ellos

La IA, en un número sorprendentemente alto de casos, puede pasar datos falsos como si fueran verdaderos. Este tipo de errores a veces son menores, pero una persona que sepa sobre el tema podrá detectarlos con relativa facilidad. Si bien estos errores de contenido los puede cometer una persona, la IA tiende a cometerlos con artificial frecuencia.

En cambio, la IA en muchos casos produce textos absolutamente limpios de errores ortográficos. Es normal que una persona cometa errores menores, como la falta de una tilde, una coma o una letra mal puesta, por lo que textos demasiado limpios también pueden ser indicativos.

Si bien ninguna de estas recomendaciones por sí solas indican la existencia de un texto generado por IA, lo cierto es que detectar muchos de estos indicios puede ayudar a asumir una actitud más crítica frente a los textos que consumimos y generar así una opinión mucho más informada sobre ellos.