Alertan por evolución de los deepfakes: estamos llegando a un punto en que solo la IA podrá identificar lo que ha hecho la IA

A medida que se aproxima el 5 de noviembre, el uso de la IA suscita más preocupación por su impacto en el proceso democrático. Desde la manipulación de la información hasta la creación de contenidos engañosos, la tecnología del momento está desempeñando un papel cada vez más controvertido en estos últimos días de campaña.

Es un fenómeno que hemos visto evolucionar ante nuestros ojos, pero especialistas en el ramo alertan que estamos llegando a un punto en el que nuestros ojos ya no serán capaces de distinguir qué es real y qué no.

“La IA facilita la creación rápida y personalizada de contenido falso a gran escala, desde artículos hasta imágenes generadas artificialmente, con el objetivo de influir en la percepción de los votantes. Su rapidez y precisión permiten que la desinformación llegue a más personas de forma más persuasiva”, asegura Francisco José García Ull, profesor de la Universidad Europea de Valencia especialista en Inteligencia Artificial.

El experto añade que “antes, la frecuencia de parpadeo o la definición de la dentadura eran indicadores biométricos que podían ayudarnos a detectar un deepfake. Sin embargo, los de última generación ya no pueden ser identificados por el ojo humano, de manera que unas máquinas generan deepfakes y otras se encargan de descubrirlos”.

Un estudio de Pew Research Center señala que el 57 % de los estadounidenses dicen temer que que personas u organizaciones que buscan influir en las elecciones utilicen la IA "para crear y distribuir información falsa o engañosa sobre los candidatos y las campañas". En este punto, al menos, no parece haber diferencia entre republicanos y demócratas, porque ambos bandos se declaran "extremadamente o muy preocupados".

Ejércitos de bots

En cuanto al papel de los bots en la campaña electoral estadounidense, el profesor García Ull explica que “son enormemente eficaces a la hora de amplificar la desinformación al generar y compartir contenido automáticamente, haciendo que las fake news se perciban como reflexiones espontáneas de la ciudadanía. En apenas minutos, una red de bots es capaz de viralizar un contenido falso para manipular a la opinión pública”.

Y aunque existen sistemas de verificación de datos y herramientas de IA para detectarlos, lo que se está viendo después de cada debate o cada mitin, es que son claramente insuficientes.

“A menudo, el contenido falso se propaga antes de que pueda ser desmentido, por lo que hacen falta más medidas preventivas y alianzas entre sectores”, alerta el especialista. A su juicio, una de las claves pasa por “una mayor transparencia sobre los algoritmos que usan las plataformas de redes sociales, ya que no conocemos con certeza las variables que permiten que una información se haga viral en Instagram, X, YouTube o TikTok”.

Más allá de la cita con las urnas de los estadounidenses el 5 de noviembre, el profesor García Ull considera que “es fundamental educar a la ciudadanía sobre la importancia de verificar las fuentes y ser críticos con la información que consumen. Debemos inspirarnos en la duda metódica de Descartes cuestionando toda información antes de aceptarla como cierta, ya que eso contribuiría a fortalecer la conciencia pública frente a la desinformación. Programas de alfabetización digital, en combinación con alertas sobre desinformación, pueden ayudar a que el público sea más consciente y cauto”.