“Las fake news generadas por IA son cada vez más realistas y difíciles de detectar”
Terese Mendiguren, experta del grupo Gureiker de la UPV, alerta sobre los riesgos de la desinformación y destaca el papel clave de los medios de comunicación para frenar su impacto.
Vitoria-Gasteiz - En plena era digital, donde la inteligencia artificial avanza a pasos agigantados, uno de los grandes desafíos sociales ya no es sólo saber si un contenido es verdadero, sino si ha sido generado por una persona o por una máquina. En este contexto, "la desinformación, especialmente las fake news creadas con IA, se ha convertido en una amenaza global", como ha indicado Teresa Mendiguren, experta en inteligencia artificial y miembro del grupo Gureiker de la UPV.
“Las fake news no son nuevas, pero sí lo es la manera en la que se elaboran y difunden”, ha indicado Mendiguren, quien señala que actualmente los contenidos falsos son “cada vez más sofisticados, más realistas y mucho más difíciles de detectar”. La integrante del grupo Gureiker de la UPV recuerda que en el último Foro Económico Mundial, este fenómeno fue señalado como "uno de los principales riesgos globales a los que se tiene que enfrentar la ciudadanía, al mismo nivel del cambio climático".
De hecho, uno de los ejemplos más recientes se vivió las elecciones de Estados Unidos, cuando circuló un deepfake en el que se veía al presidente Joe Biden completamente estático mientras la multitud bailaba a su alrededor. “El objetivo era confundir al votante, transmitir que no está capacitado para dirigir un país”, ha apuntado Mendiguren. Y todo esto, sin que el usuario medio tenga grandes conocimientos técnicos, lo cuál lo hace más difícil y complicado de identificar: “Las herramientas son cada vez más intuitivas y accesibles. Así que cualquiera puede generar un vídeo falso con apariencia real”.
Cuidado
Además del riesgo político, la desinformación basada en IA también puede tener otras consecuencias en ámbitos muy variados de la vida diaria. Desde audios manipulados en WhatsApp hasta vídeos de personajes famosos promoviendo productos falsos, la línea entre la realidad y la ficción se difumina peligrosamente. “El problema es que estos contenidos nos llegan muchas veces fuera de contexto, sin un medio de comunicación detrás que los respalde, y eso los hace difíciles de identificar, por lo que hay que tener mucho cuidado en qué información recibimos y cuál rebotamos, ya que podemos hacer el bulo más grande", ha advertido Mendiguren.
Frente a esta amenaza, la integrante del grupo Gureiker de la UPV ha insistido en que la IA también puede ser parte de la solución: “Las mismas técnicas que se usan para generar contenido falso se pueden utilizar para detectarlo. de hecho, hay medios y empresas que ya desarrollan sistemas para combatir esta desinformación”.
Pero más allá de la tecnología, Mendiguren pone el foco en la necesidad de responsabilidad y alfabetización mediática: “Como ciudadanos, tenemos que aprender a estar alerta, a verificar fuentes, a no compartir sin pensar”. Una tarea en la que, asegura, los medios de comunicación juegan un papel más importante que nunca: “Estamos en una era en la que se cuestiona todo, incluso lo que es real. Por eso, los medios fiables y responsables son esenciales”.
Por todo ello, Mendiguren recuerda que la IA no es ni buena ni mala por sí misma: “Depende de la mano humana que la utiliza. La estamos entrenando entre todos y todas, y tenemos que hacerlo con conciencia”.
Fuente: Cadena Ser
Autor: Jon Dos Santos
Imagen de freepik