Un escudo contra la desinformación: la tecnología que combate 'deepfakes', 'phishing' o las noticias falsas

Un vídeo del presidente de Ucrania, Volodímir Zelenski, pidiendo la rendición de las tropas ucranianas. Un vídeo del creador de Meta, Mark Zuckerberg, en el que habla sobre el control de datos. O un conjunto de tiktoks del actor Tom Cruise en los que aparece jugando al golf, haciendo un truco de magia o cayéndose. Estos tres hechos tienen algo en común: son 'deepfakes', creaciones audiovisuales que pueden simular actos y declaraciones de personas reales. Este tipo de vídeos han encontrado en la inteligencia artificial generativa un nuevo aliado. Herramientas como ChatGPT, Dall-E o Voicebox ayudan a generar textos, imágenes y voces de manera similar a como lo haría un humano. Tales capacidades contribuyen a agilizar la eficiencia de procesos, pero también pueden ser empleadas con fines menos éticos, como la suplantación de identidad o la difusión de información falsa.

"Ya hay algoritmos de inteligencia artificial que permiten manipular la voz o el vídeo. Algunas noticias falsas son muy difíciles de discernir, o bien necesitas un nivel de formación que no está al alcance de la mayoría de la población", afirmó Luis Jiménez Muñoz, director del Centro Criptológico Nacional (CCN), en una charla sobre posverdad organizada por Fundación Telefónica.

La inteligencia artificial no solo ha mejorado la creación de 'deepfakes' y, por tanto, la posibilidad de difundir 'fake news', sino que también ha elevado el nivel de perfeccionamiento de técnicas de ingeniería social como el 'phishing' (envío de correos electrónicos que se hacen pasar por compañías u organismos para solicitar información personal o bancaria), el 'smishing' (envío de mensajes fraudulentos, ya sea a través de SMS o WhatsApp, que suplantan la identidad de compañías, organismos públicos o personas) o el 'pharming' (ataque informático con el que los ciberdelincuentes redirigen a los usuarios a páginas web fraudulentas).

De hecho, entre noviembre de 2022 y marzo de 2023, los vídeos de YouTube con enlaces maliciosos aumentaron más de un 200%, según un artículo publicado por la empresa de seguridad CloudSek. Son publicaciones que simulan ser tutoriales para descargar productos de pago, pero que buscan vulnerar los datos del usuario.

En este marco, han surgido empresas que ponen el foco en la lucha contra la suplantación de identidades y que emplean la IA de forma ética. Es el caso de Veridas, empresa participada por BBVA, que desarrolla soluciones biométricas basadas en inteligencia artificial para verificar la identidad a través de la cara o la voz. "Una contraseña puede ser robada y se puede comprometer de manera muy fácil. Incluso existe un mercado negro de 'passwords' que permite a los ciberdelincuentes acceder a ciertas cuentas. Una huella o una imagen biométrica, en cambio, no se puede robar ni permite la búsqueda de su trazabilidad. Lo que guarda no es una fotografía, sino un vector matemático único", destaca Mariona Campmany, Chief Marketing Officer (CMO) de Veridas.

Además de Veridas, existen otros actores que están combatiendo la suplantación de identidad y la difusión de bulos o 'fake news', ya sea mediante legislación, herramientas digitales o iniciativas empresariales. De esta manera, la tecnología también puede transformarse en una aliada en la búsqueda de la verdad.

La legislación como escudo de la desinformación

El perfeccionamiento de los 'deepfakes' y otras técnicas de suplantación de identidad ha elevado el nivel de desinformación de la sociedad. Cada vez existen más bulos o 'fake news', un problema que puede traer graves consecuencias para la población. De hecho, el 83% de los españoles considera que las noticias falsas son un problema para la democracia, según el Eurobarómetro Estándar 98 publicado por la Comisión Europea.

En este contexto, la Comisión Europea marcó el 25 de agosto de 2023 como fecha límite para que 19 grandes plataformas en línea (con más de 45 millones de usuarios activos en Europa), entre las que se encuentran Facebook, Twitter o YouTube, aplicaran las obligaciones recogidas en la Ley de Servicios Digitales (DSA). A partir de ese momento, debían cumplir con una "moderación de contenidos más diligente y fiable, menos contenidos ilegales y menos desinformación en línea", tal y como establece la norma. La primera en adaptarse ha sido TikTok, que a principios de agosto anunció que permitiría el uso de su aplicación sin el algoritmo de recomendaciones, evitando así el rastreo de datos personales y la personalización del contenido para incrementar la privacidad del usuario.

No es la única medida. El Código de buenas prácticas en materia de desinformación de 2022, coordinado también por la Comisión Europea, es una herramienta pionera que acuerda unas normas de autorregulación para luchar contra la desinformación. Tiene como objetivo reducir el comportamiento manipulador (de ‘bots’ o cuentas falsas), potenciar la labor de los investigadores en la lucha contra la desinformación y fortalecer a la comunidad de verificación de hechos.

Por otro lado, también existen regulaciones que buscan luchar contra la desinformación. El Consejo de Seguridad Nacional de España aprobó en 2020 un Procedimiento de actuación contra la desinformación para actuar contra las noticias falsas en cuatro niveles: detectar falsedades, evaluar consecuencias, adoptar decisiones y responder de manera política. También está el caso de Argentina, que impulsó en 2020 la creación del NODIO, un observatorio para la desinformación y la violencia en plataformas digitales. O Brasil y la ley de noticias falsas,  que lucha contra la desinformación en redes sociales y hace responsable a los proveedores, como Twitter y WhatsApp, de combatirla.

Empresas y proyectos comprometidos con la verdad

Además de la legislación, existen un gran número de iniciativas y proyectos empresariales que tienen como objetivo mejorar tanto la seguridad como la confianza de la información que circula por internet.

Uno de ellos es la Fundación Maldita.es, que desarrolla herramientas y contenidos para ayudar a la ciudadanía a combatir la desinformación."Tenemos dos indicadores según nuestra metodología de verificación para seleccionar la información que verificamos. El primero es la peligrosidad: cosas que puedan poner en peligro la vida humana, como desastres medioambientales o ataques terroristas. El segundo aspecto es la viralidad: cuando un contenido es reportado por nuestros usuarios como falso más de 10 veces en una hora, asignamos a un periodista para revisarlo", afirma Ximena Villagrán, directora de Operaciones en Maldita. De hecho, uno de los canales que disponen para combatir la desinformación es un 'bot' de WhatsApp, que permite consultar de manera inmediata si un hecho es verídico o no.

La inteligencia artificial también puede usarse para combatir la desinformación. Es el caso de AyGLOO, startup que, además de desarrollar productos basados en IA generativa y explicable para empresas, ha diseñado una plataforma en colaboración con la agencia Europa Press para ayudar a los periodistas a detectar noticias falsas de manera rápida. "Hemos creado un sistema que es el estado del arte en inteligencia artificial para detectar noticias falsas. Usa técnicas de procesamiento del lenguaje natural (NLP) para categorizar y etiquetar noticias, aplica IA para hacer análisis semántico, y utiliza técnicas de IA explicable para entender por qué el algoritmo decide si una noticia es falsa o cierta. Este análisis también incluye el contraste de la noticia con bases de datos ya verificadas", explica Ignacio Gutiérrez, fundador y CEO de AyGLOO.

Además, la importancia de combatir esta desinformación es aún más destacada en momentos críticos, como quedó demostrado en el contexto de la pandemia de la COVID-19. "La propagación de bulos influye incluso en la decisión de algunas personas sobre si vacunarse o no. Esto ocurre debido a que, en ocasiones, la desinformación procede de fuentes aparentemente prestigiosas pero cuya verdadera procedencia desconocemos", asegura Gutiérrez.

No todas las estrategias para combatir la desinformación son impulsadas por entidades privadas. Hay programas de investigación de carácter público como HYBRIDS, un proyecto de la Universidad de Santiago de Compostela (USC) liderado por CiTIUS (Centro Singular de investigación en Tecnologías Inteligentes de la Universidad de Santiago de Compostela) para detectar noticias falsas y desinformación en las redes sociales. Se basa en la inteligencia artificial híbrida, que combina diferentes algoritmos para tomar mejores decisiones. "La detección de la desinformación es una tarea muy compleja que no solo requiere una comprensión superficial del texto, sino conocer fuentes de información o cómo ha sido redactado. Es difícil que un modelo de lenguaje actual consiga aprenderlo sin ningún tipo de estructura, como una base de datos, que le permita hacer un análisis más profundo. Eso es lo que llamamos un sistema híbrido", afirma Pablo Gamallo, docente especializado en lingüística y coordinador de la iniciativa. El objetivo es crear una herramienta de detección de discursos de odio y desinformación que pueda utilizarse como un 'software' libre que sirva de ayuda, tanto para profesionales de la información como para cualquier persona que desee identificar la verdad.

La formación como recurso fundamental para la desinformación

No solo hay un camino para combatir la desinformación. Aunque existen herramientas o proyectos que ayudan a mitigarla, no dejan de ser accesorios de un pilar mucho mayor: la educación. "La formación en este caso es muy importante. Podemos desarrollar herramientas para que la toma de decisiones sea más rápida y mejor, pero al final son las personas quienes tienen que determinar si lo que se dice se corresponde con la realidad", detalla Ignacio Gutiérrez, de AyGLOO.

De hecho, como apunta Ximena Villagrán de Maldita.es, "uno de los grandes debates en España es sobre si la Alfabetización Mediática e Informacional (AMI), que promueve la toma de decisiones informadas, debería ser obligatoria en el currículo escolar". La experta pone como ejemplo el caso de Finlandia, una de las regiones que ya ha implementado la alfabetización mediática como asignatura obligatoria desde preescolar y se ha convertido en uno de los países europeos más resistentes a la desinformación.

"La educación contra la desinformación es una responsabilidad compartida entre gobiernos, reguladores y empresas, tanto aquellas que sirven como canales de distribución de contenido falso como de las que trabajamos para desarrollar soluciones para combatirlo”, subraya Mariona Campmany, de Veridas. Comprender qué criterios caracterizan a una noticia contrastada facilita la tarea de separar la información fiable del ruido. Porque, como afirmaba el personaje de Sherlock Holmes, "una vez eliminado lo imposible, lo que queda, por improbable que parezca, debe ser la verdad".