Contenido falso: un riesgo muy cierto

Tiempo de lectura estimado: 7 minutos

A menudo se puede observar cómo se da credibilidad a contenidos falsos por el mero hecho de estar en internet, lo que abre la puerta a multitud de amenazas. Se puede hablar de que las fake news en sí mismas son ciberataques, siendo una de las tácticas poderosas que utilizan los ciberatacantes para afectar a la percepción pública y manipular la opinión.

¿Qué es el contenido falso?

El contenido falso engloba mucho más que solo fake news, ya que abarca lo que ocurre en las redes sociales en forma de texto, vídeo, audio... Basándose en distintas estadísticas, se puede afirmar que la desinformación afecta directamente al sistema democrático de un país, aunque es difícil afirmar cómo afecta.

Este proceso de desinformación puede beneficiar a diferentes actores, que van desde las personas a nivel individual, ya que puede haber lucro de un contenido difundido de forma masiva en redes sociales, hasta el nivel estatal a través de elecciones y confrontaciones políticas. Hay toda una industria por detrás que mercadea con el valor económico derivado de un like, un comentario o del acto de compartir determinadas publicaciones.

¿Cómo crear una campaña?

La creación de una campaña de desinformación pasa por varias fases:

1. Análisis y detección de vulnerabilidades sociales y políticas de un país, así como seleccionar un tema de interés.
2. Creación de narrativas transmedia.
3. Creación de una red de medios propios/pagados/ganados.
4. Creación de canales de distribución automatizados.

¿Cómo se crea el contenido falso? ¿Es posible detectarlo?

Existen bots que crean y difunden el contenido falso, así como personas que imitan el comportamiento de un bot y se dedican a ello para realizar "trampas" en redes sociales. También existen algoritmos e inteligencias artificiales que ayudan a generar contenido. 

Con el paso del tiempo ha disminuido la confianza en poder identificar contenido falso. Hay muchas aproximaciones acerca de cómo detectarlo, por ejemplo, un análisis semántico de los textos (frases breves, palabras concretas...) donde puede haber ciertas estructuras que alarmen. También hay análisis de difusión con los que se puede llegar a detectar el contenido falso. Estos análisis se pueden complementar con el uso de modelos de machine learning, deep learning, inteligencia artificial...

También hay personas y entidades trabajando en detectar contenidos falsos, poniendo en práctica especialmente lo conocido como la verificación de hechos o fact-checking. Del mismo modo, existe un código de prácticas en desinformación por parte de la Unión Europea que sirve como acción contra el contenido falso.

Mucho trabajo por hacer

Pese a las medidas contra la desinformación señaladas, queda mucho por hacer. La Universidad Complutense de Madrid realizó un estudio con 2.000 personas en el que seis de cada diez afirmaron ser capaces de distinguir una noticia falsa, pero la realidad es que solo tres de cada veinte acertaron.

En la ponencia se presenta DEPROFAKE, un proyecto a modo de aproximación para tratar de poner solución a este problema mediante un enfoque multidisciplinar incluyendo entrenamiento de modelos de IA y datos preexistentes en forma de noticias falsas y verdaderas. Los resultados preliminares muestran algunas pistas como, por ejemplo, que los detectores automáticos son realmente escasos, mientras que los detectores manuales son poco fiables.

¿Todavía no formas parte de C1b3rWall Academy? El contenido es gratuito, únete a otras miles de personas desde este enlace.

Si te interesa este tema, puedes consultar la información y cursar el Máster en Ciberseguridad o ver la oferta de másteres desde aquí.

Ponentes: José María de Fuentes y Lorena González

José María y Lorena son profesores del Computer Security Lab (COSEC), perteneciente al Departamento de Informática de la Universidad Carlos III de Madrid. Acumulan varios años trabajando en diferentes facetas de la ciberseguridad.

• Redes sociales (Twitter): @jmdefuentes y @LorenaGonzManz.