Comportamiento inorgánico y campañas de desinformación

Tiempo de lectura estimado: 10 minutos

Evolución del concepto "desinformación"

El fenómeno de la desinformación no es nuevo, pero se ha visto potenciado por diversos cambios, que a su vez han cambiado la forma de dar respuestas a cómo abordarlo, teniendo más en consideración el comportamiento que el contenido. Se han producido cambios en los métodos de distribución de la información y, además, la utilización de las nuevas tecnologías está facilitando la explotación de las diferentes vulnerabilidades sociales y psicológicas.

Según la Comisión Europea, la desinformación se define como "información verificablemente falsa o engañosa que se crea, presenta y divulga con fines lucrativos o para engañar deliberadamente a la población, y que puede causar un perjuicio público". Es en 2020 cuando se empieza a hablar de otros fenómenos asociados a la desinformación como las operaciones de influencia en la información o la injerencia extranjera en el espacio de la información.

Campañas de desinformación

El verdadero potencial dañino del fenómeno se produce cuando tiene lugar en forma de campañas. Tal y como refleja el Centro Criptológico Nacional, hay 10 elementos clave de una campaña de desinformación: 

1. Noticias falsas/fake news.
2. Deepfakes.
3. Nuevos medios.
4. Anuncios pagados.
5. Estrellas invitadas.
6. Coberturas digitales o cuentas híbridas.
7. Algoritmos, cámaras de resonancia y redes de confianza.
8. Cuentas automatizadas.
9. Perfiles digitales dañinos.
10. Foros sociales.

Riesgos de las campañas de desinformación

Puede haber campañas de desinformación enfocadas a diferentes ámbitos:

• Participación democrática: manipulación del electorado, como ocurrió en las presidenciales de Estados Unidos de 2016, concluyendo la fiscalía que hubo injerencia rusa sistemática. Hubo creación de cientos de perfiles falsos en redes sociales. También hay ataques informáticos específicamente dirigidos a políticos, con el objetivo de obtener material para comprometer a un candidato.
• Seguridad pública: ejemplo de ello son las campañas que han ocasionado daños en las torres 5G, la teoría conspirativa del famoso Pizzagate o el asalto al Capitolio de los Estados Unidos.
• Salud pública: ejemplos como las campañas que trataron de socavar los beneficios de la vacunación contra la covid-19, así como la promoción de remedios peligrosos para hacerle frente que podían causar grave daño a la salud.
• Estabilidad financiera: aquellas que tratan de manipular los mercados o de atacar la imagen de empresas o directivos.
• Flujos migratorios: hay campañas de desinformación que tratan de instrumentalizar la inmigración para promover flujos de forma masiva o que incrementan falsamente el impacto de la inmigración.

Tácticas, técnicas y procedimientos: el comportamiento inorgánico

Este tipo de comportamiento es el que realmente va a dar envergadura a una campaña de desinformación. Se le llama inorgánico porque supone el empleo de técnicas que buscan manipular a los usuarios mediante el uso de automatismos en redes sociales para difundir artificialmente los mensajes o para amplificar conversaciones que pueden tener o no relevancia para los usuarios.

Un ejemplo ilustrativo de comportamiento inorgánico es uno de los últimos informes elaborados por Meta, publicado en septiembre de 2022, y que supuso la eliminación de este tipo de comportamientos procedentes de Rusia y China. Versaba en torno a una red de más de 60 sitios web que se hacían pasar por organizaciones de noticias legítimas en Europa, emitiendo narrativas contra Ucrania y los refugiados mediante distintos idiomas. La amplificación en redes se basó principalmente en burdos anuncios y cuentas falsas, además, el contenido era amplificado por las embajadas rusas en Europa y Asia. Se creaban cuentas con el mismo nombre en diferentes plataformas que servían de respaldo al resto para que parecieran más legítimas. Formaban múltiples capas de entidades falsas que se impulsaban mutuamente, creando su propia cámara de eco.

Utilización de la IA como agente facilitador y barrera a la desinformación: riesgos

Actualmente, los sistemas de inteligencia artificial están desempeñando un papel primordial en el fenómeno de la desinformación, ya que aumentan las oportunidades para crear contenido falso realista y facilitan la difusión. En este caso, la IA supone algunos riesgos en la creación de contenido que tienen que ver, sobre todo, con los deepfakes en forma de imágenes, audio y vídeo. Cuando hablamos del uso de la IA para la distribución de contenido, también hay riesgos como la creación masiva de cuentas de usuario simulando la acción humana o la generación de contenido inorgánico. 

Otra tipología de riesgos de la IA en este sentido es la que tiene que ver con la evaluación y el desarrollo de estrategias, permitiendo evaluar y predecir el sentimiento de la audiencia, personalización de contenido, ejecución de campañas y evaluación del impacto de la narrativa. 

IA como barrera frente a la desinformación

Paradójicamente y contrario a lo comentado anteriormente, la inteligencia artificial también ha demostrado que tiene potencial para automatizar la detección y el análisis de la desinformación. En la literatura de la IA como barrera hay distintas aproximaciones:

• Basadas en el contenido: uso de la IA para detectar alteraciones en imágenes, vídeos y audios. 
• Basadas en la fuente: uso de la IA para detectar cuentas falsas, robadas o bots.
• Basadas en el contexto: referidas a la identificación de patrones de comportamiento inorgánico.

Respuesta: contrarrestar amenazas híbridas

¿Todavía no formas parte de C1b3rWall Academy? El contenido es gratuito, únete a otras miles de personas desde este enlace.

Si te interesa este tema, puedes consultar la información y cursar el Máster en Ciberseguridad o ver la oferta de másteres desde aquí.

Ponente: Departamento de Seguridad Nacional

El Departamento de Seguridad Nacional se encarga de diversas tareas como asesorar al Presidente del Gobierno en materia de Seguridad Nacional, mantener y asegurar el adecuado funcionamiento del Centro de Situación para el ejercicio de las funciones de seguimiento y gestión de crisis o impulsar el desarrollo e integración del Sistema de Seguridad Nacional.