El algoritmo y big data, algunos riesgos

Tiempo de lectura estimado: 4 minutos

El objetivo de esta ponencia es conocer algunos riesgos y amenazas derivados del uso de tecnologías como la inteligencia artificial o el big data.

El aprendizaje automático

Varios de los conceptos relacionados con la inteligencia artificial y el big data están relacionados con lo conocido como aprendizaje automático o machine learning. Se trata de programas que aprenden a identificar objetos físicos, situaciones o eventos, personas, estados de ánimo, operaciones sospechosas, etc. Detectando estos elementos simples se pueden automatizar operaciones complejas y algunos sistemas pueden recomendar acciones o llevarlas a cabo de forma automática.

Tipos de aprendizaje automático y riesgos

Se suele distinguir entre aprendizaje heurístico y aprendizaje estadístico. En la actualidad, se dispone de cada vez más datos digitalizados que se puedan utilizar como ejemplo para los programas de aprendizaje automático. 

Algunos de los riesgos que se pueden encontrar con la aplicación de este tipo de sistemas pasan por la dificultad para establecer causalidad en los algoritmos estocásticos, las diferencias entre aplicación en laboratorio y en la realidad y, por último, la dificultad de valorar la calidad de datos de entrenamiento.

Por otra parte, otra de las amenazas tiene que ver con la privacidad, ya que nuestros datos tienen un elevado valor económico (cada vez más). De momento, la mayoría de los datos recolectados son anónimos y están dispersos, pero la realidad es que la situación está cambiando y hay riesgo de que se obtengan perfiles detallados del usuario.

Otra de las amenazas tiene que ver con la toma de decisiones basada en algoritmos, ya que la utilización de estos sistemas plantea problemas éticos que generan dificultad en la atribución de responsabilidad. 

Riesgos y amenazas: ¿Hacia una regulación?

Entre los que plantean que debe realizarse una regulación, surgen dudas acerca de quién debe llevarla a cabo y de qué forma para que resulte eficaz en la práctica.

¿Todavía no formas parte de C1b3rWall Academy? El contenido es gratuito, únete a otras miles de personas desde este enlace.

Si te interesa este tema, puedes consultar la información y cursar el Máster en Internet de las Cosas o ver la oferta de másteres desde aquí.

Ponente: Carlos García Figuerola

Carlos es profesor del departamento de Informática y Automática en la Universidad de Salamanca. Contacto: figue@usal.es