analitica de datos seguridad

Los pilares de la confianza en la analítica de datos: seguridad, privacidad y ética

Los modelos de negocio evolucionan constantemente y con ellos, la utilización de las soluciones tecnológicas que los sustentan. En los últimos años, las capacidades de procesar y almacenar información han crecido exponencialmente, en gran parte gracias a las soluciones cloud y a arquitecturas mixtas y distribuidas. Este hecho, unido a la necesidad de ofrecer servicios cada vez más personalizados a clientes y potenciales clientes, sitúa a la analítica de datos y la toma de decisiones automatizadas en el centro de la ecuación.

Los tres conceptos

Hasta el momento, tanto gobiernos como empresas privadas y organizaciones han venido trabajando en cumplir las respectivas regulaciones y buenas prácticas relativas a la seguridad y la privacidad de los datos, pero este contexto debe ser actualizado, incorporando la revisión de dichos algoritmos desde su concepción, ofreciendo transparencia y claridad en su diseño:

  1. Seguridad: Además de las regulaciones sectoriales y los marcos internacionales reconocidos como buenas prácticas en ciberseguridad (ISO 27001 y NIST CSF), la Directiva NIS hace hincapié tanto para los operadores de servicios esenciales como para los proveedores de servicios digitales.
  2. Privacidad: El Nuevo Reglamento General de Protección de Datos ha sido la primera baldosa de este camino, que continúa haciendo especial énfasis en conceptos como la privacidad desde el diseño, la legitimidad de los tratamientos o la responsabilidad proactiva y debida diligencia a la hora de aplicar medidas.
  3. Ética: Evitar abusos, ofrecer transparencia y excelencia dentro de los nuevos entornos que derivan en decisiones automatizadas, entornos de aprendizaje e inteligencia artificial. La necesidad (y obligación) de ser transparentes en el diseño de los algoritmos, puesto que únicamente con la implicación de todas las partes, lograremos construir un nuevo entorno digital confiable.

La estrategia digital europea

A principios de este 2020, la Unión Europea hacia oficial su postura respecto a cuál debe ser la estrategia de la Unión y los Estados Miembro respecto al nuevo entorno Digital. Dentro de este marco, se detallaban una serie de acciones para vertebrar dicha estrategia, entre los que cabe destacar:

  • La inteligencia artificial: Destaca “la obligación de que los sistemas de IA de alto riesgo sean transparentes y rastreables, estando siempre bajo el control y la supervisión humana”, igualmente se incide en “las facultades que tendrán las autoridades a la hora de verificar dichos sistemas” tal y como ya ocurre con otros productos y servicios.
  • Estrategia europea de datos, cabe reseñar el concepto de mercado único de datos, el cual permitirá que estos fluyan libremente por la UE y entre sectores, en beneficio de las empresas, los investigadores y las administraciones públicas. Destacando que “se respeten plenamente las normas europeas, en particular en materia de privacidad y protección de datos, así como la legislación sobre competencia.”
  • Ciberseguridad, se destacan los organismos competentes, las actuales leyes y regulaciones actualmente vigentes, como la Directiva NIS, subrayando conceptos de gran relevancia como el plan de recuperación ante desastres de la UE, el cual ha sido reforzado en materia de ciberseguridad o el conjunto de instrumentos y medidas para la seguridad de los entornos 5G.

Por último, destacar también la publicación del libro blanco de la UE en relación a la inteligencia artificial, orientado a la excelencia y la confianza de estos entornos.

De la analítica de datos a la inteligencia artificial

La interpretabilidad de los modelos analíticos es inversamente proporcional a su complejidad. Así, al ir incrementando la complejidad nos empezamos a mover desde los modelos White Box (auto explicativos) hasta el extremo opuesto, los llamados Black Box que presentan mucha dificultad interpretativa debido a su complejidad.

No siempre ha de haber una relación entre la complejidad de un modelo y la mejor precisión que los mismos alcanzan, el desarrollo de la inteligencia artificial demuestra la mejor solvencia de aquellos modelos más complejos o que refieren a técnicas de combinatoria complejas (asambleados). Precisamente el gran avance en la precisión de dichos modelos ha significado una involución en su explicabilidad.

El perfil de riesgo de los modelos marca el nivel de control requerido en cada uno de ellos para poder responder a cuestiones como la interpretabilidad de datos de entrenamiento erróneos, en que lleven a discriminación por razones de género, religión edad, etc. así como poder explicar la precisión de los modelos analíticos o las variables que más se ajusten a los resultados esperados.

Por estas razones es fundamental el poder disponer de un método, framework y herramientas para ayudar a nuestros clientes a que sus soluciones, tengan integridad, sean explicables, estén libres de prejuicio y sean ágiles y robustas, para que se usen eficientemente y se confíe en ellas a la hora de la toma de decisiones.

Esto nos permite ayudar a que se mejore el control que tienen sobre sus sistemas IA para que se obtengan los resultados de negocio esperados.

El reto para las empresas

Cada vez más, las compañías están aumentando la utilización de sistemas de inteligencia artificial y de análisis avanzados. El uso de estos sistemas proporciona grandes beneficios como puede ser el incremento de la efectividad de sus operaciones o el conocimiento personalizado de sus clientes, pero también expone a la compañía a riesgos hasta ahora no gestionados, así como a una reglamentación y cumplimiento en constante evolución.

En este punto irrumpe el concepto de la ética y cómo las empresas deben ser más transparentes desde la concepción de sus servicios y soluciones, ofreciendo claridad y responsabilidad sobre los resultados e implicaciones que dichos entornos, aplicados a sus servicios, conllevan dentro de la sociedad. No es ajeno a nosotros, que las mayores polémicas surgidas en los últimos años y que han copado muchas de las portadas y abierto los principales programas de actualidad, tenían que ver con la ética en el tratamiento de los datos y las consecuencias derivadas.

Desde nuestro punto de vista, no es para nada aventurado sentenciar que, en el plazo de dos o tres años, la transparencia de las empresas a este respecto será visto como un plus de garantía para sus potenciales clientes, un sello de tratamiento ético respecto a los datos.

Llegados a este punto y entendiendo también el papel que las empresas juegan en el conjunto de la sociedad, alineándose con las directrices anteriormente comentadas de la Unión Europea, garantizar la seguridad, la privacidad y la ética de los datos debe ser un must a cubrir.

Corolario: Un enfoque holístico de gestión del riesgo

Presentado el escenario actual y con las fichas sobre la mesa, es importante empezar a trabajar en estos pilares, ya no solo porque las empresas deban estar alineadas con la estrategia de la UE o porque deban cumplir con una serie de requisitos y regulaciones (actuales o en desarrollo), sino porque entendemos que en este trabajo se encuentra la virtud en este nuevo escenario digital y que, como ha venido ocurriendo tantas otras veces en el pasado, las organizaciones que mejor logren adaptarse y desempeñarse en este contexto, además de garantizar su resiliencia, obtendrán un claro retorno de su inversión.

Deja un comentario

Javier Aznar

Director de Technology Risk de KPMG en España. Javier se incorporó a KPMG en 2010, dentro del área de IT Advisory. Desde entonces ha centrado su actividad en el asesoramiento en materia de ciberseguridad y privacidad, dentro del ámbito de los riesgos tecnológicos. Cuenta con más de 12 años de experiencia en seguridad de la información y protección de datos. Durante estos años ha participado en proyectos de asesoría de riesgos y definición estratégica de programas de transformación de ciberseguridad, habiendo colaborado en múltiples proyectos internacionales de nuestra firma en EEUU, Chile, México, Francia, Bélgica y Reino Unido. Desde 2016 lidera la práctica de ...

José Luis Palermo

Director del Centro de Excelencia de Data & Analytics de KPMG en España. José Luis cuenta con más de 20 años de experiencia en el ámbito de consultoría, desarrollando soluciones tecnológicas para resolver necesidades de negocio, enfocado principalmente en el ámbito de Data & Analytics & IA. Ingeniero Técnico en Informática de Gestión en la Universidad Complutense de Madrid y Máster en Consultoría y Dirección de Empresas, realizado por la Asociación Española de Empresas de Consultoría (AEC) y la Universidad Politécnica de Madrid, ha participado como ponente en el Programa de Transformación Digital en las Organizaciones realizado por la Universidad Internacional de la Rioja (UNIR).
Accede a contenido exclusivo. o regístrate
Cerrar menú