El impacto de los sistemas multiagente en el progreso de la IA
La especialización de los agentes ha permitido una mayor precisión y eficiencia de los resultados de la IA.
21 abril, 2025
3 min
Una ventana mal cerrada puede desencadenar el fin de una empresa. La ciberdelincuencia y la guerra híbrida son amenazas latentes que ponen a prueba la resiliencia de las organizaciones, que cuentan ahora con una tecnología que puede robustecer su seguridad, pero también incrementar la vulnerabilidad: la Inteligencia Artificial.
“Miedo, incertidumbre y duda”. Así resume la European Union Agency for Cybersecurity (ENISA) el estado de ansiedad que han creado los ciberdelincuentes entre la sociedad, los gobiernos y el tejido empresarial, en su último informe “Report on the State of the Cybersecurity in the Union”. A ello se une el coste financiero de la ciberdelincuencia que, según el informe ‘Consideraciones sobre ciberseguridad para 2025’, elaborado por KPMG, también se está disparando: una violación de datos en una empresa alcanzaba de media una pérdida de 5 millones de dólares en 2024.
Por algo la ciberseguridad es la segunda gran preocupación de las empresas españolas, tras los riesgos de operaciones y por delante de la cadena de suministro y los riesgos reputacionales (con los que está muy relacionado también), según el Instituto Nacional de Ciberseguridad (INCIBE).
Prueba de ello es que este organismo reportó 31.540 incidencias de ciberseguridad en empresas españolas en 2024: mientras las incidencias que afectaron a ciudadanos particulares crecieron en un año un 12%, las sufridas por las empresas se incrementaron en un 43%.
Los delitos más frecuentes en Europa, según ENISA, tienen que ver con la suplantación de identidad (en sitios web y redes sociales) y, cada vez más, con el llamado fraude BEC (Business Email Compromise). Además, en solo un año se reportaron en España 357 secuestros digitales, conocidos como ransomware, cuando los delincuentes se hacen con información sensible y exigen un rescate.
Pero no todo son malas noticias. También existen maneras robustecer la ciberseguridad de una organización, comprender su alcance en tiempos de la IA y conjurar el peligro:
La figura del Chief Information Security Officer (CISO) cobra una importancia capital en las organizaciones en una época marcada por el riesgo cibernético y el desarrollo de la Inteligencia Artificial. Su función se convierte no solo en más transversal y mejor comprendida, sino que asume el liderazgo en momentos críticos que pueden condicionar la continuidad del negocio.
El informe insta a los CISO a reforzar su formación y la de sus equipos en IA para conocer los riesgos que presenta, pero también sus beneficios, cada vez más evidentes, a la hora de prevenir y detectar potenciales ataques. Su liderazgo es crucial para implantar los distintos casos de uso de la IA en la empresa y la denominada “IA en la sombra”: la utilización no controlada de estas herramientas.
“El CISO está llamado a reunir equipos capaces de comprender las complejidades de la IA, retener ese talento tan difícil de encontrar y adaptarse a un entorno de innovación continua”, señala Marc Martínez, Socio responsable de Technology Risk y Ciberseguridad de KPMG en España.
La formación debe extenderse a todos los niveles de la organización porque la gestión del riesgo en ciberseguridad es integral. Se habla ya de una cultura de la ciberseguridad en las empresas.
Como se ha demostrado estos años, los ataques tratan de sortear los sistemas de control a través de cualquier ventana que se haya dejado abierta, sea por un empleado, un departamento o un proveedor. La plantilla, por tanto, debe interiorizar que la ciberseguridad no es algo técnico, como advirtió el Instituto Nacional de Ciberseguridad (INCIBE) recientemente, sino un reto empresarial, un factor competitivo y una cuestión de supervivencia.
La ciberseguridad, agrega Marc Martínez, ya no se ve como otra función aislada, sino como una responsabilidad colectiva. Esto requiere que los CISO se conviertan en auténticos influencers, como señala el informe, que puedan conectar a todas las partes involucradas, tanto las técnicas como las no técnicas.
KPMG y el Instituto Tecnológico de Massachusetts (MIT) han unido fuerzas para estudiar la cultura de la ciberseguridad en las organizaciones. En una encuesta reciente, el 74% de los encuetados por ambas instituciones considera que la construcción de esa cultura es no solo una garantía frente a ataques de ciberdelincuentes sino un resorte fundamental para la integración con éxito de la IA en toda la empresa.
Tres cuartas partes de los ataques cibernéticos son consecuencia de errores humanos. Es el factor más crítico ante las amenazas externas. El reto exige una formación adecuada a todos los niveles y una gestión del talento encaminada a atraer y retener a los mejores profesionales, por un lado, y a involucrar a toda la organización en la prevención y gestión de este riesgo.
España necesita especialistas en ciberseguridad y la actual oferta de formación no cubre las necesidades de la industria, en particular de las pymes, con menos recursos para encontrar expertos, que optan preferentemente por las ofertas de las grandes empresas. Según INCIBE, solo para 2025 se necesita cubrir 99.600 vacantes de especialistas en ciberseguridad en España.
“El informe defiende un enfoque holístico que reconozca el poder de las personas en la construcción de un ecosistema de ciberseguridad resiliente que consiga empoderar el talento con las herramientas necesarias, cultivar una cultura de seguridad sólida, optimizar el uso de la IA y fortalecer y retener talento”, sostiene Marc Martínez.
El Foro Económico Mundial ha alertado de que el 52% de las organizaciones mencionan la falta de recursos y habilidades como el mayor desafío para crear programas efectivos en materia de ciberseguridad. Sin olvidar la elevada tasa de deserción de profesionales especializados, 8 puntos más alta que la media de otros colectivos.
En paralelo, según una encuesta del SOC (Centro de Operaciones de Seguridad) de KPMG, el 47% de los directores de ciberseguridad reconocen que tienen «problemas importantes» para retener a sus mejores colaboradores.
Por ello, ante la falta de personal, la IA se está convirtiendo en un aliado de los equipos de ciberseguridad. El informe insta a los CISO a explorar cómo la IA puede integrarse de forma segura y responsable en sus estrategias de ciberseguridad, tanto en la detección de amenazas en tiempo real como en una respuesta más rápida a incidentes y en la generación de modelos predictivos.
En cualquier caso, empresas, administraciones e instituciones académicas deben apoyar los estudios sobre ciberseguridad, promoverlos como carrera universitaria y hacerla profesionalmente atractiva, según el informe. Un esfuerzo que debe comenzar antes incluso de la educación secundaria para despertar el interés por esta materia. En Europa, hoy, es una cuestión de Estado.
La IA no tiene vuelta atrás, pero sigue siendo cuestionada dentro de las organizaciones por sus implicaciones en materia de seguridad y privacidad, al introducir nuevas vulnerabilidades, lo que puede restar velocidad a su implantación. Un temor alimentado por el riesgo que presenta en materia de custodia de datos, accesos no autorizados, sesgos no deseados y usos indebidos.
Como señala Marc Martínez, “una de las prioridades de los CISO es la gobernanza de la IA y aplicar, para ello, de lo que hemos aprendido en materia de datos estableciendo directrices y procesos claros para gestionar la gran cantidad de información a nuestra disposición. Si la calidad de los datos es mala, es más probable que los modelos de IA produzcan resultados poco fiables, lo que da lugar a un peor rendimiento y a resultados potencialmente perjudiciales”, señala el socio de KPMG.
Esta nueva gestión de los datos no solo permite un mejor rendimiento de la IA sino también ayuda a generar confianza sobre la adopción de esta tecnología disruptiva entre todos los grupos de interés. En la última encuesta global KPMG CEO Outlook, el 70% de los consejeros Delgados aseguró que ha aumentado la inversión en ciberseguridad precisamente por la necesidad de protegerse ante las amenazas relacionadas con la IA.
Otro riesgo que explora el informe es la IA «en la sombra»: el uso de sistemas de IA por parte de empleados o departamento sin el conocimiento o la supervisión de los equipos de seguridad. Porque el problema no son solo las vulnerabilidades de la IA no gobernada sino también a la posibilidad de que los resultados no deseados y potencialmente sesgados se integren en la toma de decisiones empresariales sin comprender las implicaciones.
Para Marc Martínez, las organizaciones deben establecer políticas y procedimientos claros en torno a la adquisición, implementación y supervisión de los sistemas de IA. El CISO debe trabajar en colaboración con las áreas de negocio, y con los equipos de tecnología, para que no quede nada en zona de sombra.
Frente a una visión de la IA como un riesgo en sí misma es necesario poner el acento también en sus beneficios potenciales en materia de ciberseguridad y de privacidad e identificar en qué áreas puede ser más útil para la organización, por su capacidad para aumentar la eficiencia, reducir los costes operativos y mejorar la gestión de riesgos.
“En un ecosistema de ciberseguridad cada vez más complejo, mantenerse a la vanguardia de los posibles atacantes requiere no solo vigilancia, sino también innovación”, destaca Marc Martínez, porque la IA se convierte en una poderosa herramienta para percibir y responder a las amenazas.
Si en 2024 asistimos a la explosión de la IA Generativa, en este 2025 estamos empezando a hablar de la llamada IA Agenética, que permite a los sistemas automatizados tomar decisiones de forma autónoma cuando son programados para ello.
Una habilidad que en el futuro próximo ayudará a detectar y conjurar amenazas cibernéticas. Aunque se trata de una IA aún no madura, ya se vislumbran sus beneficios en el análisis de grandes volúmenes de datos para identificar posibles amenazas o anomalías, dada su capacidad de procesar enormes cantidades de información para extraer conocimiento. Por ejemplo, permitirá a los desarrolladores parchear pequeñas vulnerabilidades antes de que se conviertan en grandes problemas.
¿Qué riesgos asumimos cuando, para reducir la complejidad y el coste de la tecnología, centralizamos herramientas y servicios en una única plataforma o en un número limitado de ellas?
Como subraya el informe, es una opción que adoptan las organizaciones más grandes precisamente para reducir la vulnerabilidad y, al mismo tiempo, explotar las economías de escala con respecto a la gestión de la identidad, la seguridad de los datos, la gestión de amenazas, la protección de endpoints y el control de la red. Sin olvidar la facilidad que aporta a los empleados a la hora de formarse en su aplicación.
El informe, nos obstante, alerta de los riesgos que plantea esta consolidación de herramientas. “Debemos valorar el riesgo de concentración, porque una organización puede volverse demasiado dependiente de un solo proveedor o una plataforma, algo que ya observamos cuando empezó la adopción de la nube, con lo complejo que puede resultar un cambio de proveedor”, advierte Marc Martínez.
Para mitigar estos factores, así como la amenaza que supone la exposición integral de todas las herramientas tecnológicas en determinados tipos de ataque, el CISO debe considerar la adopción de un enfoque híbrido a la hora de abordar la consolidación de la plataforma.
Además, según aconseja el informe, estas decisiones se deben tomar de forma colegiada entre los distintos responsables de área, desde operaciones a finanzas o datos, para que la plataforma elegida se alinee con la estrategia de seguridad general de la organización y los objetivos de negocio.
El apretón de manos, el carné en la cartera, el sello de caucho y la firma que nos identificaba han pasado a la historia. Nuestra identidad ya es digital e incluso biométrica, pero presenta riesgos como la suplantación (deepfake) y el tratamiento por parte de organizaciones y administraciones.
Un cambio de paradigma que está generando nuevas regulaciones y mecanismos de seguridad. La identidad de un individuo es única, pero su aplicación difiere según el entorno organizacional en el que se encuentre y la función que se requiera: no es lo mismo el tratamiento por parte de una Administración que por un hospital, una empresa de servicios o un aeropuerto.
El informe identifica utilizaciones especialmente sensibles de la identidad, como son los datos biométricos, los escaneos de huellas dactilares, faciales, de voz y retina, que hasta hace unos años parecían propios de películas de ciencia-ficción.
De ahí que la recopilación y procesamiento de datos biométricos sea algo crítico para las organizaciones implicadas, como también los deepfakes, agravados por la facilidad que da la IA para suplantar identidades y suplantar voz e imagen
¿Cómo responder a estos riesgos? Según el informe, las empresas necesitan una estrategia de identidad digital preparada para el futuro y que gire en torno a cuatro principios entre las organizaciones y las personas que acceden a sus redes: transparencia, confidencialidad, confianza y certeza. Con un axioma que debe tener claro la organización y, en particular, el CISO: cuanta mayor transparencia, más confianza.
Además, como remarca Marc Martínez, una estrategia de identidad digital eficaz también puede mejorar significativamente la experiencia de usuario: se simplifican los formularios, los partes de un seguro o las consultas médicas, reduciendo los puntos de fricción y los tiempos de espera.
La universalización de los dispositivos inteligentes y del Internet de las Cosas (IoT) ha cambiado nuestra forma de vida y está generando una marea regulatoria que aún no sea culminado, dada la novedad que supone que billones de seres humanos y máquinas estén interconectados permanentemente.
Este ecosistema está transformando la economía global y, en particular, sectores como la sanidad, el transporte, la fabricación y el comercio. El CISO, según el informe, debe adoptar un enfoque de seguridad centrado en el producto a lo largo de todo su ciclo de vida, desde su diseño hasta su retirada, con especial foco en la cadena de suministro.
En cuanto a IoT, la Ley de Ciberresiliencia (CRA) de la UE, que entró en vigor en 2024, y la Ley de Seguridad de Productos e Infraestructura de Telecomunicaciones (PSTI) de Reino Unido aportan un enfoque innovador para garantizar los derechos de los usuarios y la seguridad de los productos inteligentes a lo largo de su vida útil.
En algunos casos, esta se puede prolongar durante décadas, lo que obliga a las empresas a la actualización permanente tanto del dispositivo como de su software.
El riesgo para las empresas es hoy, sin duda, un motivo de alarma. La ciberseguridad, muy vinculada con la situación geopolítica, ocupa y preocupa a los consejos de administración, a la sociedad y a los gobiernos. Los ataques pueden generar la interrupción de la producción y el servicio y causar daño a las personas, a los datos y a las infraestructuras. Por eso las organizaciones deben encontrar la manera de crear una cultura amplia y holística de seguridad resiliente en toda su empresa
Un enfoque resiliente y una gestión eficaz de los activos, bajo el liderazgo del CISO, permiten reducir la probabilidad de un ataque y, en caso de que se produzca, identificar y responder con celeridad, minimizando su impacto y recuperándose rápidamente, según el informe.
Una impresora desprotegida o una vulnerabilidad en un proveedor externo pueden poner en riesgo todo el sistema. Además, los ciberataques demuestran que en esos momentos no hay diferencias entre el mundo físico y virtual: ambos quedan expuestos y sufren los daños en paralelo. Y el CISO está llamado a liderar la respuesta a este reto.
Deja un comentario