La IA y la IA generativa están transformando la ciberseguridad de la mayoría de las organizaciones

París, 19 de noviembre de 2024 – El reciente informe del Instituto de Investigación Capgemini, “Nuevas defensas, nuevas amenazas: lo que la IA y la IA generativa aportan a la ciberseguridad”, revela que, aunque están surgiendo nuevos riesgos de ciberseguridad, debido a la proliferación de la Inteligencia artificial (IA) y la IA generativa (Gen AI), estas tecnologías representan un cambio transformador en el fortalecimiento de las estrategias de ciberdefensa a largo plazo para predecir, detectar y responder a las amenazas. Dos tercios de las organizaciones están dando prioridad a la IA dentro de sus operaciones de seguridad.

Según el informe, las organizaciones consideran a la IA como una tecnología estratégica para reforzar sus estrategias de seguridad, la creciente adopción de la IA generativa en diversos sectores[1] aumenta la vulnerabilidad. La IA generativa introduce tres áreas principales de riesgo para las organizaciones: ataques más sofisticados con más adversarios, la expansión de la superficie de ciberataques y un aumento de las vulnerabilidades en todo el ciclo de vida de las soluciones IA generativa personalizadas. Estos riesgos también se ven agravados por el uso indebido de la IA y la IA Gen por parte de los empleados, que puede aumentar significativamente el riesgo de fuga de datos.

Dos de cada tres organizaciones desconfían de una mayor exposición a las amenazas

Casi todas las organizaciones encuestadas (97%) afirman haber sufrido brechas o problemas de seguridad relacionados con el uso de IA generativa en el último año. Ya que esta también conlleva a riesgos adicionales, como alucinaciones, generación de contenidos sesgados, dañinos o inapropiados y ataques de inyección de instrucciones[2]. Dos de cada tres organizaciones (67%) están preocupadas por el envenenamiento de datos y la posible filtración de datos sensibles a través de los conjuntos de datos de entrenamiento utilizados para entrenar los modelos de IA generativa.

Además, la capacidad de Gen AI para generar contenido sintético altamente realista plantea riesgos adicionales: más de dos de cada cinco organizaciones encuestadas (43%) afirmaron haber sufrido pérdidas económicas derivadas del uso de deepfakes.

Casi 6 de cada 10 empresas creen que necesitan aumentar su presupuesto de ciberseguridad para reforzar sus defensas.

La IA y la Gen AI son primordiales para detectar y responder a los ataques

Después de encuestar a 1,000 organizaciones[3] que han considerado la IA para la ciberseguridad o que ya la están utilizando, los datos concluyeron en que la mayoría confía en la IA para reforzar la seguridad de sus datos, aplicaciones y nubes debido a la capacidad de la tecnología para analizar rápidamente grandes cantidades de datos, identificar patrones y predecir posibles brechas. Más del 60% de ellas informaron de una reducción de al menos el 5% en el tiempo de detección, y casi el 40% afirmaron que su tiempo de corrección se redujo en un 5% o más tras implementar la IA en sus centros de operaciones de seguridad (SOC).

Tres de cada cinco organizaciones encuestadas (61%) creen que la IA es esencial para una respuesta eficaz ante las amenazas, ya que les permite aplicar estrategias de seguridad proactivas contra ciberdelincuentes cada vez más sofisticados. Además, la misma proporción de encuestados prevé que la IA generativa reforzará las estrategias proactivas de defensa a largo plazo, anticipando una detección más rápida de las amenazas. Más de la mitad de ellos cree también que la tecnología permitirá a los analistas de ciberseguridad concentrarse más en la estrategia para combatir los desafíos.

“El uso de la IA y la IA generativa ha demostrado hasta ahora ser un arma de doble filo. Aunque introduce riesgos sin precedentes, las organizaciones confían cada vez más en la inteligencia artificial para una detección más rápida y precisa de los incidentes cibernéticos. La IA y la IA generativa proporcionan a los equipos de seguridad nuevas y potentes herramientas para mitigar estos incidentes y transformar sus estrategias de defensa. Para asegurarse de que representan una ventaja real frente a la evolución de la sofisticación de las amenazas, las organizaciones deben mantener y priorizar el monitoreo continuo del panorama de seguridad, construir la infraestructura de gestión de datos necesaria, marcos y directrices éticas para la adopción de IA, y establecer programas sólidos de formación y concientización de los empleados”, dijo Marco Pereira, Director Global de Ciberseguridad, Cloud y Servicios de Infraestructura de Capgemini.

Metodología

El Instituto de Investigación Capgemini encuestó a 1,000 organizaciones que han considerado la IA para la ciberseguridad o que ya la están utilizando, en 12 sectores y 13 países de Asia-Pacífico, Europa y Norteamérica. Tienen unos ingresos anuales de 1,000 millones de dólares o más. La encuesta mundial tuvo lugar en mayo de 2024. Las organizaciones encuestadas representan a una amplia gama de sectores, como automoción, productos de consumo, venta minorista, banca, seguros, telecomunicaciones, energía y servicios públicos, aeroespacial y defensa, alta tecnología, fabricación de equipos industriales, farmacia y sanidad y sector público.

Acerca de Capgemini 

Capgemini es un socio global de transformación empresarial y tecnológica, que ayuda a las organizaciones a acelerar su transición dual hacia un mundo digital y sostenible, a la vez que crea un impacto tangible para las empresas y la sociedad. Es un grupo responsable y diverso de 340,000 profesionales en más de 50 países. Con su sólida herencia de más de 55 años, Capgemini cuenta con la confianza de sus clientes para liberar el valor de la tecnología para abordar toda la gama de sus necesidades empresariales. Ofrece servicios y soluciones integrales que aprovechan las fortalezas de la estrategia y el diseño hasta la ingeniería, todo ello impulsado por sus capacidades líderes en el mercado en IA, nube y datos, combinadas con su profunda experiencia en el sector y su ecosistema de socios. En 2023, el Grupo reportó ingresos globales de 22,500 millones de euros. 

Get The Future You Want | www.capgemini.com/co-es 

Acerca del Instituto de Investigación Capgemini

El Instituto de Investigación Capgemini es el grupo de reflexión interno de Capgemini sobre todo lo digital. El Instituto publica investigaciones sobre el impacto de las tecnologías digitales en las grandes empresas tradicionales. El equipo se basa en la red mundial de expertos de Capgemini y trabaja en estrecha colaboración con socios académicos y tecnológicos. El Instituto cuenta con centros de investigación especializados en India, Singapur, Reino Unido y Estados Unidos. Recientemente, analistas independientes le han otorgado el primer puesto mundial por la calidad de sus investigaciones.

Visítanos en www.capgemini.com/co-es/insights/instituto-de-investigacion-capgemini/

[1] Casi una cuarta parte (24%) de las organizaciones han habilitado capacidades de IA Generativa en algunas o la mayoría de sus funciones y ubicaciones – Capgemini Research Institute, “Harnessing the value of generative AI 2nd edition: Top use cases across sectors”, julio de 2024.

[2] Se trata de utilizar entradas maliciosas para manipular modelos de IA y Gen IA, comprometiendo su integridad.

[3] 1,000 organizaciones de 12 sectores y 13 países de Asia-Pacífico, Europa y Norteamérica, con ingresos anuales iguales o superiores a 1,000 millones de dólares.