Generative AI in cybersecurity

Neue Schutzmaßnahmen, neue Bedrohungen: Was KI und Generative KI zur Cybersicherheit beitragen

Da Cybersecurity-Vorfälle weiter zunehmen und Bedrohungen wie Phishing, Ransomware und Deepfakes immer geschickter werden, müssen Organisationen ihre Sicherheitsmaßnahmen verstärken. 

Der neueste Bericht des Capgemini Research Institute, New defenses, new threats: What AI and Gen AI bring to cybersecurity, untersucht die Rolle, die KI und generative KI in der Cybersicherheit spielen – sowohl als Bedrohung als auch als Mittel zur Verteidigung.

Unsere Untersuchungen zeigen, dass über 90 % der Unternehmen im vergangenen Jahr von einem Cyberangriff betroffen waren – ein deutlicher Anstieg gegenüber 51 % im Jahr 2021. Die finanziellen Auswirkungen dieser Sicherheitsverletzungen in den letzten drei Jahren sind schwerwiegend, etwa die Hälfte der Unternehmen meldeten geschätzte Verluste von über 50 Millionen US-Dollar.

Akteure, die Bedrohungen verursachen, nutzen KI und generative KI für anspruchsvollere Angriffe, einschließlich der Erstellung von Malware, Social Engineering und Phishing. Die große Mehrheit (97 %) der Organisationen meldete im vergangenen Jahr Sicherheitsvorfälle im Zusammenhang mit generativer KI. Unternehmen sehen sich mit einer größeren Angriffsfläche konfrontiert, die durch Risiken wie Prompt Injection, Schwachstellen in KI-integrierten Anwendungen, Schatten-KI und internen Missbrauch entsteht. Darüber hinaus muss der gesamte Lebenszyklus generativer KI-Lösungen – von der Erfassung von Unternehmensdaten und der Modellanpassung bis hin zur Entwicklung und Wartung – abgesichert werden.

Trotz der Herausforderungen für die Cybersicherheit im Zusammenhang mit KI und generativer KI setzen Unternehmen zunehmend auf KI, um ihre Sicherheitsmaßnahmen zu stärken. Drei von fünf Unternehmen sind der Meinung, dass KI für eine effektive Bedrohungsabwehr unerlässlich ist, und viele stellen fest, dass sich die Zeit bis zur Erkennung von Bedrohungen verbessert hat. Mehr als 60 % der Unternehmen glauben, dass generative KI ihre Cybersicherheitsstrategien langfristig erheblich verbessern wird.

Viele Unternehmen profitieren bereits von KI und experimentieren mit Gen AI, um Informationen über Bedrohungen und Sicherheitslücken zu erhalten.

Um ihre Abläufe zu schützen, müssen Unternehmen eine klare Strategie für die Integration von KI und generativer KI in bestehende Sicherheitssysteme entwickeln. Dazu gehört eine kontinuierliche Neubewertung potenzieller Risiken. Zudem ist die Beschaffung der notwendigen Infrastruktur, wie fortschrittliche Datenmanagementsysteme und Cloud-Computing-Ressourcen, unerlässlich.

Es gilt, widerstandsfähige Richtlinien und Governance zu etablieren, um die Datensicherheit und -integrität zu gewährleisten. Unternehmen sollten in KI- und generative KI-basierte Lösungen investieren, um die Systeme ihrer Security Operations Center (SOC) zu verbessern. Ebenso wichtig sind umfassende Cybersicherheitsschulungen für Mitarbeitende sowie die Förderung einer Kultur des Risikobewusstseins innerhalb der Belegschaft.

Laden Sie den vollständigen Bericht herunter, um mehr darüber zu erfahren, wie KI und generative KI Ihre Cybersicherheitsstrategie transformieren können.