In Berlin hat sich jüngst ein Spektakel der Cyber-Sicherheit abgespielt, das die digitale Landschaft aufrüttelt. Während des Pwn2Own-Wettbewerbs wurden unglaubliche 1,3 Millionen Euro an Preisgeldern für die Entdeckung von 47 Sicherheitslücken vergeben. Der taiwanesische Sicherheitsforscher Orange Tsai setzte sich mit einer beeindruckenden Reihe von Exploits durch und konnte sich über stolze 375.000 Euro freuen. Aber das war noch nicht alles! Die bekannte Sicherheitsforscherin Valentina Palmiotti, besser bekannt als „Chompie“, verdiente ebenfalls ordentlich. Sie kassierte 70.000 Euro, davon 20.000 Euro für einen Angriff auf ein NVIDIA-System und 50.000 Euro für die Kompromittierung eines Linux-Rechners.

Doch inmitten all dieser Preisträger äußerte Palmiotti Bedenken, dass fortgeschrittene KI-Tools die menschliche Konkurrenz in der Sicherheitsforschung erschweren könnten. Diese Sorge ist nicht unbegründet, denn KI ist seit 2023 verstärkt in die Arbeits- und Alltagsprozesse integriert. Auch Orange Tsai sieht KI aktuell eher als nützlichen Assistenten und nicht als bedrohlichen Ersatz für menschliche Forscher. Interessanterweise entdeckte das KI-System Claude Mythos von Anthropic rund 1.600 Schwachstellen, übersah jedoch eine kritische Lücke im Linux-Kernel, die von Jaeyoung Chung aufgedeckt wurde. Diese „Bad Epoll“-Sicherheitslücke (CVE-2026-46242) erlaubt lokale Root-Zugriffe auf Linux- und Android-Systemen mit einer beeindruckenden Erfolgsquote von 99 Prozent.

Die Gefahren der KI in der Cyber-Welt

Im Schatten dieser Erfolge sind jedoch auch neue Bedrohungen aufgetaucht. Angreifergruppen nutzen KI, um ihre Angriffsmethoden zu verfeinern. Das BSI hat drei Kategorien von KI-unterstützten Angriffen identifiziert: Aufklärung gegen Zielorganisationen, Ausnutzung von Schwachstellen und Social Engineering sowie Trojanisierte Software, die Privatnutzer ins Visier nimmt. Diese Entwicklungen zeigen, wie wichtig es ist, die technologische Landschaft im Auge zu behalten. KI kann nicht nur zur schnellen Auswertung von Informationen verwendet werden, sondern auch gezielte Angriffe ermöglichen. So wurde beispielsweise OpenAIs ChatGPT zur Auswertung exfiltrierter Daten und für Spearphishing-Angriffe missbraucht.

Die Sicherheitsforschung steht vor einer gewaltigen Herausforderung. Die Kluft zwischen Entdeckung und Schutz wächst rasant. Das zeigen auch die Ergebnisse des Exposure Gap Reports von Check Point, der aufdeckte, dass kritische Schwachstellen im Vergleich zum Vorjahr mehr als doppelt so häufig vorkommen. Die Veranstaltung in Berlin hat deutlich gemacht, dass die Methoden zur Kompromittierung von Infrastrukturen immer raffinierter werden. Auch die erste vollumfänglich KI-gesteuerte Ransomware namens JadePuffer wurde dokumentiert, die sich in nur 31 Sekunden an fehlgeschlagene Login-Versuche anpasst und Datensätze verschlüsselt. Ein beunruhigendes Beispiel für die Gefahren, die uns durch KI drohen.

Die Rolle der Künstlichen Intelligenz in der Cybersicherheit

Die Studie „Künstliche Intelligenz in der Cybersicherheit – Chancen und Risiken“, durchgeführt von SBA Research im Auftrag der RTR-GmbH, zeigt auf, dass KI in der modernen Cybersicherheit unverzichtbar geworden ist. Sie analysiert große Datenmengen und erkennt Muster, die auf mögliche Cyberangriffe hindeuten. Besonders die Verwendung von Large Language Models (LLMs) bietet vielversprechende Ansätze für Sicherheitsanalysen und Schwachstellenerkennung. Echtzeit-Erkennung von Bedrohungen und die Möglichkeit, schnell zu reagieren, sind ohne Zweifel Vorteile, die KI mit sich bringt.

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Doch die Risiken sind nicht zu ignorieren. Programmierfehler und gezielte Angriffe auf KI-Systeme stellen ernsthafte Gefahren dar. Angreifer könnten KI nutzen, um realistischere Phishing-Angriffe oder sogar Deepfakes zu entwickeln. Eine ausgewogene Strategie, die technologische Fortschritte und Sicherheitsmaßnahmen kombiniert, ist unerlässlich, um das Potenzial von KI in der Cybersicherheit auszuschöpfen und gleichzeitig die damit verbundenen Risiken zu managen. Die Entwicklungen in den nächsten 18 Monaten könnten entscheidend sein, besonders wenn man die Fortschritte bei multimodalen KIs betrachtet.

So schließt sich der Kreis zwischen den aufregenden Möglichkeiten, die KI in der Cyberwelt bietet, und den drängenden Herausforderungen, die sie mit sich bringt. Die Welt der Sicherheit ist im Wandel, und dieser Wandel verlangt nicht nur nach klugen Köpfen, sondern auch nach innovativen Lösungen.

Unser neues Website-System (VeloCore) vereint mehrere zentrale Anforderungen moderner Nachrichtenportale: kurze Ladezeiten, hohe Datenschutzstandards und eine wartbare, redaktionell skalierbare Architektur. Die technische Umsetzung mit diesem Anspruch an Qualität und Zukunftssicherheit erfolgte durch Daniel Wom / VeloCore.