Laut einer aktuellen Trend-Micro-Studie setzen drei Viertel der deutschen Unternehmen bereits auf KI in der Cyberabwehr. Doch je breiter die Technologie eingesetzt wird, desto größer werden auch die Sicherheitsbedenken – insbesondere mit Blick auf neue Angriffsvektoren und Compliance-Risiken.

Künstliche Intelligenz hat sich in vielen Unternehmen längst von einem Trendthema zu einem festen Bestandteil der Sicherheitsarchitektur entwickelt. Einer aktuellen Studie von Trend Micro zufolge setzen 74 Prozent der befragten deutschen Unternehmen KI-gestützte Werkzeuge bereits aktiv zur Abwehr von Cyberangriffen ein. Weitere 22 Prozent prüfen deren Einführung. Fast durchgängig zeigt sich dabei eine hohe Offenheit: 96 Prozent der deutschen Befragten sind grundsätzlich bereit, KI-Technologie für Sicherheitszwecke zu nutzen.

Besonders gefragt ist die Automatisierung: Knapp die Hälfte nutzt KI bereits für kritische Prozesse wie das Auffinden von Assets, das Priorisieren von Risiken oder die Anomalie-Erkennung. Für 42 Prozent der deutschen Unternehmen hat der Einsatz von KI und Automatisierung höchste Priorität bei der Weiterentwicklung der Cyberabwehr.

Doch mit der zunehmenden Nutzung wachsen auch die Bedenken. 93 Prozent der Befragten in Deutschland gehen davon aus, dass KI in den kommenden drei bis fünf Jahren das Risiko für Cyberangriffe erhöhen könnte. Die größte Sorge: KI-basierte Angriffe könnten in Umfang und Komplexität zunehmen – und die bestehenden Sicherheitsstrategien damit obsolet machen.

Anzeige

Angriffsfläche KI: Chancen für die Abwehr, Risiken für die Angreifbarkeit

Konkret genannt werden unter anderem das Risiko der unbeabsichtigten Offenlegung sensibler Daten (39 %), die Nutzung geschützter Informationen durch nicht vertrauenswürdige Modelle (35 %) oder die mangelnde Sichtbarkeit durch Schatten-IT und wachsende API-Landschaften (jeweils rund ein Drittel). Auch der steigende Druck zur Einhaltung regulatorischer Vorgaben sowie Unsicherheit bei der Datenverarbeitung durch KI-Systeme verunsichern viele Sicherheitsverantwortliche.

Rachel Jin, Trend Micro, Chief Enterprise Platform Officer bei Trend Micro, bringt es auf den Punkt: »KI birgt ein enormes Potenzial für die Stärkung der Cyberabwehr, von der schnelleren Erkennung von Anomalien bis zur Automatisierung zeitaufwändiger Aufgaben. Aber Angreifer sind ebenso eifrig dabei, KI für ihre Zwecke zu nutzen, und das schafft eine sich schnell verändernde Bedrohungslandschaft. Unsere Forschung und unsere Praxistests machen deutlich, dass Cybersicherheit von Anfang an in KI-Systeme integriert werden muss. Es steht einfach zu viel auf dem Spiel.«

Hackwettbewerb deckt Sicherheitsschwachstellen in KI-Systemen auf

Wie real diese Risiken sind, zeigte sich beim Hacking-Wettbewerb Pwn2Own, den Trend Micro in Berlin veranstaltete. Zum ersten Mal wurden dort gezielt KI-Systeme auf ihre Sicherheit geprüft – mit aufschlussreichen Ergebnissen. Zwölf Angriffe richteten sich gegen vier zentrale KI-Frameworks, darunter der NVIDIA Triton Inference Server, Chroma, Redis und das NVIDIA Container Toolkit. Sieben bislang unbekannte Zero-Day-Schwachstellen wurden dabei entdeckt – in manchen Fällen genügte ein einziger Fehler für eine vollständige Kompromittierung.

Die Hersteller der betroffenen Systeme haben nun 90 Tage Zeit, die Schwachstellen zu beheben, bevor Trend Micro Details veröffentlicht. Für Unternehmen ist das ein weiterer Hinweis darauf, dass die Integration von KI in IT-Umgebungen nicht ohne begleitende Sicherheitsmaßnahmen erfolgen darf. Das Unternehmen fordert IT-Verantwortliche daher auf, jede Phase der KI-Einführung mit klaren Sicherheitsvorgaben abzusichern und die Bedrohungslage regelmäßig neu zu bewerten.