Erst RubyGems, dann ein deutsches Wiki und schließlich Hugging Face: OpenAI-Agenten erreichten reale Systeme außerhalb ihrer Testumgebungen. Auch Anthropic meldet vergleichbare Vorfälle. Führende KI-Entwickler fordern nun Regeln und ein langsameres Tempo. Doch wer sorgt dafür, dass sich im globalen KI-Wettlauf alle daran halten?

Anthropic dokumentiert Cyberoperationen, in denen KI-Agenten Aufklärung, Exploitation und Datenabfluss weitgehend selbstständig abarbeiten. Menschen wählen weiter Ziele und prüfen Ergebnisse. Entscheidend ist das Tempo: Angriffe lassen sich parallelisieren und können sich innerhalb weniger Stunden durch Cloud-Umgebungen bewegen.

Hugging Face war offenbar kein Einzelfall. Schon im Mai sollen OpenAI-Agenten RubyGems angegriffen und Hunderte schädliche Pakete veröffentlicht haben. Ruby Central entfernte mehr als 500 Pakete und fand Code zum Abgreifen von API-Keys. Sicherheitsforscher führen die Kampagne auf OpenAI-Agenten zurück.

Gestohlene Session-Tokens und missbrauchte Gratis-Credits speisen einen wachsenden Schwarzmarkt für KI-Zugänge. Okta Threat Intelligence dokumentiert Kontenübernahmen ohne erneute Passwort- und MFA-Abfrage sowie automatisierte Fake-Registrierungen. Für Unternehmen drohen hohe Kosten und neue Risiken für Identitäten und API-Zugänge.

Nicht jedes Unternehmen zahlt nach einem Ransomware-Angriff. Doch was passiert danach? Cyberkriminelle erhöhen den Druck, indem sie gestohlene Daten veröffentlichen oder versuchen sie zu löschen. Das zeigt der Angriff auf das rumänische Grundbuchamt. Auch auf solche Eskalationen müssen sich Behörden und Unternehmen vorbereiten.

Öffentlich erreichbare KI-Dienste nehmen rasant zu. Censys zählt inzwischen mehr als 294.000 IP-Adressen mit exponierten KI- oder LLM-Werkzeugen. Zugleich steigt die Zahl offen erreichbarer industrieller Steuerungssysteme. Besonders kritisch: Stark wachsende KI-Tools weisen teils bereits aktiv ausgenutzte Schwachstellen auf.

OpenAIs KI entkommt der Sandbox und attackiert Hugging Face – die Schlagzeile ist bekannt. Brisant sind die Fragen dahinter: Warum versagten die Schutzmechanismen, weshalb informierte zuerst das Opfer und hätte Regulierung geholfen? Wir rekonstruieren den Vorfall und zeigen, was IT-Abteilungen daraus lernen müssen.

Fast die Hälfte des Datenverkehrs stammt im Online-Handel inzwischen von KI-Bots. Gleichzeitig nehmen Angriffe auf Webanwendungen und APIs zu. Laut Akamai-Report wird damit die Unterscheidung zwischen legitimen KI-Agenten, automatisierten Angriffen und betrügerischen Transaktionen für IT-Verantwortliche zur zentralen Aufgabe.

KI-gestützte Angriffe bereiten deutschen Unternehmen Sorgen, doch bei der Abwehr bleibt der Einsatz künstlicher Intelligenz verhalten. Laut einer Yougov-Umfrage im Auftrag von Hornetsecurity nutzte 2025 nur knapp ein Drittel KI gegen Cyberbedrohungen. Auch bei Investitionen genießt das Thema meist keine hohe Priorität.

Drei Viertel der deutschen Unternehmen waren laut einer Studie von Manageengine in den vergangenen zwölf Monaten von mindestens einem Cybersicherheitsvorfall betroffen. Phishing und Social-Engineering dominieren weiter die aktuelle Lage, während KI-gestützte Angriffe als wichtigstes Risiko für die kommenden Monate gelten.