xAI hat Konversationen des Grok-Chatbots ohne ausdrücklichen Hinweis öffentlich zugänglich gemacht. Mehr als 370.000 Chatverläufe wurden über die »Share«-Funktion auf Groks Website veröffentlicht und von Google indexiert. Enthalten sind vertrauliche Informationen und Anleitungen für illegale Aktivitäten.

Elon Musks KI-Firma xAI betreibt mit Grok einen Chatbot, der nicht zum ersten Mal für Aufsehen, oder besser ungläubiges Staunen sorgt. Diesmal ist es ein veritables Datenleck, das Grok aus der Masse der KI-Tools heraushebt.

Nutzer können Grok-Konversationen über eine »Share«-Funktion mit anderen teilen. Dabei erzeugt das System eine individuelle URL, die im Web zugänglich ist. Unbekannt war jedoch vielen Anwendern, dass diese Links nicht privat bleiben, sondern für Suchmaschinen indexiert werden. Damit gelangten mehrere Hunderttausend Chatverläufe in den Google-Index.

Umfang der Veröffentlichung

Nach Recherchen von Forbes zeigt Google aktuell mehr als 370.000 indexierte Grok-Gespräche. Neben alltäglichen Anfragen wie Textentwürfen oder Code-Beispielen finden sich darin auch heikle Daten. Einige Nutzer übermittelten Passwörter, Gesundheitsinformationen oder persönliche Details. Andere forderten den Chatbot zu sicherheitskritischen oder verbotenen Inhalten auf.

Anzeige

Brisante Inhalte: Von Drogen bis Attentatsplänen

Einige der öffentlich gewordenen Konversationen enthalten nachweislich Verstöße gegen die eigenen Richtlinien von xAI. Grok gab unter anderem Anleitungen zur Herstellung von Fentanyl und Methamphetamin, erklärte Methoden zur Bombenkonstruktion oder beschrieb Vorgehensweisen für Malware-Programmierung. Besonders bizarr: In einem Fall wurde ein Plan für ein Attentat auf Elon Musk selbst veröffentlicht.

KI: Fehlende Transparenz gegenüber Nutzern

xAI ist nicht das erste Unternehmen, das in dieser Form für Aufmerksamkeit sorgt. OpenAI experimentierte kurzzeitig mit einer »discoverable«-Option für ChatGPT-Gespräche. Nach massiver Kritik wurde das Feature wieder entfernt, da die Gefahr ungewollter Veröffentlichung zu groß war. Meta erlaubt weiterhin das Auffinden geteilter Inhalte über Suchmaschinen, während Google seine Bard-Chats bereits 2023 aus dem Index entfernt hat.

Der Vorfall verdeutlicht die Risiken des KI-Einsatzes in Unternehmen. Auch ohne illegale Inhalte wirft die Veröffentlichung sensibler Daten Fragen zur Governance, zum Datenschutz und zur Nutzung  öffentlicher KI in Unternehmen auf. Es wäre blauäugig, darauf zu vertrauen, dass Betreiber Transparenzpflichten konsequent umsetzen und Mechanismen wie Indexierungs-Sperren zuverlässig einsetzen.