Ab 2. August 2026 gilt der EU AI Act in weiten Teilen verbindlich. Unternehmen müssen Chatbots kenntlich machen und bestimmte künstlich erzeugte Inhalte offenlegen. Doch nicht jede Automatisierung fällt unter die Verordnung und nicht jedes KI-Bild braucht ein Logo. Was jetzt gilt, wo Unternehmen handeln müssen und was Kritiker bemängeln.

Nutzer müssen künftig erkennen können, wenn sie direkt mit einer KI kommunizieren. Ein Chatbot im Kundenservice darf sich also nicht als menschlicher Mitarbeiter ausgeben. Diese Transparenzpflicht gehört zu den Regeln des EU AI Acts, die ab dem 2. August 2026 in weiten Teilen verbindlich gelten.

Auch bei künstlich erzeugten Inhalten gelten neue Vorgaben. Anbieter generativer KI müssen ihre Systeme so gestalten, dass deren Ausgaben maschinenlesbar als künstlich erzeugt oder verändert erkannt werden können. Unternehmen, Behörden und Redaktionen müssen unter bestimmten Voraussetzungen Deepfakes, realistisch wirkende KI-Inhalte und bestimmte automatisch erzeugte Texte offenlegen. Artikel 50 gilt vom 2. August 2026 an.

Was regelt der EU AI-Act?

Der AI-Act ist die erste umfassende gesetzliche Regelung für künstliche Intelligenz. Er schafft einheitliche Vorgaben für Entwicklung, Vertrieb und Einsatz von KI-Systemen in der EU. Zugleich soll er Menschen vor Manipulation, Diskriminierung und unsicheren Anwendungen schützen.

Dabei richtet sich die Strenge der Regeln nach dem möglichen Schaden. Ein Schreibassistent wird anders behandelt als eine Anwendung, die Bewerber bewertet, Kredite prüft oder medizinische Entscheidungen unterstützt.

Nicht jede Software, die Arbeitsschritte automatisiert, gilt automatisch als KI. Regelbasierte Programme und feste Wenn-dann-Abläufe können außerhalb der Verordnung liegen.

Bestimmte Anwendungen sind bereits seit Februar 2025 verboten. Dazu zählen Social-Scoring, einige manipulative Verfahren sowie bestimmte Formen der biometrischen Überwachung und Emotionserkennung. Für Anbieter allgemein nutzbarer KI-Modelle gelten wesentliche Pflichten seit August 2025.

Wer ist betroffen?

Die Verordnung richtet sich nicht nur an Entwickler großer KI-Modelle. Sie betrifft auch Unternehmen, Behörden und andere Organisationen, die KI beruflich einsetzen.

Anbieter entwickeln ein System oder bringen es unter ihrem Namen auf den Markt. Betreiber verwenden ein KI-System in eigener Verantwortung, etwa im Kundenservice, in der Produktion oder in der Personalabteilung. Auch Unternehmen außerhalb der EU können betroffen sein, wenn ihre Systeme oder deren Ergebnisse innerhalb der EU genutzt werden.

Für Privatpersonen gilt eine wichtige Ausnahme: Wer KI ausschließlich persönlich und nicht beruflich verwendet, fällt grundsätzlich nicht unter die Pflichten für Betreiber.

Was müssen Unternehmen jetzt tun?

Für die meisten Firmen beginnt die Umsetzung mit einer Bestandsaufnahme. Sie sollten wissen, welche KI-Dienste offiziell oder auf eigene Initiative der Mitarbeiter eingesetzt werden. Festzuhalten sind Anbieter, Zweck, verwendete Daten, verantwortliche Personen und die Kontrolle der Ergebnisse.

Daneben braucht es verständliche interne Regeln. Mitarbeiter müssen wissen, welche Dienste erlaubt sind, welche Daten nicht eingegeben werden dürfen und wann Ergebnisse überprüft werden müssen. Besonders kritisch sind personenbezogene Daten, Geschäftsgeheimnisse, urheberrechtlich geschützte Inhalte und Entscheidungen über Menschen.

Die Pflicht zu ausreichender KI-Kompetenz gilt bereits seit Februar 2025. Einen einheitlichen Pflichtkurs schreibt die Verordnung nicht vor. Art und Umfang der Einweisung müssen zum jeweiligen Einsatz passen.

Der AI-Act ersetzt außerdem weder die DSGVO noch Arbeits-, Urheber- oder Sicherheitsrecht. Diese Vorgaben gelten weiterhin.

Was gilt für Chatbots?

Anbieter interaktiver KI-Systeme müssen dafür sorgen, dass Nutzer erkennen können, wenn sie mit einer KI kommunizieren. Unternehmen, die einen Chatbot, virtuellen Assistenten oder digitalen Avatar einsetzen, sollten prüfen, ob dieser Hinweis klar und rechtzeitig erscheint. Eine Information, die sich irgendwo in den Geschäftsbedingungen versteckt, erfüllt diesen Zweck kaum.

Dr. Thomas Schwenke, RechtsanwaltRechtsanwalt Dr. Thomas Schwenke empfiehlt, hier sauber zwischen Anbieter und Betreiber zu unterscheiden: Die gesetzliche Gestaltungspflicht trifft zunächst den Anbieter des Systems. Der Betreiber sollte sich jedoch nicht blind darauf verlassen, sondern kontrollieren, ob die Information in seinem konkreten Angebot tatsächlich verständlich erscheint. Bei der praktischen Umsetzung werden einzelne Pflichten derzeit unterschiedlich ausgelegt.

Muss jeder KI-Inhalt gekennzeichnet werden?

Nein. Der AI-Act verlangt kein sichtbares KI-Schild auf jedem Text, Bild oder Video, bei dessen Entstehung eine KI beteiligt war. Eine Offenlegung ist vor allem bei Deepfakes und anderen Bild-, Audio- oder Videoinhalten wichtig, die wie authentische Darstellungen realer Personen, Orte, Gegenstände oder Ereignisse wirken können. Eine Täuschungsabsicht ist dafür nicht erforderlich. Auch KI-generierte Texte über Themen von öffentlichem Interesse können kennzeichnungspflichtig sein.

Für redaktionelle Inhalte gibt es eine wichtige Ausnahme: Ein Text muss nicht als KI-generiert gekennzeichnet werden, wenn er von fachkundigen Menschen inhaltlich geprüft oder redaktionell kontrolliert wurde und eine Person oder Organisation die Verantwortung für die Veröffentlichung übernimmt.

Ein bloßer Rechtschreib- oder Grammatikcheck genügt dafür nicht. Die Redaktion muss Fakten, Quellen und Aussagen prüfen und den Text ändern oder ablehnen können. Das entspricht auch der Empfehlung von Rechtsanwalt Dr. Thomas Schwenke, der eine substanzielle inhaltliche Kontrolle verlangt.

Brauchen KI-generierte Aufmacherbilder ein Logo?

Ein allgemeines AI-Logo direkt im Bild ist nicht vorgeschrieben. Bei einer erkennbaren Illustration ohne dokumentarischen Anspruch genügt eine eindeutige Bildangabe, beispielsweise:

Bild: KI-generiert mit DALL-E, speicherguide.de

Rechtsanwalt Dr. Schwenke zieht die Grenze bei fotorealistischen Motiven schärfer. Nach seiner Empfehlung sollte deutlicher gekennzeichnet werden, sobald ein Bild im jeweiligen Zusammenhang wie eine authentische Aufnahme einer realen Person, eines Ortes, Gegenstands oder Ereignisses verstanden werden könnte:

KI-generierte Illustration, keine Aufnahme des tatsächlichen Ereignisses

Auch der Ort des Hinweises ist nicht in jedem Fall eindeutig. Bei einer freiwilligen Quellenangabe zu einem erkennbaren Symbolbild reicht meist die Bildzeile. Handelt es sich dagegen um ein kennzeichnungspflichtiges, täuschend echt wirkendes Motiv, empfiehlt Dr. Schwenke einen sichtbaren Hinweis möglichst direkt im Bild und zusätzlich in der Bildbeschreibung. So bleibt die Kennzeichnung auch erhalten, wenn das Motiv in sozialen Netzwerken oder ohne den ursprünglichen Artikel verbreitet wird.

Nicht jede virtuelle Figur und nicht jede synthetische Stimme ist automatisch ein Deepfake. Nach der Empfehlung von Dr. Schwenke wird eine Offenlegung vor allem dann zwingend, wenn eine reale Person nachgeahmt wird oder der Inhalt als authentische Darstellung einer wirklichen Person oder eines tatsächlichen Ereignisses erscheinen kann. Bei fotorealistischen, aber fiktiven Moderatoren ist ein freiwilliger Transparenzhinweis dennoch sinnvoll:

Dieses Video verwendet KI-generierte Figuren, Stimmen und Bildsequenzen. Inhalt und redaktionelle Verantwortung liegen bei der Redaktion.

Bei der Kennzeichnung von KI-Bildern, Avataren und synthetischen Stimmen sind einige Fragen in der Praxis noch nicht abschließend geklärt. Dr. Schwenke empfiehlt deshalb, im Zweifel transparenter zu kennzeichnen, als es der engste Wortlaut der Verordnung möglicherweise verlangt.

Hochrisiko-KI bekommt mehr Zeit

Besonders strenge Regeln gelten für Systeme, deren Entscheidungen erhebliche Folgen für Menschen oder ihre Grundrechte haben können. Dazu gehören bestimmte Anwendungen in Personalwesen, Bildung, Kreditprüfung, Biometrie und kritischen Infrastrukturen.

Der im Juli 2026 in Kraft getretene Digital Omnibus hat die Fristen für diese Systeme verlängert. Für die betroffenen Hochrisiko-Anwendungen gelten die entsprechenden Vorgaben spätestens ab dem 2. Dezember 2027. Bei KI als Sicherheitskomponente regulierter Produkte folgt der nächste Stichtag am 2. August 2028.

Was sagen die Kritiker?

Wirtschafts- und Technologieverbände halten den AI-Act teilweise für zu kompliziert und teuer. Unternehmen müssen klären, ob ein Werkzeug überhaupt als KI gilt, welche Rolle sie einnehmen und welcher Risikostufe eine Anwendung zugeordnet wird. Vor allem kleinere Entwickler könnten Schwierigkeiten haben, den rechtlichen und technischen Aufwand zu stemmen.

Ein weiterer Einwand betrifft das Tempo der Entwicklung. Dasselbe Sprachmodell kann ein harmloser Schreibassistent oder Teil einer Bewerberbewertung sein. Entscheidend ist daher häufig weniger die Technik als ihr Einsatz. Ändert sich dieser, muss auch die rechtliche Einordnung neu geprüft werden.

Bürgerrechtsorganisationen kritisieren die Verordnung aus der Gegenrichtung. Ihnen gehen die Verbote nicht weit genug. Sie sehen insbesondere bei biometrischer Überwachung, Strafverfolgung, Migration und nationaler Sicherheit zu viele Ausnahmen.

Was bedeutet der AI-Act für ein kleines Medienunternehmen?

Für eine Redaktion wie speicherguide.de bleibt der praktische Aufwand überschaubar. Wir entwickeln keine eigenen KI-Modelle und setzen keine Systeme ein, die über Kredite, medizinische Behandlungen oder Bewerber entscheiden. Hochrisiko-KI spielt in unserem redaktionellen Alltag daher derzeit keine Rolle.

Wir nutzen vorhandene KI-Dienste unter anderem für Recherche, Gliederung, Formulierung, Übersetzung, Bilder, Stimmen und Videos. Entscheidend ist, wie wir mit den Ergebnissen umgehen: Beiträge werden fachlich geprüft, redaktionell bearbeitet und von uns verantwortet. Deshalb ist für Artikel kein pauschaler KI-Hinweis erforderlich.

Bei KI-generierten Aufmacherbildern genügt in der Regel eine eindeutige Bildangabe, beispielsweise:

Bild: KI-generiert mit DALL-E, speicherguide.de

Ein AI-Logo direkt im Motiv ist nicht vorgeschrieben. Deutlicher kennzeichnen sollten wir dagegen fotorealistische Darstellungen, die wie echte Aufnahmen realer Personen, Orte oder Ereignisse wirken können.

Auch bei virtuellen Moderatoren, synthetischen Stimmen und realistisch wirkenden KI-Videos ist ein klarer Hinweis sinnvoll. Für speicherguide.de bedeutet das konkret: Wir müssen unsere eingesetzten Dienste erfassen, den Umgang mit vertraulichen Daten regeln, beteiligte Mitarbeiter einweisen und bei realistisch wirkenden künstlichen Inhalten für Transparenz sorgen.

Dieses Beispiel lässt sich auf andere Medienunternehmen und Agenturen übertragen. Wer KI als Werkzeug nutzt, die Ergebnisse aber fachlich kontrolliert und selbst verantwortet, muss nicht jede Veröffentlichung mit einem KI-Schild versehen.