In generativer KI steckt ein enormes Potenzial, die öffentliche Verwaltung effizienter und bürgerfreundlicher zu machen. Allerdings ist GenAI kein Produkt von der Stange und die Einführung mit Herausforderungen verbunden. Dell Technologies nennt die wichtigsten davon und zeigt Wege auf, wie Behörden sie bewältigen können.

Generative KI kann in der öffentlichen Verwaltung in ganz unterschiedlichen Bereichen zum Einsatz kommen – etwa als fachkundiger Chatbot auf der Website oder als smarter Assistent beim Ausfüllen von Formularen. Sie kann beim Verfassen von Bescheiden und Antworten auf Anfragen unterstützen oder als internes Recherche-Tool dienen, das Daten aus unterschiedlichen Quellen zusammenträgt und übersichtlich aufbereitet. Doch so vielseitig die Technologie auch ist, so bringt sie auch Herausforderungen mit sich, mit denen sich Behörden auseinandersetzen müssen. Dazu zählen vor allem:

Anzeige

1. Datenschutz: Damit KI-Modelle nicht nur allgemeine, sondern auch fachliche Fragen beantworten können, benötigen sie behördenspezifisches Wissen. Dieses können sie sich im Rahmen eines Fine-Tunings mit Daten aus internen Quellen antrainieren. Dabei müssen Behörden allerdings darauf achten, alle Datenschutzvorgaben einzuhalten. Sollen beispielsweise echte Falldaten für das Training herangezogen werden, ist für diese Verarbeitung eine Rechtsgrundlage notwendig, etwa die Einwilligung der Betroffenen. Fehlt diese, müssen die Daten anonymisiert oder pseudonymisiert werden. Zudem kann es sinnvoll sein, die Modelle nicht nur mit eigenen Daten zu trainieren, sondern auch mit denen anderer Verwaltungen.
   
2. Digitale Souveränität: Die Nutzung generativer KI darf nicht zu Abhängigkeiten führen, vor allem nicht von außereuropäischen Anbietern und Infrastrukturen. Einen Ausweg bieten Open-Source-Modelle und Modelle von europäischen Anbietern, die auf IT-Systemen im eigenen Rechenzentrum, bei einem Colocation-Anbieter oder bei einem vertrauenswürdigen Dienstleister betrieben werden.
   
3. Transparenz: Entscheidungen, die mit GenAI-Unterstützung gefällt werden, müssen nachvollziehbar und erklärbar sein. Das ist häufig nicht einfach, da insbesondere die großen Sprachmodelle extrem komplex sind. Dadurch ist nicht immer klar, wie sie zu ihren Ergebnissen kommen und ob diese tatsächlich korrekt oder vollständig sind. Open-Source-Modelle und die Modelle von europäischen Anbietern bieten üblicherweise mehr Transparenz, etwa hinsichtlich der Daten und Regeln, mit denen sie trainiert wurden. Unabhängig davon ist es möglich, KI-Systeme so zu gestalten, dass sie nur die generativen Fähigkeiten eines Modells und statt dem antrainierten Allgemeinwissen ausschließlich behördenspezifisches Wissen nutzen.
   
4. Ethik: Grundsätzlich könnte generative KI viele Entscheidungen bereits völlig eigenständig fällen, doch meist ist das gar nicht erwünscht. Zum einen gibt es oft Ermessensspielräume, die nur menschliche Mitarbeiter verantwortungsvoll nutzen können, und zum anderen widersprechen automatisierte Entscheidungen über Menschen ethischen Standards. Zudem bleibt offen, wer für falsche, unfaire oder diskriminierende Entscheidungen eines vollautomatisierten KI-Systems die Verantwortung trägt – dessen Betreiber, Entwickler oder die Referate, die die Daten bereitgestellt haben?
5. Akzeptanz: Neue Technologien und Lösungen rufen oft Ablehnung hervor, weil sich gewohnte Abläufe und Aufgaben verändern. Im Falle von GenAI kommen zudem oft Sorgen um den Arbeitsplatz hinzu, da die vielseitige Technologie zahlreiche Tätigkeiten übernehmen kann, für die bislang Menschen benötigt wurden. Zwar sind diese Sorgen unbegründet, da die meisten Behörden längst vom Fachkräftemangel betroffen sind und sich dieser in den nächsten Jahren noch verschärfen wird. Dennoch sind Behörden gefordert, viel zu kommunizieren, um Ängste in der Belegschaft ab- und Vertrauen aufzubauen. Beziehen sie Mitarbeiter frühzeitig in ihre KI-Pläne ein und erklären den Nutzen der neuen Anwendungen, werden diese viel besser angenommen.
   
6. Know-how und Kosten: Die Entwicklung und der Betrieb von GenAI-Anwendungen erfordern viele Fachkräfte, darunter Data Scientists, Entwickler und IT-Spezialisten. Diese sind im Markt äußerst begehrt, sodass sich die meisten Behörden schwertun dürften, die Experten in ausreichender Zahl zu finden. Deshalb sind sie in der Regel auf externe Unterstützung angewiesen, etwa von kommunalen IT-Dienstleistern oder den IT-Dienstleistern der Länder. Diese können beispielsweise die Entwicklung und das Hosting übernehmen, während sich die Behörden um die Pflege und Aufbereitung der Daten kümmern. Oft ist auch die Zusammenarbeit mit anderen Behörden empfehlenswert, um Kräfte zu bündeln und Kosten zu teilen.