Anzeige

Lünendonk: Rechtliche Bedenken bremsen KI-Einsatz

Lünendonk: Rechtliche Bedenken bremsen KI-EinsatzFirmen beschäftigen sich intensiv mit generativer KI: Einer Lünendonk-Studie zufolge sehen 58 Prozent die Technologie allerdings kritisch, vor allem wegen rechtlicher Bedenken bezüglich der Konsequenzen falscher KI-Ergebnisse. Ein weiteres Risiko stellt die Schatten-KI dar, denn eine unkontrollierte KI-Nutzung kann zu Datenschutz- und Sicherheitsproblemen führen.

Generative KI ist in Unternehmen grundsätzlich ein großes Thema: Laut Lünendonk-Studie »Generative AI –Von der Innovation bis zur Marktreife« hat diese Technologie für 42 Prozent hohe Bedeutung, wohingegen 58 Prozent sie kritisch sehen. 13 Prozent der befragten Firmen haben die Nutzung aufgrund von Datenschutzbedenken und der Unsicherheit bezüglich der Ergebnisqualität oder ungeklärter Haftungsfragen noch nicht zugelassen. In Reaktion auf den EU AI Act haben 31 Prozent der Befragten ihre Initiativen rund um generative KI vorerst auf Eis gelegt, um die weiteren Entwicklungen abzuwarten.

Anzeige

Unternehmen erkennen zunehmend die vielfältigen Anwendungsmöglichkeiten von generativer KI, stehen jedoch meist noch am Anfang der Implementierung. Laut der Studie nutzen 85 Prozent der befragten Unternehmen generative KI für Konzeptionsarbeit, 80 Prozent für Datenanalysen und Prognosen und 71 Prozent integrieren diese Technologien in ihre digitalen Dienste, was vorrangig zur Steigerung der Kundenzentrierung beiträgt.

»Darüber hinaus versprechen sich 67 Prozent durch den Einsatz von generativer KI signifikante Automatisierungs-Potenziale und 66 Prozent Kosteneinsparungen«, erklärt Mario Zillmann, Studienautor und Partner bei Lünendonk & Hossenfelder. »Jedes zweite Unternehmen sieht einen Vorteil in der Dokumentation von Wissen – unter anderem, um dem demografischen Wandel und dem daraus resultierenden Wissensverlust zu begegnen.«

Die Vertrauenswürdigkeit von KI, die sich auf die Qualität der Ergebnisse stützt, ist daher ein kritischer Faktor für den erfolgreichen Einsatz. (Quelle: Lünendonk)Die Vertrauenswürdigkeit von KI, die sich auf die Qualität der Ergebnisse stützt, ist daher ein kritischer Faktor für den erfolgreichen Einsatz. (Quelle: Lünendonk)

KI: Einsatzpotenziale versus Bedenken

Obwohl die Relevanz von generativer KI bei den meisten Befragten hoch ist, befinden sich die meisten Unternehmen noch in den Anfängen der Nutzung. Nur drei Prozent haben die Lösungen vollständig in den Produktivbetrieb übernommen, während ein Drittel (34 Prozent) sich noch in der Erprobungsphase befindet.

Viele Unternehmen zögern noch, vollständig auf KI zu vertrauen. 71 Prozent der Teilnehmer äußern rechtliche Bedenken bezüglich der Konsequenzen von fehlerhaften KI-Entscheidungen. Die Vertrauenswürdigkeit der Technologie, die sich auf die Qualität der Ergebnisse stützt, ist daher ein kritischer Faktor für den erfolgreichen Einsatz. Technische Eigenschaften wie Zuverlässigkeit, Robustheit und Erklärbarkeit der Ergebnisse spielen dabei eine entscheidende Rolle.

»Der Ruf nach einer vertrauenswürdigen KI wird mit fortschreitender Entwicklung und steigender Nutzerzahl immer lauter«, sagt Zillmann. »Tatsächlich planen 71 Prozent der befragten Unternehmen, ihr Datenmanagement zu verbessern, um ihre Datenqualität und Data-Governance an den zunehmenden Einsatz von KI anzupassen.«

Ein weiteres Risiko stellt die sogenannte Schatten-KI dar. Ein Drittel der befragten Unternehmen (33 Prozent) gewährt allen Mitarbeitern uneingeschränkten Zugriff auf GenAI-Tools, was Datenschutzprobleme und Sicherheitsverletzungen nach sich ziehen kann. In 32 Prozent der Unternehmen ist der Zugriff eingeschränkt, während 35 Prozent den Zugang zu bestimmten Bereichen und Funktionen limitieren.

GenAI noch kein Treiber der digitalen Transformation

Zu Beginn der Gespräche mit den Studienteilnehmenden wurde erörtert, in welchem Umfang GenAI bei der Bewältigung der Business-Anforderungen einen nachhaltigen Beitrag leisten kann. Das Ergebnis ist nicht eindeutig: Die beiden prägnanten Business-Anforderungen, nämlich die schnell voranschreitende Transformation (77 %) und die Entwicklung neuer digitaler Services (60 %), zeigen eine signifikante Diskrepanz hinsichtlich der Unterstützung durch GenAI und ihrer derzeitigen Relevanz für die Unternehmen. Lediglich jedes zweite Unternehmen (51 %) erhofft sich vom Einsatz von GenAI eine Unterstützung bei der Bewältigung der digitalen Transformation. Bei der Entwicklung neuer digitaler Services sind es sogar nur 38 Prozent. Bei Betrachtung der Anwendungsbereiche kann Lünendonk die bisher eher geringen Werte nachvollziehen. Ein anderer Eindruck entsteht bei der Erhöhung der Kundenzentrierung (46 %), der Steigerung der Prozesseffizienz (41 %) und der Erhöhung von Agilität und Flexibilität (45 %). Hier entspricht die Relevanz der jeweiligen Business-Anforderung dem durch GenAI generierten Beitrag zu deren Bewältigung. Lünendonk führt dies darauf zurück, dass KI insbesondere bei der Content-Erstellung und zur Ergreifung von Personalisierungsmaßnahmen bereits vielfach Anklang findet. Der demografische Wandel und die Einhaltung von Nachhaltigkeitszielen spielt derzeit nur bei wenigen Firmen eine Rolle.


Anzeige