Studie zu Generative AI


Rechtliche Bedenken bremsen umfassenden KI-Einsatz in Unternehmen - Risiko Schatten-KI: Unkontrollierte KI-Nutzung führt zu Datenschutz- und Sicherheitsproblemen
42 Prozent der Unternehmen sehen in generativer KI bereits eine hohe Relevanz für ihre Organisation - Rechtliche Bedenken bezüglich der Konsequenzen falscher KI-Ergebnisse forcieren Fokus auf Data Governance, Datenmanagement und Datenqualität



Der Durchbruch bei generativer KI mit der Einführung von ChatGPT im Herbst 2022 markiert einen bedeutenden Meilenstein für die digitale Transformation. Nahezu alle befragten Unternehmen und Organisationen beschäftigen sich mit dieser Technologie: So hat generative KI für 42 Prozent der teilnehmenden Unternehmen eine hohe Relevanz, während 58 Prozent der Technologie skeptisch gegenüberstehen. 13 Prozent lassen den Einsatz generativer KI noch gar nicht zu – vor allem aufgrund von Bedenken bei der Datensicherheit und der Qualität der generierten Ergebnisse oder aufgrund von ungeklärten Haftungsfragen. Mit Blick auf den EU AI Act stellen derzeit sogar 31 Prozent der befragten Unternehmen ihre Aktivitäten bezüglich generativer KI zurück, weil sie zunächst auf die Konkretisierung des EU AI Acts warten wollen.

Dies sind erste Ergebnisse der neuen Lünendonk-Studie 2024 "Generative AI – Von der Innovation bis zur Marktreife". Die Studie entstand in fachlicher Zusammenarbeit mit GFT, KPS, Protiviti, Randstad Digital, Reply und Senacor.

Unternehmen sehen vielfältige Einsatzmöglichkeiten, stehen aber meist noch am Anfang der Einführung
Die Anwendungsbereiche von GenAI in Unternehmen sind vielfältig: 85 Prozent der von Lünendonk befragten Unternehmen nutzen sie für konzeptionelle Arbeiten, acht von zehn Unternehmen für Datenanalysen und Prognosen und 71 Prozent betten generative KI-Funktionalitäten in ihre digitalen Services ein. Folglich ist die Erhöhung der Kundenzentrierung mit 71 Prozent der meistgenannte Benefit.

Darüber hinaus versprechen sich 67 Prozent durch den Einsatz von generativer KI signifikante Automatisierungspotenziale und 66 Prozent Kosteneinsparungen. Jedes zweite Unternehmen sieht einen Vorteil in der Dokumentation von Wissen – unter anderem, um dem demografischen Wandel und dem daraus resultierenden Wissensverlust zu begegnen.

Das Thema generative KI hat für die meisten Studienteilnehmenden eine hohe Relevanz. Jedoch stehen die meisten untersuchten Unternehmen beim Einsatz generativer AI aktuell erst am Anfang – lediglich drei Prozent der befragten Unternehmen haben generative KI-Lösungen bereits vollständig in ihren Produktivbetrieb integriert, ein Drittel (34 Prozent) befindet sich noch in der Erprobungsphase.

Den meisten Unternehmen fehlt noch das Vertrauen in KI
71 Prozent der Befragten geben an, dass in ihren Unternehmen rechtliche Bedenken bezüglich der Konsequenzen falscher KI-Ergebnisse bestehen. Sie befürchten hohe Haftungsrisiken aufgrund falscher Entscheidungen auf Basis von Resultaten der KI. Ein wichtiger Aspekt für den erfolgreichen Einsatz generativer KI ist daher die Vertrauenswürdigkeit der Technologie, die auf der Qualität der Ergebnisse basiert. Unternehmen müssen sicherstellen, dass die Ergebnisse verlässlich und nachvollziehbar sind sowie keine Falschinformationen veröffentlicht werden. Technische Funktionalitäten wie Zuverlässigkeit, Robustheit und Erklärbarkeit der Ergebnisse sind dabei entscheidend. "Der Ruf nach einer vertrauenswürdigen KI wird mit fortschreitender Entwicklung und steigender Nutzerzahl immer lauter", erläutert Mario Zillmann, Studienautor und Partner bei Lünendonk & Hossenfelder. Tatsächlich wollen 71 Prozent der befragten Unternehmen ihr Datenmanagement sowie ihre Datenqualität verbessern und ihre Data Governance auf den zunehmenden KI-Einsatz hin anpassen.

Uneingeschränkter Zugriff auf KI-Tools: Folgt nun die Schatten-KI?
Allerdings birgt der Einsatz neuer Technologien auch neue Risiken. Besorgniserregend ist beispielsweise die Entstehung einer sogenannten Schatten-KI: So erlaubt ein Drittel der befragten Unternehmen (33 Prozent) allen Mitarbeitern uneingeschränkten Zugriff auf GenAI-Tools, was zu Sicherheitsproblemen und Datenschutzverletzungen führen kann. In weiteren 32 Prozent der Unternehmen haben Mitarbeitende eingeschränkten Zugriff. Lediglich 35 Prozent der Unternehmen beschränken die Zugriffsrechte auf ausgewählte Bereiche und Funktionen.

Über die Lünendonk-Studie
Für die Lünendonk-Studie 2024 "Generative AI – Von der Innovation bis zur Marktreife" wurden 150 Verantwortlichen aus der IT und dem Business befragt. Die Befragten stammen aus mittelständischen Unternehmen und Konzernen in der Industrie, dem Finanzsektor, dem Handel, der Energie-Branche, dem Healthcare-Sektor und dem öffentlichen Sektor. Die Studie wurde in fachlicher Zusammenarbeit mit GFT, KPS, Protiviti, Randstad Digital, Reply und Senacor realisiert und steht ab sofort unter www.luenendonk.de zum kostenfreien Download bereit. (Lünendonk & Hossenfelder: ra)

eingetragen: 07.08.24
Newsletterlauf: 20.09.24

Lünendonk: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Meldungen: Studien

  • Viele Schulen regeln den KI-Einsatz nicht

    Um schneller einen Aufsatz zu schreiben, die Antwort im Unterricht nachzuschlagen oder Ideen für das Kunstprojekt zu sammeln - Künstliche Intelligenz ist längst auch in vielen deutschen Klassenzimmern angekommen. Allerdings hat nicht einmal jede vierte Schule zentral geregelt, was dabei erlaubt und was verboten ist. Lediglich an 23 Prozent der weiterführenden Schulen gibt es zentrale KI-Regeln, die für die ganze Schule gelten.

  • Ein Fünftel wurde im Job zu KI geschult

    Mit KI die Mail formulieren, eine Hintergrundrecherche starten oder aus Gesprächsnotizen ein Protokoll erstellen - Künstliche Intelligenz kann im Job unterstützen, wenn man weiß wie. Ein Fünftel (20 Prozent) der Berufstätigen wurde deshalb von ihrem Arbeitgeber bereits im KI-Einsatz geschult. Bei weiteren 6 Prozent gibt es zwar entsprechende Fortbildungen, sie haben sie aber noch nicht wahrgenommen. Der großen Mehrheit von 70 Prozent der Beschäftigten wird allerdings keine KI-Fortbildungen angeboten. Das sind Ergebnisse einer repräsentativen Befragung von 1.005 Personen ab 16 Jahren in Deutschland im Auftrag des Digitalverbands Bitkom.

  • Mindestens ein Datenschutzvorfall

    The Business Digital Index (BDI), eine Initiative von Cybernews, hat die digitale Sicherheit von 75 EU-Institutionen untersucht. Das Ergebnis ist besorgniserregend: 67 Prozent der untersuchten Einrichtungen erhielten die Noten "D" oder "F" und gelten damit als "hohes" oder "kritisches" Risiko.

  • Überwachung und Compliance stets im Fokus

    Mit der Einführung der elektronischen Patientenakte (ePA) setzt die Bundesregierung einen Meilenstein für die Zukunft der digitalen Gesundheitsversorgung. Ziel ist es, eine umfassende Datentransparenz - sowohl für Patienten als auch das medizinische Personal - zu schaffen, um die Qualität der Versorgung zu optimieren und Mitarbeitende im Healthcare-Sektor zu entlasten. Wie die Studie "Digitale Zwickmühle im Gesundheitswesen: Zwischen Innovationsdruck und Systemrisiken" von Soti jedoch zeigt, mangelt es in vielen deutschen Gesundheitseinrichtungen noch immer an den nötigen technischen Voraussetzungen, um diesem Anspruch in der Praxis auch wirklich gerecht zu werden. Für diese Erhebung wurden weltweit IT-Entscheidungsträger im Healthcare-Bereich befragt.

  • Haftungsrisiko bei Cyber-Schäden

    Führungskräfte in Deutschland blicken mit wachsender Sorge auf ihr Haftungsrisiko bei Cyber-Schäden - für 88 Prozent sind Cyber-Attacken und für 86 Prozent Datenverluste das Top-Risiko für Manager 2025. Das zeigt der aktuelle "Directors' and Officers' Liability Survey" des Risikoberaters und Großmaklers Willis, einem Geschäftsbereich von WTW, und der internationalen Anwaltssozietät Clyde & Co. Außerdem zeigt die Studie, dass vielen Themen im Management Board nicht genug Zeit eingeräumt wird: 38 Prozent der befragten Führungskräfte in Deutschland sind der Meinung, dass im Vorstands- und Geschäftsführungskreis mehr Zeit für das Thema Cybersicherheit aufgewendet werden sollte. "Das ist ein deutliches Signal dafür, dass viele Unternehmen sich der Bedrohung zwar bewusst sind, sich ihr aber noch nicht ausreichend widmen", sagt Lukas Nazaruk, Head of Corporate Risk & Broking Deutschland und Österreich bei Willis.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen