Sie sind hier: Home » Markt » Studien, Umfragen, Untersuchungen

KI-Regulierungsbedarf steigt

Künstliche Intelligenz: Unternehmen und Behörden drohen IT-Wildwuchs und erhöhte Compliance-Kosten
Das KI-Potenzial schöpfen Unternehmen und Behörden dann aus, wenn sie die KI-Technologien, inklusive KI-Governance, in ihre Gesamtstrategie einbetten

In der deutschen Wirtschaft und öffentlichen Verwaltung herrscht seit ChatGPT in weiten Teilen Aktionismus beim Einsatz von Künstlicher Intelligenz (KI). 43 Prozent der Unternehmen und Behörden besitzen bislang keine speziellen Regelwerke und Richtlinien, eine so genannte KI-Governance. Durch die unkontrollierte Nutzung droht ihnen ein Wildwuchs und damit ein unerwünschter Mehraufwand. Zudem steigen durch die Intransparenz und fehlende Regeln die künftigen Compliance-Kosten. Das geht aus der Studie Managementkompass Survey Good Company von Sopra Steria hervor.

Künstliche Intelligenz etabliert sich in Unternehmen und Verwaltungen sukzessive als Standardtechnologie. Nur 18 Prozent der für den Managementkompass Survey Befragten geben an, dass ihre Organisation bislang keine KI nutzt.

Eine gesonderte Online-Panelbefragung - mit geringerer Stichprobe - deutet zudem darauf hin, dass der KI-Anteil an den IT-Budgets steigt. Jede zweite Organisation plant, in den kommenden Jahren mehr als 20 Prozent ihres IT-Budgets für die Integration von KI-Systemen einzusetzen. Knapp jedes fünfte Unternehmen rechnet damit, mehr als 30 Prozent zu investieren. Das ergibt eine Befragung von 100 Entscheiderinnen und Entscheidern, die Marktforscher Sago für Sopra Steria im August und September durchgeführt hat.

Mit der zunehmenden KI-Nutzung steigen die strategischen Anforderungen, wenn Unternehmen und Behörden ihre Ziele wie neue Geschäftsmodelle, Effizienz oder die Entlastung von Personal erreichen wollen. "Das KI-Potenzial schöpfen Unternehmen und Behörden dann aus, wenn sie die KI-Technologien, inklusive KI-Governance, in ihre Gesamtstrategie einbetten. Ansonsten droht ein Wildwuchs, der die Kosten für die CIOs unnötig nach oben treibt und die positiven Effekte dämpft", sagt Christian Wrage, Vorstandssprecher von Sopra Steria.

Gleichzeitig steigt der Regulierungsbedarf – sowohl extern durch die Politik als auch intern durch die KI-nutzenden Organisationen. Risiken wie Datenmissbrauch, Manipulation, Diskriminierung oder der Wegfall von Arbeitsplätzen sollen durch Vorschriften wie den AI Act der Europäischen Union, den freiwilligen Verhaltenskodex der G7-Staaten oder eine beim AI Safety Summit verabredete Zusammenarbeit eingedämmt und das Investitionsklima verbessert werden.

Sopra-Steria-Vorstand Christian Wrage plädiert für Regulierung mit Augenmaß und eine aktive KI-Compliance der Wirtschaft. "Es braucht Regelwerke für vertrauenswürdige KI-Anwendungen und Transparenz. Gibt es beides nicht, werden sich deutlich mehr Akteure beim Einsatz zurückhalten – aus Sorge vor den Risiken. Sind die Regeln zu kompliziert oder zu kleinteilig, gilt allerdings dasselbe", so Wrage.

Kaum verbriefte Regeln für den KI-Einsatz
47 Prozent der befragten Unternehmen und Behörden sprechen sich für einen gesetzlichen Rahmen der KI-Nutzung aus, der ethische Grundsätze integriert, so der Managementkompass Survey Good Company.

Interne Vorgaben für den vertrauenswürdigen Einsatz von KI sind in Deutschland allerdings noch die Ausnahme. Bislang verfügen nur neun Prozent der befragten Unternehmen und Behörden über schriftlich festgelegte Leitlinien für den KI-Einsatz. Zehn Prozent haben den Mitarbeitenden mündliche Empfehlungen gegeben. Sie informieren zum Beispiel über systematische Verzerrungen und frei erfundene Informationen von generativer KI wie ChatGPT oder über eingebaute Vorurteile in den Daten oder Algorithmen (Bias). Die Mehrheit der Befragten hält die aktuellen Vorgaben und die Informationen für ausreichend. Nur sieben Prozent finden die eigene Organisation intransparent, was die Nutzung von KI angeht.

Unternehmen und Verwaltungen profitieren jedoch, wenn sie ihren Compliance-Apparat und ihr Risikomanagement aktiv an den KI-Einsatz anpassen. Organisationen, die KI-Anwendungen systematisch bewerten und Transparenz über IT-Lösungen mit eingebauter KI schaffen, werden kommende gesetzliche Vorschriften schneller umsetzen, Compliance-Kosten senken und sich stärker auf das Innovationspotenzial von KI fokussieren können.

"Unternehmen sollten nicht auf den Gesetzgeber warten, sondern frühzeitig eine KI-Governance etablieren. Wenn sich eine "Good Practice" etabliert, kann diese die Eingriffsdynamik der Regulatoren mindern und regulatorische Eingriffe eventuell sogar überflüssig machen", sagt Armin Rheinbay, Leiter Risikomanagement bei Sopra Steria Next. Der Managementberater spricht sich zudem für eine Verzahnung der internen Regelwerke aus: "Trotz des besonderen Stellenwerts der KI-Governance sollte sie in Corporate Governance, die IT-Governance und die Data-Governance eingebettet werden", so Rheinbay.T

Über die verwendete Marktforschung in dieser Presseinformation
Die Studienreihe Managementkompass Survey erscheint dreimal pro Jahr. Für diese Ausgabe zum Thema "Good Company" wurden 371 Entscheiderinnen und Entscheider aus Wirtschaft und öffentlicher Verwaltung in Deutschland befragt. F.A.Z. Business Media | research befragte die Teilnehmenden darüber, wie stark ethische Grundsätze sowie ökologische, soziale und unternehmerische Verantwortung in den Strategien und Maßnahmen verankert sind. Der Umgang mit dem Einsatz von Künstlicher Intelligenz ist ein Teilaspekt der Studie. Sie wurde im September 2023 im Auftrag des F.A.Z.-Instituts und von Sopra Steria online durchgeführt. Die Ergebnisse finden Sie auf dieser Website.

Darüber hinaus hat Sopra Steria im August und September 2023 stichprobenartig Unternehmen und die öffentliche Verwaltung zu ihren Investitionen in KI-Systeme befragt. Der Marktforscher Sago führte im Auftrag von Sopra Steria eine Online-Befragung bei 100 Entscheiderinnen und Entscheidern von Unternehmen und Verwaltungen mit mehr als 500 Mitarbeitenden durch. Die Ergebnisse wurden nicht gesondert aufbereitet. Wir stellen sie auf Anfrage zur Verfügung. (Sopra Steria: ra)

eingetragen: 29.11.23
Newsletterlauf: 20.02.24

Sopra Steria Consulting: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Studien

Viele Schulen regeln den KI-Einsatz nicht
Um schneller einen Aufsatz zu schreiben, die Antwort im Unterricht nachzuschlagen oder Ideen für das Kunstprojekt zu sammeln - Künstliche Intelligenz ist längst auch in vielen deutschen Klassenzimmern angekommen. Allerdings hat nicht einmal jede vierte Schule zentral geregelt, was dabei erlaubt und was verboten ist. Lediglich an 23 Prozent der weiterführenden Schulen gibt es zentrale KI-Regeln, die für die ganze Schule gelten.
Ein Fünftel wurde im Job zu KI geschult
Mit KI die Mail formulieren, eine Hintergrundrecherche starten oder aus Gesprächsnotizen ein Protokoll erstellen - Künstliche Intelligenz kann im Job unterstützen, wenn man weiß wie. Ein Fünftel (20 Prozent) der Berufstätigen wurde deshalb von ihrem Arbeitgeber bereits im KI-Einsatz geschult. Bei weiteren 6 Prozent gibt es zwar entsprechende Fortbildungen, sie haben sie aber noch nicht wahrgenommen. Der großen Mehrheit von 70 Prozent der Beschäftigten wird allerdings keine KI-Fortbildungen angeboten. Das sind Ergebnisse einer repräsentativen Befragung von 1.005 Personen ab 16 Jahren in Deutschland im Auftrag des Digitalverbands Bitkom.
Mindestens ein Datenschutzvorfall
The Business Digital Index (BDI), eine Initiative von Cybernews, hat die digitale Sicherheit von 75 EU-Institutionen untersucht. Das Ergebnis ist besorgniserregend: 67 Prozent der untersuchten Einrichtungen erhielten die Noten "D" oder "F" und gelten damit als "hohes" oder "kritisches" Risiko.
Überwachung und Compliance stets im Fokus
Mit der Einführung der elektronischen Patientenakte (ePA) setzt die Bundesregierung einen Meilenstein für die Zukunft der digitalen Gesundheitsversorgung. Ziel ist es, eine umfassende Datentransparenz - sowohl für Patienten als auch das medizinische Personal - zu schaffen, um die Qualität der Versorgung zu optimieren und Mitarbeitende im Healthcare-Sektor zu entlasten. Wie die Studie "Digitale Zwickmühle im Gesundheitswesen: Zwischen Innovationsdruck und Systemrisiken" von Soti jedoch zeigt, mangelt es in vielen deutschen Gesundheitseinrichtungen noch immer an den nötigen technischen Voraussetzungen, um diesem Anspruch in der Praxis auch wirklich gerecht zu werden. Für diese Erhebung wurden weltweit IT-Entscheidungsträger im Healthcare-Bereich befragt.
Haftungsrisiko bei Cyber-Schäden
Führungskräfte in Deutschland blicken mit wachsender Sorge auf ihr Haftungsrisiko bei Cyber-Schäden - für 88 Prozent sind Cyber-Attacken und für 86 Prozent Datenverluste das Top-Risiko für Manager 2025. Das zeigt der aktuelle "Directors' and Officers' Liability Survey" des Risikoberaters und Großmaklers Willis, einem Geschäftsbereich von WTW, und der internationalen Anwaltssozietät Clyde & Co. Außerdem zeigt die Studie, dass vielen Themen im Management Board nicht genug Zeit eingeräumt wird: 38 Prozent der befragten Führungskräfte in Deutschland sind der Meinung, dass im Vorstands- und Geschäftsführungskreis mehr Zeit für das Thema Cybersicherheit aufgewendet werden sollte. "Das ist ein deutliches Signal dafür, dass viele Unternehmen sich der Bedrohung zwar bewusst sind, sich ihr aber noch nicht ausreichend widmen", sagt Lukas Nazaruk, Head of Corporate Risk & Broking Deutschland und Österreich bei Willis.

Cyberrisiken & Inflation die größten Risiken KI & Big Data: Ganzheitlicher Ansatz vonnöten

Fachartikel

Auch mittelbare Benachteiligungen sind verboten
Schon seit 2006 gilt das Allgemeine Gleichbehandlungsgesetz (AGG), was insbesondere Arbeitgeber sehr vorsichtig gemacht hat. Etwa indem Stellenanzeigen alle inzwischen mindestens drei Geschlechter ausdrücklich mit "m/w/d" bezeichnen und auch keine Altersvorgaben mehr vorsehen, sowie geschlechtersensible - korrekt gegenderte - Sprache verwenden. Doch haben viele Berufsverbände noch gar nicht erkannt, dass sie gegenüber Mitgliedern und Bewerbern um Mitgliedschaft noch weitere Pflichten aus dem AGG haben, und diese korrespondierend Rechte, analog wie bei Arbeitnehmern.
Digitale Transformation im Finanzsektor
Die digitale Transformation im Finanzsektor schreitet unaufhaltsam voran - und mit ihr wachsen die Anforderungen an die IT-Sicherheit. Mit dem Digital Operational Resilience Act (DORA) hat die EU nun einen wegweisenden Regulierungsrahmen geschaffen, der die digitale Widerstandsfähigkeit von Finanzinstituten stärken soll. Die neue Verordnung betrifft nicht nur Banken und Versicherungen, sondern den gesamten Finanzsektor inklusive dessen kritischer IT-Dienstleister.

Bundestag

Rassismus & Diskriminierungsvorwürfe
Als Unterrichtung (21/750) durch den Polizeibeauftragten des Bundes beim Deutschen Bundestag liegt dessen Tätigkeitsbericht über den Zeitraum vom 1. Juli 2024 bis zum 30. Juni 2025 vor. Danach haben sich im Berichtszeitraum 279 Bürger mit Eingaben, Hinweisen und Anregungen an den Polizeibeauftragten gewandt.
Patientenzentrierte Gesundheitsversorgung
Der Petitionsausschuss hält mehrheitlich an der Widerspruchslösung (Opt-out-Lösung) bei der elektronischen Patientenakte (ePA) fest. In einer Sitzung verabschiedete der Ausschuss mit den Stimmen der Koalitionsfraktionen CDU/CSU und SPD die Beschlussempfehlung an den Bundestag, das Petitionsverfahren zu der Forderung, die elektronische Patientenakte nur mit ausdrücklichem Einverständnis der Betroffenen anzulegen (Opt-in-Lösung), abzuschließen, weil keine Anhaltspunkte für parlamentarische Aktivitäten zu erkennen seien.
Gleichstellung als verbindliches Förderkriterium
Die Fraktion Bündnis 90/Die Grünen fordert in einem Antrag (21/790) die Bundesregierung auf, Maßnahmen zu ergreifen, um die Gleichstellung von Frauen und Mädchen im organisierten Sport in Deutschland deutlich zu verbessern.

Bundesarbeitsgericht

Teilzeit- und Befristungsgesetzes (TzBfG)
Ein nach Maßgabe des Teilzeit- und Befristungsgesetzes (TzBfG) zulässig befristetes Arbeitsverhältnis endet auch dann mit Ablauf der vereinbarten Befristung, wenn der Arbeitnehmer zwischenzeitlich in den Betriebsrat gewählt worden ist. Benachteiligt der Arbeitgeber allerdings das befristet beschäftigte Betriebsratsmitglied, indem er diesem wegen des Betriebsratsmandats keinen Folgevertrag anbietet, hat das Betriebsratsmitglied einen Anspruch auf den Abschluss des verweigerten Folgevertrags als Schadensersatz.
Betriebratswahlrecht & Führungskräfte
Ein Arbeitnehmer, der mehreren Betrieben desselben Unternehmens angehört, hat bei der Wahl des Betriebsrats in sämtlichen dieser Betriebe das aktive Wahlrecht. Das gilt auch für Führungskräfte in Unternehmen mit einer unternehmensinternen Matrix-Struktur.
Kein Urlaubsverzicht durch Prozessvergleich
Die Parteien streiten über die Abgeltung von sieben Tagen gesetzlichen Mindesturlaubs aus dem Jahr 2023. Der Kläger war bei der Beklagten vom 1. Januar 2019 bis zum 30. April 2023 als Betriebsleiter beschäftigt. Im Jahr 2023 war er von Beginn an bis zur Beendigung seines Arbeitsverhältnisses durchgehend arbeitsunfähig erkrankt und deshalb nicht in der Lage, seinen Urlaub aus diesem Jahr in Anspruch zu nehmen.

Corporate Compliance Zeitschrift

Recht und Ethik im Unternehmen
Wenn man sich vertieft mit dem Themenkomplex Ethik im Unternehmen auseinandersetzt, so gerät man bisweilen in einen dynamischen Diskurs. Kernfragen sind, wie Ethik und Recht (auch innerbetriebliches Recht) im Verhältnis zueinander stehen und wie eine Organisation Recht und Ethik bestmöglich vermitteln kann? Gemeinsam haben Recht und Ethik, dass sie Steuerungsinstrumente für individuelles Handeln und die Entwicklung gesellschaftlicher wie unternehmensbezogener Prozesse sind. Beide werden auch oftmals als selbständige Rechtskreise definiert, deren Konnex schwerlich herzustellen sei.
Whistleblowing: Risiken des KI-Einsatzes
Internationale Konzerne stehen beim Aufbau rechtssicherer und zugleich effizienter Hinweisgebersysteme vor komplexen Herausforderungen - etwa durch divergieren- de Rechtsordnungen, kulturelle Unterschiede oder limitiert verfügbare Ressourcen. Künstliche Intelligenz (KI) kann in diesem Kontext substanzielle Effizienzgewinne ermöglichen, sei es bei der Analyse großer Datenmengen, der Priorisierung von Hinweisen oder in der Begleitung interner Untersuchungen.

Zeitschrift Risk, Fraud & Compliance

EU-Änderungsvorschläge zum Bürokratieabbau
Mit dem Ende Februar veröffentlichten Entwurf zur Omnibus-Richtlinie will die EU-Kommission die gerade erst kodifizierten Pflichten zur Transparenz der Unternehmen im Bereich Nachhaltigkeit wieder deutlich reduzieren, um die Unternehmen von Bürokratie zu entlasten. In den vergangenen Heften haben wir in der ZRFC immer wieder über die Entwicklungen berichtet. In diesem Beitrag stellen wir kompakt die Änderungsvorschläge der EU-Kommission zum Bürokratieabbau vor.
HinSchG: Anspruch und Wirklichkeit
Das LAG Niedersachsen konkretisiert mit seinem Urteil vom 11. November 2024 die Voraussetzungen für den Schutz durch das Hinweisgeberschutzgesetz (HinSchG). Nur wer den vorgeschriebenen Meldeweg einhält, kann sich auf das Gesetz berufen. Ein Urteil mit weitreichenden Folgen für das Verständnis des HinSchG in der Unternehmenspraxis.

Zeitschrift Corporate Governance

Rechnungslegung & Nachhaltigkeit
Seit der Veröffentlichung des "Omnibus package on Sustainability" herrscht große Verunsicherung aufseiten europäischer Unternehmen: Die Zukunft der Nachhaltigkeitsberichterstattung - und daran knüpfend der "Sustainable Corporate Governance" - ist zeitlich erneut in die Ferne gerückt und hinsichtlich ihrer inhaltlichen Ausgestaltung mit zahlreichen Fragezeichen verbunden. Vor diesem Hintergrund müssen Unternehmen dennoch Entscheidungen dazu treffen, wie sie sich positionieren und welche Schritte sie zur Weiterentwicklung ihres Rechnungswesens setzen wollen.
Rechnungslegung: VSME-Standard
Im Dezember 2024 hat die European Financial Reporting Advisory Group (EFRAG) einen Standard für die freiwillige Nachhaltigkeitsberichterstattung kapitalmarktferner kleiner und mittelgroßer Unternehmen (VSME Standard) verabschiedet. Damit wird die freiwillige Nachhaltigkeitsberichterstattung nicht-kapitalmarktorientierter kleiner und mittelgroßer Unternehmen (KMU) innerhalb der Europäischen Union erstmals anhand eines spezifischen Standards konkretisiert.

Zeitschrift Interne Revision

keine Verpflichtungen für Angreifende
Die Kenntnis rund um das Thema Social Engineering erfordert in einem nächsten Schritt ein Wissen bezüglich der konkreten Bedrohungstaktiken und -techniken. Eine ausführliche Darstellung bietet das MITRE- Att@ck-Modell, wobei aus der Gesamtsystematik nur die Angriffsvektoren verwendet werden, die zum Social Engineering passen. Insbesondere sind hier die ersten vier Phasen angesprochen.
DORA-Basispapier
In den ersten drei Teilen dieses Beitrags haben wir einen generellen Überblick über die DORA-Basisverordnung, die speziellen technischen Standards sowie Details zu den Inhalten des Kapitels II (IKT-Risikomanagement), des Kapitels III (Behandlung, Klassifizierung und Berichterstattung IKT-bezogener Vorfälle) und des Kapitels IV (Testen der digitalen operationalen Resilienz) vorgestellt. In diesem Artikel wird nun das letzte Kapitel (Management des IKT-Drittparteienrisikos) näher beleuchtet.

Bundeskartellamt

Bundeskartellamt legt Jahresbericht 2024/25 vor
Der Präsident des Bundeskartellamtes, Andreas Mundt, hat den "Jahresbericht 2024/25" der Behörde vorgestellt. Mundt sagte: "Wettbewerb bleibt der unverzichtbare Treiber unserer marktwirtschaftlichen Ordnung. Wachstum kann nur im offenen Wettbewerb entstehen, der Innovationen fördert und die Wettbewerbsfähigkeit unserer Wirtschaft stärkt. Ob Digitalwirtschaft, Benzinpreise oder Lebensmittel - eine nachhaltige und positive Entwicklung gelingt nur, wenn Unternehmen fair und transparent um die besten Lösungen konkurrieren. Verbraucherinnen und Verbraucher profitieren von Vielfalt, Qualität und fairen Preisen - das ist die Grundlage für eine starke und gerechte Wirtschaft."
Expertenkreis KI und Wettbewerb
Im Rahmen eines Expertenkreises diskutierte das Bundeskartellamt mit ausgewählten Stakeholdern über Fragen der Künstlichen Intelligenz (KI) mit Blick auf Wettbewerb und Wettbewerbsbeschränkungen. Auf Einladung des Amtes nahmen 14 Vertreterinnen und Vertreter von in Deutschland ansässigen Unternehmen und Verbänden teil. Die Unternehmen bilden zusammen wesentliche Teile der KI-Wertschöpfungskette ab und sind sowohl größeren, etablierten Unternehmen als auch kleineren Unternehmen und Start-ups zuzuordnen. Geleitet wurde die Veranstaltung von dem Präsidenten des Bundeskartellamtes, Andreas Mundt, sowie dem Vizepräsidenten Prof. Dr. Konrad Ost.