KI-Regulierungsbedarf steigt


Künstliche Intelligenz: Unternehmen und Behörden drohen IT-Wildwuchs und erhöhte Compliance-Kosten
Das KI-Potenzial schöpfen Unternehmen und Behörden dann aus, wenn sie die KI-Technologien, inklusive KI-Governance, in ihre Gesamtstrategie einbetten



In der deutschen Wirtschaft und öffentlichen Verwaltung herrscht seit ChatGPT in weiten Teilen Aktionismus beim Einsatz von Künstlicher Intelligenz (KI). 43 Prozent der Unternehmen und Behörden besitzen bislang keine speziellen Regelwerke und Richtlinien, eine so genannte KI-Governance. Durch die unkontrollierte Nutzung droht ihnen ein Wildwuchs und damit ein unerwünschter Mehraufwand. Zudem steigen durch die Intransparenz und fehlende Regeln die künftigen Compliance-Kosten. Das geht aus der Studie Managementkompass Survey Good Company von Sopra Steria hervor.

Künstliche Intelligenz etabliert sich in Unternehmen und Verwaltungen sukzessive als Standardtechnologie. Nur 18 Prozent der für den Managementkompass Survey Befragten geben an, dass ihre Organisation bislang keine KI nutzt.

Eine gesonderte Online-Panelbefragung - mit geringerer Stichprobe - deutet zudem darauf hin, dass der KI-Anteil an den IT-Budgets steigt. Jede zweite Organisation plant, in den kommenden Jahren mehr als 20 Prozent ihres IT-Budgets für die Integration von KI-Systemen einzusetzen. Knapp jedes fünfte Unternehmen rechnet damit, mehr als 30 Prozent zu investieren. Das ergibt eine Befragung von 100 Entscheiderinnen und Entscheidern, die Marktforscher Sago für Sopra Steria im August und September durchgeführt hat.

Mit der zunehmenden KI-Nutzung steigen die strategischen Anforderungen, wenn Unternehmen und Behörden ihre Ziele wie neue Geschäftsmodelle, Effizienz oder die Entlastung von Personal erreichen wollen. "Das KI-Potenzial schöpfen Unternehmen und Behörden dann aus, wenn sie die KI-Technologien, inklusive KI-Governance, in ihre Gesamtstrategie einbetten. Ansonsten droht ein Wildwuchs, der die Kosten für die CIOs unnötig nach oben treibt und die positiven Effekte dämpft", sagt Christian Wrage, Vorstandssprecher von Sopra Steria.

Gleichzeitig steigt der Regulierungsbedarf – sowohl extern durch die Politik als auch intern durch die KI-nutzenden Organisationen. Risiken wie Datenmissbrauch, Manipulation, Diskriminierung oder der Wegfall von Arbeitsplätzen sollen durch Vorschriften wie den AI Act der Europäischen Union, den freiwilligen Verhaltenskodex der G7-Staaten oder eine beim AI Safety Summit verabredete Zusammenarbeit eingedämmt und das Investitionsklima verbessert werden.

Sopra-Steria-Vorstand Christian Wrage plädiert für Regulierung mit Augenmaß und eine aktive KI-Compliance der Wirtschaft. "Es braucht Regelwerke für vertrauenswürdige KI-Anwendungen und Transparenz. Gibt es beides nicht, werden sich deutlich mehr Akteure beim Einsatz zurückhalten – aus Sorge vor den Risiken. Sind die Regeln zu kompliziert oder zu kleinteilig, gilt allerdings dasselbe", so Wrage.

Kaum verbriefte Regeln für den KI-Einsatz
47 Prozent der befragten Unternehmen und Behörden sprechen sich für einen gesetzlichen Rahmen der KI-Nutzung aus, der ethische Grundsätze integriert, so der Managementkompass Survey Good Company.

Interne Vorgaben für den vertrauenswürdigen Einsatz von KI sind in Deutschland allerdings noch die Ausnahme. Bislang verfügen nur neun Prozent der befragten Unternehmen und Behörden über schriftlich festgelegte Leitlinien für den KI-Einsatz. Zehn Prozent haben den Mitarbeitenden mündliche Empfehlungen gegeben. Sie informieren zum Beispiel über systematische Verzerrungen und frei erfundene Informationen von generativer KI wie ChatGPT oder über eingebaute Vorurteile in den Daten oder Algorithmen (Bias). Die Mehrheit der Befragten hält die aktuellen Vorgaben und die Informationen für ausreichend. Nur sieben Prozent finden die eigene Organisation intransparent, was die Nutzung von KI angeht.

Unternehmen und Verwaltungen profitieren jedoch, wenn sie ihren Compliance-Apparat und ihr Risikomanagement aktiv an den KI-Einsatz anpassen. Organisationen, die KI-Anwendungen systematisch bewerten und Transparenz über IT-Lösungen mit eingebauter KI schaffen, werden kommende gesetzliche Vorschriften schneller umsetzen, Compliance-Kosten senken und sich stärker auf das Innovationspotenzial von KI fokussieren können.

"Unternehmen sollten nicht auf den Gesetzgeber warten, sondern frühzeitig eine KI-Governance etablieren. Wenn sich eine "Good Practice" etabliert, kann diese die Eingriffsdynamik der Regulatoren mindern und regulatorische Eingriffe eventuell sogar überflüssig machen", sagt Armin Rheinbay, Leiter Risikomanagement bei Sopra Steria Next. Der Managementberater spricht sich zudem für eine Verzahnung der internen Regelwerke aus: "Trotz des besonderen Stellenwerts der KI-Governance sollte sie in Corporate Governance, die IT-Governance und die Data-Governance eingebettet werden", so Rheinbay.T

Über die verwendete Marktforschung in dieser Presseinformation
Die Studienreihe Managementkompass Survey erscheint dreimal pro Jahr. Für diese Ausgabe zum Thema "Good Company" wurden 371 Entscheiderinnen und Entscheider aus Wirtschaft und öffentlicher Verwaltung in Deutschland befragt. F.A.Z. Business Media | research befragte die Teilnehmenden darüber, wie stark ethische Grundsätze sowie ökologische, soziale und unternehmerische Verantwortung in den Strategien und Maßnahmen verankert sind. Der Umgang mit dem Einsatz von Künstlicher Intelligenz ist ein Teilaspekt der Studie. Sie wurde im September 2023 im Auftrag des F.A.Z.-Instituts und von Sopra Steria online durchgeführt. Die Ergebnisse finden Sie auf dieser Website.

Darüber hinaus hat Sopra Steria im August und September 2023 stichprobenartig Unternehmen und die öffentliche Verwaltung zu ihren Investitionen in KI-Systeme befragt. Der Marktforscher Sago führte im Auftrag von Sopra Steria eine Online-Befragung bei 100 Entscheiderinnen und Entscheidern von Unternehmen und Verwaltungen mit mehr als 500 Mitarbeitenden durch. Die Ergebnisse wurden nicht gesondert aufbereitet. Wir stellen sie auf Anfrage zur Verfügung. (Sopra Steria: ra)

eingetragen: 29.11.23
Newsletterlauf: 20.02.24

Sopra Steria Consulting: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Meldungen: Studien

  • Datenschutz als Innovations-Bremse

    Mehr als zwei Drittel der Unternehmen in Deutschland fühlen sich vom Datenschutz ausgebremst. 70 Prozent haben bereits mindestens einmal Pläne für Innovationen aufgrund von Datenschutz-Vorgaben oder Unsicherheiten bei der Anwendung des geltenden Rechts gestoppt. Vor einem Jahr lag der Anteil noch bei 61 Prozent. Aktuell sagen wie im Vorjahr 17 Prozent, dass sie einmal auf Innovationspläne verzichtet haben. Bei 35 Prozent war das dagegen bereits mehrfach der Fall (2024: 27 Prozent) und bei 18 Prozent sogar häufig (2024: 17 Prozent). Das sind Ergebnisse einer repräsentativen Befragung von 605 Unternehmen ab 20 Beschäftigten in Deutschland im Auftrag des Digitalverbands Bitkom.

  • Gefahr von Cyberattacken

    IT-Verantwortliche bewerten das Risiko, dass ihr Unternehmen Opfer einer Cyberattacke wird, so hoch wie nie zuvor: Fast sieben von zehn Befragten (69 Prozent) befürchten laut einer aktuellen EY-Studie Hackerangriffe und bewerten die Gefahr dabei als "eher hoch" bis "sehr hoch". Besonders große Sorgen machen sich die Befragten in den Bereichen Technologie, Medien und Telekommunikation (82 Prozent), Energie und Metallverarbeitung (80 Prozent), Pharma und Gesundheit sowie Bau und Immobilien (jeweils 71 Prozent).

  • Revolution in der Fertigung

    NTT Data stellte die Ergebnisse ihrer neuesten Studie vor. Die Daten zeigen, dass Fertigungsunternehmen beim Einsatz von GenAI zwar vor einigen Hürden stehen, die Technologie aber das Potenzial hat, ein ganz neues Niveau an Effizienz und Innovationskraft hervorzubringen. Neben den vielen Anwendungsbereichen von GenAI untersuchte die Studie "Von der Fertigungshalle ins KI-Zeitalter: Haben Sie einen Masterplan oder Nachholbedarf?" auch die Herausforderungen, denen sich das produzierende Gewerbe gegenübersieht.

  • Drei Viertel lassen KI-Chancen liegen

    Ob zur Qualitätskontrolle, Automatisierung, Energieeinsparung oder Steuerung von Robotern - die Anwendungsmöglichkeiten für Künstliche Intelligenz in der Produktion sind zahlreich. Mit Blick auf die deutsche Industrie zeigt sich aber: Nur einem Viertel der Unternehmen gelingt es nach eigener Einschätzung bereits gut, die Potenziale von KI zu nutzen (24 Prozent). Das sind Ergebnisse einer repräsentativen Befragung im Auftrag des Digitalverbands Bitkom, die unter 552 Industrieunternehmen des verarbeitenden Gewerbes ab 100 Beschäftigten in Deutschland durchgeführt wurde. Die übrigen drei Viertel sehen sich noch nicht imstande, entsprechende Möglichkeiten auszuschöpfen (72 Prozent).

  • Lösungsansätze gegen den GenAI-Gender Gap

    Frauen drohen bei Künstlicher Intelligenz (KI), die bis 2030 allein in Deutschland 3 Millionen Jobs verändern könnte, ins Hintertreffen zu geraten. So zeigen aktuelle Zahlen von Coursera, dass lediglich 27 Prozent der Lernenden in Generative-AI (GenAI)-Kursen in Deutschland (102.000 Einschreibungen) weiblich sind. Dies liegt noch unter dem weltweiten Durchschnitt von 32 Prozent und reicht im Ländervergleich gerade für einen Platz in den Top-Ten (Platz 9). Und das, obwohl sich allein auf Coursera im vergangenen Jahr weltweit alle 10 Sekunden jemand in einen GenAI-Kurs einschrieb.

Cyberrisiken & Inflation die größten Risiken KI & Big Data: Ganzheitlicher Ansatz vonnöten

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen