Sie sind hier: Home » Markt » Hintergrund

Was ist das EU-KI-Gesetz?

EU-KI-Gesetz: Wie wird es sich auf Datenschutz, Sicherheit, Risiken und Audit auswirken?
Das EU-KI-Gesetz ist am 1. August 2024 in Kraft getreten, während die spezifischen Vorschriften für KI-Systeme mit hohem Risiko und für KI-Modelle mit allgemeinem Verwendungszweck zu späteren Zeitpunkten wirksam werden

Von Punit Bhatia, Isaco Emerging Technology Advisory Group

Das EU-KI-Gesetz ist da und es hat Auswirkungen auf die Welt des Datenschutzes, Sicherheit, Risiko und Rechnungsprüfung. Das bedeutet, es beeinflusst die Art und Weise, wie diese Funktionen organisiert sind, wie die Fachleute ihre Arbeit verrichten und was sie in ihrer Position zu tun haben.

In einer Zeit, in der Systeme und Produkte, die auf künstlicher Intelligenz basieren, immer mehr an Bedeutung gewinnen, hat sich die Europäische Kommission dazu entschlossen, KI-Systeme durch ein Gesetz namens "EU AI Act" zu regulieren. Das Gesetz kategorisiert KI-Systeme in Risikostufen und stellt strengere Anforderungen an Systeme mit hohem Risiko, während es schädliche KI-Praktiken wie Social Scoring durch Regierungen verbietet. Es verfolgt einen ausgewogenen Ansatz zwischen Produktsicherheit und Schutz der grundlegenden Menschenrechte.

Das EU-KI-Gesetz ist am 1. August 2024 in Kraft getreten, während die spezifischen Vorschriften für KI-Systeme mit hohem Risiko und für KI-Modelle mit allgemeinem Verwendungszweck zu späteren Zeitpunkten wirksam werden.

Wie wird sich das EU-KI-Gesetz auf andere Funktionen auswirken? Und auf welche?
KI-Systeme können nicht in Silos entwickelt und betrieben werden. Da die meisten dieser Systeme Risiken mit sich bringen und in der Cloud aktiv sind, liegt es auf der Hand, dass verschiedene Anspruchsgruppen daran interessiert sind. Folgende Bereiche werden von den Auswirkungen betroffen sein, wenn Unternehmen die EU-Vorgaben für KI erfüllen wollen:

>> Risikomanagement-Teams werden ihren Risikoansatz anpassen, an der Risikokategorisierung mitwirken und wahrscheinlich das Register der Risikokategorisierung verwalten.
>> Datenschutzteams werden zur Bewertung der Auswirkungen auf die Rechte beitragen und sicherstellen, dass die KI-Systeme die Datenschutzbestimmungen einhalten.
>> Sicherheitsteams müssen zur Umsetzung von Sicherheitspraktiken beitragen und sicherstellen, dass der Aspekt der Cybersicherheitsanforderungen des EU-KI-Gesetzes beachtet wird.
>> Compliance-Teams werden Richtlinien und Kontrollen ausarbeiten, um Organisationen bei der Einhaltung des EU-KI-Gesetzes zu unterstützen.
>> Audit-Teams werden Strategien entwickeln und umsetzen, um die Einhaltung der Anforderungen des EU-KI-Gesetzes zu überprüfen.

Dies sind zwar nur erste Einblicke, aber das Ausmaß und der Umfang der tatsächlichen Auswirkungen auf diese und andere Funktionen hängen von der Größe, dem Standort und der Branche ab, in der das jeweilige Unternehmen tätig ist, und davon, wie es sich entscheidet, KI zu verwalten und zu regeln.

Ein weiteres wichtiges Thema ist die Vertrauenslücke bei digitalen Technologien. Einem Isaco-Bericht zufolge legen Unternehmen zwar Wert auf Digital Trust, aber es gibt kaum Fortschritte bei dessen Umsetzung. Diese Lücke in Kombination mit dem EU-KI-Gesetz wird den Organisationen einen Anstoß geben, digitales Vertrauen zu schaffen und zu erhalten. (Isaco: ra)

eingetragen: 12.09.24
Newsletterlauf: 06.12.24

Isaco: Kontakt & Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Markt / Hintergrund

Änderung des Beurkundungsrechts
Das Bundesjustizministerium hat am 13.06.2025 den Entwurf für ein Gesetz zur Einführung einer elektronischen Präsenzbeurkundung veröffentlicht. Der bayerische Staatsminister der Justiz Georg Eisenreich: "Ich begrüße, dass die neue Bundesjustizministerin unseren Vorschlag für eine Änderung des Beurkundungsrechts aufgreift. Für die Digitalisierung der Justiz ist auch die Modernisierung von Bundesgesetzen notwendig. Der bestehende gesetzliche Rahmen ist noch viel zu oft ein Hemmschuh und muss durch den Bund an vielen Stellen modernisiert werden."
Justiz zukunftsfest machen
Die Justizministerinnen und Justizminister berieten auf ihrer Frühjahrskonferenz am 5. und 6. Juni 2025 in Bad Schandau über einen neuen Pakt für den Rechtsstaat. Auch Bundesjustizministerin Dr. Stefanie Hubig nimmt an der Konferenz teil. Im Koalitionsvertrag hatten CDU, CSU und SPD vereinbart, mit einem neuen Pakt für den Rechtsstaat gemeinsam mit den Ländern die Justiz zukunftsfest zu machen. Demnach soll der neue Pakt für den Rechtsstaat auf drei Säulen basieren: einer verbesserten Digitalisierung, einer Verschlankung und Beschleunigung von Verfahrensabläufen sowie einer personellen Stärkung.
Versicherungsleistungen nach § 314 VAG
Die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) beaufsichtigt unter anderem die Lebensversicherer. Allein die BaFin ist berechtigt einen Insolvenzantrag zu stellen, § 312 Versicherungsaufsichtsgesetz (VAG). Die BaFin hat jedoch mehrere Alternativen, wie beispielweise die Bestandsübertragung oder die Herabsetzung der Leistungen in der Lebensversicherung. In Frage kommt fallweise, dass die private Auffanggesellschaft "Protektor Lebensversicherungs-AG" die Rechtsansprüche der Kunden insolventer Lebensversicherer "sichert", indem die Versicherungsverträge zur Aufrechterhaltung von garantierten Leistungen und Risikoschutz übernommen werden; §§ 221-231 VAG. Die Übernahme der Verträge bedarf einer Anordnung der BaFin, § 222 VAG - nur bis zu fünf Prozent der Garantieleistungen können dabei gekürzt werden. Bei dieser Gelegenheit können auch Tarifbestimmungen und Versicherungsbedingen angepasst werden. Freiwillig sind inzwischen auch 22 Pensionskassen dieser Sicherungseinrichtung freiwillig beigetreten.
Neues Kompetenzzentrum Steuerstrafrecht
Durch Steuerhinterziehung entgehen dem deutschen Staat nach Schätzungen der Deutschen Steuergewerkschaft jedes Jahr 50 Milliarden Euro. Bayerns Justizminister Georg Eisenreich: "Die ganz große Mehrheit der Menschen und Unternehmen zahlen ordnungsgemäß. Wir gehen gegen die schwarzen Schafe vor. Steuerstraftaten sind schwer nachweisbar. Die Ermittlungen sind oftmals umfangreich und komplex. Hinzu kommen neue Deliktsphänomene und zunehmend große Datenmengen. Deshalb setzt die bayerische Justiz auf Spezialisierung. Dazu habe ich das Kompetenzzentrum Steuerstrafrecht bei der Staatsanwaltschaft München I eingerichtet."
Datenkontrolle im Zeitalter der KI
Keepit veröffentlichte ihren Berichts "Intelligent Data Governance: Why taking control of your data is key for operational continuity and innovation" (Intelligente Data-Governance: Warum die Kontrolle über Ihre Daten entscheidend für betriebliche Kontinuität und Innovation ist). Der Bericht befasst sich mit der grundlegenden Bedeutung der Datenkontrolle im Zeitalter der KI, wobei der Schwerpunkt auf der Sicherstellung der Cyber-Resilienz und Compliance moderner Unternehmen liegt.

Verschiebung der Einreichfrist Politikgetriebener Moralisierung

Fachartikel

Auch mittelbare Benachteiligungen sind verboten
Schon seit 2006 gilt das Allgemeine Gleichbehandlungsgesetz (AGG), was insbesondere Arbeitgeber sehr vorsichtig gemacht hat. Etwa indem Stellenanzeigen alle inzwischen mindestens drei Geschlechter ausdrücklich mit "m/w/d" bezeichnen und auch keine Altersvorgaben mehr vorsehen, sowie geschlechtersensible - korrekt gegenderte - Sprache verwenden. Doch haben viele Berufsverbände noch gar nicht erkannt, dass sie gegenüber Mitgliedern und Bewerbern um Mitgliedschaft noch weitere Pflichten aus dem AGG haben, und diese korrespondierend Rechte, analog wie bei Arbeitnehmern.
Digitale Transformation im Finanzsektor
Die digitale Transformation im Finanzsektor schreitet unaufhaltsam voran - und mit ihr wachsen die Anforderungen an die IT-Sicherheit. Mit dem Digital Operational Resilience Act (DORA) hat die EU nun einen wegweisenden Regulierungsrahmen geschaffen, der die digitale Widerstandsfähigkeit von Finanzinstituten stärken soll. Die neue Verordnung betrifft nicht nur Banken und Versicherungen, sondern den gesamten Finanzsektor inklusive dessen kritischer IT-Dienstleister.

Bundestag

Rassismus & Diskriminierungsvorwürfe
Als Unterrichtung (21/750) durch den Polizeibeauftragten des Bundes beim Deutschen Bundestag liegt dessen Tätigkeitsbericht über den Zeitraum vom 1. Juli 2024 bis zum 30. Juni 2025 vor. Danach haben sich im Berichtszeitraum 279 Bürger mit Eingaben, Hinweisen und Anregungen an den Polizeibeauftragten gewandt.
Patientenzentrierte Gesundheitsversorgung
Der Petitionsausschuss hält mehrheitlich an der Widerspruchslösung (Opt-out-Lösung) bei der elektronischen Patientenakte (ePA) fest. In einer Sitzung verabschiedete der Ausschuss mit den Stimmen der Koalitionsfraktionen CDU/CSU und SPD die Beschlussempfehlung an den Bundestag, das Petitionsverfahren zu der Forderung, die elektronische Patientenakte nur mit ausdrücklichem Einverständnis der Betroffenen anzulegen (Opt-in-Lösung), abzuschließen, weil keine Anhaltspunkte für parlamentarische Aktivitäten zu erkennen seien.
Gleichstellung als verbindliches Förderkriterium
Die Fraktion Bündnis 90/Die Grünen fordert in einem Antrag (21/790) die Bundesregierung auf, Maßnahmen zu ergreifen, um die Gleichstellung von Frauen und Mädchen im organisierten Sport in Deutschland deutlich zu verbessern.

Bundesarbeitsgericht

Teilzeit- und Befristungsgesetzes (TzBfG)
Ein nach Maßgabe des Teilzeit- und Befristungsgesetzes (TzBfG) zulässig befristetes Arbeitsverhältnis endet auch dann mit Ablauf der vereinbarten Befristung, wenn der Arbeitnehmer zwischenzeitlich in den Betriebsrat gewählt worden ist. Benachteiligt der Arbeitgeber allerdings das befristet beschäftigte Betriebsratsmitglied, indem er diesem wegen des Betriebsratsmandats keinen Folgevertrag anbietet, hat das Betriebsratsmitglied einen Anspruch auf den Abschluss des verweigerten Folgevertrags als Schadensersatz.
Betriebratswahlrecht & Führungskräfte
Ein Arbeitnehmer, der mehreren Betrieben desselben Unternehmens angehört, hat bei der Wahl des Betriebsrats in sämtlichen dieser Betriebe das aktive Wahlrecht. Das gilt auch für Führungskräfte in Unternehmen mit einer unternehmensinternen Matrix-Struktur.
Kein Urlaubsverzicht durch Prozessvergleich
Die Parteien streiten über die Abgeltung von sieben Tagen gesetzlichen Mindesturlaubs aus dem Jahr 2023. Der Kläger war bei der Beklagten vom 1. Januar 2019 bis zum 30. April 2023 als Betriebsleiter beschäftigt. Im Jahr 2023 war er von Beginn an bis zur Beendigung seines Arbeitsverhältnisses durchgehend arbeitsunfähig erkrankt und deshalb nicht in der Lage, seinen Urlaub aus diesem Jahr in Anspruch zu nehmen.

Corporate Compliance Zeitschrift

Recht und Ethik im Unternehmen
Wenn man sich vertieft mit dem Themenkomplex Ethik im Unternehmen auseinandersetzt, so gerät man bisweilen in einen dynamischen Diskurs. Kernfragen sind, wie Ethik und Recht (auch innerbetriebliches Recht) im Verhältnis zueinander stehen und wie eine Organisation Recht und Ethik bestmöglich vermitteln kann? Gemeinsam haben Recht und Ethik, dass sie Steuerungsinstrumente für individuelles Handeln und die Entwicklung gesellschaftlicher wie unternehmensbezogener Prozesse sind. Beide werden auch oftmals als selbständige Rechtskreise definiert, deren Konnex schwerlich herzustellen sei.
Whistleblowing: Risiken des KI-Einsatzes
Internationale Konzerne stehen beim Aufbau rechtssicherer und zugleich effizienter Hinweisgebersysteme vor komplexen Herausforderungen - etwa durch divergieren- de Rechtsordnungen, kulturelle Unterschiede oder limitiert verfügbare Ressourcen. Künstliche Intelligenz (KI) kann in diesem Kontext substanzielle Effizienzgewinne ermöglichen, sei es bei der Analyse großer Datenmengen, der Priorisierung von Hinweisen oder in der Begleitung interner Untersuchungen.

Zeitschrift Risk, Fraud & Compliance

EU-Änderungsvorschläge zum Bürokratieabbau
Mit dem Ende Februar veröffentlichten Entwurf zur Omnibus-Richtlinie will die EU-Kommission die gerade erst kodifizierten Pflichten zur Transparenz der Unternehmen im Bereich Nachhaltigkeit wieder deutlich reduzieren, um die Unternehmen von Bürokratie zu entlasten. In den vergangenen Heften haben wir in der ZRFC immer wieder über die Entwicklungen berichtet. In diesem Beitrag stellen wir kompakt die Änderungsvorschläge der EU-Kommission zum Bürokratieabbau vor.
HinSchG: Anspruch und Wirklichkeit
Das LAG Niedersachsen konkretisiert mit seinem Urteil vom 11. November 2024 die Voraussetzungen für den Schutz durch das Hinweisgeberschutzgesetz (HinSchG). Nur wer den vorgeschriebenen Meldeweg einhält, kann sich auf das Gesetz berufen. Ein Urteil mit weitreichenden Folgen für das Verständnis des HinSchG in der Unternehmenspraxis.

Zeitschrift Corporate Governance

Rechnungslegung & Nachhaltigkeit
Seit der Veröffentlichung des "Omnibus package on Sustainability" herrscht große Verunsicherung aufseiten europäischer Unternehmen: Die Zukunft der Nachhaltigkeitsberichterstattung - und daran knüpfend der "Sustainable Corporate Governance" - ist zeitlich erneut in die Ferne gerückt und hinsichtlich ihrer inhaltlichen Ausgestaltung mit zahlreichen Fragezeichen verbunden. Vor diesem Hintergrund müssen Unternehmen dennoch Entscheidungen dazu treffen, wie sie sich positionieren und welche Schritte sie zur Weiterentwicklung ihres Rechnungswesens setzen wollen.
Rechnungslegung: VSME-Standard
Im Dezember 2024 hat die European Financial Reporting Advisory Group (EFRAG) einen Standard für die freiwillige Nachhaltigkeitsberichterstattung kapitalmarktferner kleiner und mittelgroßer Unternehmen (VSME Standard) verabschiedet. Damit wird die freiwillige Nachhaltigkeitsberichterstattung nicht-kapitalmarktorientierter kleiner und mittelgroßer Unternehmen (KMU) innerhalb der Europäischen Union erstmals anhand eines spezifischen Standards konkretisiert.

Zeitschrift Interne Revision

keine Verpflichtungen für Angreifende
Die Kenntnis rund um das Thema Social Engineering erfordert in einem nächsten Schritt ein Wissen bezüglich der konkreten Bedrohungstaktiken und -techniken. Eine ausführliche Darstellung bietet das MITRE- Att@ck-Modell, wobei aus der Gesamtsystematik nur die Angriffsvektoren verwendet werden, die zum Social Engineering passen. Insbesondere sind hier die ersten vier Phasen angesprochen.
DORA-Basispapier
In den ersten drei Teilen dieses Beitrags haben wir einen generellen Überblick über die DORA-Basisverordnung, die speziellen technischen Standards sowie Details zu den Inhalten des Kapitels II (IKT-Risikomanagement), des Kapitels III (Behandlung, Klassifizierung und Berichterstattung IKT-bezogener Vorfälle) und des Kapitels IV (Testen der digitalen operationalen Resilienz) vorgestellt. In diesem Artikel wird nun das letzte Kapitel (Management des IKT-Drittparteienrisikos) näher beleuchtet.

Bundeskartellamt

Bundeskartellamt legt Jahresbericht 2024/25 vor
Der Präsident des Bundeskartellamtes, Andreas Mundt, hat den "Jahresbericht 2024/25" der Behörde vorgestellt. Mundt sagte: "Wettbewerb bleibt der unverzichtbare Treiber unserer marktwirtschaftlichen Ordnung. Wachstum kann nur im offenen Wettbewerb entstehen, der Innovationen fördert und die Wettbewerbsfähigkeit unserer Wirtschaft stärkt. Ob Digitalwirtschaft, Benzinpreise oder Lebensmittel - eine nachhaltige und positive Entwicklung gelingt nur, wenn Unternehmen fair und transparent um die besten Lösungen konkurrieren. Verbraucherinnen und Verbraucher profitieren von Vielfalt, Qualität und fairen Preisen - das ist die Grundlage für eine starke und gerechte Wirtschaft."
Expertenkreis KI und Wettbewerb
Im Rahmen eines Expertenkreises diskutierte das Bundeskartellamt mit ausgewählten Stakeholdern über Fragen der Künstlichen Intelligenz (KI) mit Blick auf Wettbewerb und Wettbewerbsbeschränkungen. Auf Einladung des Amtes nahmen 14 Vertreterinnen und Vertreter von in Deutschland ansässigen Unternehmen und Verbänden teil. Die Unternehmen bilden zusammen wesentliche Teile der KI-Wertschöpfungskette ab und sind sowohl größeren, etablierten Unternehmen als auch kleineren Unternehmen und Start-ups zuzuordnen. Geleitet wurde die Veranstaltung von dem Präsidenten des Bundeskartellamtes, Andreas Mundt, sowie dem Vizepräsidenten Prof. Dr. Konrad Ost.