Rechtsrahmen für Künstliche Intelligenz


Regulierung von KI: DSK fordert klare Verantwortlichkeit für Hersteller und Betreiber
Die KI-Landschaft ist komplex und zeichnet sich durch eine Vielzahl beteiligter Akteure aus, die auf ganz unterschiedlichen Ebenen involviert sind



Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) fordert, dass in dem beabsichtigten europäischen Gesetz über Künstliche Intelligenz (KI-Verordnung) eine sachgerechte Zuweisung von Verantwortlichkeiten entlang der gesamten KI-Wertschöpfungskette vorgenommen wird. Nur so können die Grundrechte der Betroffenen geschützt werden, deren Daten durch KI verarbeitet werden.

Jede Rechtsunsicherheit in diesem Feld würde den Bürgerinnen und Bürgern, aber insbesondere auch den kleinen und mittleren Unternehmen schaden. Denn sie müssen die Hauptlast der rechtlichen Verantwortung tragen. Die Unternehmen brauchen klare Regeln, damit die Risiken von KI beherrschbar bleiben. Die kommende KI-Verordnung sollte daher für alle Beteiligten – auch für Hersteller und Anbieter von Basismodellen – festlegen, welche Anforderungen sie erfüllen müssen. Eine einseitige Verschiebung der rechtlichen Verantwortung auf die letzten Stufen der Wertschöpfungskette wäre datenschutzrechtlich und wirtschaftlich die falsche Wahl. Nur mit der notwendigen Vertrauenswürdigkeit wird es eine hohe Akzeptanz für die mit KI verbundenen Chancen geben.

Zum Hintergrund:
Die Verhandlungen über einen europäischen Rechtsrahmen für Künstliche Intelligenz (KI) sind in eine entscheidende Phase getreten. Im Trilog zwischen Europäischer Kommission, Parlament und Rat hatte das Europäische Parlament in seiner Position vom 14. Juni 2023 wesentliche Abänderungen des Entwurfstexts gefordert. Ausdrücklich in den regulatorischen Rahmen einbezogen werden sollten danach Basismodelle ("foundation models"). Dabei handelt es sich um KI-Systemmodelle, die auf einer breiten Datenbasis trainiert wurden, auf eine allgemeine Ausgabe ausgelegt sind und an eine breite Palette unterschiedlicher Aufgaben angepasst werden können.

Nach dem Vorschlag des Parlaments sollten die Anbieter von Basismodellen bestimmte Mindestanforderungen erfüllen, etwa mit Blick auf die Datenqualität, die Erklärbarkeit und die Cybersicherheit. In einem nunmehr bekannt gewordenen Positionspapier haben sich die EU-Mitgliedstaaten Deutschland, Frankreich und Italien jedoch gegen verbindliche Vorgaben für Basismodelle ausgesprochen und ein sanktionsloses Konzept der Selbstregulierung in die Diskussion eingebracht.

Die KI-Landschaft ist komplex und zeichnet sich durch eine Vielzahl beteiligter Akteure (z. B. Hersteller, Anbieter, Betreiber, Anwender und Endnutzende) aus, die auf ganz unterschiedlichen Ebenen (z. B. Konzeption, Entwicklung, Anpassung, Bereitstellung und Nutzung) involviert sind. Können von einem KI-System bestimmte Risiken ausgehen, dürfen Vorschriften zum Umgang damit keine verantwortungsfreien Räume entstehen lassen.

Deutlich wird dies beim Einsatz von KI für die Verarbeitung personenbezogener Daten: So wäre es problematisch, den KI-Betreibern und KI-Anwendern die vollständige Verantwortung für die Beherrschung der Risiken aufzubürden, wenn sie keine verlässlichen Informationen über die Funktionsweisen, die in das KI-Training eingegangenen Daten sowie die Optimierungsziele erhalten und die auf der Ebene der Basismodelle möglichen Maßnahmen zur Risikoeindämmung fehlen. Es muss den KI-Betreibern und KI-Anwendern, darunter gerade auch den heimischen kleinen und mittleren Unternehmen, möglich sein, die Risiken korrekt zu identifizieren. Dies ist nicht nur Bedingung für Datenschutz-Folgenabschätzungen, sondern auch Grundlage, um die Anforderungen des Artikel 25 Datenschutz-Grundverordnung zu Datenschutz by Design und by Default zu erfüllen.

Links zu dem Entwurf der KI-Verordnung in den verschiedenen Versionen:
• >> Europäische Kommission
: Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union, COM(2021) 206 final, 2021/0106(COD), 21.04.2021,
https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:52021PC0206

• >> Abänderungen des Europäischen Parlaments vom 14. Juni 2023 zu dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)), P9_TA(2023)0236, 14.06.2023,
https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_DE.html
(Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein: ULD: ra)

eingetragen: 30.11.23
Newsletterlauf: 08.03.24

ULD: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Meldungen: Markt / Unternehmen

  • VeR als Taktgeber und Brückenbauer

    Mit mehr als 350 Fachteilnehmenden aus Wirtschaft, Verwaltung, Softwareentwicklung und Politik hat der E-Rechnungs-Gipfel 2025 in Berlin erneut seine Rolle als Leitkongress der deutschen E-Invoicing-Branche unter Beweis gestellt. Im Mittelpunkt der dreitägigen Veranstaltung standen die ersten Erfahrungen mit der verpflichtenden E-Rechnung im B2B-Bereich, der aktuelle Stand der nationalen und europäischen Regulierung sowie der digitale Lückenschluss von der Bestellung bis zur Bezahlung.

  • Falsches Verständnis von Digitalisierung

    Hunderte Menschen aus ganz Deutschland haben auf einen Aufruf von Digitalcourage reagiert und Informationen über die Verkaufsbedingungen des Deutschlandtickets in ihrer Region eingesendet. Daraus hat Digitalcourage jetzt eine Übersicht erstellt, die zeigt, bei welchen Verkehrsunternehmen das Deutschlandticket möglichst datenschutzfreundlich und ohne App-Zwang erhältlich ist.

  • Lieferkettendaten bereitstellen

    Das auf Lieferkettentransparenz und Nachhaltigkeit spezialisierte Technologieunternehmen Sedex ist ab sofort offizieller Software- und Tool-Partner der Global Reporting Initiative (GRI). Die Auszeichnung bestätigt, dass die Lösungen und Datenmodelle von Sedex Lieferkettendaten bereitstellen, die nach dem international anerkannten GRI-Standards ausgerichtet sind - dem weltweit führenden Rahmenwerk für Nachhaltigkeitsberichterstattung.

  • Aufsichtsbehördliches Trauerspiel

    Die Deutsche Vereinigung für Datenschutz e.V. (DVD) begrüßt den Beschluss der Datenschutzkonferenz (DSK) vom 16.06.2025, in dem diese Position bezieht zu der weit verbreiteten Praxis, dass sich über Terminvereinbarungen mit Heilberufen deren Dienstleister illegal hochsensible Gesundheitsdaten beschaffen.

  • Grundrechte-Check in der Gesetzgebung

    Am Montag, den 08. September 2025, findet in Kiel die Datenschutz-Sommerakademie zum Thema "Im Alarmmodus: Sicherheit und Datenschutz?" statt. Expertinnen und Experten aus dem Bundesgebiet werden die aktuellen Entwicklungen im Datenschutz diskutieren. Aktuell schnu?rt die Politik neue Sicherheitspakete in Bund und Ländern. Es geht darin auch um zusätzliche Befugnisse zur Überwachung, beispielsweise auf Basis von biometrischer Gesichtserkennung oder verbunden mit dem Einsatz von ku?nstlicher Intelligenz. Das Verhältnis zwischen Sicherheit und Freiheit gehört zu den klassischen Grundthemen des Datenschutzes. Das Bundesverfassungsgericht und der Europäische Gerichtshof zeigen in ihren Entscheidungen immer wieder Grenzen auf, wenn der Eingriff in die Grundrechte und Grundfreiheiten überhandnimmt.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen