Sie sind hier: Home » Markt » Studien, Umfragen, Untersuchungen

KI & Big Data: Ganzheitlicher Ansatz vonnöten

Studie: Fehlende Rechtssicherheit für Big Data und KI
Rechtlicher Rahmen reicht aktuell nicht aus - Problem zum Beispiel bei der Anonymisierung personenbezogener Daten

Wie können Big-Data- und KI-Anwendungen gewinnbringend genutzt werden, ohne Datenschutz und IT-Sicherheit zu verletzen? Mit dieser Frage beschäftigt sich eine juristische Studie des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE. Die Autorinnen und Autoren der Studie "Systematic Privacy in real-life Data Processing Systems" untersuchen geltende Vorschriften aus den Rechtsbereichen Datenschutz, IT-Sicherheitsrecht und Urheberrecht in Bezug auf Big Data. Dabei betrachten sie auch den Entwurf über eine EU-Verordnung zur Künstlichen Intelligenz (KI-VO-E). Ihr Fazit: Der aktuelle Rechtsrahmen reicht für eine sichere Verarbeitung von Big Data nicht aus und sorgt für Verunsicherung bei Bürgerinnen und Bürgern sowie Rechtsunsicherheit bei Unternehmen. Sie fordern einen ganzheitlichen, rechtlich-technischen Rahmen und entwickeln konkrete Lösungsvorschläge sowie Handlungshilfen. Die vollständige Studie kann kostenlos unter www.athene-center.de/leap-studien heruntergeladen werden.

Mit der Digitalisierung von Prozessen in Verwaltung und Wirtschaft fallen riesige Mengen an digitalen Datensätzen aus verschiedenen Quellen und in ganz unterschiedlichen Formaten an (Big Data). Die Verarbeitung dieser großen Datensätze birgt erhebliche Chancen für Wirtschaft und Gesellschaft, beinhaltet aber auch Risiken für Verletzungen des Persönlichkeitsrechts von Bürgerinnen und Bürger. Beispiele gibt es viele: Im Katastrophenschutz lassen sich Personen über Big-Data-Analysen von Handydaten schneller finden und evakuieren. In Schulen lassen sich mittels Big-Data-Analysen Stärken und Schwächen von einzelnen Schülerinnen und Schülern erfassen und daraus individuelle Lernprogramme entwickeln. Ein weiteres Einsatzfeld für die staatliche Nutzung von Big-Data-Analysen ist der Arbeitsmarkt: So werden in Österreich und Polen die Arbeitsmarktchancen arbeitsloser Personen errechnet und kategorisiert.

KI und Big Data
ChatGPT, Midjourney und Co., Anwendungen, die Künstliche Intelligenz nutzen, sind zurzeit in aller Munde. Diese und andere KI-Anwendungen verarbeiten riesige, reale Datenmengen - was viele rechtliche Fragen aufwirft: Dürfen für das Training von KI-Anwendungen beliebige Daten aus dem Internet genutzt werden, welche Schutzrechte greifen hier? Wenn Daten rechtmäßig gewonnen wurden, wem gehören die Ergebnisse der Verarbeitung, also der KI-generierte Daten? Wer haftet im Zweifel für die Ergebnisse? Die Studie untersucht, welche Antworten geltendes Recht (Urheberrecht, Datenschutzrecht, IT-Sicherheitsrecht) liefert, und geht besonders auf die geplante KI-Verordnung der EU (KI-VO-E) ein. Die Autorinnen und Autoren fassen wichtige Bestimmungen zusammen, sehen allerdings aktuell noch viele Herausforderungen für KI-Betreiber, hier sichere vertragliche Regelungen für die Datenverarbeitung zu finden, ohne den eigenen Spielraum zur Verwertung der Ergebnisse zu sehr einzuengen.

Wann sind Daten anonym?
Die Autorinnen und Autoren der Studie sehen ein grundlegendes Problem bei der Anonymisierung von personenbezogenen Daten, um sie zu verarbeiten: Ab wann sind (ehemals) personenbezogene Daten verlässlich und rechtssicher anonymisiert? Hier gibt das geltende Recht (insbesondere die DSGVO) keine abschließende Antwort, was zu Rechtsunsicherheiten für verarbeitende Unternehmen und Einrichtungen führt. Eine mögliche Lösung wäre, einen Grad der Anonymisierung durch ein einheitliches Verfahren zu berechnen und einen Schwellenwert für die legale Nutzung anzusetzen. Dadurch könnten Unternehmen Rechtssicherheit erreichen.

Ganzheitlicher Rechtsrahmen für Big Data
Die jetzige Rechtslage für Big Data lässt viele Fragen offen. Die Studie kommt zu dem Schluss, dass ein ganzheitlicher Ansatz vonnöten ist. Dieser sollte übergreifend verschiedene Rechtsgebiete berücksichtigen, um einerseits Bürgerinnen und Bürger zu schützen, andererseits Unternehmen wie Herstellern Rechtssicherheit zu geben und somit die Nutzung neuer Technologien unter Berücksichtigung von Datenschutz und IT-Sicherheit zu ermöglichen.

Die Studie ist im ATHENE-Projekt "Systematic Privacy in real-life Data Processing Systems" entstanden. Im Projekt werden die Wissenschaftlerinnen und Wissenschaftler noch weiter zu den aufgeworfenen Fragen forschen und konkrete Vorschläge erarbeiten, mit dem Ziel, die Vorteile von Big Data und KI rechtssicher nutzen zu können, ohne dass dies unangemessene Eingriffe in die Rechte und Freiheiten betroffener Personen mit sich bringt. Die Autorinnen und Autoren sind an vier im Bereich des Digitalisierungsrechts führenden hessischen Lehrstühlen bzw. Forschungseinrichtungen tätig: Gerrit Hornung und Till Schaller, Universität Kassel; Annika Selzer, Sarah Stummer und Jessica Kriegel, Fraunhofer-Institut für Sichere Informationstechnologie SIT; Indra Spiecker gen. Döhmann und Amina Gutjahr, Goethe-Universität Frankfurt sowie Thomas Wilmer, Hochschule Darmstadt (h_da). Alle sind zugleich Angehörige von ATHENE.

Das Nationale Forschungszentrum für angewandte Cybersicherheit ATHENE ist das größte Forschungszentrum für IT-Sicherheit und Privatsphärenschutz in Europa. ATHENE ist eine Forschungseinrichtung der Fraunhofer-Gesellschaft mit ihren beiden Instituten Fraunhofer SIT und IGD unter Beteiligung der TU Darmstadt, der Goethe-Universität Frankfurt und der Hochschule Darmstadt. (Fraunhofer SIT: ra)

eingetragen: 29.11.23
Newsletterlauf: 16.02.24

Fraunhofer SIT: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Studien

Datenschutz als Innovations-Bremse
Mehr als zwei Drittel der Unternehmen in Deutschland fühlen sich vom Datenschutz ausgebremst. 70 Prozent haben bereits mindestens einmal Pläne für Innovationen aufgrund von Datenschutz-Vorgaben oder Unsicherheiten bei der Anwendung des geltenden Rechts gestoppt. Vor einem Jahr lag der Anteil noch bei 61 Prozent. Aktuell sagen wie im Vorjahr 17 Prozent, dass sie einmal auf Innovationspläne verzichtet haben. Bei 35 Prozent war das dagegen bereits mehrfach der Fall (2024: 27 Prozent) und bei 18 Prozent sogar häufig (2024: 17 Prozent). Das sind Ergebnisse einer repräsentativen Befragung von 605 Unternehmen ab 20 Beschäftigten in Deutschland im Auftrag des Digitalverbands Bitkom.
Gefahr von Cyberattacken
IT-Verantwortliche bewerten das Risiko, dass ihr Unternehmen Opfer einer Cyberattacke wird, so hoch wie nie zuvor: Fast sieben von zehn Befragten (69 Prozent) befürchten laut einer aktuellen EY-Studie Hackerangriffe und bewerten die Gefahr dabei als "eher hoch" bis "sehr hoch". Besonders große Sorgen machen sich die Befragten in den Bereichen Technologie, Medien und Telekommunikation (82 Prozent), Energie und Metallverarbeitung (80 Prozent), Pharma und Gesundheit sowie Bau und Immobilien (jeweils 71 Prozent).
Revolution in der Fertigung
NTT Data stellte die Ergebnisse ihrer neuesten Studie vor. Die Daten zeigen, dass Fertigungsunternehmen beim Einsatz von GenAI zwar vor einigen Hürden stehen, die Technologie aber das Potenzial hat, ein ganz neues Niveau an Effizienz und Innovationskraft hervorzubringen. Neben den vielen Anwendungsbereichen von GenAI untersuchte die Studie "Von der Fertigungshalle ins KI-Zeitalter: Haben Sie einen Masterplan oder Nachholbedarf?" auch die Herausforderungen, denen sich das produzierende Gewerbe gegenübersieht.
Drei Viertel lassen KI-Chancen liegen
Ob zur Qualitätskontrolle, Automatisierung, Energieeinsparung oder Steuerung von Robotern - die Anwendungsmöglichkeiten für Künstliche Intelligenz in der Produktion sind zahlreich. Mit Blick auf die deutsche Industrie zeigt sich aber: Nur einem Viertel der Unternehmen gelingt es nach eigener Einschätzung bereits gut, die Potenziale von KI zu nutzen (24 Prozent). Das sind Ergebnisse einer repräsentativen Befragung im Auftrag des Digitalverbands Bitkom, die unter 552 Industrieunternehmen des verarbeitenden Gewerbes ab 100 Beschäftigten in Deutschland durchgeführt wurde. Die übrigen drei Viertel sehen sich noch nicht imstande, entsprechende Möglichkeiten auszuschöpfen (72 Prozent).
Lösungsansätze gegen den GenAI-Gender Gap
Frauen drohen bei Künstlicher Intelligenz (KI), die bis 2030 allein in Deutschland 3 Millionen Jobs verändern könnte, ins Hintertreffen zu geraten. So zeigen aktuelle Zahlen von Coursera, dass lediglich 27 Prozent der Lernenden in Generative-AI (GenAI)-Kursen in Deutschland (102.000 Einschreibungen) weiblich sind. Dies liegt noch unter dem weltweiten Durchschnitt von 32 Prozent und reicht im Ländervergleich gerade für einen Platz in den Top-Ten (Platz 9). Und das, obwohl sich allein auf Coursera im vergangenen Jahr weltweit alle 10 Sekunden jemand in einen GenAI-Kurs einschrieb.

KI-Regulierungsbedarf steigt Transparenz ist die Basis für Resilienz

Fachartikel

Auch mittelbare Benachteiligungen sind verboten
Schon seit 2006 gilt das Allgemeine Gleichbehandlungsgesetz (AGG), was insbesondere Arbeitgeber sehr vorsichtig gemacht hat. Etwa indem Stellenanzeigen alle inzwischen mindestens drei Geschlechter ausdrücklich mit "m/w/d" bezeichnen und auch keine Altersvorgaben mehr vorsehen, sowie geschlechtersensible - korrekt gegenderte - Sprache verwenden. Doch haben viele Berufsverbände noch gar nicht erkannt, dass sie gegenüber Mitgliedern und Bewerbern um Mitgliedschaft noch weitere Pflichten aus dem AGG haben, und diese korrespondierend Rechte, analog wie bei Arbeitnehmern.
Digitale Transformation im Finanzsektor
Die digitale Transformation im Finanzsektor schreitet unaufhaltsam voran - und mit ihr wachsen die Anforderungen an die IT-Sicherheit. Mit dem Digital Operational Resilience Act (DORA) hat die EU nun einen wegweisenden Regulierungsrahmen geschaffen, der die digitale Widerstandsfähigkeit von Finanzinstituten stärken soll. Die neue Verordnung betrifft nicht nur Banken und Versicherungen, sondern den gesamten Finanzsektor inklusive dessen kritischer IT-Dienstleister.

Bundestag

Bürokratieabbau in der Landwirtschaft
Nach Auffassung der AfD-Fraktion stellt eine "überbordende Bürokratie" die höchste Hürde für Landwirte in ihrem beruflichen Alltag dar. In einer Kleinen Anfrage (21/314) wollen die Abgeordneten der AfD von der Bundesregierung unter anderem wissen, ob sie die im Koalitionsvertrag zwischen CDU/CSU und SPD vereinbarte Neubewertung der 194 Vorschläge der Länder zum Bürokratieabbau sowie die Einführung von Bürokratie-Praxischecks umsetzen werde.
Patentgeschützte, hochpreisige Arzneimittel
Das Gutachten 2025 des Sachverständigenrates zur Begutachtung der Entwicklung im Gesundheitswesen und in der Pflege liegt nun als Unterrichtung durch die Bundesregierung (21/460) vor. Das Gremium hatte das Gutachten unter dem Titel "Preise innovativer Arzneimittel in einem lernenden Gesundheitssystem" am 22. Mai der Öffentlichkeit vorgestellt.
AfD will Gebäudeenergiegesetz abschaffen
Die AfD-Fraktion will das Gebäudeenergiegesetz (GEG) abschaffen und verlangt in einem Antrag (21/227) außerdem, auf die CO2-Bepreisung von Heizöl und Gas zu verzichten. Die entsprechenden Vorschriften sollen "schnellstmöglich, vollständig und ersatzlos" gestrichen werden. Zudem soll die Umsetzung aller entsprechenden EU Verordnungen und Richtlinien (etwa der sogenannte Green Deal der EU) sowie damit verbundene Regulierungen wie der CO2-Grenzausgleich sofort beendet werden.

Bundesarbeitsgericht

Betriebratswahlrecht & Führungskräfte
Ein Arbeitnehmer, der mehreren Betrieben desselben Unternehmens angehört, hat bei der Wahl des Betriebsrats in sämtlichen dieser Betriebe das aktive Wahlrecht. Das gilt auch für Führungskräfte in Unternehmen mit einer unternehmensinternen Matrix-Struktur.
Kein Urlaubsverzicht durch Prozessvergleich
Die Parteien streiten über die Abgeltung von sieben Tagen gesetzlichen Mindesturlaubs aus dem Jahr 2023. Der Kläger war bei der Beklagten vom 1. Januar 2019 bis zum 30. April 2023 als Betriebsleiter beschäftigt. Im Jahr 2023 war er von Beginn an bis zur Beendigung seines Arbeitsverhältnisses durchgehend arbeitsunfähig erkrankt und deshalb nicht in der Lage, seinen Urlaub aus diesem Jahr in Anspruch zu nehmen.
Cloud-basierte Software für Personalverwaltung
Ein Arbeitnehmer kann einen Anspruch auf Schadenersatz wegen einer Verletzung der Datenschutz-Grundverordnung haben, wenn der Arbeitgeber personenbezogene Echtdaten innerhalb des Konzerns an eine andere Gesellschaft überträgt, um die Cloud-basierte Software für Personalverwaltung "Workday" zu testen.

Corporate Compliance Zeitschrift

Recht und Ethik im Unternehmen
Wenn man sich vertieft mit dem Themenkomplex Ethik im Unternehmen auseinandersetzt, so gerät man bisweilen in einen dynamischen Diskurs. Kernfragen sind, wie Ethik und Recht (auch innerbetriebliches Recht) im Verhältnis zueinander stehen und wie eine Organisation Recht und Ethik bestmöglich vermitteln kann? Gemeinsam haben Recht und Ethik, dass sie Steuerungsinstrumente für individuelles Handeln und die Entwicklung gesellschaftlicher wie unternehmensbezogener Prozesse sind. Beide werden auch oftmals als selbständige Rechtskreise definiert, deren Konnex schwerlich herzustellen sei.
Whistleblowing: Risiken des KI-Einsatzes
Internationale Konzerne stehen beim Aufbau rechtssicherer und zugleich effizienter Hinweisgebersysteme vor komplexen Herausforderungen - etwa durch divergieren- de Rechtsordnungen, kulturelle Unterschiede oder limitiert verfügbare Ressourcen. Künstliche Intelligenz (KI) kann in diesem Kontext substanzielle Effizienzgewinne ermöglichen, sei es bei der Analyse großer Datenmengen, der Priorisierung von Hinweisen oder in der Begleitung interner Untersuchungen.

Zeitschrift Risk, Fraud & Compliance

EU-Änderungsvorschläge zum Bürokratieabbau
Mit dem Ende Februar veröffentlichten Entwurf zur Omnibus-Richtlinie will die EU-Kommission die gerade erst kodifizierten Pflichten zur Transparenz der Unternehmen im Bereich Nachhaltigkeit wieder deutlich reduzieren, um die Unternehmen von Bürokratie zu entlasten. In den vergangenen Heften haben wir in der ZRFC immer wieder über die Entwicklungen berichtet. In diesem Beitrag stellen wir kompakt die Änderungsvorschläge der EU-Kommission zum Bürokratieabbau vor.
HinSchG: Anspruch und Wirklichkeit
Das LAG Niedersachsen konkretisiert mit seinem Urteil vom 11. November 2024 die Voraussetzungen für den Schutz durch das Hinweisgeberschutzgesetz (HinSchG). Nur wer den vorgeschriebenen Meldeweg einhält, kann sich auf das Gesetz berufen. Ein Urteil mit weitreichenden Folgen für das Verständnis des HinSchG in der Unternehmenspraxis.

Zeitschrift Corporate Governance

Rechnungslegung & Nachhaltigkeit
Seit der Veröffentlichung des "Omnibus package on Sustainability" herrscht große Verunsicherung aufseiten europäischer Unternehmen: Die Zukunft der Nachhaltigkeitsberichterstattung - und daran knüpfend der "Sustainable Corporate Governance" - ist zeitlich erneut in die Ferne gerückt und hinsichtlich ihrer inhaltlichen Ausgestaltung mit zahlreichen Fragezeichen verbunden. Vor diesem Hintergrund müssen Unternehmen dennoch Entscheidungen dazu treffen, wie sie sich positionieren und welche Schritte sie zur Weiterentwicklung ihres Rechnungswesens setzen wollen.
Rechnungslegung: VSME-Standard
Im Dezember 2024 hat die European Financial Reporting Advisory Group (EFRAG) einen Standard für die freiwillige Nachhaltigkeitsberichterstattung kapitalmarktferner kleiner und mittelgroßer Unternehmen (VSME Standard) verabschiedet. Damit wird die freiwillige Nachhaltigkeitsberichterstattung nicht-kapitalmarktorientierter kleiner und mittelgroßer Unternehmen (KMU) innerhalb der Europäischen Union erstmals anhand eines spezifischen Standards konkretisiert.

Zeitschrift Interne Revision

keine Verpflichtungen für Angreifende
Die Kenntnis rund um das Thema Social Engineering erfordert in einem nächsten Schritt ein Wissen bezüglich der konkreten Bedrohungstaktiken und -techniken. Eine ausführliche Darstellung bietet das MITRE- Att@ck-Modell, wobei aus der Gesamtsystematik nur die Angriffsvektoren verwendet werden, die zum Social Engineering passen. Insbesondere sind hier die ersten vier Phasen angesprochen.
DORA-Basispapier
In den ersten drei Teilen dieses Beitrags haben wir einen generellen Überblick über die DORA-Basisverordnung, die speziellen technischen Standards sowie Details zu den Inhalten des Kapitels II (IKT-Risikomanagement), des Kapitels III (Behandlung, Klassifizierung und Berichterstattung IKT-bezogener Vorfälle) und des Kapitels IV (Testen der digitalen operationalen Resilienz) vorgestellt. In diesem Artikel wird nun das letzte Kapitel (Management des IKT-Drittparteienrisikos) näher beleuchtet.

Bundeskartellamt

Austauschbarkeit der Produkte
Das Bundeskartellamt hat die geplante Übernahme des Automobil-Ethernet-Geschäfts der amerikanischen Marvell Technology, Inc. (Marvell) durch die Infineon Technologies AG (Infineon) freigegeben. Die Ethernet-Komponenten von Marvell werden vor allem für die Übertragung von Daten innerhalb des Netzwerks von softwaredefinierten Fahrzeugen (Software-defined Vehicles, SDVs) verwendet.
Schlachtung und Absatz von Schlachtfleisch
Das Bundeskartellamt hat das Vorhaben der Tönnies International Management GmbH untersagt, mehrere Unternehmen und Beteiligungen von der Vion GmbH und der Vion Beef B.V., insbesondere die Schlachthöfe in Buchloe, Crailsheim und Waldkraiburg, zu erwerben.