Sie sind hier: Home » Markt » Hinweise & Tipps

Generative KI-Tools mit großen Sicherheitsrisiken

Diese ChatGPT-Aktionen sollte man sich am Arbeitsplatz besser verkneifen
Unternehmen und Mitarbeiter sollten sich zweimal überlegen, welche Aufgaben sie ChatGPT und Co. übertragen

ChatGPT und Co. sind tolle Helferlein am Arbeitsplatz – und ein potenzielles Sicherheitsrisiko. Unternehmen und Mitarbeiter sollten sich deshalb zweimal überlegen, welche Aufgaben sie ChatGPT und Co. übertragen. Forcepoint erläutert, wofür sie generative KI-Tools bei der Arbeit besser nicht nutzen sollten.

Fragen beantworten, Texte schreiben und sogar Quellcode erstellen: Generative KI-Tools wie ChatGPT, Bard und Copilot haben erstaunliche Fähigkeiten und erfreuen sich auch am Arbeitsplatz großer Beliebtheit. Kein Wunder, denn sie erleichtern die Arbeit und können für einen pünktlichen Feierabend sorgen.

Was vielen nicht bewusst ist: Diese Tools stellen ein potenzielles Sicherheitsrisiko dar. Ihre Anbieter verwenden nämlich nicht nur Informationen, die im Internet frei verfügbar sind, um ihre KI-Modelle zu trainieren und den Output der Tools zu erzeugen, sondern auch die Eingaben der Nutzer. Daten, die man selbst eingibt, könnten so den Weg in die Antworten anderer Nutzer finden.

Antworten auf Kundenanfragen oder Support-Tickets schreiben: Solche Texte enthalten fast immer persönliche Informationen über Kunden und geistiges Eigentum des eigenen Unternehmens. Es droht die Gefahr, der Konkurrenz einen Vorteil zu verschaffen und Ärger mit den Datenschutzbehörden zu bekommen.

Inhalte für eine Produkteinführung oder andere wichtige Unternehmensankündigungen erstellen: Die neueste Akquisition ist noch supergeheim und muss unter Verschluss gehalten werden bis alle Unterschriften da sind? Durch den Prompt eines Dritten könnte sie in dessen Antwort auftauchen und so den Weg in die Öffentlichkeit finden.

Preise, die finanzielle Performance oder Budgets des eigenen Unternehmens analysieren: Wenn ein Mitbewerber nach Informationen über die finanzielle Situation des Unternehmens sucht, könnte er so fündig werden. Deshalb besser ein lokal gespeichertes Tool oder einen Taschenrechner benutzen.

>> Code debuggen oder neuen Code schreiben: Erstellt generative KI einen Code, kann er Schadsoftware oder eine Hintertür enthalten. Verwendet man sie zum Debugging, wandert der eigene Code unter Umständen in die Hände anderer Programmierer.

>> Personenbezogene Inhalte wie Lebensläufe oder unternehmensinterne Präsentationen und Dokumente zusammenfassen. Solche Inhalte haben bei ChatGPT und Co. nichts verloren. Zumal die Betreiber dieser Tools selbst das Opfer einer Datenpanne werden könnten und sensible Daten dann unter Umständen auch auf diesem Weg abfließen.

"Generative KI-Tools bergen große Sicherheitsrisiken. Deshalb einfach im Büro den Zugriff zu sperren, schießt aber über das Ziel hinaus und ist oft zwecklos. Solche Tools machen die Mitarbeiter zweifellos produktiver und diese greifen ohnehin häufig von außerhalb des Unternehmensnetzwerks darauf zu", erläutert Fabian Glöser, Team Lead Sales Engineering bei Forcepoint in Deutschland. "Besser ist es, die Mitarbeiter für die Risiken zu sensibilisieren und sie mit Data-Security-Lösungen vor folgenschweren Unachtsamkeiten im hektischen Arbeitsalltag zu schützen." (Forcepoint: ra)

eingetragen: 28.10.23
Newsletterlauf: 02.02.24

ForeScout: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Markt / Hinweise & Tipps

Datenschutz erfordert technische Präzision
Moderne Unternehmensarchitekturen stellen hohe Anforderungen an eine Consent Management Platform (CMP). Nur mit tiefer technischer Integration lassen sich Datenschutz und Nutzerfreundlichkeit effektiv umsetzen - das zeigen aktuelle Entwicklungen in Regulatorik und Praxis. Die Zeiten einfacher Cookie-Banner sind vorbei: In modernen Unternehmensumgebungen muss eine Consent Management Platform mehr leisten als die bloße Einholung einer Zustimmung.
Bewertung der Kreditwürdigkeit
Wer in Anleihen investieren möchte, sollte die Unterschiede zwischen Staats- und Unternehmensanleihen kennen. Beide bieten Chancen aber auch unterschiedliche Risiken. Dieser Artikel zeigt, worauf es bei der Einschätzung von Bonität, Rendite und Sicherheit ankommt.
Compliance-Verstöße: Identitäten im Blindflug
Rund 40 Prozent der Unternehmen verzichten laut einem aktuellen Bericht noch immer auf moderne Identity-Governance- und Administration-Lösungen (IGA). Das ist nicht nur ein organisatorisches Defizit - es ist ein ernstzunehmender Risikofaktor. Denn der Umgang mit digitalen Identitäten ist in vielen Organisationen noch immer ein Flickwerk aus manuellen Abläufen, intransparenten Prozessen und veralteter Technik. Während Cloud-Umgebungen rasant wachsen und Compliance-Anforderungen zunehmen, bleiben zentrale Fragen der Zugriffskontrolle oft ungelöst.
So schützen Sie sich vor Anlagebetrug
Wer im Internet nach lukrativen Geldanlagemöglichkeiten sucht, sollte vorsichtig sein. Oft werden hohe Renditen auch für kleine Anlagebeträge versprochen. Was auf den ersten Blick verlockend klingt, kann Sie schnell um Ihr Geld bringen!
Risiko für Wirtschaftlichkeit & Compliance
Die Begeisterung für KI-Modelle hält ungebrochen an - doch sie hat eine Schattenseite: Systeme wie GPT o3 und o4-mini werden zwar immer leistungsfähiger, halluzinieren aber immer häufiger. Bei Wissensfragen im sogenannten SimpleQA-Benchmark erreichen sie Fehlerquoten von bis zu 79 Prozent - ein alarmierender Wert, der selbst die Entwickler bei OpenAI ratlos zurücklässt.

Stolperstein Verpackungsgesetz Wie Sie sich vor Anlagebetrug schützen

Fachartikel

Auch mittelbare Benachteiligungen sind verboten
Schon seit 2006 gilt das Allgemeine Gleichbehandlungsgesetz (AGG), was insbesondere Arbeitgeber sehr vorsichtig gemacht hat. Etwa indem Stellenanzeigen alle inzwischen mindestens drei Geschlechter ausdrücklich mit "m/w/d" bezeichnen und auch keine Altersvorgaben mehr vorsehen, sowie geschlechtersensible - korrekt gegenderte - Sprache verwenden. Doch haben viele Berufsverbände noch gar nicht erkannt, dass sie gegenüber Mitgliedern und Bewerbern um Mitgliedschaft noch weitere Pflichten aus dem AGG haben, und diese korrespondierend Rechte, analog wie bei Arbeitnehmern.
Digitale Transformation im Finanzsektor
Die digitale Transformation im Finanzsektor schreitet unaufhaltsam voran - und mit ihr wachsen die Anforderungen an die IT-Sicherheit. Mit dem Digital Operational Resilience Act (DORA) hat die EU nun einen wegweisenden Regulierungsrahmen geschaffen, der die digitale Widerstandsfähigkeit von Finanzinstituten stärken soll. Die neue Verordnung betrifft nicht nur Banken und Versicherungen, sondern den gesamten Finanzsektor inklusive dessen kritischer IT-Dienstleister.

Bundestag

Rassismus & Diskriminierungsvorwürfe
Als Unterrichtung (21/750) durch den Polizeibeauftragten des Bundes beim Deutschen Bundestag liegt dessen Tätigkeitsbericht über den Zeitraum vom 1. Juli 2024 bis zum 30. Juni 2025 vor. Danach haben sich im Berichtszeitraum 279 Bürger mit Eingaben, Hinweisen und Anregungen an den Polizeibeauftragten gewandt.
Patientenzentrierte Gesundheitsversorgung
Der Petitionsausschuss hält mehrheitlich an der Widerspruchslösung (Opt-out-Lösung) bei der elektronischen Patientenakte (ePA) fest. In einer Sitzung verabschiedete der Ausschuss mit den Stimmen der Koalitionsfraktionen CDU/CSU und SPD die Beschlussempfehlung an den Bundestag, das Petitionsverfahren zu der Forderung, die elektronische Patientenakte nur mit ausdrücklichem Einverständnis der Betroffenen anzulegen (Opt-in-Lösung), abzuschließen, weil keine Anhaltspunkte für parlamentarische Aktivitäten zu erkennen seien.
Gleichstellung als verbindliches Förderkriterium
Die Fraktion Bündnis 90/Die Grünen fordert in einem Antrag (21/790) die Bundesregierung auf, Maßnahmen zu ergreifen, um die Gleichstellung von Frauen und Mädchen im organisierten Sport in Deutschland deutlich zu verbessern.

Bundesarbeitsgericht

Teilzeit- und Befristungsgesetzes (TzBfG)
Ein nach Maßgabe des Teilzeit- und Befristungsgesetzes (TzBfG) zulässig befristetes Arbeitsverhältnis endet auch dann mit Ablauf der vereinbarten Befristung, wenn der Arbeitnehmer zwischenzeitlich in den Betriebsrat gewählt worden ist. Benachteiligt der Arbeitgeber allerdings das befristet beschäftigte Betriebsratsmitglied, indem er diesem wegen des Betriebsratsmandats keinen Folgevertrag anbietet, hat das Betriebsratsmitglied einen Anspruch auf den Abschluss des verweigerten Folgevertrags als Schadensersatz.
Betriebratswahlrecht & Führungskräfte
Ein Arbeitnehmer, der mehreren Betrieben desselben Unternehmens angehört, hat bei der Wahl des Betriebsrats in sämtlichen dieser Betriebe das aktive Wahlrecht. Das gilt auch für Führungskräfte in Unternehmen mit einer unternehmensinternen Matrix-Struktur.
Kein Urlaubsverzicht durch Prozessvergleich
Die Parteien streiten über die Abgeltung von sieben Tagen gesetzlichen Mindesturlaubs aus dem Jahr 2023. Der Kläger war bei der Beklagten vom 1. Januar 2019 bis zum 30. April 2023 als Betriebsleiter beschäftigt. Im Jahr 2023 war er von Beginn an bis zur Beendigung seines Arbeitsverhältnisses durchgehend arbeitsunfähig erkrankt und deshalb nicht in der Lage, seinen Urlaub aus diesem Jahr in Anspruch zu nehmen.

Corporate Compliance Zeitschrift

Recht und Ethik im Unternehmen
Wenn man sich vertieft mit dem Themenkomplex Ethik im Unternehmen auseinandersetzt, so gerät man bisweilen in einen dynamischen Diskurs. Kernfragen sind, wie Ethik und Recht (auch innerbetriebliches Recht) im Verhältnis zueinander stehen und wie eine Organisation Recht und Ethik bestmöglich vermitteln kann? Gemeinsam haben Recht und Ethik, dass sie Steuerungsinstrumente für individuelles Handeln und die Entwicklung gesellschaftlicher wie unternehmensbezogener Prozesse sind. Beide werden auch oftmals als selbständige Rechtskreise definiert, deren Konnex schwerlich herzustellen sei.
Whistleblowing: Risiken des KI-Einsatzes
Internationale Konzerne stehen beim Aufbau rechtssicherer und zugleich effizienter Hinweisgebersysteme vor komplexen Herausforderungen - etwa durch divergieren- de Rechtsordnungen, kulturelle Unterschiede oder limitiert verfügbare Ressourcen. Künstliche Intelligenz (KI) kann in diesem Kontext substanzielle Effizienzgewinne ermöglichen, sei es bei der Analyse großer Datenmengen, der Priorisierung von Hinweisen oder in der Begleitung interner Untersuchungen.

Zeitschrift Risk, Fraud & Compliance

EU-Änderungsvorschläge zum Bürokratieabbau
Mit dem Ende Februar veröffentlichten Entwurf zur Omnibus-Richtlinie will die EU-Kommission die gerade erst kodifizierten Pflichten zur Transparenz der Unternehmen im Bereich Nachhaltigkeit wieder deutlich reduzieren, um die Unternehmen von Bürokratie zu entlasten. In den vergangenen Heften haben wir in der ZRFC immer wieder über die Entwicklungen berichtet. In diesem Beitrag stellen wir kompakt die Änderungsvorschläge der EU-Kommission zum Bürokratieabbau vor.
HinSchG: Anspruch und Wirklichkeit
Das LAG Niedersachsen konkretisiert mit seinem Urteil vom 11. November 2024 die Voraussetzungen für den Schutz durch das Hinweisgeberschutzgesetz (HinSchG). Nur wer den vorgeschriebenen Meldeweg einhält, kann sich auf das Gesetz berufen. Ein Urteil mit weitreichenden Folgen für das Verständnis des HinSchG in der Unternehmenspraxis.

Zeitschrift Corporate Governance

Rechnungslegung & Nachhaltigkeit
Seit der Veröffentlichung des "Omnibus package on Sustainability" herrscht große Verunsicherung aufseiten europäischer Unternehmen: Die Zukunft der Nachhaltigkeitsberichterstattung - und daran knüpfend der "Sustainable Corporate Governance" - ist zeitlich erneut in die Ferne gerückt und hinsichtlich ihrer inhaltlichen Ausgestaltung mit zahlreichen Fragezeichen verbunden. Vor diesem Hintergrund müssen Unternehmen dennoch Entscheidungen dazu treffen, wie sie sich positionieren und welche Schritte sie zur Weiterentwicklung ihres Rechnungswesens setzen wollen.
Rechnungslegung: VSME-Standard
Im Dezember 2024 hat die European Financial Reporting Advisory Group (EFRAG) einen Standard für die freiwillige Nachhaltigkeitsberichterstattung kapitalmarktferner kleiner und mittelgroßer Unternehmen (VSME Standard) verabschiedet. Damit wird die freiwillige Nachhaltigkeitsberichterstattung nicht-kapitalmarktorientierter kleiner und mittelgroßer Unternehmen (KMU) innerhalb der Europäischen Union erstmals anhand eines spezifischen Standards konkretisiert.

Zeitschrift Interne Revision

keine Verpflichtungen für Angreifende
Die Kenntnis rund um das Thema Social Engineering erfordert in einem nächsten Schritt ein Wissen bezüglich der konkreten Bedrohungstaktiken und -techniken. Eine ausführliche Darstellung bietet das MITRE- Att@ck-Modell, wobei aus der Gesamtsystematik nur die Angriffsvektoren verwendet werden, die zum Social Engineering passen. Insbesondere sind hier die ersten vier Phasen angesprochen.
DORA-Basispapier
In den ersten drei Teilen dieses Beitrags haben wir einen generellen Überblick über die DORA-Basisverordnung, die speziellen technischen Standards sowie Details zu den Inhalten des Kapitels II (IKT-Risikomanagement), des Kapitels III (Behandlung, Klassifizierung und Berichterstattung IKT-bezogener Vorfälle) und des Kapitels IV (Testen der digitalen operationalen Resilienz) vorgestellt. In diesem Artikel wird nun das letzte Kapitel (Management des IKT-Drittparteienrisikos) näher beleuchtet.

Bundeskartellamt

Bundeskartellamt legt Jahresbericht 2024/25 vor
Der Präsident des Bundeskartellamtes, Andreas Mundt, hat den "Jahresbericht 2024/25" der Behörde vorgestellt. Mundt sagte: "Wettbewerb bleibt der unverzichtbare Treiber unserer marktwirtschaftlichen Ordnung. Wachstum kann nur im offenen Wettbewerb entstehen, der Innovationen fördert und die Wettbewerbsfähigkeit unserer Wirtschaft stärkt. Ob Digitalwirtschaft, Benzinpreise oder Lebensmittel - eine nachhaltige und positive Entwicklung gelingt nur, wenn Unternehmen fair und transparent um die besten Lösungen konkurrieren. Verbraucherinnen und Verbraucher profitieren von Vielfalt, Qualität und fairen Preisen - das ist die Grundlage für eine starke und gerechte Wirtschaft."
Expertenkreis KI und Wettbewerb
Im Rahmen eines Expertenkreises diskutierte das Bundeskartellamt mit ausgewählten Stakeholdern über Fragen der Künstlichen Intelligenz (KI) mit Blick auf Wettbewerb und Wettbewerbsbeschränkungen. Auf Einladung des Amtes nahmen 14 Vertreterinnen und Vertreter von in Deutschland ansässigen Unternehmen und Verbänden teil. Die Unternehmen bilden zusammen wesentliche Teile der KI-Wertschöpfungskette ab und sind sowohl größeren, etablierten Unternehmen als auch kleineren Unternehmen und Start-ups zuzuordnen. Geleitet wurde die Veranstaltung von dem Präsidenten des Bundeskartellamtes, Andreas Mundt, sowie dem Vizepräsidenten Prof. Dr. Konrad Ost.