Sie sind hier: Home » Markt » Hinweise & Tipps

Generative KI-Tools mit großen Sicherheitsrisiken

Diese ChatGPT-Aktionen sollte man sich am Arbeitsplatz besser verkneifen
Unternehmen und Mitarbeiter sollten sich zweimal überlegen, welche Aufgaben sie ChatGPT und Co. übertragen

ChatGPT und Co. sind tolle Helferlein am Arbeitsplatz – und ein potenzielles Sicherheitsrisiko. Unternehmen und Mitarbeiter sollten sich deshalb zweimal überlegen, welche Aufgaben sie ChatGPT und Co. übertragen. Forcepoint erläutert, wofür sie generative KI-Tools bei der Arbeit besser nicht nutzen sollten.

Fragen beantworten, Texte schreiben und sogar Quellcode erstellen: Generative KI-Tools wie ChatGPT, Bard und Copilot haben erstaunliche Fähigkeiten und erfreuen sich auch am Arbeitsplatz großer Beliebtheit. Kein Wunder, denn sie erleichtern die Arbeit und können für einen pünktlichen Feierabend sorgen.

Was vielen nicht bewusst ist: Diese Tools stellen ein potenzielles Sicherheitsrisiko dar. Ihre Anbieter verwenden nämlich nicht nur Informationen, die im Internet frei verfügbar sind, um ihre KI-Modelle zu trainieren und den Output der Tools zu erzeugen, sondern auch die Eingaben der Nutzer. Daten, die man selbst eingibt, könnten so den Weg in die Antworten anderer Nutzer finden.

Antworten auf Kundenanfragen oder Support-Tickets schreiben: Solche Texte enthalten fast immer persönliche Informationen über Kunden und geistiges Eigentum des eigenen Unternehmens. Es droht die Gefahr, der Konkurrenz einen Vorteil zu verschaffen und Ärger mit den Datenschutzbehörden zu bekommen.

Inhalte für eine Produkteinführung oder andere wichtige Unternehmensankündigungen erstellen: Die neueste Akquisition ist noch supergeheim und muss unter Verschluss gehalten werden bis alle Unterschriften da sind? Durch den Prompt eines Dritten könnte sie in dessen Antwort auftauchen und so den Weg in die Öffentlichkeit finden.

Preise, die finanzielle Performance oder Budgets des eigenen Unternehmens analysieren: Wenn ein Mitbewerber nach Informationen über die finanzielle Situation des Unternehmens sucht, könnte er so fündig werden. Deshalb besser ein lokal gespeichertes Tool oder einen Taschenrechner benutzen.

>> Code debuggen oder neuen Code schreiben: Erstellt generative KI einen Code, kann er Schadsoftware oder eine Hintertür enthalten. Verwendet man sie zum Debugging, wandert der eigene Code unter Umständen in die Hände anderer Programmierer.

>> Personenbezogene Inhalte wie Lebensläufe oder unternehmensinterne Präsentationen und Dokumente zusammenfassen. Solche Inhalte haben bei ChatGPT und Co. nichts verloren. Zumal die Betreiber dieser Tools selbst das Opfer einer Datenpanne werden könnten und sensible Daten dann unter Umständen auch auf diesem Weg abfließen.

"Generative KI-Tools bergen große Sicherheitsrisiken. Deshalb einfach im Büro den Zugriff zu sperren, schießt aber über das Ziel hinaus und ist oft zwecklos. Solche Tools machen die Mitarbeiter zweifellos produktiver und diese greifen ohnehin häufig von außerhalb des Unternehmensnetzwerks darauf zu", erläutert Fabian Glöser, Team Lead Sales Engineering bei Forcepoint in Deutschland. "Besser ist es, die Mitarbeiter für die Risiken zu sensibilisieren und sie mit Data-Security-Lösungen vor folgenschweren Unachtsamkeiten im hektischen Arbeitsalltag zu schützen." (Forcepoint: ra)

eingetragen: 28.10.23
Newsletterlauf: 02.02.24

ForeScout: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>

Meldungen: Markt / Hinweise & Tipps

Generationenkonflikt der IT-Security
Unternehmen sind auf die Dynamik und frischen Ideen der jungen Generation angewiesen, um dem Fachkräftemangel zu begegnen und sich weiterzuentwickeln. Es darf jedoch nicht auf Kosten der IT-Sicherheit gehen. Um diesen Spagat zu meistern, braucht es einen Security-Ansatz, der Platz für Fortschritt schafft, anstatt ihn zu behindern.
Ist NIS-2 zu anspruchsvoll?
Die politische Einigung über das Gesetz zur Umsetzung der EU-Richtlinie NIS-2 und der Stärkung der Cybersicherheit noch vor der Bundestagswahl ist gescheitert. SPD, Grüne und FDP konnten sich nicht auf zentrale Punkte einigen. Damit bleibt über zwei Jahre nach der Verabschiedung der EU-Richtlinie die dringend notwendige gesetzliche Verschärfung aus. Die Umsetzungsfrist wird weiter überschritten
Seit 1. Januar 2025 gilt die E-Rechnungspflicht
Stellen Sie sich vor, Ihr Unternehmen kann plötzlich Rechnungen nicht mehr rechtssicher verschicken. Verzögerte Zahlungen, rechtliche Konsequenzen und möglicherweise ein belastetes Geschäftsverhältnis könnten die Folge sein - und das alles, weil Sie die E-Rechnungspflicht ohne die richtige Software kaum einhalten können.
Compliance: Mehr als Datensicherheit
Neue Regularien und Standards im Bereich Cybersicherheit sorgen dafür, dass das Thema Compliance immer stärker in den Fokus von Unternehmen rückt. Verstöße können zu hohen Bußgeldern und einem massiven Vertrauensverlust führen. Angesichts strengerer Datenschutzregulierungen wie der DSGVO und NIS-2 sowie zunehmender technischer Anforderungen müssen Unternehmen eine klare Strategie verfolgen, um sowohl gesetzliche als auch sicherheitstechnische Vorgaben einzuhalten.
DORA: Neue Standards für den Finanzsektor
Nun müssen Finanzinstitute die Compliance mit der EU-DORA-Verordnung (Digital Operational Resilience Act) nachweisen. Diese Regulierung zielt darauf ab, die digitale Widerstandsfähigkeit des Finanzsektors gegen Cyber-Risiken und operative Störungen zu stärken. Dazu gehören Vorschriften und Richtlinien zu Cyber-Risikomanagement, Datensicherheit, Governance, Ausfallsicherheit und Multi-Cloud-Flexibilität.

Stolperstein Verpackungsgesetz Wie Sie sich vor Anlagebetrug schützen