# Shadow AI: Das versteckte Risiko durch unkontrollierte Nutzung von ChatGPT, Copilot und Gemini > Shadow AI, die unautorisierte Nutzung öffentlicher KI-Tools wie ChatGPT, birgt ernsthafte Sicherheitsrisiken, darunter Datenlecks, Verlust von geistigem Eigentum und Compliance-Verstöße. Source: https://loopbackup.com/de/blog/shadow-ai-unsanctioned-chatgpt-copilot-gemini Publisher: Loop Backup Content language: de --- ## Auf einen Blick * **Was ist Shadow AI?** Die Nutzung nicht genehmigter generativer KI-Tools wie ChatGPT, Gemini oder Copilot durch Mitarbeiter, vergleichbar mit dem langjährigen Problem der 'Shadow IT'. * **Warum ist es ein Risiko?** Mitarbeiter könnten vertrauliche Daten, Quellcode, persönliche Kundendaten (PII), Finanzergebnisse oder strategische Pläne in öffentliche KI-Modelle eingeben und sie so potenziell der Welt preisgeben. * **Reale Lecks:** Im April 2023 haben Samsung-Mitarbeiter bei drei verschiedenen Gelegenheiten versehentlich sensible Quellcodes und interne Besprechungsnotizen an ChatGPT weitergegeben. * **Das Copilot-Paradoxon:** Selbst genehmigte Tools wie Microsoft 365 Copilot bergen Risiken. 'Copilot-Oversharing' kann sensible Daten preisgeben, wenn Ihre zugrunde liegenden SharePoint- und OneDrive-Berechtigungen nicht korrekt konfiguriert sind. * **Wie man das Risiko mindert:** Ein mehrschichtiger Ansatz ist erforderlich, der technische Kontrollen wie AI DLP, eine klare Richtlinie für generative KI und eine entscheidende Mitarbeiterschulung kombiniert. * **Die Rolle des Backups:** Im Falle eines Datenlecks ist ein robustes Backup für die forensische Untersuchung unerlässlich, um zu verstehen, was verloren gegangen ist. Es bietet auch ein Sicherheitsnetz, wenn Berechtigungen vor einem Copilot-Rollout korrigiert werden müssen. ### Was ist Shadow AI? Seit Jahren kämpfen Sicherheitsteams mit 'Shadow IT', der unautorisierten Nutzung von Anwendungen und Diensten durch Mitarbeiter außerhalb des Einflussbereichs der IT-Abteilung. Nun ist eine neue, noch potenziellere Variante aufgetaucht: **Shadow AI**. Dies bezieht sich auf die wachsende Nutzung öffentlicher generativer KI-Tools durch Mitarbeiter ohne die explizite Genehmigung oder Aufsicht des Unternehmens. Angetrieben von dem Wunsch nach erhöhter Produktivität greifen Mitarbeiter auf Endverbraucher-KI-Assistenten wie OpenAI's ChatGPT, Google's Gemini und andere zurück, um Code zu schreiben, Dokumente zusammenzufassen und E-Mails zu entwerfen. Das Problem ist, dass diese öffentlichen Plattformen nicht für den Unternehmenseinsatz konzipiert wurden. Ihnen fehlen oft die Sicherheits-, Datenschutz- und Compliance-Kontrollen, die Unternehmen benötigen, was ein erhebliches, verstecktes Risiko für **ChatGPT Datenlecks** und den Verlust von geistigem Eigentum birgt. ### Die Verlockung des KI-Assistenten Es ist entscheidend zu verstehen, dass Mitarbeiter, die diese Tools verwenden, selten mit böser Absicht handeln. Sie versuchen lediglich, effizienter zu sein. Ein Entwickler könnte einen Code-Snippet in ChatGPT einfügen, um einen Fehler zu finden; ein Marketingmanager könnte ein Transkript in Gemini hochladen, um eine schnelle Zusammenfassung zu erhalten; ein Finanzanalyst könnte Rohdaten eingeben, um einen Berichtsentwurf zu erstellen. Aus ihrer Sicht nutzen sie modernste Technologie, um ihre Aufgaben besser und schneller zu erledigen. Sie sind sich wahrscheinlich nicht bewusst, dass viele öffentliche KI-Modelle die erhaltenen Daten nutzen können, um zukünftige Versionen zu trainieren, was bedeutet, dass ihre 'privaten' Eingaben Teil des öffentlichen Modells werden könnten, das für andere zugänglich ist. Dieses grundlegende Missverständnis ist der Haupttreiber für die Verbreitung von Shadow AI. ### Eine reale Warnung: Samsungs Datenlecks 2023 Das theoretische Risiko von Shadow AI wurde im April 2023 zu einer bitteren Realität. Es wurde weithin berichtet, dass Ingenieure bei Samsung, einem der weltweit führenden Technologieunternehmen, versehentlich sensible interne Daten an ChatGPT weitergegeben hatten. Innerhalb weniger Wochen gab es drei separate Vorfälle: 1. Ein Ingenieur fügte fehlerhaften Quellcode aus einer Halbleiterdatenbank ein, um eine Lösung zu finden. 2. Ein anderer Mitarbeiter teilte Code aus einem proprietären Programm, um es zu optimieren. 3. Ein dritter Mitarbeiter übermittelte die Audioaufnahme eines internen Meetings, um ChatGPT die Protokolle erstellen zu lassen. In jedem Fall wurde sensibles geistiges Eigentum auf eine Drittanbieterplattform außerhalb der Kontrolle von Samsung hochgeladen. Der Vorfall zwang Samsung, die Nutzung generativer KI-Tools zu verbieten und mit der Entwicklung einer eigenen internen Alternative zu beginnen. Es dient als eindringliche Warnung an jedes Unternehmen: Wenn es bei Samsung passieren kann, kann es überall passieren. ### Die Schatten entdecken: Wie man unautorisierte KI-Nutzung findet Man kann nicht verwalten, was man nicht sieht. Die Identifizierung der Nutzung von Shadow AI ist der erste Schritt zur Risikominderung. Mehrere Techniken können helfen, das Problem zu beleuchten: * **Netzwerk- und DNS-Protokollanalyse:** Ihre Firewall- und DNS-Serverprotokolle sind eine wertvolle Informationsquelle. Durch die Analyse von Protokollen auf Anfragen an Domains wie `chat.openai.com`, `gemini.google.com` und andere bekannte KI-Dienste können Sie ein Bild davon erstellen, welche Tools von wem genutzt werden. * **Cloud Access Security Broker (CASB):** Eine CASB-Lösung befindet sich zwischen Ihren Benutzern und Cloud-Diensten und bietet Sichtbarkeit und Kontrolle. Moderne CASBs können den Traffic zu Tausenden von Anwendungen, einschließlich generativer KI-Tools, identifizieren und so konfiguriert werden, dass sie den Zugriff basierend auf Ihren Richtlinien blockieren oder einschränken. * **Endpunkt- und Browser-Telemetrie:** Die Analyse der Browserhistorie und der Netzwerkverbindungen von Unternehmensgeräten kann auch die Nutzung unautorisierter webbasierter KI-Tools aufdecken. ### Das Copilot-Dilemma: Wenn genehmigte KI immer noch ein Risiko ist Während Shadow AI sich mit nicht genehmigten Tools befasst, besteht auch ein erhebliches Risiko bei genehmigter, unternehmensgerechter KI wie Microsoft 365 Copilot. Die Gefahr liegt hier nicht im Tool selbst, sondern in den Daten, auf die es Zugriff hat. Das Problem ist **Copilot Oversharing**. Copilot ist darauf ausgelegt, tief in das Microsoft 365 Ökosystem integriert zu sein. Es kann alle Daten verarbeiten, auf die ein Benutzer Zugriff hat, deren E-Mails in Outlook, deren Chats in Teams und deren Dateien in SharePoint und OneDrive. Dies ist seine größte Stärke, aber auch seine größte potenzielle Schwäche. Copilot respektiert bestehende Berechtigungen akribisch. Das Problem ist, dass in den meisten Organisationen die Berechtigungen ein Chaos sind. Im Laufe der Jahre, durch Personalwechsel und Ad-hoc-Zusammenarbeit, sammeln SharePoint-Sites und Teams-Channels fehlerhafte oder übermäßig permissive Zugriffsrechte an. Ein sensibles Dokument mit Gehaltsinformationen könnte vor Jahren versehentlich mit 'Jeder außer externen Benutzern' geteilt worden sein. Ein Benutzer weiß vielleicht nicht, dass dieses Dokument existiert, aber Copilot tut es. Wenn dieser Benutzer Copilot eine angrenzende Frage stellt, könnte die KI Daten aus dieser sensiblen Datei heranziehen und anzeigen, wodurch ein latentes Berechtigungsproblem sofort zu einer aktiven Datenpanne wird. Vor der Einführung von Copilot müssen Unternehmen eine gründliche Prüfung und Korrektur ihrer Microsoft 365-Berechtigungen durchführen, ein Prozess, der komplex und zeitaufwändig sein kann. ### Kontrolle etablieren: Richtlinien und Technologie Die Bewältigung der Risiken von Shadow AI und Copilot Oversharing erfordert einen strategischen, mehrschichtigen Ansatz, der Richtlinien, Technologie und Menschen umfasst. #### 1. Eine klare Richtlinie für generative KI entwerfen Ihr erster Schritt sollte die Entwicklung und Kommunikation einer formellen **Richtlinie für generative KI** sein. Dieses Dokument beseitigt Unklarheiten und bietet klare Anleitungen für alle Mitarbeiter. Es sollte explizit festlegen: * Eine Inventarisierung genehmigter und verbotener KI-Tools. * Eine definitive Liste von Datentypen, die **niemals** in ein öffentliches KI-Tool eingegeben werden dürfen (z. B. Kundendaten, PII, Quellcode, Finanzinformationen, Gesundheitsdaten, Unternehmensstrategiedokumente). * Richtlinien für die verantwortungsvolle Nutzung genehmigter Tools. * Eine Anforderung an Mitarbeiter, alle Ausgaben einer KI, die anfällig für Fehler oder 'Halluzinationen' sein kann, zu überprüfen und zu verifizieren. * Eine klare Verantwortlichkeit für alle mit KI-Unterstützung erstellten Arbeiten. #### 2. KI-bewusste Data Loss Prevention (AI DLP) implementieren Moderne Data Loss Prevention (DLP)-Tools werden KI-bewusst. **AI DLP**-Lösungen können über das einfache Blockieren einer Domain hinausgehen. Sie können den Inhalt inspizieren, der an Webformulare und browserbasierte Anwendungen gesendet wird. Dies ermöglicht eine granularere Kontrolle, beispielsweise indem Mitarbeitern der Zugriff auf ChatGPT gestattet wird, sie aber daran gehindert werden, Inhalte einzufügen, die einem Muster für sensible Daten, wie einer Kundendatenbank oder proprietärem Code, entsprechen. #### 3. Ihre Mitarbeiter schulen Technologie und Richtlinien allein reichen nicht aus. Sie müssen Ihre Mitarbeiter über die Risiken aufklären. Führen Sie Schulungen durch, die erklären, *warum* das Einfügen vertraulicher Informationen in öffentliche KI-Tools gefährlich ist. Verwenden Sie reale Beispiele wie den Samsung-Vorfall, um die Bedrohung greifbar zu machen. Ziel ist es, eine Kultur des Sicherheitsbewusstseins zu schaffen, in der Mitarbeiter zu Partnern bei der Verteidigung der Unternehmensdaten werden. ### Die entscheidende Rolle des Backups bei forensischer Untersuchung und Behebung In dieser neuen Landschaft wird eine robuste, unveränderliche Backup-Strategie wichtiger denn je, insbesondere für die Reaktion auf Vorfälle und das proaktive Risikomanagement. Sollte ein **ChatGPT Datenleck** auftreten, besteht die erste Aufgabe Ihres Sicherheitsteams darin, eine forensische Untersuchung durchzuführen, um den genauen Umfang der Datenschutzverletzung festzustellen. Welche spezifischen Daten gingen verloren? Welche Version des Quellcodes wurde kompromittiert? Wenn die ursprünglichen Daten auf dem Live-System geändert oder gelöscht wurden, ist ein zuverlässiges Drittanbieter-Backup die einzige Möglichkeit, eine Wahrheit festzustellen. Dienste wie [Loop's AI Cloud Backup](/ai-cloud-backup) und [Microsoft 365 Backup](/microsoft-365-backup) bieten eine unabhängige, unveränderliche Kopie Ihrer Daten, die Ihnen die forensische Genauigkeit bietet, die für eine effektive Reaktion erforderlich ist. Darüber hinaus müssen Sie bei der Vorbereitung auf einen sicheren M365 Copilot-Rollout unweigerlich eine umfassende Bereinigung der SharePoint- und Teams-Berechtigungen durchführen. Dieser Prozess birgt eigene Risiken. Ein Zeitpunkt-Backup Ihrer M365-Daten bietet ein wichtiges Sicherheitsnetz, das es Ihnen ermöglicht, Dateien und Einstellungen wiederherzustellen, falls der Prozess zur Behebung der Berechtigungen schiefgeht. ## Fazit Der Aufstieg generativer KI bietet eine transformative Chance für die Produktivität, birgt aber auch tiefgreifende neue Risiken. Shadow AI ist keine hypothetische Bedrohung; sie ist heute in den meisten Organisationen aktiv, ob sie es wissen oder nicht. Die Bequemlichkeit dieser Tools garantiert geradezu ihre Nutzung durch gutmeinende Mitarbeiter, wodurch ein versteckter Weg für Ihre sensibelsten Daten entsteht, das Unternehmen zu verlassen. Durch die Kombination von proaktiver Erkennung, einer klaren und gut kommunizierten **Richtlinie für generative KI**, modernen technischen Kontrollen wie **AI DLP** und einer robusten Backup-Strategie für die forensische Bereitschaft können Sie das Risiko managen. Ziel ist es nicht, den Fortschritt zu blockieren, sondern die sichere und verantwortungsvolle Einführung von KI zu ermöglichen und ein verstecktes Risiko in einen verwaltbaren, strategischen Vorteil umzuwandeln.