# Schaduw-AI: Het verborgen risico van ongeautoriseerd gebruik van ChatGPT, Copilot en Gemini > Schaduw-AI, het ongeoorloofde gebruik van openbare AI-tools zoals ChatGPT, brengt ernstige beveiligingsrisico's met zich mee, waaronder datalekken, verlies van intellectueel eigendom en compliance-schendingen. Source: https://loopbackup.com/nl/blog/shadow-ai-unsanctioned-chatgpt-copilot-gemini Publisher: Loop Backup Content language: nl --- ## In een notendop * **Wat is Schaduw-AI?** Het gebruik van niet-goedgekeurde generatieve AI-tools zoals ChatGPT, Gemini of Copilot door medewerkers, wat een afspiegeling is van het langdurige probleem van 'Schaduw-IT'. * **Waarom is het een risico?** Personeel kan vertrouwelijke gegevens, broncode, persoonsgegevens van klanten, financiële resultaten en strategische plannen in openbare AI-modellen plakken, waardoor deze potentieel aan de wereld worden blootgesteld. * **Lekken in de praktijk:** In april 2023 lekte Samsung-personeel per ongeluk gevoelige broncode en interne vergadernotities naar ChatGPT, bij drie afzonderlijke gelegenheden. * **De Copilot-paradox:** Zelfs goedgekeurde tools zoals Microsoft 365 Copilot brengen risico's met zich mee. 'Copilot oversharing' kan gevoelige gegevens blootstellen als uw onderliggende SharePoint- en OneDrive-machtigingen niet correct zijn geconfigureerd. * **Hoe het risico te beperken:** Een gelaagde aanpak is nodig, die technische controles zoals AI DLP, een duidelijk generatief AI-beleid en cruciale training van medewerkers combineert. * **De rol van back-up:** In geval van een datalek is een robuuste back-up essentieel voor forensisch onderzoek om te begrijpen wat verloren is gegaan. Het biedt ook een vangnet bij het herstellen van machtigingen vóór een Copilot-uitrol. ### Wat is Schaduw-AI? Jarenlang hebben beveiligingsteams gestreden tegen 'Schaduw-IT', het ongeoorloofde gebruik van applicaties en diensten door medewerkers buiten het bereik van de IT-afdeling. Nu is er een nieuwe, krachtigere variant opgedoken: **Schaduw-AI**. Dit verwijst naar het toenemende gebruik van openbare generatieve AI-tools door medewerkers zonder de expliciete goedkeuring of toezicht van de organisatie. Gedreven door een verlangen naar verhoogde productiviteit, wenden medewerkers zich tot consumenten-AI-assistenten zoals OpenAI's ChatGPT, Google's Gemini en andere om hen te helpen code te schrijven, documenten samen te vatten en e-mails op te stellen. Het probleem is dat deze openbare platforms niet zijn ontworpen voor zakelijk gebruik. Ze missen vaak de beveiligings-, privacy- en compliancecontroles die bedrijven nodig hebben, wat een aanzienlijk, verborgen risico creëert op **ChatGPT-datalekken** en verlies van intellectueel eigendom. ### De aantrekkingskracht van de AI-assistent Het is cruciaal om te begrijpen dat medewerkers die deze tools gebruiken zelden met kwade bedoelingen handelen. Ze proberen simpelweg efficiënter te zijn. Een ontwikkelaar plakt misschien een codefragment in ChatGPT om een bug te vinden; een marketingmanager uploadt misschien een transcript naar Gemini voor een snelle samenvatting; een financieel analist voert misschien ruwe gegevens in om een conceptrapport te genereren. Naar hun mening maken ze gebruik van geavanceerde technologie om hun taken beter en sneller uit te voeren. Ze zijn zich waarschijnlijk niet bewust dat veel openbare AI-modellen de gegevens die ze ontvangen kunnen gebruiken om toekomstige versies te trainen, wat betekent dat hun 'privé'-invoer deel kan gaan uitmaken van het openbare model, toegankelijk voor anderen. Dit fundamentele misverstand is de primaire drijfveer achter de verspreiding van Schaduw-AI. ### Een waarschuwing uit de praktijk: De datalekken bij Samsung in 2023 Het theoretische risico van Schaduw-AI werd in april 2023 een grimmige realiteit. Het werd breed gerapporteerd dat ingenieurs bij Samsung, een van 's werelds toonaangevende technologiebedrijven, per ongeluk gevoelige interne gegevens hadden gelekt naar ChatGPT. Binnen een periode van slechts enkele weken waren er drie afzonderlijke incidenten: 1. Een ingenieur plakte foutieve broncode uit een halfgeleiderdatabase om een oplossing te identificeren. 2. Een andere medewerker deelde code van een eigen programma om deze te optimaliseren. 3. Een derde medewerker diende de audio-opname van een interne vergadering in om ChatGPT de notulen te laten genereren. In elk geval werd gevoelig intellectueel eigendom geüpload naar een extern platform buiten de controle van Samsung. Het incident dwong Samsung om het gebruik van generatieve AI-tools te verbieden en te beginnen met de ontwikkeling van een eigen intern alternatief. Het dient als een krachtige waarschuwing voor elke organisatie: als het bij Samsung kan gebeuren, kan het overal gebeuren. ### De schaduwen ontdekken: Hoe ongeoorloofd AI-gebruik te vinden Je kunt niet beheren wat je niet ziet. Het identificeren van het gebruik van Schaduw-AI is de eerste stap naar het beperken van het risico. Verschillende technieken kunnen helpen het probleem aan het licht te brengen: * **Netwerk- en DNS-loganalyse:** Uw firewall- en DNS-serverlogboeken zijn een waardevolle bron van informatie. Door logboeken te analyseren op verzoeken aan domeinen zoals `chat.openai.com`, `gemini.google.com` en andere bekende AI-diensten, kunt u een beeld krijgen van welke tools worden gebruikt en door wie. * **Cloud Access Security Broker (CASB):** Een CASB-oplossing bevindt zich tussen uw gebruikers en clouddiensten en biedt zichtbaarheid en controle. Moderne CASB's kunnen verkeer naar duizenden applicaties, inclusief generatieve AI-tools, identificeren en kunnen worden geconfigureerd om toegang te blokkeren of te beperken op basis van uw beleid. * **Endpoint- en browsertracking:** Het analyseren van browsergeschiedenis en netwerkverbindingen vanaf bedrijfstoestellen kan ook het gebruik van ongeoorloofde webgebaseerde AI-tools onthullen. ### Het Copilot-raadsel: Wanneer goedgekeurde AI nog steeds een risico is Hoewel Schaduw-AI zich bezighoudt met niet-goedgekeurde tools, bestaat er ook een aanzienlijk risico bij goedgekeurde, enterprise-grade AI zoals Microsoft 365 Copilot. Het gevaar hier is niet de tool zelf, maar de gegevens waartoe deze toegang heeft. Het probleem is **Copilot oversharing**. Copilot is ontworpen om diep geïntegreerd te zijn in het Microsoft 365-ecosysteem. Het kan redeneren over alle gegevens waartoe een gebruiker toegang heeft, hun e-mails in Outlook, hun chats in Teams en hun bestanden in SharePoint en OneDrive. Dit is de grootste kracht, maar ook de grootste potentiële zwakte. Copilot respecteert nauwgezet bestaande machtigingen. Het probleem is dat in de meeste organisaties machtigingen een puinhoop zijn. Door de jaren heen, door personeelsverloop en ad-hoc samenwerking, verzamelen SharePoint-sites en Teams-kanalen gebroken of te permissieve toegangsrechten. Een gevoelig document met salarisinformatie kan jaren geleden per ongeluk zijn gedeeld met 'Iedereen behalve externe gebruikers'. Een gebruiker weet misschien niet dat dit document bestaat, maar Copilot wel. Als die gebruiker Copilot een gerelateerde vraag stelt, kan de AI gegevens uit dat gevoelige bestand putten en deze tonen, waardoor een latente machtigingsprobleem direct verandert in een actief datalek. Voordat Copilot wordt uitgerold, moeten organisaties een grondige audit en herstel van hun Microsoft 365-machtigingen uitvoeren, een proces dat complex en tijdrovend kan zijn. ### Controle instellen: Beleid en technologie Het aanpakken van de risico's van zowel Schaduw-AI als Copilot oversharing vereist een strategische, meerzijdige aanpak die beleid, technologie en mensen omvat. #### 1. Stel een duidelijk generatief AI-beleid op Uw eerste stap moet zijn om een formeel **generatief AI-beleid** te ontwikkelen en te communiceren. Dit document elimineert dubbelzinnigheid en biedt duidelijke richtlijnen voor alle medewerkers. Het moet expliciet vermelden: * Een inventarisatie van goedgekeurde en verboden AI-tools. * Een definitieve lijst van gegevenstypen die **nooit** in een openbare AI-tool mogen worden ingevoerd (bijv. klantgegevens, PII, broncode, financiële informatie, medische gegevens, bedrijfsstrategiedocumenten). * Richtlijnen voor het verantwoorde gebruik van goedgekeurde tools. * Een vereiste voor medewerkers om elke output van een AI, die gevoelig kan zijn voor fouten of 'hallucinaties', te controleren en te verifiëren. * Duidelijke verantwoordelijkheid voor elk werk dat met AI-ondersteuning wordt geproduceerd. #### 2. Implementeer AI-bewuste Data Loss Prevention (AI DLP) Moderne Data Loss Prevention (DLP)-tools worden AI-bewuster. **AI DLP**-oplossingen kunnen verder gaan dan alleen het blokkeren van een domein. Ze kunnen de inhoud inspecteren die naar webformulieren en browsergebaseerde applicaties wordt verzonden. Dit maakt een meer gedetailleerde controle mogelijk, zoals het toestaan van medewerkers om toegang te krijgen tot ChatGPT, maar ze te blokkeren van het plakken van inhoud die overeenkomt met een patroon voor gevoelige gegevens, zoals een klantendatabase of eigen code. #### 3. Train uw mensen Technologie en beleid alleen zijn niet genoeg. U moet uw medewerkers voorlichten over de risico's. Organiseer trainingen die uitleggen *waarom* het plakken van vertrouwelijke informatie in openbare AI-tools gevaarlijk is. Gebruik praktijkvoorbeelden zoals het Samsung-incident om de dreiging tastbaar te maken. Het doel is om een cultuur van beveiligingsbewustzijn te creëren waarin medewerkers partners worden in het verdedigen van de gegevens van de organisatie. ### De cruciale rol van back-up bij forensisch onderzoek en herstel In dit nieuwe landschap wordt een robuuste, onveranderlijke back-upstrategie belangrijker dan ooit, met name voor incidentrespons en proactief risicobeheer. Mocht een **ChatGPT-datalek** plaatsvinden, dan is de eerste taak van uw beveiligingsteam om een forensisch onderzoek uit te voeren om de exacte omvang van het lek te bepalen. Welke specifieke gegevens zijn verloren gegaan? Welke versie van de broncode is gecompromitteerd? Als de oorspronkelijke gegevens op het live systeem zijn gewijzigd of verwijderd, is een betrouwbare, externe back-up de enige manier om de waarheid vast te stellen. Diensten zoals [Loop's AI Cloud Backup](/ai-cloud-backup) en [Microsoft 365 backup](/microsoft-365-backup) bieden een onafhankelijke, onveranderlijke kopie van uw gegevens, waardoor u de forensische nauwkeurigheid krijgt die nodig is om effectief te reageren. Bovendien, terwijl u zich voorbereidt op een veilige uitrol van M365 Copilot, zult u onvermijdelijk een grootschalige opschoning van SharePoint- en Teams-machtigingen moeten uitvoeren. Dit proces brengt zijn eigen risico's met zich mee. Het hebben van een point-in-time back-up van uw M365-gegevens biedt een essentieel vangnet, waardoor u bestanden en instellingen kunt herstellen als het herstelproces van de machtigingen misgaat. ## Conclusie De opkomst van generatieve AI biedt een transformatieve kans voor productiviteit, maar introduceert ook diepgaande nieuwe risico's. Schaduw-AI is geen hypothetische bedreiging; het is vandaag de dag actief in de meeste organisaties, of ze het nu weten of niet. Het gemak van deze tools garandeert zo goed als hun gebruik door goedbedoelende medewerkers, waardoor een verborgen pad ontstaat voor uw meest gevoelige gegevens om de organisatie te verlaten. Door proactieve opsporing, een duidelijk en goed gecommuniceerd **generatief AI-beleid**, moderne technische controles zoals **AI DLP**, en een robuuste back-upstrategie voor forensische paraatheid te combineren, kunt u het risico beheren. Het doel is niet om vooruitgang te blokkeren, maar om de veilige en verantwoorde adoptie van AI mogelijk te maken, waardoor een verborgen risico verandert in een beheerd, strategisch voordeel.