# Skygge-AI: Den Skjulte Faren ved Uautorisert Bruk av ChatGPT, Copilot og Gemini > Skygge-AI, den uautoriserte bruken av offentlige AI-verktøy som ChatGPT, skaper alvorlige sikkerhetsrisikoer, inkludert datalekkasjer, tap av immaterielle rettigheter og brudd på retningslinjer. Source: https://loopbackup.com/no/blog/shadow-ai-unsanctioned-chatgpt-copilot-gemini Publisher: Loop Backup Content language: no --- ## Kort fortalt * **Hva er skygge-AI?** Bruk av ugodkjente generative AI-verktøy som ChatGPT, Gemini eller Copilot av ansatte, noe som speiler det langvarige problemet med 'skygge-IT'. * **Hvorfor er det en risiko?** Ansatte kan lime inn konfidensielle data, kildekode, personlig identifiserbar informasjon (PII) om kunder, økonomiske resultater og strategiske planer i offentlige AI-modeller, noe som potensielt kan eksponere det for verden. * **Reelle lekkasjer:** I april 2023 lekket Samsung-ansatte ved et uhell sensitiv kildekode og interne møtenotater til ChatGPT ved tre separate anledninger. * **Copilot-paradokset:** Selv godkjente verktøy som Microsoft 365 Copilot medfører risiko. 'Copilot-overdeling' kan eksponere sensitive data hvis dine underliggende SharePoint- og OneDrive-tillatelser ikke er korrekt konfigurert. * **Hvordan redusere risikoen:** En flerlags tilnærming er nødvendig, som kombinerer tekniske kontroller som AI DLP, en klar policy for generativ AI, og viktig opplæring av ansatte. * **Sikkerhetskopieringens rolle:** I tilfelle en datalekkasje er en robust sikkerhetskopi avgjørende for rettsmedisinsk gjennomgang for å forstå hva som gikk tapt. Det gir også et sikkerhetsnett ved utbedring av tillatelser før en Copilot-utrulling. ### Hva er skygge-AI? I årevis har sikkerhetsteam kjempet mot 'skygge-IT', den uautoriserte bruken av applikasjoner og tjenester av ansatte utenfor IT-avdelingens kontroll. Nå har en ny, mer potent variant dukket opp: **skygge-AI**. Dette refererer til den økende bruken av offentlige generative AI-verktøy av ansatte uten organisasjonens eksplisitte godkjenning eller tilsyn. Drevet av et ønske om økt produktivitet, henvender ansatte seg til forbrukerrettede AI-assistenter som OpenAI's ChatGPT, Googles Gemini og andre for å hjelpe dem med å skrive kode, oppsummere dokumenter og utarbeide e-poster. Problemet er at disse offentlige plattformene ikke ble designet for bedriftsbruk. De mangler ofte sikkerhets-, personverns- og samsvarskontrollene som bedrifter krever, noe som skaper en betydelig, skjult risiko for **ChatGPT-datalekkasjer** og tap av immaterielle rettigheter. ### AI-assistentens lokkemiddel Det er avgjørende å forstå at ansatte som bruker disse verktøyene sjelden handler med ondsinnet hensikt. De prøver bare å være mer effektive. En utvikler kan lime inn et kodestykke i ChatGPT for å finne en feil; en markedsføringsansvarlig kan laste opp et transkript til Gemini for en rask oppsummering; en finansanalytiker kan legge inn rådata for å generere et rapportutkast. I deres øyne utnytter de banebrytende teknologi for å utføre sine oppgaver bedre og raskere. De er sannsynligvis uvitende om at mange offentlige AI-modeller kan bruke dataene de mottar til å trene fremtidige versjoner, noe som betyr at deres 'private' input kan bli en del av den offentlige modellen, tilgjengelig for andre. Denne grunnleggende misforståelsen er hoveddriveren bak spredningen av skygge-AI. ### En reell advarsel: Samsungs datalekkasjer i 2023 Den teoretiske risikoen ved skygge-AI ble en skarp realitet i april 2023. Det ble bredt rapportert at ingeniører hos Samsung, et av verdens ledende teknologiselskaper, ved et uhell hadde lekket sensitive interne data til ChatGPT. Innenfor en periode på bare noen få uker var det tre separate hendelser: 1. En ingeniør limte inn feilaktig kildekode fra en halvlederdatabase for å identifisere en løsning. 2. En annen ansatt delte kode fra et proprietært program for å optimalisere det. 3. En tredje medarbeider sendte inn lydopptaket av et internt møte for å få ChatGPT til å generere referatet. I hvert tilfelle ble sensitiv immateriell eiendom lastet opp til en tredjepartsplattform utenfor Samsungs kontroll. Hendelsen tvang Samsung til å forby bruken av generative AI-verktøy og begynne å utvikle sitt eget interne alternativ. Det tjener som en kraftig advarsel til enhver organisasjon: hvis det kan skje hos Samsung, kan det skje hvor som helst. ### Oppdage skyggene: Hvordan finne uautorisert AI-bruk Du kan ikke administrere det du ikke kan se. Å identifisere bruken av skygge-AI er det første skrittet mot å redusere risikoen. Flere teknikker kan bidra til å kaste lys over problemet: * **Nettverks- og DNS-logganalyse:** Brannmur- og DNS-serverloggene dine er en verdifull kilde til intelligens. Ved å analysere logger for forespørsler til domener som `chat.openai.com`, `gemini.google.com` og andre kjente AI-tjenester, kan du bygge et bilde av hvilke verktøy som blir brukt og av hvem. * **Cloud Access Security Broker (CASB):** En CASB-løsning sitter mellom brukerne dine og skytjenester, og gir synlighet og kontroll. Moderne CASB-er kan identifisere trafikk til tusenvis av applikasjoner, inkludert generative AI-verktøy, og kan konfigureres til å blokkere eller begrense tilgang basert på dine retningslinjer. * **Endepunkt- og nettlesertelemetri:** Analyse av nettleserhistorikk og nettverkstilkoblinger fra bedriftens enheter kan også avsløre bruken av uautoriserte nettbaserte AI-verktøy. ### Copilot-gåten: Når godkjent AI fortsatt er en risiko Mens skygge-AI handler om ugodkjente verktøy, eksisterer det også en betydelig risiko med godkjent, bedriftsgrade AI som Microsoft 365 Copilot. Faren her er ikke verktøyet i seg selv, men dataene det har tilgang til. Problemet er **Copilot-overdeling**. Copilot er designet for å være dypt integrert i Microsoft 365-økosystemet. Den kan resonnere over alle data en bruker har tilgang til, e-postene deres i Outlook, chattene deres i Teams, og filene deres i SharePoint og OneDrive. Dette er dens største styrke, men også dens største potensielle svakhet. Copilot respekterer nøye eksisterende tillatelser. Problemet er at i de fleste organisasjoner er tillatelser et rot. Over årene, gjennom personalutskifting og ad-hoc samarbeid, samler SharePoint-områder og Teams-kanaler opp ødelagte eller for permissive tilgangsrettigheter. Et sensitivt dokument som inneholder lønnsinformasjon kan ha blitt ved et uhell delt med 'Alle unntatt eksterne brukere' for mange år siden. En bruker kjenner kanskje ikke til at dette dokumentet eksisterer, men Copilot gjør det. Hvis den brukeren stiller Copilot et relatert spørsmål, kan AI-en trekke på og presentere data fra den sensitive filen, noe som umiddelbart gjør et latent tillatelsesproblem til et aktivt datainnbrudd. Før utrulling av Copilot må organisasjoner utføre en grundig revisjon og utbedring av sine Microsoft 365-tillatelser, en prosess som kan være kompleks og tidkrevende. ### Etablere kontroll: Retningslinjer og teknologi Å adressere risikoene ved både skygge-AI og Copilot-overdeling krever en strategisk, mangesidig tilnærming som omfatter retningslinjer, teknologi og mennesker. #### 1. Utarbeid en klar policy for generativ AI Ditt første skritt bør være å utvikle og kommunisere en formell **policy for generativ AI**. Dette dokumentet eliminerer tvetydighet og gir klare retningslinjer for alle ansatte. Den bør eksplisitt angi: * En oversikt over godkjente og forbudte AI-verktøy. * En definitiv liste over datatyper som **aldri** må legges inn i offentlige AI-verktøy (f.eks. kundedata, PII, kildekode, finansiell informasjon, helsejournaler, selskapets strategidokumenter). * Retningslinjer for ansvarlig bruk av godkjente verktøy. * Et krav om at ansatte faktabekrefter og verifiserer all utdata fra en AI, som kan være utsatt for feil eller 'hallusinasjoner'. * Klar ansvarlighet for alt arbeid produsert med AI-assistanse. #### 2. Implementer AI-bevisst Data Loss Prevention (AI DLP) Moderne Data Loss Prevention (DLP)-verktøy blir AI-bevisste. **AI DLP**-løsninger kan gå utover å bare blokkere et domene. De kan inspisere innholdet som sendes til web-skjemaer og nettleserbaserte applikasjoner. Dette gir mer detaljerte kontroller, for eksempel å tillate ansatte å få tilgang til ChatGPT, men blokkere dem fra å lime inn innhold som samsvarer med et mønster for sensitive data, som en kundedatabase eller proprietær kode. #### 3. Tren dine ansatte Teknologi og retningslinjer alene er ikke nok. Du må utdanne dine ansatte om risikoene. Kjør treningssesjoner som forklarer *hvorfor* det er farlig å lime inn konfidensiell informasjon i offentlige AI-verktøy. Bruk eksempler fra den virkelige verden, som Samsung-hendelsen, for å gjøre trusselen håndgripelig. Målet er å skape en kultur med sikkerhetsbevissthet der ansatte blir partnere i å forsvare organisasjonens data. ### Sikkerhetskopieringens kritiske rolle i rettsmedisinsk gjennomgang og utbedring I dette nye landskapet blir en robust, uforanderlig sikkerhetskopieringsstrategi viktigere enn noensinne, spesielt for hendelseshåndtering og proaktiv risikostyring. Skulle en **ChatGPT-datalekkasje**-hendelse inntreffe, er sikkerhetsteamets første oppgave å utføre en rettsmedisinsk gjennomgang for å fastslå det nøyaktige omfanget av bruddet. Hvilke spesifikke data gikk tapt? Hvilken versjon av kildekoden ble kompromittert? Hvis de originale dataene på det aktive systemet er endret eller slettet, er en pålitelig tredjeparts sikkerhetskopi den eneste måten å etablere en grunnleggende sannhet på. Tjenester som [Loop's AI Cloud Backup](/ai-cloud-backup) og [Microsoft 365 backup](/microsoft-365-backup) gir en uavhengig, uforanderlig kopi av dataene dine, noe som gir deg den rettsmedisinske nøyaktigheten som trengs for å reagere effektivt. Videre, når du forbereder deg på en sikker M365 Copilot-utrulling, vil du uunngåelig måtte utføre en storskala opprydding av SharePoint- og Teams-tillatelser. Denne prosessen medfører egne risikoer. Å ha en punkt-i-tid-sikkerhetskopi av M365-dataene dine gir et viktig sikkerhetsnett, slik at du kan gjenopprette filer og innstillinger hvis tillatelsesutbedringsprosessen går galt. ## Konklusjon Fremveksten av generativ AI gir en transformativ mulighet for produktivitet, men den introduserer også dype nye risikoer. Skygge-AI er ikke en hypotetisk trussel; den er aktiv i de fleste organisasjoner i dag, enten de vet det eller ikke. Bekvemmeligheten med disse verktøyene garanterer nesten deres bruk av velmenende ansatte, noe som skaper en skjult vei for dine mest sensitive data ut av organisasjonen. Ved å kombinere proaktiv oppdagelse, en klar og velkommunisert **policy for generativ AI**, moderne tekniske kontroller som **AI DLP**, og en robust sikkerhetskopieringsstrategi for rettsmedisinsk beredskap, kan du håndtere risikoen. Målet er ikke å blokkere fremskritt, men å muliggjøre sikker og ansvarlig adopsjon av AI, forvandle en skjult risiko til en håndtert, strategisk fordel.