# Cień AI: Ukryte Ryzyko Nieautoryzowanego Użycia ChatGPT, Copilot i Gemini > Cień AI, czyli nieautoryzowane użycie publicznych narzędzi AI, takich jak ChatGPT, stwarza poważne ryzyka bezpieczeństwa, w tym wyciek danych, utratę własności intelektualnej i naruszenia zgodności. Source: https://loopbackup.com/pl/blog/shadow-ai-unsanctioned-chatgpt-copilot-gemini Publisher: Loop Backup Content language: pl --- ## W skrócie * **Czym jest Cień AI?** To użycie niezatwierdzonych generatywnych narzędzi AI, takich jak ChatGPT, Gemini czy Copilot, przez pracowników, co jest lustrzanym odbiciem odwiecznego problemu 'Shadow IT'. * **Dlaczego to ryzyko?** Pracownicy mogą wklejać poufne dane, kod źródłowy, dane osobowe klientów, wyniki finansowe, strategiczne plany do publicznych modeli AI, potencjalnie narażając je na ujawnienie światu. * **Rzeczywiste wycieki:** W kwietniu 2023 r. pracownicy Samsunga przypadkowo ujawnili poufny kod źródłowy i wewnętrzne notatki ze spotkań do ChatGPT w trzech oddzielnych incydentach. * **Paradoks Copilota:** Nawet zatwierdzone narzędzia, takie jak Microsoft 365 Copilot, niosą ze sobą ryzyko. 'Nadużywanie Copilota' może ujawnić wrażliwe dane, jeśli Twoje podstawowe uprawnienia w SharePoint i OneDrive nie są odpowiednio skonfigurowane. * **Jak zmniejszyć ryzyko:** Potrzebne jest wielowarstwowe podejście, łączące kontrole techniczne, takie jak AI DLP, jasną politykę dotyczącą generatywnej AI i kluczowe szkolenia pracowników. * **Rola kopii zapasowej:** W przypadku wycieku danych, solidna kopia zapasowa jest niezbędna do przeglądu kryminalistycznego, aby zrozumieć, co zostało utracone. Stanowi również siatkę bezpieczeństwa podczas naprawy uprawnień przed wdrożeniem Copilota. ### Czym jest Cień AI? Od lat zespoły ds. bezpieczeństwa walczą z 'Shadow IT', czyli nieautoryzowanym użyciem aplikacji i usług przez pracowników, poza kontrolą działu IT. Teraz pojawił się nowy, potężniejszy wariant: **Cień AI**. Odnosi się to do rosnącego użycia publicznych generatywnych narzędzi AI przez pracowników bez wyraźnej zgody lub nadzoru organizacji. Kierowani chęcią zwiększenia produktywności, pracownicy sięgają po konsumenckie asystenty AI, takie jak ChatGPT OpenAI, Gemini Google'a i inne, aby pomóc im w pisaniu kodu, podsumowywaniu dokumentów i tworzeniu wiadomości e-mail. Problem polega na tym, że te publiczne platformy nie zostały zaprojektowane do użytku korporacyjnego. Często brakuje im kontroli bezpieczeństwa, prywatności i zgodności, których wymagają firmy, co stwarza znaczące, ukryte ryzyko **wycieku danych z ChatGPT** i utraty własności intelektualnej. ### Urok Asystenta AI Kluczowe jest zrozumienie, że pracownicy korzystający z tych narzędzi rzadko działają ze złymi intencjami. Po prostu starają się być bardziej efektywni. Deweloper może wkleić fragment kodu do ChatGPT, aby znaleźć błąd; menedżer marketingu może przesłać transkrypcję do Gemini, aby uzyskać szybkie podsumowanie; analityk finansowy może wprowadzić surowe dane, aby wygenerować projekt raportu. W ich oczach wykorzystują najnowocześniejszą technologię, aby lepiej i szybciej wykonywać swoje obowiązki. Prawdopodobnie nie są świadomi, że wiele publicznych modeli AI może wykorzystywać dane, które otrzymują, do szkolenia przyszłych wersji, co oznacza, że ich 'prywatne' dane wejściowe mogą stać się częścią publicznego modelu, dostępną dla innych. To fundamentalne nieporozumienie jest główną przyczyną rozprzestrzeniania się Cienia AI. ### Prawdziwa historia ku przestrodze: Wycieki danych Samsunga w 2023 r. Teoretyczne ryzyko Cienia AI stało się surową rzeczywistością w kwietniu 2023 r. Szeroko informowano, że inżynierowie Samsunga, jednej z wiodących firm technologicznych na świecie, przypadkowo ujawnili poufne dane wewnętrzne do ChatGPT. W ciągu zaledwie kilku tygodni doszło do trzech oddzielnych incydentów: 1. Inżynier wkleił wadliwy kod źródłowy z bazy danych półprzewodników, aby zidentyfikować poprawkę. 2. Inny pracownik udostępnił kod z zastrzeżonego programu, aby go zoptymalizować. 3. Trzeci pracownik przesłał nagranie audio z wewnętrznego spotkania, aby ChatGPT wygenerował protokół. W każdym przypadku wrażliwa własność intelektualna została przesłana na platformę osoby trzeciej, poza kontrolą Samsunga. Incydent zmusił Samsunga do zakazania używania generatywnych narzędzi AI i rozpoczęcia opracowywania własnej wewnętrznej alternatywy. Służy to jako potężne ostrzeżenie dla każdej organizacji: jeśli może się to zdarzyć w Samsungu, może się zdarzyć wszędzie. ### Odkrywanie Cieni: Jak znaleźć nieautoryzowane użycie AI Nie możesz zarządzać tym, czego nie widzisz. Zidentyfikowanie użycia Cienia AI jest pierwszym krokiem w kierunku zmniejszenia ryzyka. Kilka technik może pomóc rzucić światło na problem: * **Analiza logów sieciowych i DNS:** Logi Twojego firewalla i serwera DNS są cennym źródłem informacji. Analizując logi w poszukiwaniu żądań do domen takich jak `chat.openai.com`, `gemini.google.com` i innych znanych usług AI, możesz stworzyć obraz tego, które narzędzia są dostępne i przez kogo. * **Cloud Access Security Broker (CASB):** Rozwiązanie CASB znajduje się między użytkownikami a usługami w chmurze, zapewniając widoczność i kontrolę. Nowoczesne CASB mogą identyfikować ruch do tysięcy aplikacji, w tym generatywnych narzędzi AI, i mogą być skonfigurowane do blokowania lub ograniczania dostępu na podstawie Twoich zasad. * **Telemetria punktów końcowych i przeglądarek:** Analiza historii przeglądarek i połączeń sieciowych z urządzeń firmowych może również ujawnić użycie nieautoryzowanych internetowych narzędzi AI. ### Zagadka Copilota: Kiedy nawet zatwierdzona AI stanowi ryzyko Podczas gdy Cień AI dotyczy niezatwierdzonych narzędzi, znaczne ryzyko istnieje również w przypadku zatwierdzonych, korporacyjnych rozwiązań AI, takich jak Microsoft 365 Copilot. Niebezpieczeństwo tutaj nie tkwi w samym narzędziu, ale w danych, do których ma ono dostęp. Problem to **przesadne udostępnianie przez Copilota**. Copilot został zaprojektowany tak, aby był głęboko zintegrowany z ekosystemem Microsoft 365. Może przetwarzać wszystkie dane, do których użytkownik ma dostęp: jego e-maile w Outlooku, czaty w Teams oraz pliki w SharePoint i OneDrive. To jest jego największa siła, ale także jego największa potencjalna słabość. Copilot skrupulatnie przestrzega istniejących uprawnień. Problem polega na tym, że w większości organizacji uprawnienia są w nieładzie. Przez lata, w wyniku rotacji pracowników i doraźnej współpracy, witryny SharePoint i kanały Teams gromadzą uszkodzone lub zbyt szerokie prawa dostępu. Wrażliwy dokument zawierający informacje o płacach mógł zostać przypadkowo udostępniony „Wszystkim z wyjątkiem użytkowników zewnętrznych” lata temu. Użytkownik może nie wiedzieć, że ten dokument istnieje, ale Copilot wie. Jeśli ten użytkownik zada Copilotowi pokrewne pytanie, AI może czerpać dane z tego wrażliwego pliku i je ujawnić, natychmiast przekształcając ukryty problem z uprawnieniami w aktywny wyciek danych. Przed wdrożeniem Copilota organizacje muszą przeprowadzić dokładny audyt i naprawę swoich uprawnień w Microsoft 365, co może być procesem złożonym i czasochłonnym. ### Ustanawianie kontroli: Polityki i technologia Rozwiązanie ryzyka zarówno Cienia AI, jak i nadmiernego udostępniania przez Copilota wymaga strategicznego, wieloaspektowego podejścia obejmującego politykę, technologię i ludzi. #### 1. Opracuj jasną politykę dotyczącą generatywnej AI Pierwszym krokiem powinno być opracowanie i zakomunikowanie formalnej **polityki dotyczącej generatywnej AI**. Ten dokument eliminuje dwuznaczności i dostarcza jasnych wskazówek wszystkim pracownikom. Powinien wyraźnie określać: * Spis zatwierdzonych i zabronionych narzędzi AI. * Definitywną listę typów danych, które **nigdy** nie mogą być wprowadzane do żadnego publicznego narzędzia AI (np. dane klientów, dane osobowe, kod źródłowy, informacje finansowe, dane medyczne, dokumenty strategiczne firmy). * Wytyczne dotyczące odpowiedzialnego korzystania z zatwierdzonych narzędzi. * Wymóg, aby pracownicy weryfikowali i sprawdzali fakty wszelkich danych wyjściowych z AI, które mogą być podatne na błędy lub 'halucynacje'. * Jasną odpowiedzialność za wszelkie prace wykonane z pomocą AI. #### 2. Wdróż AI-aware Data Loss Prevention (AI DLP) Nowoczesne narzędzia Data Loss Prevention (DLP) stają się świadome AI. Rozwiązania **AI DLP** mogą wykraczać poza proste blokowanie domeny. Mogą sprawdzać zawartość wysyłaną do formularzy internetowych i aplikacji opartych na przeglądarce. Pozwala to na bardziej szczegółowe kontrole, takie jak umożliwienie pracownikom dostępu do ChatGPT, ale blokowanie im wklejania treści, które pasują do wzorca wrażliwych danych, takich jak baza danych klientów lub zastrzeżony kod. #### 3. Szkol pracowników Sama technologia i polityki nie wystarczą. Musisz edukować swoich pracowników na temat ryzyka. Prowadź sesje szkoleniowe, które wyjaśniają, *dlaczego* wklejanie poufnych informacji do publicznych narzędzi AI jest niebezpieczne. Użyj rzeczywistych przykładów, takich jak incydent Samsunga, aby zagrożenie było namacalne. Celem jest stworzenie kultury świadomości bezpieczeństwa, w której pracownicy stają się partnerami w obronie danych organizacji. ### Krytyczna rola kopii zapasowych w analizie kryminalistycznej i naprawie błędów W tym nowym krajobrazie solidna, niezmienna strategia tworzenia kopii zapasowych staje się bardziej krytyczna niż kiedykolwiek, szczególnie w przypadku reagowania na incydenty i proaktywnego zarządzania ryzykiem. W przypadku wystąpienia **wycieku danych z ChatGPT**, pierwszym zadaniem zespołu ds. bezpieczeństwa jest przeprowadzenie analizy kryminalistycznej w celu ustalenia dokładnego zakresu naruszenia. Jakie konkretne dane zostały utracone? Jaka wersja kodu źródłowego została naruszona? Jeśli oryginalne dane w systemie na żywo zostały zmienione lub usunięte, niezawodna, zewnętrzna kopia zapasowa jest jedynym sposobem na ustalenie stanu faktycznego. Usługi takie jak [Loop's AI Cloud Backup](/ai-cloud-backup) i [Microsoft 365 backup](/microsoft-365-backup) zapewniają niezależną, niezmienną kopię Twoich danych, dając Ci wierność kryminalistyczną potrzebną do skutecznego reagowania. Ponadto, przygotowując się do bezpiecznego wdrożenia M365 Copilot, nieuchronnie będziesz musiał przeprowadzić kompleksowe porządki w uprawnieniach SharePoint i Teams. Proces ten niesie ze sobą własne ryzyka. Posiadanie punktowej kopii zapasowej danych M365 stanowi kluczową siatkę bezpieczeństwa, umożliwiając przywrócenie plików i ustawień, jeśli proces naprawy uprawnień pójdzie źle. ## Podsumowanie Rozwój generatywnej AI stwarza transformacyjną szansę na zwiększenie produktywności, ale wprowadza również poważne nowe ryzyka. Cień AI nie jest hipotetycznym zagrożeniem; jest aktywnie obecny w większości organizacji już dziś, czy o tym wiedzą, czy nie. Wygoda tych narzędzi niemal gwarantuje ich użycie przez dobrze intencjonalnych pracowników, tworząc ukrytą ścieżkę dla Twoich najbardziej wrażliwych danych, aby opuścić organizację. Łącząc proaktywne wykrywanie, jasną i dobrze zakomunikowaną **politykę dotyczącą generatywnej AI**, nowoczesne kontrole techniczne, takie jak **AI DLP**, oraz solidną strategię tworzenia kopii zapasowych w celu gotowości kryminalistycznej, możesz zarządzać ryzykiem. Celem nie jest blokowanie postępu, ale umożliwienie bezpiecznego i odpowiedzialnego przyjęcia AI, przekształcając ukryte ryzyko w zarządzaną, strategiczną przewagę.