Kiedy dane wklejone do AI wracają jako problem

Opublikowano: 4 września 2026

Kiedy dane wklejone do AI wracają jako problem

Kiedy dane wklejone do AI wracają jako problem

W marcu 2023 roku inżynierowie Samsung Electronics trzykrotnie w ciągu 20 dni wprowadzili do ChatGPT dane wrażliwe: kod źródłowy przy szukaniu poprawki błędu, notatki z wewnętrznego spotkania (transkrypcję nagrania) oraz sekwencje testowe do identyfikacji wadliwych układów. Firma zareagowała całkowitym zakazem używania generatywnej AI przez pracowników i wszczęła postępowania dyscyplinarne. To jeden z pierwszych szeroko udokumentowanych przypadków pokazujących, że to, co wklejamy do chatbota, nie znika bez śladu.

Regulator już karał

Włoski urząd ochrony danych osobowych (Garante) jako pierwszy na świecie wprowadził w marcu 2023 roku tymczasowy zakaz działania ChatGPT z powodu naruszeń ochrony danych — zniósł go miesiąc później, po zobowiązaniach OpenAI. Sprawa na tym się nie skończyła: 23 grudnia 2024 roku ten sam urząd nałożył na OpenAI karę 15 milionów euro za naruszenia RODO — przetwarzanie danych osobowych do trenowania ChatGPT bez odpowiedniej podstawy prawnej, niedostateczne informowanie użytkowników, brak zgłoszenia własnego naruszenia bezpieczeństwa z marca 2023 oraz brak mechanizmów blokujących dostęp dzieciom poniżej 13 lat. OpenAI zobowiązano dodatkowo do sześciomiesięcznej kampanii informacyjnej w radiu, telewizji, prasie i internecie.

Rozmowa z AI może stać się dowodem w sądzie, w którym nie jesteś stroną

W sprawie In re: OpenAI, Inc. Copyright Infringement Litigation — konsolidacji 16 pozwów wydawców, w tym New York Timesa i Chicago Tribune — sąd federalny USA nakazał 13 maja 2025 roku OpenAI zachować i wydzielić wszystkie logi wyjściowe ChatGPT, które normalnie zostałyby usunięte. Obowiązek objął ponad 400 milionów użytkowników na świecie. W listopadzie 2025 roku sąd nakazał wydanie 20 milionów zanonimizowanych logów rozmów stronie powodowej (New York Times żądał pierwotnie 120 milionów, OpenAI zaproponowało 20 milionów jako “więcej niż wystarczająco”). Obowiązek zachowania danych wygasł 26 września 2025 roku. To pokazuje konkretny mechanizm prawny — dyskovery w konkretnym postępowaniu — nie dowodzi natomiast, że OpenAI rutynowo udostępnia rozmowy stronom trzecim poza takim kontekstem.

Świadomość tego ryzyka dotarła już do zawodów regulowanych. Amerykańskie Stowarzyszenie Adwokatów (ABA) wydało w lipcu 2024 roku Formalną Opinię 512 o używaniu generatywnej AI przez prawników, wymagającą pełnego rozważenia obowiązków etycznych, w tym ochrony informacji klienta. Do marca 2026 roku co najmniej 35 amerykańskich stanowych izb adwokackich wydało własne wytyczne w tej sprawie.

Wyciek może przyjść od partnera dostawcy, nie od niego samego

9 listopada 2025 roku firma analityczna Mixpanel, dostawca OpenAI, padła ofiarą ataku, w którym wyeksportowano dane identyfikacyjne użytkowników platform.openai.com/API — imiona, adresy e-mail, przybliżoną lokalizację, system operacyjny i przeglądarkę, ID organizacji i użytkownika. Mixpanel poinformował OpenAI 25 listopada 2025 roku. OpenAI potwierdziło, że nie ujawniono treści rozmów, kluczy API, haseł ani danych płatności, zerwało współpracę z Mixpanel i zapowiedziało przegląd całego łańcucha dostawców. W grudniu 2025 roku złożono przeciwko obu firmom pozew zbiorowy.

Deklaracje i praktyka rozjeżdżają się

Badanie Cisco 2024 Consumer Privacy Survey pokazuje, że 30% użytkowników generatywnej AI wprowadza do niej dane osobowe lub poufne, mimo że 84% deklaruje obawy o publiczne ujawnienie tych danych. Odrębne badanie, Cisco 2025 Data Privacy Benchmark Study, przeprowadzone wśród specjalistów ds. bezpieczeństwa i prywatności w firmach, pokazuje podobny rozdźwięk: 64% respondentów obawia się niezamierzonego udostępnienia danych wrażliwych publicznie lub konkurencji, a mimo to prawie połowa przyznaje, że wprowadza dane pracownicze lub inne dane niepubliczne do narzędzi GenAI.

Czego te dane nie mówią

Ankiety branżowe, takie jak badania Cisco, mierzą deklarowane zachowania i obawy, nie rzeczywistą skalę wycieków w konkretnych firmach — nie wiadomo, jaki odsetek wprowadzonych danych faktycznie doprowadził do szkody. Nie ma też publicznie dostępnych, zweryfikowanych danych o tym, w jakim stopniu dane wprowadzane do ChatGPT, Claude czy Gemini faktycznie trafiają do przyszłych wersji modeli — polityki różnią się między planami konsumenckimi a enterprise/API i zmieniały się w czasie, więc to wymaga sprawdzenia osobno dla każdego narzędzia, nie da się tego uogólnić. W znalezionych źródłach nie ma twardych danych o skali problemu w Polsce czy Unii Europejskiej poza działaniami włoskiego Garante — nie znaleziono porównywalnej decyzji polskiego UODO w tym okresie. Statystyki krążące w sieci typu “84% narzędzi AI miało wyciek danych”, publikowane przez firmy sprzedające rozwiązania do wykrywania takich wycieków, mają w tym interes biznesowy, a ich metodologia nie jest przejrzysta — nie traktujemy ich tu jako faktu.

Warto też rozróżniać dwa różne zagrożenia, które branżowe materiały często mieszają: “wyciek” (przypadkowe ujawnienie danych osobom trzecim, jak w przypadku Mixpanela) to nie to samo co “ryzyko trenowania” (dane mogą zostać użyte do uczenia modelu) — to osobne mechanizmy, z osobnymi środkami zaradczymi.

Test na 5 minut

Odpowiedz szczerze tak lub nie:

  • Wklejałem/am kiedyś do chatbota AI fragment kodu, dokumentu lub rozmowy zawierający dane innej osoby lub firmy.
  • Nie wiem, czy narzędzie AI, którego używam w pracy, ma właściciela odpowiedzialnego za jego politykę bezpieczeństwa.
  • Nie sprawdzałem/am nigdy ustawień prywatności ani trenowania w narzędziu AI, którego używam najczęściej.
  • Używam tego samego, darmowego lub konsumenckiego narzędzia AI zarówno prywatnie, jak i do pracy z danymi klientów albo pracodawcy.
  • Nie mam pojęcia, jak długo dostawca przechowuje moje rozmowy ani czy mogą zostać ujawnione stronie trzeciej.

Dwie lub więcej odpowiedzi “tak” to sygnał, żeby w tym tygodniu sprawdzić ustawienia prywatności używanych narzędzi i, jeśli dotyczy, politykę firmową.

Co zrobić

  1. Zanim wkleisz tekst do chatbota AI, zapytaj: czy zawiera dane osobowe innej osoby, tajemnicę firmy, kod źródłowy lub treść objętą tajemnicą zawodową (prawniczą, medyczną)? Jeśli tak — nie wklejaj bez sprawdzenia polityki narzędzia.
  2. Sprawdź, czy używasz wersji konsumenckiej (dane mogą być użyte do trenowania, chyba że wyłączysz tę opcję w ustawieniach) czy enterprise/API (zwykle inne, bardziej restrykcyjne zasady) — to realna różnica, nie szczegół techniczny.
  3. W pracy trzymaj się polityki firmowej dotyczącej AI — jeśli jej nie ma, zapytaj przełożonego, zanim wkleisz cokolwiek związanego z klientami, kodem czy danymi finansowymi. Przypadek Samsunga pokazuje koszt braku takiej polityki.
  4. Pamiętaj, że rozmowy z AI mogą zostać ujawnione w postępowaniu sądowym, tak jak e-mail czy SMS — traktuj je z podobną ostrożnością.
  5. Prawnicy, lekarze, księgowi — sprawdźcie aktualne wytyczne własnej izby czy samorządu zawodowego dotyczące AI, zanim użyjecie narzędzia ogólnego przeznaczenia do pracy z danymi klienta.
  6. Regularnie przeglądaj i usuwaj historię rozmów w narzędziach AI, których już nie potrzebujesz — ogranicza to ekspozycję w razie wycieku u dostawcy, jak w przypadku Mixpanela.
  7. Nie zakładaj, że “usunięte” znaczy “skasowane na zawsze” — sprawa New York Timesa pokazała, że nawet usunięte przez użytkownika rozmowy mogą podlegać obowiązkowi zachowania na mocy nakazu sądowego.
  8. Firmy: wdrożcie jasną, pisemną politykę AI, zanim pracownicy zaczną samodzielnie używać narzędzi (tzw. shadow AI) — brak polityki nie oznacza braku ryzyka, tylko brak kontroli nad nim.

Źródła

Ten artykuł jest częścią serii “Bezpieczne używanie AI” na barnabaai.com.

Ten tekst powstał przy udziale narzędzi AI. Treść merytoryczna została sprawdzona przez autora.

sofi - neutral