Bezpieczeństwo danych i zgodność z AI Act w audycie AI: co sprawdzić przed wdrożeniem
Blog

Bezpieczeństwo danych i zgodność z AI Act w audycie AI: co sprawdzić przed wdrożeniem

W tym artykule przeczytasz:

Bezpieczeństwo danych w AI należy ocenić przed wyborem narzędzia i rozpoczęciem pilotażu. Osoba odpowiedzialna za wdrożenie potrzebuje konkretnych ustaleń: jakie informacje będą przetwarzane, kto uzyska do nich dostęp, jakie obowiązki prawne dotyczą danego zastosowania i które braki trzeba usunąć przed startem. Poniżej pokazujemy, jakie pytania zadać podczas audytu AI, jakich dowodów oczekiwać i jak przełożyć wyniki analizy na decyzję o wdrożeniu.

Dlaczego bezpieczeństwo danych w AI jest częścią audytu, a nie dodatkiem na koniec?

W naszej usłudze bezpieczeństwo jest jednym z sześciu obszarów audytu gotowości firmy do wdrożenia AI. Nie traktujemy go jako końcowej kontroli zakupionego rozwiązania. Już przy analizie procesu warto ustalić, czy planowany sposób wykorzystania danych jest dopuszczalny i jakie zabezpieczenia będą potrzebne. Takie podejście odpowiada zasadzie uwzględniania bezpieczeństwa w całym cyklu życia systemu: od projektu przez wdrożenie po utrzymanie. (ncsc.gov.uk)

Przedmiotem oceny powinno być konkretne zastosowanie, a nie samo narzędzie. W audycie opisz więc zadanie, użytkowników, zakres danych, integracje oraz sposób wykorzystania wyniku. Zamiast pytania „czy możemy używać AI?” postaw pytanie: „czy możemy wykorzystać to rozwiązanie w tym procesie, na tych danych i przy tych zabezpieczeniach?”.

Szerszy kontekst tej analizy znajdziesz w artykule Audyt gotowości firmy do wdrożenia AI: jak sprawdzić, gdzie AI realnie pomoże. Tutaj skupiamy się na kryteriach oceny bezpieczeństwa, zgodności i dokumentowaniu ustaleń.

Jakie dane w firmie wymagają ochrony i gdzie faktycznie trafiają?

W ocenie rozdziel dane osobowe, szczególne kategorie danych osobowych oraz informacje poufne biznesowo. Dane klientów i pracowników mogą podlegać RODO, a informacje o zdrowiu należą do szczególnych kategorii wymagających dodatkowych przesłanek przetwarzania. Nie należy jednak nazywać wszystkich informacji poufnych „danymi wrażliwymi” w znaczeniu RODO. (edpb.europa.eu)

Na potrzeby audytu przygotuj także osobną kategorię informacji poufnych biznesowo: marż, niepublicznych cenników, projektów umów czy dokumentacji technicznej. Dla każdego zbioru zapisz właściciela, cel wykorzystania, dozwolony zakres dostępu i konsekwencje ujawnienia. Dzięki temu pytanie o poufne dane w AI zamienisz w ocenę konkretnych zasobów.

Mapa przepływu danych zamiast samej listy plików

Poproś o opis całej drogi informacji: od systemu źródłowego przez integrację i usługę AI po wynik, historię rozmów, logi oraz kopie zapasowe. Przy każdym etapie ustal odbiorców, miejsce przetwarzania, okres przechowywania i sposób usunięcia danych. Włącz do przeglądu również narzędzia już używane przez zespół, nawet jeśli nie znalazły się w oficjalnym planie wdrożenia.

Nie przyjmuj automatycznie, że zastąpienie nazwisk numerami wyłącza stosowanie RODO. Dane spseudonimizowane, które można ponownie powiązać z osobą, pozostają danymi osobowymi. W raporcie warto więc zapisać, jak oceniono możliwość identyfikacji, zamiast ograniczać się do deklaracji „dane są anonimowe”. (commission.europa.eu)

Jak sprawdzić narzędzia i dostawców AI?

Ocenę dostawcy oprzyj na dokumentach i sprawdzeniu konfiguracji przewidzianej dla firmy. Przygotuj zestaw pytań oraz wskaż, jaki materiał potwierdzi odpowiedź: umowa, dokumentacja techniczna, lista podwykonawców, ustawienie administracyjne lub wynik testu.

Rola dostawcy i warunki przetwarzania

Ustal, czy dostawca przetwarza dane osobowe w imieniu firmy, czy dla określonych operacji samodzielnie określa cele i sposoby przetwarzania. Jeżeli występuje jako podmiot przetwarzający, relacja wymaga odpowiedniej umowy. Sprawdź w niej między innymi poufność, dalsze powierzenie, pomoc przy realizacji praw osób, obsługę naruszeń oraz usunięcie lub zwrot danych po zakończeniu usługi. (edpb.europa.eu)

W raporcie nie poprzestawaj na zapisie „umowa dostępna”. Wskaż jej wersję, zakres usługi, podmiot będący stroną oraz nierozstrzygnięte kwestie. Każda istotna odpowiedź powinna mieć dowód albo status „do wyjaśnienia”.

Wykorzystanie danych, retencja i lokalizacja

Osobno zapytaj o wykorzystanie treści do rozwijania modeli, przechowywanie historii, logi bezpieczeństwa i dostęp personelu dostawcy. Nie uznawaj odpowiedzi „dane nie służą do treningu” za odpowiedź na wszystkie te pytania. Wymagaj określenia zasad dla konkretnego wariantu usługi oraz sposobu jej użycia.

Sprawdź również odbiorców i operacje mogące oznaczać przekazywanie danych poza Europejski Obszar Gospodarczy. Jeżeli taki transfer występuje, trzeba ustalić właściwy mechanizm prawny, na przykład odpowiednią decyzję stwierdzającą adekwatny stopień ochrony lub stosowne zabezpieczenia. Sama informacja o lokalizacji głównego serwera nie powinna zamykać tej części audytu. (edpb.europa.eu)

Zabezpieczenia możliwe do sprawdzenia

W części technicznej zaproponuj testy dostępu, odbierania uprawnień, rejestrowania zdarzeń i reagowania na incydenty. Dla asystenta połączonego z dokumentami firmowymi sprawdź na przykład, czy użytkownik jednego działu może uzyskać treści przeznaczone wyłącznie dla innego. Wynik testu będzie bardziej użyteczny decyzyjnie niż ogólna deklaracja „system jest bezpieczny”.

AI a RODO w firmie: jakie pytania powinny pojawić się w audycie?

Pierwsze pytanie dotyczy celu i podstawy prawnej przetwarzania danych osobowych. Nie zakładaj, że zgoda jest zawsze konieczna albo zawsze właściwa. Odpowiednią podstawę należy ustalić dla planowanych operacji i ich kontekstu. W audycie zapisz również, dlaczego do realizacji zadania potrzebny jest właśnie taki zakres danych. (edpb.europa.eu)

Kolejny obszar to możliwość realizacji obowiązków informacyjnych oraz praw osób. Sprawdź, czy firma potrafi ustalić, jakie dane dotyczące konkretnej osoby przetwarza rozwiązanie, i obsłużyć właściwe żądania. Jeżeli AI uczestniczy w podejmowaniu decyzji wywołujących skutki prawne lub podobnie istotnie wpływających na osobę, osobnej analizy wymagają zasady zautomatyzowanego podejmowania decyzji. (edpb.europa.eu)

Audyt powinien również zawierać ocenę, czy potrzebna jest ocena skutków dla ochrony danych, czyli DPIA. Nie jest ona obowiązkowa przy każdym użyciu AI. Jest wymagana, gdy planowane przetwarzanie z dużym prawdopodobieństwem może powodować wysokie ryzyko naruszenia praw lub wolności osób. UODO wskazuje na potrzebę wstępnej oceny tego ryzyka przed rozpoczęciem przetwarzania. W raporcie zapisz wynik analizy i jego uzasadnienie. (uodo.gov.pl)

Zgodność z AI Act w audycie: klasyfikuj zastosowanie i obowiązki

Nie zaczynaj od deklaracji „narzędzie jest zgodne z AI Act”. Najpierw ustal rolę firmy w danym projekcie. Korzystanie z gotowego rozwiązania nie zawsze wyczerpuje analizę: w określonych sytuacjach zmiana przeznaczenia, istotna modyfikacja lub oznaczenie systemu wysokiego ryzyka własną marką może oznaczać przejęcie obowiązków dostawcy. (ai-act-service-desk.ec.europa.eu)

W karcie zastosowania zapisz przeznaczenie systemu, wynik sprawdzenia praktyk zakazanych i uzasadnienie klasyfikacji ryzyka. Osobno oceń obowiązki przejrzystości, ponieważ mogą dotyczyć także systemów innych niż wysokiego ryzyka. AI Act przewiduje między innymi obowiązki związane z informowaniem o interakcji z AI i ujawnianiem określonych treści wygenerowanych lub zmanipulowanych przez AI, zależnie od roli podmiotu i zastosowania. (digital-strategy.ec.europa.eu)

Przy każdym obowiązku odnotuj właściwą datę stosowania. Według harmonogramu aktualnego na 12 listopada 2026 r. większość przepisów AI Act stosuje się od 2 sierpnia 2026 r., natomiast wymogi dla systemów wysokiego ryzyka z załącznika III będą stosowane od 2 grudnia 2027 r., a dla systemów objętych art. 6 ust. 1 i załącznikiem I — od 2 sierpnia 2028 r. Nie traktuj więc wszystkich obowiązków jako jednego pakietu z jedną datą. (ai-act-service-desk.ec.europa.eu)

Pełniejsze omówienie regulacji znajdziesz w artykule AI Act w Polsce: obowiązki firm i terminy. W raporcie audytowym skoncentruj się natomiast na tym, które obowiązki dotyczą analizowanego procesu, kto je realizuje i jak potwierdzi ich spełnienie.

Co powiedzieć zespołowi o zasadach korzystania z AI?

Z ustaleń audytu przygotuj krótką instrukcję operacyjną: jakie zastosowania zatwierdzono, kto przyznaje dostęp, kto akceptuje nowe integracje i komu zgłasza się nieprawidłowości. Zamiast samego zakazu przekazywania określonych informacji wskaż zatwierdzoną ścieżkę wykonania zadania oraz osobę, która rozstrzyga wątpliwości.

Uwzględnij rozwijanie kompetencji osób korzystających z AI. Komisja Europejska wyjaśnia, że obowiązek dotyczący kompetencji w zakresie AI nie wymaga konkretnego certyfikatu, a działania można dokumentować wewnętrznym rejestrem szkoleń i innych inicjatyw. Na potrzeby audytu zachowaj zakres instruktażu, datę i informację, jakie role nim objęto. (digital-strategy.ec.europa.eu)

Jak udokumentować ustalenia audytu bezpieczeństwa AI?

Proponowany zapis ustalenia powinien pozwalać przejść od obserwacji do działania. Dla każdego istotnego ryzyka zastosuj następującą strukturę:

  1. Zakres: proces, narzędzie, wariant usługi, integracje i kategorie danych.
  2. Kryterium oceny: warunek, który trzeba spełnić, oraz podstawa jego przyjęcia.
  3. Dowód i ustalenie: dokument, konfiguracja lub test oraz opis potwierdzonego stanu.
  4. Ryzyko i luka: możliwe skutki, istniejące zabezpieczenia i brakujące informacje.
  5. Działanie naprawcze: zadanie, osoba odpowiedzialna, termin i sposób sprawdzenia wykonania.
  6. Decyzja: zgoda na określony zakres, pilotaż warunkowy albo wstrzymanie zastosowania wraz z uzasadnieniem.

Braku dowodu nie oznaczaj jako spełnionego wymagania. W proponowanej metodzie „nie ustalono okresu przechowywania danych” jest otwartą kwestią wymagającą wyjaśnienia. Rozdziel też przeszkody prawne od ryzyk operacyjnych: decyzja biznesowa o akceptacji ryzyka nie powinna zastępować ustalenia, czy przetwarzanie jest dopuszczalne.

Przykładowy zapis może brzmieć: „Asystent ma analizować dokumenty ofertowe. Nie potwierdzono, czy respektuje uprawnienia użytkowników. Przed podłączeniem rzeczywistych dokumentów administrator przeprowadzi test dostępu na danych testowych. Rozszerzenie pilotażu wymaga zatwierdzenia wyniku przez właściciela procesu”.

Sposób połączenia takich ustaleń z harmonogramem i priorytetami opisujemy w artykule Raport z audytu AI: co zawiera i jak przełożyć go na plan wdrożenia.

Jak chronić dane w AI podczas pierwszego wdrożenia?

Na pierwszy pilotaż wybierz ograniczony zakres: jeden proces, wskazaną grupę użytkowników i kontrolowany zbiór danych. Tam, gdzie to możliwe, rozpocznij testy na danych syntetycznych lub odpowiednio przygotowanych materiałach testowych. Przed startem określ kryteria przerwania próby, sposób wyłączenia integracji oraz osobę uprawnioną do podjęcia tej decyzji.

Po uruchomieniu zaplanuj przegląd zdarzeń, zmian konfiguracji i aktualizacji rozwiązania. Bezpieczne utrzymanie systemu AI obejmuje bowiem także monitorowanie oraz zarządzanie zmianami, a nie tylko kontrolę przed wdrożeniem. W raporcie audytowym warto wskazać termin ponownej oceny i sytuacje, które ją przyspieszą. (ncsc.gov.uk)

Kiedy potrzebna jest konsultacja z prawnikiem lub inspektorem ochrony danych?

Skieruj do konsultacji nierozstrzygnięte kwestie dotyczące podstawy prawnej, szczególnych kategorii danych, transferów poza EOG, automatycznych decyzji dotyczących ludzi lub klasyfikacji zastosowania według AI Act. Przekaż opis procesu i dokumenty dostawcy, nie samo pytanie „czy AI jest zgodne z prawem”. Tak przygotowana konsultacja może zakończyć się konkretnymi warunkami wdrożenia.

Jeżeli firma ma wyznaczonego inspektora ochrony danych, włącz go odpowiednio wcześnie w sprawy dotyczące ochrony danych osobowych. Przy DPIA odpowiedzialność za przeprowadzenie oceny pozostaje po stronie administratora; UODO podkreśla, że nie można scedować tego obowiązku na inspektora, choć należy się z nim skonsultować. (uodo.gov.pl)

Najważniejsze wnioski z audytu bezpieczeństwa danych w AI

Do podjęcia decyzji o wdrożeniu wykorzystaj przede wszystkim następujące wnioski:

  • Oceniaj konkretny proces, zakres danych i konfigurację, a nie samą nazwę narzędzia.
  • Wymagaj dowodów potwierdzających odpowiedzi dostawcy i wyniki kontroli technicznych.
  • Oddzielaj ustalenia dotyczące RODO od klasyfikacji i obowiązków wynikających z AI Act.
  • Każdej luce przypisz działanie, właściciela, termin oraz sposób potwierdzenia jej usunięcia.
  • Wyznacz warunki rozpoczęcia, zatrzymania i rozszerzenia pilotażu.
  • Otwarte kwestie prawne rozstrzygaj przed dopuszczeniem objętego nimi przetwarzania.

Podsumowanie

Dobry audyt bezpieczeństwa danych w AI kończy się uzasadnioną decyzją, a nie ogólną deklaracją zgodności. Powinien wskazać, co można uruchomić, jakie warunki trzeba wcześniej spełnić i które zastosowania wymagają dalszej analizy. Zacznij od jednego procesu i sprawdzalnych kryteriów — dzięki temu łatwiej połączysz korzyści z AI z odpowiedzialnością za dane.

Więcej zagadnień związanych z prawną stroną wdrożeń znajdziesz w kategorii AI i prawo. Ten materiał pomaga przygotować zakres audytu; nie zastępuje indywidualnej oceny prawnej konkretnego wdrożenia.

Ilustracja editorialowa przedstawiająca audyt bezpieczeństwa danych i zgodność systemu AI z regulacjami, z kobietą analizującą checklistę na laptopie. W centrum kompozycji znajduje się świecąca cyfrowa głowa z tarczą i kłódką, a w tle widać flagę Unii Europejskiej, wagę sprawiedliwości, barierę ostrzegawczą oraz fizyczną kłódkę. Chłodna niebieska kolorystyka z zielonymi znacznikami wyboru i realistycznym, technologicznym stylem podkreśla kontrolę ryzyka, prywatność i audyt przed wdrożeniem AI; grafika nadaje się do artykułu eksperckiego lub materiałów edukacyjnych.
Masz pytania?

Napisz do nas

Wypełnij formularz, a nasz konsultant skontaktuje się z Tobą w ciągu 24 godzin.

Sprawdźmy razem, ile możesz zyskać

Pomożemy dobrać odpowiednie dofinansowanie, przygotować wniosek i skompletować potrzebne dokumenty. Sprawdź nasze szkolenia z AI i dowiedz się, jak bezpiecznie wykorzystać sztuczną inteligencję w codziennej pracy.