Jak korzystać z AI, nie tracąc kontroli nad danymi i odpowiedzialnością.
ŁS
Łukasz Sobiecki DC9 Cyber · specjalista ds. cyberbezpieczeństwa
Wersja interaktywna · 2026
Plan na dziś
60 minut — siedem przystanków
0–8'
Czym jest (i nie jest) AI
Wprowadzenie bez żargonu
8–16'
Skala zagrożenia
Liczby z raportu CERT Polska 2025
16–34'
Trzy główne ryzyka
Wyciek danych · oszustwa wsparte AI · Shadow AI — z ćwiczeniem
34–42'
Mity i fakty
Najczęstsze złudzenia, które kosztują najwięcej
42–50'
Odpowiedzialność kierownictwa
RODO, KSC/NIS2, AI Act — co naprawdę spoczywa na dyrektorze
50–58'
Jak poprawnie zamawiać usługi IT i AI
Na przykładzie wdrożenia lokalnych modeli — z ćwiczeniem
58–60'
Podsumowanie i pytania
Cztery historie, jedno zdanie do zapamiętania
Część pierwsza
Czym właściwie jest sztuczna inteligencja?
Zanim ocenimy ryzyko, ustalmy wspólny język. Bez magii i bez science-fiction.
01
Bez żargonu
AI w jednym zdaniu
Dzisiejsza „sztuczna inteligencja" (jak ChatGPT czy Copilot) to system, który nauczył się przewidywać, jakie słowo powinno paść następne. Nie rozumie treści — bardzo dobrze ją naśladuje.
🎯
Co potrafi świetnie
Pisać, streszczać, tłumaczyć, generować obraz, głos i wideo — szybko i przekonująco.
⚠️
Czego nie potrafi
Nie wie, co jest prawdą. Potrafi pewnie podać błędną informację („halucynacja").
🔑
Dlaczego to ważne
Skoro AI tak dobrze naśladuje człowieka, równie dobrze posłuży do oszustwa, jak do pracy.
Stan faktyczny
To już jest w Państwa urzędzie
Narzędzia AI są dostępne z każdej przeglądarki, często za darmo, bez instalacji. Pracownicy używają ich, by pracować szybciej — z wiedzą przełożonych lub bez.
0 zł
tyle kosztuje uruchomienie narzędzia AI bez pytania kogokolwiek o zgodę
~30 s
tyle zajmuje wklejenie poufnego dokumentu do chatbota
∞
tyle trwa skutek, gdy dane raz wyciekną poza urząd
Część druga
Skala zagrożenia w liczbach
Dane z raportu rocznego CERT Polska za 2025 rok. To nie prognozy — to się już wydarzyło.
02
Raport CERT Polska 2025
Rok rekordów — i to złych
260 783
zarejestrowane incydenty cyberbezpieczeństwa w 2025 r.
+152%
wzrost rok do roku
~714
zarejestrowanych incydentów średnio każdego dnia
Źródło: Raport Roczny CERT Polska 2025 (NASK), opublikowany w 2026 r. Dla porządku: ~714 to przeliczenie 260 783 incydentów na dzień; liczba ok. 1 800–1 900 dziennie dotyczy wszystkich zgłoszeń, nie zarejestrowanych unikalnych incydentów.
Co dominuje
Atakują głównie człowieka, nie maszynę
🎣
97%
incydentów to oszustwa komputerowe — wymierzone w ludzi, nie w luki techniczne
📧
~78 tys.
incydentów phishingu (30% wszystkich) — wyłudzanie loginów, haseł, danych
🔒
179
ataków ransomware — szyfrowanie danych dla okupu
🏛️
30
z tych ataków ransomware dotknęło instytucje publiczne
Źródło: Raport Roczny CERT Polska 2025 (NASK). Ransomware: 179 ataków wobec 147 w 2024 r.
Nowy element
AI nie wymyśla nowych ataków — ulepsza stare
Kiedyś rozpoznawalny
Łamana polszczyzna, literówki, dziwna składnia
Ogólne „Drogi Kliencie", brak kontekstu
Podejrzany ton, oczywiste niedopasowanie
Głos i twarz = wiarygodny dowód tożsamości
Dziś z pomocą AI
Bezbłędna, naturalna polszczyzna
Spersonalizowane, z prawidłowym kontekstem sprawy
Profesjonalny ton nie do odróżnienia od prawdziwego
Głos klonowany z kilku sekund, wideo generowane
Część trzecia
Trzy główne ryzyka — i jak się bronić
Wyciek danych · Oszustwa wsparte AI · Shadow AI. Każde ryzyko pokażę na krótkiej historii.
03
Mapa zagrożeń · kliknij każdą kartę
Trzy rzeczy, które mogą pójść źle
01
Wyciek danych
Poufne treści trafiają do cudzego systemu.
kliknij →
Co się dzieje
Pracownik wkleja akta, dane stron, projekt orzeczenia do darmowego chatbota. Dane mogą zostać zapisane na serwerach dostawcy i użyte do trenowania modelu. Nie da się ich już cofnąć.
02
Oszustwa wsparte AI
Phishing i deepfake jak nigdy dotąd.
kliknij →
Co się dzieje
AI pisze bezbłędne maile podszywające się pod przełożonego. Klonuje głos w kilkanaście sekund i podrabia wideo. „Telefon od dyrektora" może być w całości wygenerowany.
03
Shadow AI
Narzędzia używane poza kontrolą.
kliknij →
Co się dzieje
Aplikacje używane bez wiedzy IT i kierownictwa. Nikt nie wie, jakie dane tam trafiają ani gdzie są przechowywane. Brak rejestru = brak kontroli = brak rozliczalności.
Ryzyko 01 · poufność
Historia pierwsza
Pracownik chce szybciej przygotować uzasadnienie. Wkleja fragment akt z danymi stron do darmowego chatbota, prosząc o „uporządkowanie".
→Dane opuściły urząd w 30 sekund. Tego nie da się cofnąć.
Ryzyko 01 · poufność
„Wkleiłem tylko, żeby poprawić styl"
✕ Czego nie wolno wklejać
Dane osobowe stron i uczestników postępowań
Treść akt, pism procesowych, projektów orzeczeń
Dane kadrowe i płacowe pracowników
Hasła, klucze, dane logowania
Cokolwiek objętego tajemnicą prawnie chronioną
✓ Bezpieczna zasada
Zakładaj, że wszystko wklejone może stać się publiczne
Daj pracownikom bezpieczną alternatywę, nie tylko zakaz
Ryzyko 02 · oszustwa
Historia druga
Księgowość odbiera telefon. Głos dyrektora — co do brzmienia — wydaje pilne polecenie zmiany numeru konta do przelewu. „To pilne, jestem na spotkaniu."
→Głos był sklonowany. Jedyna obrona: oddzwoń na znany numer.
Ryzyko 02 · oszustwa
Głos i twarz przestały być dowodem tożsamości
📞
Fałszywy telefon
„Dyrektor" prosi o pilną zmianę numeru konta. Głos brzmi znajomo.
Nagranie lub połączenie wideo z podrobionym wizerunkiem znanej osoby.
Obrona: potwierdzaj polecenia finansowe i nietypowe prośby drugim kanałem — oddzwoń na znany numer. Zawsze.
Ryzyko 03 · brak kontroli
Historia trzecia
Urząd zakazał korzystania z AI. Pracownicy, chcąc nadążyć z pracą, używają jej dalej — tyle że z prywatnych kont, na prywatnych telefonach.
→Zakaz bez alternatywy nie likwiduje ryzyka — ukrywa je.
Ryzyko 03 · brak kontroli
Czego nie widać, tym nie da się zarządzać
🔍
Brak widoczności
Nie wiadomo, ile narzędzi jest w użyciu, kto i do czego ich używa.
📂
Brak wiedzy o danych
Nie wiadomo, jakie dane tam trafiły ani gdzie są przechowywane.
⚖️
Brak rozliczalności
Po incydencie nie da się ustalić zakresu wycieku — a odpowiedzialność spada na urząd.
🚪
Brak granic
Konta zwykle prywatne — zostają aktywne po odejściu pracownika.
Ćwiczenie 1 · co byś zrobił/a?
Telefon, którego się nie spodziewasz
Dzwoni „wicedyrektor" — głos się zgadza — i prosi o natychmiastowe przesłanie zeskanowanych akt na prywatny e-mail, bo „jest poza biurem i to pilne". Twoja reakcja?
Część czwarta
Mity, które kosztują najwięcej
Najgroźniejsze nie są ataki, których się boimy — tylko założenia, w które wierzymy.
04
Rozprawmy się z mitami · kliknij, by odsłonić
„Przecież u nas to nie zadziała"
„Jesteśmy za mali, żeby ktoś nas atakował."mit
Ataki są w większości automatyczne i masowe — nie wybierają ofiar. 30 ataków ransomware w 2025 r. dotknęło właśnie instytucje publiczne.
„Phishing zawsze poznam po błędach językowych."mit
To już nieaktualne. AI pisze bezbłędną, naturalną polszczyznę, dopasowaną do kontekstu. Wzrokowe rozpoznawanie oszustwa przestało wystarczać.
„AI zawsze podaje prawdę — to przecież komputer."mit
AI przewiduje prawdopodobną odpowiedź, nie weryfikuje prawdy. Potrafi z pełnym przekonaniem podać zmyślone fakty, przepisy czy sygnatury.
„Model lokalny = dane na pewno zostają u nas."mit
Sam model może działać lokalnie, ale aplikacja wokół niego może wysyłać telemetrię, logi, dokumenty do zewnętrznego OCR czy zapytania do API. Liczy się konfiguracja całego systemu.
„To sprawa informatyków, nie moja."mit
Technologię wdraża IT, ale zasady i odpowiedzialność za ryzyko spoczywają na kierownictwie — wprost wskazują na to NIS2/KSC oraz AI Act.
Część piąta
Dlaczego to sprawa dyrektora
Bezpieczeństwo informacji to nie zadanie techniczne. To decyzja zarządcza — z konkretnymi ramami prawnymi.
05
Perspektywa kierownictwa
Cztery ramy, które Was dotyczą
📜
RODO
Przekazanie danych osobowych do niezatwierdzonego narzędzia AI może być naruszeniem — wymaga analizy ryzyka, udokumentowania, a w określonych przypadkach zgłoszenia do UODO.
🛡️
KSC / NIS2
W podmiotach objętych znowelizowaną ustawą (od 3.04.2026) kierownik odpowiada osobiście za realizację zadań z zakresu cyberbezpieczeństwa.
🎓
AI Act
Organizacja powinna zapewnić osobom korzystającym z AI odpowiedni poziom wiedzy i świadomości ryzyka (AI literacy — obowiązuje od 2.02.2025).
👤
Nadzór
Niezależnie od kwalifikacji w KSC, dyrektor odpowiada za organizację pracy, zasady korzystania z narzędzi i zarządzanie ryzykiem jednostki.
Nie każdy sąd automatycznie jest „podmiotem kluczowym/ważnym" w rozumieniu KSC — status jednostki należy ustalić. Kary z nowelizacji KSC mogą być nakładane po 2-letniej karencji (od 3.04.2028).
Sedno
AI nie usuwa odpowiedzialności człowieka. Przyspiesza wykonanie zadania, ale nie przejmuje odpowiedzialności za dane, decyzję ani jej skutki.
Część szósta
Jak poprawnie zamawiać usługi IT i AI
Na przykładzie zlecenia konfiguracji lokalnych modeli i aplikacji do ich obsługi. Czego wymagać, na co uważać.
06
Punkt wyjścia
„Lokalny model" — co to znaczy i po co
Model lokalny działa na infrastrukturze organizacji i może umożliwić przetwarzanie danych bez przekazywania ich do zewnętrznego dostawcy — pod warunkiem prawidłowej konfiguracji całego rozwiązania.
🔒
Zaleta
Przy dobrej konfiguracji dane mogą zostać u Was — pełna kontrola nad tym, gdzie trafiają.
🧩
Haczyk
Sam model lokalny nie wystarczy. Aplikacja wokół niego może wysyłać telemetrię, logi, dokumenty do OCR czy zapytania do API.
📋
Wniosek
Nie kupujemy samego modelu. Kupujemy cały system: aplikację, model, bazę dokumentów, konta, sieć, logi, aktualizacje i utrzymanie.
Zanim podpiszesz zlecenie
Siedem zasad dobrego zamówienia
1
Opisz CEL i wymagania, nie technologię
„Chcemy narzędzie do streszczania pism bez przekazywania danych poza naszą infrastrukturę" — nie „postaw nam konkretny program". Cel i wymóg bezpieczeństwa pozwalają rozliczyć wykonawcę.
2
Określ dozwolone miejsca przetwarzania danych
Wskaż, gdzie dane mogą być przetwarzane, i zabroń przekazywania ich poza wskazaną infrastrukturę bez Waszej zgody. Połączenia wychodzące mają być znane, ograniczone, monitorowane i udokumentowane.
3
Wymagaj dokumentacji i przekazania wiedzy
Co zainstalowano, gdzie, jak się aktualizuje, jak włączyć/wyłączyć. Bez tego jesteście zakładnikiem jednego wykonawcy.
4
Ustal, kto ma dostęp i hasła
Konta administracyjne, klucze i hasła muszą należeć do urzędu — nie do prywatnego konta wykonawcy. Zażądaj ich przekazania na koniec.
5
Zaplanuj ODBIÓR i kryteria akceptacji
Zdefiniuj, co znaczy „zrobione": lista funkcji, test bezpieczeństwa, potwierdzenie braku niekontrolowanego wycieku danych. Powiąż płatności z odbiorem mierzalnych etapów.
6
Zabezpiecz utrzymanie po wdrożeniu
Kto aktualizuje system? Co przy awarii? Czy konta wykonawcy zostaną odebrane? Brak tego = system staje się luką po kilku miesiącach.
7
Sprawdź zgodność z RODO, KSC i AI Act
Umowa powierzenia danych, lokalizacja przetwarzania, zgodność z polityką bezpieczeństwa. Włącz IOD i osobę od bezpieczeństwa już na etapie zamówienia.
Czego nie ignorować
Sygnały ostrzegawcze u wykonawcy
✕„Proszę się nie martwić szczegółami, my się tym zajmiemy" — brak gotowości do wyjaśnienia, co i gdzie instaluje.
✕„Dokumenty lecą do zewnętrznego OCR, ale to bezpieczne" — przy zleceniu, którego celem było, by dane NIE opuszczały urzędu.
✕„Dokumentacja? Wszystko mam w głowie" — brak dokumentacji uzależnia Was od jednej osoby.
✕„Zostawię to na moim koncie, tak będzie wygodniej" — konta i hasła muszą należeć do urzędu.
✕„Zapłaćcie całość z góry, potem skonfiguruję" — płatność przed odbiorem i testami to oddanie kontroli.
✕„Po wdrożeniu to już nie moja sprawa" — brak ustaleń o aktualizacjach i awariach = przyszła luka.
Przykład z życia
Historia czwarta
Urząd zamówił „lokalny model". Wszystko działa na własnym serwerze — ale aplikacja, by odczytać skany pism, wysyła je do zewnętrznej usługi OCR w chmurze.
→„Lokalny" na papierze ≠ bezpieczny w praktyce. Odbieraj cały system.
Ćwiczenie 2 · którą ofertę wybierasz?
Trzy oferty na lokalny model AI
Dostajecie oferty na wdrożenie lokalnego modelu do streszczania pism. Którą wybieracie?
Przy każdym zleceniu IT/AI · odhacz
Zanim podpiszesz — sprawdź
Cel i wymagania bezpieczeństwa opisane jasno — nie nazwą technologii.
Określone dozwolone miejsca przetwarzania danych (potwierdzone i weryfikowalne).
Dokumentacja + przekazanie wiedzy w zakresie zlecenia.
Konta i hasła administracyjne należą do urzędu.
Kryteria odbioru i testy — płatności powiązane z etapami.
Ustalone utrzymanie: aktualizacje, awarie, wsparcie po wdrożeniu.
Zgodność z RODO/KSC/AI Act — umowa powierzenia, udział IOD.
Wykonawca nie zniknie z jedyną kopią wiedzy o systemie.
Cztery historie, cztery zasady
Z czym wychodzimy z tej sali
📄
Wklejony dokument
Weryfikuj dane — zanim coś wkleisz, sprawdź, dokąd trafia.
📞
Telefon głosem dyrektora
Potwierdzaj drugim kanałem — oddzwoń na znany numer.
🕶️
Zakaz i prywatne konta
Daj bezpieczną alternatywę — nie sam zakaz.
⚙️
Pozorny „lokalny" model
Zamawiaj rezultat i wymagania bezpieczeństwa — nie nazwę produktu.
Na koniec
AI przyspiesza pracę. Odpowiedzialności nie przejmuje.
Nie chodzi o zakaz technologii — chodzi o świadome jej używanie i mądre zamawianie. Najsłabszym i zarazem najsilniejszym ogniwem jest człowiek przy biurku.