Sztuczna inteligencja towarzyszy nam nie tylko wtedy, gdy wpisujemy pytanie do chatbota. Bywa też niewidocznym elementem narzędzi i usług, z których korzystamy na co dzień. Pomaga zdobywać informacje, wspiera diagnostykę medyczną, ale może również służyć do tworzenia treści wprowadzających użytkowników w błąd. O tym, jak ograniczać związane z nią zagrożenia, porozmawiają we Wrocławiu praktycy, badacze i przedstawiciele różnych profesji.
Dobry moment na rozmowy o AI i bezpieczeństwie
Wrocław AI Team wraca do tematu, któremu poświęcił już spotkanie w marcu 2026 roku. Jak wyjaśnia Bartłomiej Karaban z WAIT, bezpieczeństwo sztucznej inteligencji obejmuje znacznie więcej niż ochronę przed cyberatakami.
Temat jest ciekawy, ważny i staje się bardzo pilny, dlatego po raz kolejny do niego wracamy. We Wrocławiu mamy na wyciągnięcie ręki osoby, które mogą o tym z pasją opowiedzieć. Korzystajmy z tego.Bartłomiej Karaban
W programie wydarzenia znajdą się m.in. konsekwencje nieumiejętnego korzystania z agentów AI przy tworzeniu oprogramowania oraz maszynowe oduczanie, czyli usuwanie z modeli informacji zdobytych podczas treningu.
Czy AI może „zapomnieć o mnie”?
Okazuje się, że usunięcie informacji z modelu nie jest tak proste jak skasowanie pliku. Marek Klonowski, prowadzący grupę badawczą w Katedrze Sztucznej Inteligencji Politechniki Wrocławskiej, zwraca uwagę zarówno na trudności techniczne, jak i na problem sprawdzenia efektów takiej operacji.
Niestety, sprawa oduczania modeli AI jest znacznie bardziej skomplikowana w zdecydowanej większości przypadków. Przede wszystkim dlatego, że nie do końca wiemy, jak maszyny się „uczą” i jak zapamiętują pewne informacje, które były użyte w trakcie treningu. Co więcej, takie oduczanie modelu może być bardzo kosztowne. Nawet gdy dane zostaną skutecznie usunięte, trudno jest to sprawdzić lub udowodnić. Tu pojawiają się problemy z pogranicza prawa i technologii.Marek Klonowski
Wrocławscy badacze zajmują się również identyfikacją biometryczną, wykrywaniem deepfake’ów i analizą głosu. Sprawdzają też, na ile duże modele językowe są podatne na manipulacje oraz czy można im zapobiegać. To zagadnienia istotne nie tylko dla inżynierów, lecz także dla osób zainteresowanych ochroną swojej prywatności i wiarygodnością treści dostępnych w sieci. Różnicę między tymi obszarami wyjaśnia Patryk Wielopolski z Fundacji AI Safety Poland.
– Te dziedziny się przenikają, ale to nie jest to samo. Cyberbezpieczeństwo zajmuje się głównie ochroną systemów przed ludźmi, którzy chcą je zaatakować. W bezpieczeństwie AI jest to tylko część obrazu, bo źródłem problemu może być sam system: model, który zachowuje się inaczej, niż zamierzali jego twórcy, albo potężne narzędzie, które trafia w niepowołane ręce - uważa Patryk Wielopolski.
Każdy użytkownik chatbota musi myśleć o bezpieczeństwie
Zdaniem Patryka Wielopolskiego są trzy obszary bezpieczeństwa AI: przeciwdziałanie utracie kontroli nad modelami, ograniczanie ich niepożądanego wykorzystania oraz badanie skutków gospodarczych, politycznych i kulturowych rozwoju tej technologii. Podkreśla przy tym, że problem dotyczy już dzisiejszych użytkowników chatbotów.
Każdy użytkownik styka się z pytaniem, na ile może ufać odpowiedziom modelu, który potrafi się pomylić z pełnym przekonaniem albo mówić nam to, co chcemy usłyszeć. Coraz więcej osób powierza tym narzędziom decyzje zawodowe, zdrowotne lub finansowe. Tymczasem modele, których używamy za kilka lat, będą dużo potężniejsze od dzisiejszych, a zabezpieczenia trzeba projektować teraz, zanim będą naprawdę potrzebne. Dlatego to nie jest temat laboratoryjny, tylko decyzje, które zapadają dziś i dotkną każdego z nas.Patryk Wielopolski
Rozwijają wiedzę i niezbędne kompetencje związane z AI
Fundacja AI Safety Poland chce rozwijać w Polsce wiedzę i kompetencje związane z bezpieczeństwem sztucznej inteligencji. Organizuje m.in. webinary AI Safety Poland Talks, spotkania Reading Clubu, warsztaty praktyczne oraz meetupy w kilku miastach, m.in. we współpracy z NASK, WAIT, AGH, UAM oraz Center for Credible AI.
– Nasz fundacja powstała z przekonania, że sztuczna inteligencja jest jedną z najbardziej przełomowych technologii w historii ludzkości i że Polska powinna aktywnie uczestniczyć w globalnym wysiłku na rzecz jej bezpiecznego rozwoju. Z naszych działań korzystają przede wszystkim studenci, naukowcy i inżynierowie, którzy chcą zająć się tym tematem i szukają punktu wejścia. Zależy nam jednak także na dotarciu do decydentów i szerszej publiczności – mówi Patryk Wielopolski.
Studenci uczą się myśleć jak atakujący
Bezpieczeństwem w sieci coraz bardziej interesują się również studenci.
Zainteresowanie cyberbezpieczeństwem wśród studentów jest bardzo duże. Widać to już podczas rekrutacji: cyberbezpieczeństwo na studiach pierwszego stopnia na Politechnice Wrocławskiej należy do kierunków z największą liczbą kandydatów na jedno miejsce. Myślę, że wpływają na to również doniesienia o cyberatakach, także tych z wykorzystaniem sztucznej inteligencji.Michał Bernacki z Koła Naukowego White Hats na Politechnice Wrocławskiej
White Hats pomaga przekuć to zainteresowanie w praktyczne umiejętności.
– Organizujemy Kurs Pentestera, czyli otwarty dla studentów Politechniki kurs trwający dwa semestry. Prowadzimy też „Bezpieczeństwo po godzinach” - cykl otwartych wykładów z ekspertami z branży. Angażujemy się również w wydarzenia takie jak ten meetup, bo chcemy, żeby wiedza o cyberbezpieczeństwie docierała także poza uczelnię – mówi Michał Bernacki.
Jednym ze sposobów nauki są zawody CTF. Uczestnicy szukają słabości w przygotowanych systemach i rozwiązują zadania, aby zdobyć tzw. flagę, czyli ukryty ciąg znaków potwierdzający rozwiązanie. Zadania mogą dotyczyć aplikacji internetowych, analizy programów alboy śladów pozostawionych w systemie. Podobnie zaczyna się prawdziwy atak na firmę: od znalezienia słabego punktu i sprawdzenia, dokąd można dzięki niemu dotrzeć.
– Dzięki temu możemy ćwiczyć sposób myślenia atakującego. Ta wiedza przydaje się później przy zabezpieczaniu systemów. Łatwiej dostrzec lukę, gdy rozumie się, jak ktoś mógłby ją wykorzystać – tłumaczy Michał Bernacki.
Wszystko odbywa się za zgodą organizatorów i w wyznaczonym środowisku.
Nie trzeba umieć programować, żeby wziąć udział w wydarzeniu
Organizatorzy uprzedzają, że początek spotkania będzie bardziej techniczny: pojawią się przykłady kodu i programistyczny żargon. Zapowiadają jednak również część przystępną dla osób spoza branży.
Spotkanie zakończymy panelem dyskusyjnym, w którym na bezpieczeństwo AI spojrzymy z trzech perspektyw: naukowca, programisty i prawnika. Jednak postaramy się, aby było zrozumiałe nie tylko dla ludzi z tych dziedzin.Bartłomiej Karaban
Zaplanowano także czas na nieformalne rozmowy przy pizzy. Najbliższe, 24. spotkanie WAIT „AI & Security”, odbędzie się we wtorek, 29 września 2026 roku. Aby wziąć w nim udział należy się zarejestrować na stronie wydarzenia.
WAIT planuje już kolejne meetupy: pod koniec października o AI w rekrutacji, a w listopadzie o sztucznej inteligencji i zdrowiu psychicznym. Organizatorzy zapowiadają, że oba spotkania będą miały silny komponent społeczny.
