Firmy korzystające z systemów AI muszą od 2 lutego 2025 r. podejmować środki w celu zapewnienia odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu. W pierwszej kolejności warto sprawdzić jakie obowiązki wynikają z AI Act dla tych firm, które korzystają z AI w sprawach pracowniczych.
Założenia AI Act
AI Act reguluje przede wszystkim korzystanie z systemów, które zostały ocenione jako stwarzające wysokie ryzyko dla funkcjonowania społeczeństwa. Wśród systemów wysokiego ryzyka są te systemy AI, które są wykorzystywanie w sprawach związanych z zatrudnieniem. AI Act w szczególny sposób reguluje takie systemy AI, ponieważ mogą one w znacznym stopniu wpływać na przyszłe perspektywy zawodowe, źródła utrzymania tych osób i prawa pracownicze.
Kiedy firma podlega wymogom AI Act?
Firmy zatrudniające personel są w większości sytuacji kwalifikowane jako podmioty stosujące (deployers) w rozumieniu AI Act. Niemniej, jeżeli dana firma wprowadzi istotną zmianę do systemu AI albo zmodyfikuje cel wykorzystania takiego systemu, wtedy taki podmiot może zostać zakwalifikowany jako dostawca w rozumieniu AI Act.
Wśród systemów, które w szczególności mogą być uznane za systemy AI wysokiego ryzyka należy wyróżnić:
1) systemy do kierowania ukierunkowanych ogłoszeń o pracę, przeszukiwania lub filtrowania aplikacji oraz oceny kandydatów;
2) systemy używane do przydzielania zadań na podstawie indywidualnego zachowania, cech osobowych lub charakterystyki.
Obowiązki firm korzystających z narzędzi AI w HR
Wśród obowiązków firm korzystających z ww. narzędzi należy wyróżnić:
1) Podejmowanie odpowiednich środków technicznych i organizacyjnych w celu zapewnienia, aby systemy były wykorzystywane zgodnie z dołączoną do dokumentacją;
2) Sprawowanie nadzoru nad takim systemem powinno być powierzone osobom, które mają niezbędne kompetencje, przeszkolenie i uprawnienia;
3) Sprawowanie kontroli nad danymi wprowadzanymi do systemu AI pod kątem ich adekwatności i reprezentatywności jako danych wejściowych;
4) Przechowywanie logów zdarzeń generowanych przez system AI.
Ponadto, przed rozpoczęciem korzystania z takiego systemu AI firma musi w odpowiedni sposób poinformować personel, że będzie wobec niego wykorzystywany system AI.
Podsumowanie
Korzystanie z systemów ewaluacji kandydatów staje się coraz bardziej powszechne. Coraz częściej te systemy zawierają komponenty AI umożliwiając tym samym zasadniczo bardziej precyzyjną ocenę kandydata. Korzystanie z takich systemów oznacza jednocześnie podleganie wymogom AI Act. W związku z tym warto zapewnić zgodność z regulacjami jak najszybciej – nie czekając na pełne wejście w życie AI Act w 2026 r.
W przypadku pytań lub wątpliwości – zachęcam do kontaktu: piotr.mijal@prawo-it.pl
