AI Act: monitoring pracowników i sztuczna inteligencja

Sztuczna inteligencja i monitoring pracowników: człowiek-maszyna?

Choć w powszechnej świadomości AI dopiero niedawno opuściła sferę science-fiction (głównie za sprawą rozwoju generatywnej sztucznej inteligencji – generative AI), rozwiązania oparte na uczeniu maszynowym (sztucznej inteligencji) stosuje się w technice od kilku dekad. Dotyczy to zwłaszcza wysoko zautomatyzowanej produkcji przemysłowej – narzędzia AI wykorzystywane są do monitorowania procesów produkcyjnych (np. działania maszyn).

Wraz z rozwojem technologicznym zastosowanie AI rozszerza się. Przetwarzanie danych innych niż ilościowe, analiza tekstu i obrazu pozwalają na wykorzystanie sztucznej inteligencji dla śledzenia procesów biznesowych poza monitoringiem infrastruktury produkcyjnej. Jako przykład można wskazać wejście AI do zarządzania zasobami ludzkimi, czyli w praktyce – monitorowanie pracowników za pomocą sztucznej inteligencji. Bez wątpienia, oddanie oceny pracy personelu przedsiębiorstwa zautonomizowanemu, a przy tym nierzadko zawodnemu algorytmowi opartemu na uczeniu maszynowym budzi zrozumiałe obawy pracowników. Zagadnienia wpływu AI na środowisko pracy już poruszyliśmy na naszym blogu (tutaj).

Problemy te zostały dostrzeżone przez unijnego prawodawcę, który uwzględnił je w pierwszym akcie prawa Unii Europejskiej regulującym materię sztucznej inteligencji – AI Act.

AI Act: monitoring pracowników jako system wysokiego ryzyka

AI Act to zwyczajowa nazwa rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji). Stanowi on jedną z pierwszych na świecie prób prawnego uregulowania zasad, jakim ma podlegać rozwój AI – także w obszarze stosunków zatrudnienia. Daty rozpoczęcia stosowania tego rozporządzenia zostały określone w stosunku do poszczególnych jego przepisów na lata 2025–2027.

Wśród narzędzi opartych na sztucznej inteligencji prawodawca unijny wyodrębnił systemy wysokiego ryzyka, do których zaliczył systemy AI wykorzystywane do monitorowania pracowników. Uzasadnienie dla takiej decyzji znajdujemy w motywie 57 AI Act:

„Systemy AI wykorzystywane w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia, w szczególności do rekrutacji i wyboru kandydatów, do podejmowania decyzji mających wpływ na warunki stosunków pracy, decyzji o awansie i rozwiązaniu umownego stosunku pracy, do spersonalizowanego przydzielania zadań w oparciu o indywidualne zachowania, cechy osobowości lub charakter i do monitorowania lub oceny osób pozostających w umownych stosunkach pracy, należy również zaklasyfikować jako systemy wysokiego ryzyka, ponieważ systemy te mogą w znacznym stopniu wpływać na przyszłe perspektywy zawodowe, źródła utrzymania tych osób i prawa pracownicze”.

Ryzyko dla pracowników poddanych monitoringowi AI ma z kolei polegać na utrwaleniu poprzez uczenie maszynowe właściwych ludziom uprzedzeń, co wpływałoby na brak obiektywizmu oceny pracownika:

„W całym procesie rekrutacji oraz w ramach oceniania, awansowania lub utrzymywania na stanowisku osób pozostających w umownych stosunkach pracy systemy takie mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet, niektórych grup wiekowych, osób z niepełnosprawnościami lub osób o określonym pochodzeniu rasowym lub etnicznym lub o określonej orientacji seksualnej”.

Z tego względu załącznik III do AI Act do systemów wysokiego ryzyka zalicza także narzędzia stosowane w obszarze „zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia”:

• systemy AI przeznaczone do wykorzystywania do celów rekrutacji lub wyboru osób fizycznych, w szczególności do celów umieszczania ukierunkowanych ogłoszeń o pracę, analizowania i filtrowania podań o pracę oraz do oceny kandydatów;
• systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji wpływających na warunki stosunków pracy, decyzji o awansie lub rozwiązaniu umownego stosunku pracy, przydzielania zadań w oparciu o indywidualne zachowanie lub cechy osobowości lub charakter lub do monitorowania lub oceny wydajności i zachowania osób pozostających w takich stosunkach.

Monitoring pracowników przez AI: obowiązki pracodawcy

Praktycznym skutkiem decyzji pracodawcy o wdrożeniu w organizacji sztucznej inteligencji w celu monitorowania pracowników jest powstanie po stronie pracodawcy obowiązku informacyjnego i konsultacyjnego względem pracowników lub ich przedstawicieli. Na zakres takiego obowiązku wskazuje art. 26 ust. 7 AI Act:

„Przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka w miejscu pracy podmioty stosujące będące pracodawcami informują przedstawicieli pracowników i pracowników, których to dotyczy, że będzie w stosunku do nich wykorzystywany system AI wysokiego ryzyka. Informacje te przekazuje się, w stosownych przypadkach, zgodnie z zasadami i procedurami ustanowionymi w prawie Unii i prawie krajowym oraz praktyką w zakresie informowania pracowników i ich przedstawicieli”.

Podobnie jak w przypadku innych rozwiązań AI – systemów wysokiego ryzyka – AI Act nakłada na pracodawcę stosującego AI do monitoringu pracowników obowiązek zapewnienia nadzoru ludzkiego (art. 26 ust. 2) oraz przeprowadzenia analizy ryzyka dla praw podstawowych (AI Act wskazuje kryteria tej oceny; przypomina to „ocenę skutków przetwarzania” znaną z RODO).

Warto przy tym zwrócić uwagę na cel realizacji takiego obowiązku. Zgodnie z motywem 92 AI Act „takie prawo do informacji ma charakter pomocniczy i konieczny w stosunku do leżącego u podstaw niniejszego rozporządzenia celu, jakim jest ochrona praw podstawowych”. Oznacza to, że przy projektowaniu i wdrażaniu narzędzi AI w zakładzie pracy należy uwzględniać szerszy kontekst praw podstawowych (np. prawa do prywatności). Jak łatwo dostrzec, wdrożenie systemów AI w obszarze monitorowania pracowników to kolejna sfera, w której niezbędne jest zgodne z prawem i efektywne ułożenie relacji pracodawcy ze związkami zawodowymi (piszemy o tym w tekście opublikowanym na lexplorers.pl: tutaj).

Regulacyjne konteksty monitoringu: AI Act, RODO, praca platformowa

Monitorowanie pracowników przy pomocy sztucznej inteligencji należy do zagadnień o społecznej doniosłości. Nieprzypadkowo zatem zachodzi tutaj zbieg szeregu unijnych regulacji, które miały ograniczyć i zabezpieczyć prawa podstawowe w dobie postępującej automatyzacji. Pokrewne przepisy zawierają bowiem zarówno RODO (profilowanie), jak i dyrektywa o pracy platformowej (piszemy o tym więcej tutaj).

Co istotne, obowiązku konsultacji z przedstawicielami pracowników nie należy traktować tylko jako kolejnego czysto biurokratycznego wymogu – rosnąca wrażliwość na punkcie prywatności sprawia, że prawidłowe (pozbawione inwigilacyjnej agresywności) wdrożenie AI Act w organizacji będzie miało znaczenie w firmowych strategiach employer branding.