Sztuczna-Inteligencja | Cyfrowa Polska Razem

Algorytm dziedziczy uprzedzenia po danych, na których się uczył

Wed, 22 Jul 2026 09:00:00 +0200

Partia Razem opisała mechanizm dziedziczenia uprzedzeń w stanowisku Rady Krajowej z 2 listopada 2021 roku i wyprowadziła z niego żądanie jawności kryteriów, uzgodnień ze związkami zawodowymi i kontroli instytucji (stanowisko ws. zarządzania algorytmicznego, 2021). Algorytm oceniający kandydatów do awansu uczy się bowiem na zapisie decyzji, które w danej firmie zapadały wcześniej. Jeżeli przez lata awansowali w niej głównie mężczyźni z dużych miast, model potraktuje tę prawidłowość jako kryterium sukcesu i zastosuje je wobec kolejnych roczników — konsekwentnie, na dużą skalę i bez świadomości, że cokolwiek powiela.

Statystyczna pamięć nierówności

Stanowisko z 2021 roku wymienia dyskryminację jako pierwsze z ryzyk zarządzania algorytmicznego: „Uprzedzenia rasowe, płciowe czy wobec orientacji seksualnych są często »wbudowane« w dane używane do trenowania algorytmów AI i wobec tego często automatycznie powielają wzorce dyskryminacyjne istniejące w społeczeństwie”. Dokument podaje też, gdzie ta mechanika uderza w konkretne osoby: niektóre grupy pracujących „mogą być dyskryminowane (np. brakiem przyjęcia do pracy, awansu) ze względu na swoje cechy”.

Usunięcie z danych rubryki „płeć” czy „pochodzenie” niewiele przy tym daje, bo model odnajduje te cechy okrężną drogą — przez zmienne zastępcze. Kod pocztowy, typ ukończonej szkoły, przerwy w historii zatrudnienia czy godziny aktywności potrafią łącznie zdradzić to samo, co usunięta rubryka, tyle że w formie, której nikt już nie rozpozna jako kryterium dyskryminującego. W efekcie system może obniżać oceny kobietom wracającym z urlopów rodzicielskich, formalnie nie wiedząc, że ocenia kobiety.

Problem pogłębia nieprzejrzystość samych systemów. Jak czytamy w stanowisku, „zautomatyzowane decyzje np. co do obciążenia pracą, oceny pracy, wynagrodzenia, awansu, są podejmowane według kryteriów, które są niejasne dla osób pracujących” — a decyzji algorytmu, traktowanego przez zarządzających jako obiektywny i nieomylny, w praktyce nie negocjuje się z załogą. Osoba pominięta przy awansie przez model nie ma więc nawet tego, co miała wobec uprzedzonego przełożonego: możliwości zapytania o powód i zakwestionowania go.

Testy Agencji Praw Podstawowych

Empirycznych dowodów, że uprzedzenia w modelach są zjawiskiem mierzalnym, dostarcza Agencja Praw Podstawowych Unii Europejskiej. Raport „Bias in algorithms — Artificial intelligence and discrimination” z grudnia 2022 roku pokazał w symulacjach dwie rzeczy (FRA, 2022). Po pierwsze, w systemach predykcyjnych uprzedzenie potrafi się samo wzmacniać przez pętlę sprzężenia zwrotnego: przewidywania modelu kierują działaniami, wyniki tych działań stają się danymi treningowymi kolejnej wersji, a wyjściowy przechył rośnie z każdą iteracją. Po drugie, testowane modele wykrywania obraźliwych wypowiedzi flagowały treści z systematycznym przechyłem związanym z pochodzeniem etnicznym, płcią, religią i orientacją seksualną autorów. Badania FRA dotyczyły policji predykcyjnej i moderacji treści, więc opisują szersze pole niż zatrudnienie — dla sporu o algorytmy w pracy pokazują, że mechanizm opisany w dokumencie Razem daje się zmierzyć i wynika z samej natury statystycznego uczenia na danych z nierównego świata. Agencja rekomenduje oceny algorytmów pod kątem uprzedzeń przed wdrożeniem i po nim.

Co proponuje Razem

Wspólnym mianownikiem postulatów Razem jest przywrócenie możliwości sporu. Dyskryminacji nie da się ani udowodnić, ani naprawić, dopóki kryteria decyzji pozostają tajemnicą handlową dostawcy oprogramowania — jawność jest więc warunkiem wstępnym każdego kolejnego kroku, od indywidualnej reklamacji po zbiorowy zatarg. Odpowiedź partii mieści się w ramach jej postulatów dla środowiska pracy:

Jawność kryteriów decyzji — koniec sytuacji, w której o obciążeniu pracą, ocenie, wynagrodzeniu czy awansie rozstrzygają reguły niejawne dla zainteresowanych (stanowisko 2021).
Uzgodnienia z przedstawicielami osób pracujących, w tym związkami zawodowymi, zanim aplikacje zarządzania algorytmicznego wejdą do użycia (stanowisko 2021).
Kontrola odpowiednich instytucji nad obszarem zarządzania algorytmicznego, a docelowo ciągły audyt aplikacji AI pod kątem zgodności z europejskimi standardami pracy (stanowisko 2021).

Warstwę prawną tego sporu — czym w ogóle jest zakaz dyskryminacji w zatrudnieniu i jak go egzekwować, niezależnie od tego, czy dyskryminuje człowiek, czy model — rozwija tekst o zakazie dyskryminacji w zatrudnieniu w serwisie Razem dla pracy. Jak wyglądałaby instytucjonalna kontrola nad modelami, opisujemy w tekście o stałym audycie algorytmów, a całą linię partii wobec AI porządkuje hub AI i prawa.

Źródła i dalsza lektura

Rekrutacja, w której kandydata najpierw ocenia maszyna

Wed, 22 Jul 2026 09:00:00 +0200

Oprogramowanie rekrutacyjne potrafi dziś poprosić kandydatkę o włączenie kamery, przeanalizować mimikę i ton głosu podczas odpowiedzi na pytania, po czym wystawić ocenę dopasowania do stanowiska, zanim jakikolwiek człowiek przeczyta CV. Partia Razem opisała ten mechanizm w stanowisku Rady Krajowej z 2 listopada 2021 roku i postawiła warunek brzegowy: kto zbiera dane o kandydatach i pracownikach, musi ujawnić, co zbiera, po co i komu to przekazuje (stanowisko ws. zarządzania algorytmicznego, 2021).

Dane wrażliwe na wejściu

Stanowisko z 2021 roku opisuje sytuację, w której „w ramach rekrutacji wymaga się od ciebie włączenia kamery w celu np. analizy twoich emocji lub prosi o podanie wrażliwych, osobistych danych, które będą analizowane przez sztuczną inteligencję w nieznany ci sposób” — i dopowiada pytanie, na którym wisi cała asymetria tej relacji: „Czy zgadzasz się na zbieranie takich danych w sytuacji w której bardzo zależy ci na pracy?”. Zgodę wyrażoną pod presją utraty szansy na zatrudnienie trudno uznać za świadomą i dobrowolną, a właśnie na takiej zgodzie opiera się znaczna część rynku narzędzi rekrutacyjnych.

Kategoria danych wrażliwych jest tu rozumiana szeroko i konkretnie zarazem. Wśród informacji, które systemy zarządzania algorytmicznego mogą pozyskiwać, stanowisko wymienia treści wiadomości elektronicznych, dane biometryczne, dane o przemieszczaniu się i informacje o zdrowiu — a więc dokładnie ten zestaw, który w rękach pracodawcy albo pośrednika rekrutacyjnego pozwala zbudować profil człowieka wykraczający daleko poza jego kompetencje zawodowe. Kandydat oceniony przez system analizy nagrania zwykle nie dostaje przy tym żadnej informacji zwrotnej: dowiaduje się, że odpadł, ale nie dlaczego, według jakich kryteriów ani czy o odrzuceniu przesądziła treść odpowiedzi, czy ton głosu.

Dokument zwraca uwagę, że rozwiązania te „są wdrażane mimo, a czasem dzięki, brakom regulacji prawnych w tym obszarze”. Rekrutacja jest przy tym szczególnie podatna na nadużycia z jeszcze jednego powodu: dane kandydata krążą dalej. Wśród podmiotów, którym zatrudniający udostępniają zebrane dane, stanowisko wymienia dostawców aplikacji, firmy ubezpieczeniowe, rekrutacyjne i urzędy — osoba, która nie dostała pracy, może więc nawet nie wiedzieć, że jej profil emocjonalny zasilił bazę komercyjnego pośrednika.

Europejskie reguły gry

Prawodawca unijny doszedł w tej sprawie do wniosków zbieżnych z diagnozą ryzyka. Rozporządzenie (UE) 2024/1689, czyli akt o sztucznej inteligencji, zalicza do kategorii wysokiego ryzyka systemy AI przeznaczone do rekrutacji i wyboru osób fizycznych — w tym do kierowania ogłoszeń o pracę, filtrowania podań i oceny kandydatów (załącznik III, pkt 4) — obowiązki dla tej kategorii zaczną być stosowane od 2 sierpnia 2026 roku (kalendarz wdrożenia). Dalej idzie art. 5: od 2 lutego 2025 roku zakazane jest wprowadzanie na rynek i używanie systemów AI służących wyciąganiu wniosków o emocjach osoby fizycznej w miejscu pracy i w instytucjach edukacyjnych, z wyjątkiem zastosowań medycznych lub związanych z bezpieczeństwem (art. 5 rozporządzenia 2024/1689). To opis stanu prawnego, nie postulatu — ale pokazuje on, że diagnoza ze stanowiska z 2021 roku wyprzedziła regulacje o kilka lat: partia pisała o analizie emocji z kamery, zanim europejskie prawo zdążyło jej zakazać.

Co proponuje Razem

Postulaty stanowiska z 2021 roku obejmują bramę wejściową do zatrudnienia tak samo jak samo zatrudnienie:

Pełna jawność wobec osób pracujących i kandydatów — co do zbieranych danych, sposobu ich wykorzystania, udostępniania innym podmiotom oraz przechowywania (stanowisko 2021, postulaty krótkoterminowe).
Uzgodnienia z przedstawicielami osób pracujących, w tym związkami zawodowymi, co do sposobów gromadzenia i wykorzystywania danych oraz stosowania aplikacji zarządzania algorytmicznego (stanowisko 2021).
Kontrola odpowiednich instytucji nad tym obszarem, a w dłuższej perspektywie ciągły audyt aplikacji AI pod kątem zgodności z europejskimi standardami pracy (stanowisko 2021).

Rekrutacja jest tylko początkiem tej drogi. Co algorytmy robią z ludźmi już zatrudnionymi — od analizy ruchów myszki po codzienną „optymalizację” grafiku i stawki — opisuje serwis Razem dla pracy w tekście o zarządzaniu algorytmicznym i nadzorze AI nad pracownikiem. Mechanizm powielania uprzedzeń przez modele rozbiera z kolei tekst o dyskryminacji algorytmicznej.

Źródła i dalsza lektura

Stały audyt aplikacji AI zamiast kontroli od święta

Wed, 22 Jul 2026 09:00:00 +0200

Hiszpański dekret królewski z mocą ustawy 9/2021, znany jako „ley rider”, zrobił w maju 2021 roku dwie rzeczy naraz: ustanowił domniemanie stosunku pracy dla dostawców pracujących przez platformy cyfrowe i dał przedstawicielstwu pracowniczemu prawo do informacji o parametrach, regułach i instrukcjach, na których opierają się algorytmy wpływające na warunki pracy (Real Decreto-ley 9/2021, BOE). Pół roku później Rada Krajowa Razem przyjęła stanowisko, które ten kierunek podziela i przedłuża: skoro aplikacje zarządzające pracą rozwijają się szybciej niż prawo, potrzebna jest instytucja, która patrzy im na ręce stale, a nie od przypadku do przypadku (stanowisko ws. zarządzania algorytmicznego, 2021).

Hiszpański precedens

Regulacja z Madrytu wyrosła z porozumienia rządu, związków zawodowych i organizacji pracodawców, a jej podstawą było orzeczenie hiszpańskiego Sądu Najwyższego uznające dostawcę platformy za pracownika. Nowy przepis art. 64 hiszpańskiego statutu pracowników zobowiązuje firmę do informowania rady zakładowej o algorytmach i systemach sztucznej inteligencji, które wpływają na podejmowanie decyzji o warunkach pracy, dostępie do zatrudnienia i jego utrzymaniu — łącznie z profilowaniem (BOE). Stanowisko Razem przywołuje ten przykład z nazwy: „Chcemy, żeby Polska została liderem we wprowadzaniu rozwiązań porządkujących ten obszar. Wiele rozwiązań można wprowadzić na poziomie krajowym, zmieniając np. zapisy prawa pracy. Obserwujemy takie działania w innych krajach (np. Hiszpania)”.

Dwa poziomy kontroli

Sedno propozycji Razem mieści się w sekcji „W dłuższej perspektywie” stanowiska z 2021 roku. Na poziomie europejskim partia postuluje „utworzenie niezależnej, europejskiej instytucji, która będzie przeprowadzać ciągły audyt aplikacji AI tworzonych na rynku pod kątem zgodności z europejskimi standardami pracy”. Zakres tego audytu jest zdefiniowany precyzyjnie — chodzi o standardy pracy, a więc o to, czy aplikacja do układania grafików, oceniania wydajności albo naliczania stawek respektuje prawa osób pracujących, nie zaś o certyfikowanie całej sztucznej inteligencji jako technologii. Na poziomie krajowym dokument przewiduje „rozwój kompetencji instytucjonalnych, pozwalających na kontrolowanie zgodności zarządzania algorytmicznego z prawem pracy” — państwo ma umieć sprawdzić, czy algorytm łamie kodeks pracy, tak jak dziś umie sprawdzić, czy łamie go pracodawca z krwi i kości.

Kontekstem obu poziomów jest praca platformowa, której stanowisko poświęca osobny akapit ryzyk: zamiast umowy o pracę pracownicy bywają „jedynie użytkownikami aplikacji, a ich czasem pracy, zadaniami, czy oceną zarządza algorytm”. Partia żąda traktowania pracy na rzecz organizacji platformowych jako podlegającej ochronie zatrudnionych zgodnie z obowiązującym prawem oraz wdrożenia prawa do odłączenia się od pracy zdalnej, powołując się na rezolucję Parlamentu Europejskiego z 21 stycznia 2021 roku (tekst rezolucji, EUR-Lex). Audyt aplikacji AI domyka ten porządek od strony instytucjonalnej — przepisy o ochronie zatrudnionych na niewiele się zdadzą, jeśli nikt nie sprawdza, czy algorytm ich przestrzega.

Od strony regulacyjnej Unia zbudowała w międzyczasie własny mechanizm: rozporządzenie (UE) 2024/1689 zalicza systemy AI stosowane w zatrudnieniu do wysokiego ryzyka i poddaje je obowiązkom oraz nadzorowi rynku, które zaczną być stosowane od 2 sierpnia 2026 roku (załącznik III; kalendarz wdrożenia). Nadzór rynkowy nad produktami i stały audyt zgodności ze standardami pracy to jednak dwa różne narzędzia — pierwsze pilnuje, czy system spełnia wymogi techniczne i proceduralne aktu, drugie miałoby na bieżąco oceniać skutki dla osób pracujących.

Co proponuje Razem

Niezależna europejska instytucja audytująca aplikacje AI — prowadzony bez przerwy audyt zgodności z europejskimi standardami pracy (stanowisko 2021, „W dłuższej perspektywie”).
Krajowe kompetencje kontrolne — instytucje zdolne badać zgodność zarządzania algorytmicznego z prawem pracy (stanowisko 2021).
Polska jako lider regulacji — wiele rozwiązań da się wprowadzić od razu, zmianami w prawie pracy, śladem Hiszpanii (stanowisko 2021).

Ekonomiczną stronę tego samego problemu — kto zyskuje na optymalizowaniu ludzi jak zasobów i dlaczego rachunek kosztów pomija pracujących — rozbiera siostrzany serwis Razem dla gospodarki w tekście o zarządzaniu algorytmicznym. Skąd w modelach biorą się uprzedzenia, które audyt miałby wychwytywać, wyjaśnia tekst o dyskryminacji algorytmicznej; po pozostałe elementy linii partii odsyłamy do huba AI i prawa.