AI i prawa | Cyfrowa Polska Razem

Algorytm dziedziczy uprzedzenia po danych, na których się uczył

Wed, 22 Jul 2026 09:00:00 +0200

Partia Razem opisała mechanizm dziedziczenia uprzedzeń w stanowisku Rady Krajowej z 2 listopada 2021 roku i wyprowadziła z niego żądanie jawności kryteriów, uzgodnień ze związkami zawodowymi i kontroli instytucji (stanowisko ws. zarządzania algorytmicznego, 2021). Algorytm oceniający kandydatów do awansu uczy się bowiem na zapisie decyzji, które w danej firmie zapadały wcześniej. Jeżeli przez lata awansowali w niej głównie mężczyźni z dużych miast, model potraktuje tę prawidłowość jako kryterium sukcesu i zastosuje je wobec kolejnych roczników — konsekwentnie, na dużą skalę i bez świadomości, że cokolwiek powiela.

Statystyczna pamięć nierówności

Stanowisko z 2021 roku wymienia dyskryminację jako pierwsze z ryzyk zarządzania algorytmicznego: „Uprzedzenia rasowe, płciowe czy wobec orientacji seksualnych są często »wbudowane« w dane używane do trenowania algorytmów AI i wobec tego często automatycznie powielają wzorce dyskryminacyjne istniejące w społeczeństwie”. Dokument podaje też, gdzie ta mechanika uderza w konkretne osoby: niektóre grupy pracujących „mogą być dyskryminowane (np. brakiem przyjęcia do pracy, awansu) ze względu na swoje cechy”.

Usunięcie z danych rubryki „płeć” czy „pochodzenie” niewiele przy tym daje, bo model odnajduje te cechy okrężną drogą — przez zmienne zastępcze. Kod pocztowy, typ ukończonej szkoły, przerwy w historii zatrudnienia czy godziny aktywności potrafią łącznie zdradzić to samo, co usunięta rubryka, tyle że w formie, której nikt już nie rozpozna jako kryterium dyskryminującego. W efekcie system może obniżać oceny kobietom wracającym z urlopów rodzicielskich, formalnie nie wiedząc, że ocenia kobiety.

Problem pogłębia nieprzejrzystość samych systemów. Jak czytamy w stanowisku, „zautomatyzowane decyzje np. co do obciążenia pracą, oceny pracy, wynagrodzenia, awansu, są podejmowane według kryteriów, które są niejasne dla osób pracujących” — a decyzji algorytmu, traktowanego przez zarządzających jako obiektywny i nieomylny, w praktyce nie negocjuje się z załogą. Osoba pominięta przy awansie przez model nie ma więc nawet tego, co miała wobec uprzedzonego przełożonego: możliwości zapytania o powód i zakwestionowania go.

Testy Agencji Praw Podstawowych

Empirycznych dowodów, że uprzedzenia w modelach są zjawiskiem mierzalnym, dostarcza Agencja Praw Podstawowych Unii Europejskiej. Raport „Bias in algorithms — Artificial intelligence and discrimination” z grudnia 2022 roku pokazał w symulacjach dwie rzeczy (FRA, 2022). Po pierwsze, w systemach predykcyjnych uprzedzenie potrafi się samo wzmacniać przez pętlę sprzężenia zwrotnego: przewidywania modelu kierują działaniami, wyniki tych działań stają się danymi treningowymi kolejnej wersji, a wyjściowy przechył rośnie z każdą iteracją. Po drugie, testowane modele wykrywania obraźliwych wypowiedzi flagowały treści z systematycznym przechyłem związanym z pochodzeniem etnicznym, płcią, religią i orientacją seksualną autorów. Badania FRA dotyczyły policji predykcyjnej i moderacji treści, więc opisują szersze pole niż zatrudnienie — dla sporu o algorytmy w pracy pokazują, że mechanizm opisany w dokumencie Razem daje się zmierzyć i wynika z samej natury statystycznego uczenia na danych z nierównego świata. Agencja rekomenduje oceny algorytmów pod kątem uprzedzeń przed wdrożeniem i po nim.

Co proponuje Razem

Wspólnym mianownikiem postulatów Razem jest przywrócenie możliwości sporu. Dyskryminacji nie da się ani udowodnić, ani naprawić, dopóki kryteria decyzji pozostają tajemnicą handlową dostawcy oprogramowania — jawność jest więc warunkiem wstępnym każdego kolejnego kroku, od indywidualnej reklamacji po zbiorowy zatarg. Odpowiedź partii mieści się w ramach jej postulatów dla środowiska pracy:

Jawność kryteriów decyzji — koniec sytuacji, w której o obciążeniu pracą, ocenie, wynagrodzeniu czy awansie rozstrzygają reguły niejawne dla zainteresowanych (stanowisko 2021).
Uzgodnienia z przedstawicielami osób pracujących, w tym związkami zawodowymi, zanim aplikacje zarządzania algorytmicznego wejdą do użycia (stanowisko 2021).
Kontrola odpowiednich instytucji nad obszarem zarządzania algorytmicznego, a docelowo ciągły audyt aplikacji AI pod kątem zgodności z europejskimi standardami pracy (stanowisko 2021).

Warstwę prawną tego sporu — czym w ogóle jest zakaz dyskryminacji w zatrudnieniu i jak go egzekwować, niezależnie od tego, czy dyskryminuje człowiek, czy model — rozwija tekst o zakazie dyskryminacji w zatrudnieniu w serwisie Razem dla pracy. Jak wyglądałaby instytucjonalna kontrola nad modelami, opisujemy w tekście o stałym audycie algorytmów, a całą linię partii wobec AI porządkuje hub AI i prawa.

Źródła i dalsza lektura

Odporność na dezinformację buduje się w szkolnej pracowni

Wed, 22 Jul 2026 09:00:00 +0200

Do CERT Polska trafiło w 2024 roku ponad 600 tysięcy zgłoszeń — o 62% więcej niż rok wcześniej — z których zespół zarejestrował ponad 100 tysięcy incydentów cyberbezpieczeństwa, o 29% więcej niż w 2023 roku (komunikat NASK; omówienie na gov.pl). Razem od stanowiska ws. cyfryzacji z 2018 roku konsekwentnie stawia na drugą linię obrony: umiejętność pracy ze źródłami i weryfikowania informacji ma być uczona w szkole, a odporność informacyjna państwa zaczynać się od kompetencji obywatelek i obywateli (stanowisko ws. cyfryzacji, 2018). Techniczna obrona sieci załatwia bowiem tylko połowę problemu: manipulacja informacją omija serwery i mierzy prosto w ludzi, którzy z nich korzystają.

Zalew, który da się zmierzyć

Skalę ekspozycji na fałszywe treści pokazują badania europejskie. W Eurobarometrze przeprowadzonym jesienią 2024 roku wśród 25 863 osób w wieku 16–30 lat we wszystkich państwach UE 76% badanych uznało, że zetknęło się z dezinformacją i fake newsami, a 70% deklarowało pewność, że potrafi dezinformację rozpoznać (Parlament Europejski, Youth Survey 2024). Rozziew między tymi liczbami a praktyką jest znany każdemu, kto widział, jak sprawnie rozchodzą się sfabrykowane cytaty: pewność siebie nie jest tym samym co umiejętność. Właśnie dlatego odpowiedź czysto instytucjonalna — więcej zespołów reagowania, więcej komunikatów prostujących — nie wystarczy, jeśli odbiorcy komunikatów nie mają narzędzi, by odróżnić prostowanie od kolejnej manipulacji.

Praca ze źródłami jako przedmiot szkolny

Punktem wyjścia stanowiska ws. cyfryzacji jest obserwacja o demokratyzacji publikowania: internet zniósł część barier ograniczających szanse na zaistnienie w świecie mediów i dziś praktycznie każdy może zamieszczać w sieci artykuły oraz nagrania dowolnej treści. Ta sama otwartość, która dała głos ludziom pomijanym przez media tradycyjne, obniżyła jednak koszt produkcji fałszu niemal do zera. Dokument diagnozował konsekwencje na długo przed obecną falą zainteresowania: w związku z rosnącym znaczeniem internetu jako źródła wiedzy o świecie i „nasilającej się wojny informacyjnej” przeciwdziałanie wykluczeniu cyfrowemu musi obejmować także „propagowanie umiejętności poruszania się w gąszczu informacyjnym”. W wynikach wyszukiwarek, zauważa dokument, źródła rzetelne mieszają się z materiałami nieprawdziwymi lub nastawionymi na manipulację, dlatego „nauka weryfikowania napotkanych informacji jest elementem koniecznym do walki z wykluczeniem cyfrowym”.

Program dla szkoły jest w stanowisku zapisany wprost: w programie nauczania ma się znaleźć „nauka pracy ze źródłami, wyszukiwania i weryfikowania informacji” znalezionych w internecie, obok lekcji bezpiecznego korzystania z sieci z naciskiem na cyberprzemoc i ochronę danych wrażliwych. Ważny jest też adresat spoza szkolnego rocznika: zajęcia oswajające z nowymi technologiami w gminnych ośrodkach kultury mają objąć chętne osoby dorosłe i starsze, bo wykluczenie cyfrowe — a z nim podatność na manipulację — nie kończy się na żadnej granicy wieku. O tym, jak szkoła może uczyć krytycznego czytania rzeczywistości także w innych obszarach, pisze serwis Razem dla szkół w tekście o edukacji obywatelskiej i prawach pracowniczych w szkole.

Państwo w tle, obywatele na pierwszym planie

Warstwa państwowa tej polityki jest w programie Razem opisana osobno. Deklaracja programowa z 2025 roku zapowiada ustawę o Polskiej Doktrynie Obronnej, która określi siły i środki wobec zagrożeń „o charakterze konwencjonalnym, hybrydowym, cyfrowym oraz dezinformacyjnym”, a w punkcie 9 tego samego rozdziału — profesjonalne struktury komunikacji strategicznej (STRATCOM), których celem będzie „rzetelne informowanie społeczeństwa, zwalczanie dezinformacji i budowę zaufania społecznego” (Deklaracja programowa 2025, rozdz. 13). Jak te struktury miałyby wyglądać i czego nie załatwią, analizuje serwis o bezpieczeństwie w tekście o STRATCOM i wojnie informacyjnej. Obie warstwy są komplementarne: STRATCOM może prostować manipulacje i monitorować otoczenie informacyjne, ale to, czy sprostowanie zostanie w ogóle przeczytane ze zrozumieniem, rozstrzyga się wcześniej — na lekcji, na której ktoś pierwszy raz sprawdził, skąd pochodzi cytat.

Co proponuje Razem

Nauka pracy ze źródłami, wyszukiwania i weryfikowania informacji jako element programu nauczania (stanowisko ws. cyfryzacji, 2018).
Lekcje bezpiecznego korzystania z internetu — cyberprzemoc, ochrona tożsamości i danych wrażliwych, ryzyka anonimowej komunikacji (stanowisko 2018).
Walka z wykluczeniem cyfrowym dorosłych — systematyczne zajęcia z nowych technologii w gminnych ośrodkach kultury (stanowisko 2018).
Zagrożenia dezinformacyjne w Polskiej Doktrynie Obronnej i struktury STRATCOM jako państwowe dopełnienie odporności społecznej (Deklaracja programowa 2025, rozdz. 13, pkt 1 i 9).

Pozostałe fronty sporu o sztuczną inteligencję i informację, od rekrutacji po audyt modeli, opisuje hub AI i prawa.

Źródła i dalsza lektura

Rekrutacja, w której kandydata najpierw ocenia maszyna

Wed, 22 Jul 2026 09:00:00 +0200

Oprogramowanie rekrutacyjne potrafi dziś poprosić kandydatkę o włączenie kamery, przeanalizować mimikę i ton głosu podczas odpowiedzi na pytania, po czym wystawić ocenę dopasowania do stanowiska, zanim jakikolwiek człowiek przeczyta CV. Partia Razem opisała ten mechanizm w stanowisku Rady Krajowej z 2 listopada 2021 roku i postawiła warunek brzegowy: kto zbiera dane o kandydatach i pracownikach, musi ujawnić, co zbiera, po co i komu to przekazuje (stanowisko ws. zarządzania algorytmicznego, 2021).

Dane wrażliwe na wejściu

Stanowisko z 2021 roku opisuje sytuację, w której „w ramach rekrutacji wymaga się od ciebie włączenia kamery w celu np. analizy twoich emocji lub prosi o podanie wrażliwych, osobistych danych, które będą analizowane przez sztuczną inteligencję w nieznany ci sposób” — i dopowiada pytanie, na którym wisi cała asymetria tej relacji: „Czy zgadzasz się na zbieranie takich danych w sytuacji w której bardzo zależy ci na pracy?”. Zgodę wyrażoną pod presją utraty szansy na zatrudnienie trudno uznać za świadomą i dobrowolną, a właśnie na takiej zgodzie opiera się znaczna część rynku narzędzi rekrutacyjnych.

Kategoria danych wrażliwych jest tu rozumiana szeroko i konkretnie zarazem. Wśród informacji, które systemy zarządzania algorytmicznego mogą pozyskiwać, stanowisko wymienia treści wiadomości elektronicznych, dane biometryczne, dane o przemieszczaniu się i informacje o zdrowiu — a więc dokładnie ten zestaw, który w rękach pracodawcy albo pośrednika rekrutacyjnego pozwala zbudować profil człowieka wykraczający daleko poza jego kompetencje zawodowe. Kandydat oceniony przez system analizy nagrania zwykle nie dostaje przy tym żadnej informacji zwrotnej: dowiaduje się, że odpadł, ale nie dlaczego, według jakich kryteriów ani czy o odrzuceniu przesądziła treść odpowiedzi, czy ton głosu.

Dokument zwraca uwagę, że rozwiązania te „są wdrażane mimo, a czasem dzięki, brakom regulacji prawnych w tym obszarze”. Rekrutacja jest przy tym szczególnie podatna na nadużycia z jeszcze jednego powodu: dane kandydata krążą dalej. Wśród podmiotów, którym zatrudniający udostępniają zebrane dane, stanowisko wymienia dostawców aplikacji, firmy ubezpieczeniowe, rekrutacyjne i urzędy — osoba, która nie dostała pracy, może więc nawet nie wiedzieć, że jej profil emocjonalny zasilił bazę komercyjnego pośrednika.

Europejskie reguły gry

Prawodawca unijny doszedł w tej sprawie do wniosków zbieżnych z diagnozą ryzyka. Rozporządzenie (UE) 2024/1689, czyli akt o sztucznej inteligencji, zalicza do kategorii wysokiego ryzyka systemy AI przeznaczone do rekrutacji i wyboru osób fizycznych — w tym do kierowania ogłoszeń o pracę, filtrowania podań i oceny kandydatów (załącznik III, pkt 4) — obowiązki dla tej kategorii zaczną być stosowane od 2 sierpnia 2026 roku (kalendarz wdrożenia). Dalej idzie art. 5: od 2 lutego 2025 roku zakazane jest wprowadzanie na rynek i używanie systemów AI służących wyciąganiu wniosków o emocjach osoby fizycznej w miejscu pracy i w instytucjach edukacyjnych, z wyjątkiem zastosowań medycznych lub związanych z bezpieczeństwem (art. 5 rozporządzenia 2024/1689). To opis stanu prawnego, nie postulatu — ale pokazuje on, że diagnoza ze stanowiska z 2021 roku wyprzedziła regulacje o kilka lat: partia pisała o analizie emocji z kamery, zanim europejskie prawo zdążyło jej zakazać.

Co proponuje Razem

Postulaty stanowiska z 2021 roku obejmują bramę wejściową do zatrudnienia tak samo jak samo zatrudnienie:

Pełna jawność wobec osób pracujących i kandydatów — co do zbieranych danych, sposobu ich wykorzystania, udostępniania innym podmiotom oraz przechowywania (stanowisko 2021, postulaty krótkoterminowe).
Uzgodnienia z przedstawicielami osób pracujących, w tym związkami zawodowymi, co do sposobów gromadzenia i wykorzystywania danych oraz stosowania aplikacji zarządzania algorytmicznego (stanowisko 2021).
Kontrola odpowiednich instytucji nad tym obszarem, a w dłuższej perspektywie ciągły audyt aplikacji AI pod kątem zgodności z europejskimi standardami pracy (stanowisko 2021).

Rekrutacja jest tylko początkiem tej drogi. Co algorytmy robią z ludźmi już zatrudnionymi — od analizy ruchów myszki po codzienną „optymalizację” grafiku i stawki — opisuje serwis Razem dla pracy w tekście o zarządzaniu algorytmicznym i nadzorze AI nad pracownikiem. Mechanizm powielania uprzedzeń przez modele rozbiera z kolei tekst o dyskryminacji algorytmicznej.

Źródła i dalsza lektura

Stały audyt aplikacji AI zamiast kontroli od święta

Wed, 22 Jul 2026 09:00:00 +0200

Hiszpański dekret królewski z mocą ustawy 9/2021, znany jako „ley rider”, zrobił w maju 2021 roku dwie rzeczy naraz: ustanowił domniemanie stosunku pracy dla dostawców pracujących przez platformy cyfrowe i dał przedstawicielstwu pracowniczemu prawo do informacji o parametrach, regułach i instrukcjach, na których opierają się algorytmy wpływające na warunki pracy (Real Decreto-ley 9/2021, BOE). Pół roku później Rada Krajowa Razem przyjęła stanowisko, które ten kierunek podziela i przedłuża: skoro aplikacje zarządzające pracą rozwijają się szybciej niż prawo, potrzebna jest instytucja, która patrzy im na ręce stale, a nie od przypadku do przypadku (stanowisko ws. zarządzania algorytmicznego, 2021).

Hiszpański precedens

Regulacja z Madrytu wyrosła z porozumienia rządu, związków zawodowych i organizacji pracodawców, a jej podstawą było orzeczenie hiszpańskiego Sądu Najwyższego uznające dostawcę platformy za pracownika. Nowy przepis art. 64 hiszpańskiego statutu pracowników zobowiązuje firmę do informowania rady zakładowej o algorytmach i systemach sztucznej inteligencji, które wpływają na podejmowanie decyzji o warunkach pracy, dostępie do zatrudnienia i jego utrzymaniu — łącznie z profilowaniem (BOE). Stanowisko Razem przywołuje ten przykład z nazwy: „Chcemy, żeby Polska została liderem we wprowadzaniu rozwiązań porządkujących ten obszar. Wiele rozwiązań można wprowadzić na poziomie krajowym, zmieniając np. zapisy prawa pracy. Obserwujemy takie działania w innych krajach (np. Hiszpania)”.

Dwa poziomy kontroli

Sedno propozycji Razem mieści się w sekcji „W dłuższej perspektywie” stanowiska z 2021 roku. Na poziomie europejskim partia postuluje „utworzenie niezależnej, europejskiej instytucji, która będzie przeprowadzać ciągły audyt aplikacji AI tworzonych na rynku pod kątem zgodności z europejskimi standardami pracy”. Zakres tego audytu jest zdefiniowany precyzyjnie — chodzi o standardy pracy, a więc o to, czy aplikacja do układania grafików, oceniania wydajności albo naliczania stawek respektuje prawa osób pracujących, nie zaś o certyfikowanie całej sztucznej inteligencji jako technologii. Na poziomie krajowym dokument przewiduje „rozwój kompetencji instytucjonalnych, pozwalających na kontrolowanie zgodności zarządzania algorytmicznego z prawem pracy” — państwo ma umieć sprawdzić, czy algorytm łamie kodeks pracy, tak jak dziś umie sprawdzić, czy łamie go pracodawca z krwi i kości.

Kontekstem obu poziomów jest praca platformowa, której stanowisko poświęca osobny akapit ryzyk: zamiast umowy o pracę pracownicy bywają „jedynie użytkownikami aplikacji, a ich czasem pracy, zadaniami, czy oceną zarządza algorytm”. Partia żąda traktowania pracy na rzecz organizacji platformowych jako podlegającej ochronie zatrudnionych zgodnie z obowiązującym prawem oraz wdrożenia prawa do odłączenia się od pracy zdalnej, powołując się na rezolucję Parlamentu Europejskiego z 21 stycznia 2021 roku (tekst rezolucji, EUR-Lex). Audyt aplikacji AI domyka ten porządek od strony instytucjonalnej — przepisy o ochronie zatrudnionych na niewiele się zdadzą, jeśli nikt nie sprawdza, czy algorytm ich przestrzega.

Od strony regulacyjnej Unia zbudowała w międzyczasie własny mechanizm: rozporządzenie (UE) 2024/1689 zalicza systemy AI stosowane w zatrudnieniu do wysokiego ryzyka i poddaje je obowiązkom oraz nadzorowi rynku, które zaczną być stosowane od 2 sierpnia 2026 roku (załącznik III; kalendarz wdrożenia). Nadzór rynkowy nad produktami i stały audyt zgodności ze standardami pracy to jednak dwa różne narzędzia — pierwsze pilnuje, czy system spełnia wymogi techniczne i proceduralne aktu, drugie miałoby na bieżąco oceniać skutki dla osób pracujących.

Co proponuje Razem

Niezależna europejska instytucja audytująca aplikacje AI — prowadzony bez przerwy audyt zgodności z europejskimi standardami pracy (stanowisko 2021, „W dłuższej perspektywie”).
Krajowe kompetencje kontrolne — instytucje zdolne badać zgodność zarządzania algorytmicznego z prawem pracy (stanowisko 2021).
Polska jako lider regulacji — wiele rozwiązań da się wprowadzić od razu, zmianami w prawie pracy, śladem Hiszpanii (stanowisko 2021).

Ekonomiczną stronę tego samego problemu — kto zyskuje na optymalizowaniu ludzi jak zasobów i dlaczego rachunek kosztów pomija pracujących — rozbiera siostrzany serwis Razem dla gospodarki w tekście o zarządzaniu algorytmicznym. Skąd w modelach biorą się uprzedzenia, które audyt miałby wychwytywać, wyjaśnia tekst o dyskryminacji algorytmicznej; po pozostałe elementy linii partii odsyłamy do huba AI i prawa.